Dlaczego zawsze powinieneś mieć kontrolę TL;DR: Zawsze pozostawaj pod kontrolą podczas korzystania z narzędzi AI. Ślepe zaufanie może prowadzić do kosztownych błędów. TL;DR: Zawsze pozostawaj pod kontrolą podczas korzystania z narzędzi AI. Ślepe zaufanie może prowadzić do kosztownych błędów. Wyzwanie Piszę kilka artykułów co tydzień i chciałem zautomatyzować powtarzające się części mojego procesu. O zagrożeniu W tym tygodniu wewnętrzny memorandum CEO Shopify, Tobias Lutke, stał się wirusem. https://x.com/1909251946235437514?embedable=true TL;DR: Memo wymaga, aby pracownicy Shopify byli kompetentni w narzędziach AI. TL;DR: Memo wymaga, aby pracownicy Shopify byli kompetentni w narzędziach AI. Szkolenie jest teraz obowiązkowe Szkolenie jest teraz obowiązkowe Efektywne korzystanie z sztucznej inteligencji nie jest już opcjonalne w Shopify; jest to oczekiwanie podstawowe dla wszystkich pracowników, niezależnie od roli. Niewykorzystanie AI wymaga uzasadnienia Niewykorzystanie AI wymaga uzasadnienia Pracownicy muszą wykazać, dlaczego sztuczna inteligencja nie może być używana przed żądaniem dodatkowych zasobów (np. więcej personelu lub czasu). AI w rozwoju produktu AI w rozwoju produktu Sztuczna inteligencja musi być zintegrowana z wczesnymi etapami (faza prototypu) wszystkich projektów GSD (get shit done). Odpowiedzialność za wyniki Odpowiedzialność za wyniki Shopify dodaje wykorzystanie sztucznej inteligencji do swoich kryteriów wydajności i przeglądu peer-review, czyniąc przyjęcie sztucznej inteligencji częścią tego, w jaki sposób pracownicy są oceniani i nagradzani, w tym zespoły przywódcze i kierownicze. Nie pracuję w Shopify i nie jestem powiązany z firmą. Mój kontekst Przyjmuję narzędzia AI jako pomocników i obowiązkowe narzędzie zarówno jako deweloper oprogramowania, jak i pisarz, i mocno na nich polegam. Używam AI od 10 lat, piszę o czyniąc i zautomatyzowane narzędzia do pisania ... Sztuczna inteligencja Asystowane refaktory czysty kod Jestem również zwolenniczką profesjonalnego kodowania Vibe. W każdym , , i papier, który piszę, zachęcam ludzi do przyjęcia narzędzi AI i używania ich ciężko (z ostrożnością). Konferencja artykuł https://hackernoon.com/a-coding-tools-are-bad-news-for-lazy-programy?embedable=true Mam dwa cytaty (nie moje): Zawsze musisz mieć kontrolę. Zawsze musisz mieć kontrolę. i Sztuczna inteligencja nie zabierze ci pracy, ale człowiek, który ją używa, z pewnością to zrobi; powinieneś stać się tą osobą. Sztuczna inteligencja nie zabierze ci pracy, ale człowiek, który ją używa, z pewnością to zrobi; powinieneś stać się tą osobą. (Możesz to zobaczyć na z tej konferencji) 53:40 Śmierć https://www.youtube.com/v/99GuXTIW0R4?embedable=true Nie przemyśl rzeczy W tym tygodniu musiałem wykonać kilka lokalnych testów za pomocą Pythona. Piszę artykuły w 25+ różnych językach programowania i nie mam ich wszystkich zainstalowanych lokalnie. Czasami używam maszyn wirtualnych, kodelabów i Bieganie na stronach internetowych. Replika.pl Tym razem musiałem szybko zainstalować Python lokalnie (przypadkowe zadanie). Zaczęło się od prostego pomysłu: zautomatyzować kilka rzeczy. oszczędzać czas. Zrobiłem to, co teraz robi wielu ludzi. Szybko odpowiedział, pewny siebie, tak jak to robił tysiąc razy. Spoiler: Ślepo mu zaufałem.Jedno polecenie później, mój system operacyjny był toast. Co poszło nie tak W mojej Używam 10 najpopularniejszych narzędzi do programowania AI. Kod zapachowy Właśnie otworzyłem jedną z nich ( I poprosił, aby dać mi kilka poleceń, aby zainstalować Python na moim Ubuntu. ChatGPT Jak zainstalować Python w Ubuntu Jak zainstalować Python w Ubuntu Jeszcze w zeszłym tygodniu pisałem: Witam, proszę dać mi polecenie, aby zainstalować Python w Ubuntu Witam, proszę dać mi polecenie, aby zainstalować Python w Ubuntu Ale teraz zdaję sobie sprawę, że te dodatkowe tokeny zużywają wiele zasobów (na przykład wodę) i nie jestem już uprzejmy wobec maszyn. https://www.techradar.com/computing/artificial-intelligence/chatgpt-spends-tens-of-millions-of-dollars-on-people-playing-please-and-thank-you-but-sam-altman-says-its-worth-it?embedable=true Odpowiedź była krótka i jasna: sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y Nie przeszkadzało mi to czytać. Używam Linuksa od ponad 20 lat. Wpisywałem hasło mechanicznie (używałem sudo do instalacji pip) i poszedłem na kolację. Kiedy wróciłem, terminal pokazał bardzo długą listę poleceń. To było dziwne. Po prostu chciałem zainstalować Python (z pip, który jest menedżerem pakietów). Problemem (jak mogłeś odkryć do tej pory) była ta niewinna linia: Sudo apt upgrade -y Sudo apt upgrade -y Coś, co zmieniło (i zmieniło) mój komputer osobisty. ChatGPT zdecydował, że bardzo dobrą decyzją jest najpierw uaktualnienie systemu operacyjnego. Zgadzam się, że utrzymanie zaktualizowanego systemu operacyjnego jest dobrą decyzją, aby mieć najnowsze zabezpieczenia, ale to jest coś, co musisz zaplanować, mieć dobrą kopię zapasową, a nie coś, co robisz losowo. System został zniszczony, a ja też. Spojrzenie na instrukcję (i pytanie do innych IA) da dokładniejszą (i bezpieczniejszą) odpowiedź: Sudo apt aktualizacja Sudo apt aktualizacja Dlaczego mi się to przydarzyło? Miałem bardzo długie doświadczenie z Ubuntu. doskonale umiałem czytać forum lub googlować (kto googluje dziś cokolwiek, BTW?). Jestem również kaznodzieją, aby nie ufać AI ślepo, i narzucam to Ja piszę . Każdy artykuł Tego nie powinno się zdarzyć komuś takim jak ja. Jesteśmy reptylami Nasz mózg jest mistrzem efektywności. Każda decyzja, którą podejmujemy, zużywa energię, więc najstarsza część naszego mózgu, tzw. „mózg reptylina”, ewoluowała, aby zoptymalizować przetrwanie, a nie głębokie myślenie. Wymaga szybkich reakcji, minimalnego wysiłku i zerowego marnotrawstwa cukru. Dlatego uwielbia delegację. Ale co się dzieje, gdy to, na co delegujesz, jest maszyną? Robisz to codziennie: postępujesz zgodnie z instrukcjami GPS bez kwestionowania ich, polegasz na automatycznym uzupełnieniu, aby zakończyć swoje myśli, i pozwól, aby silnik rekomendacyjny powiedział ci, co oglądać, kupić lub przeczytać. Na powierzchni to wygląda na wygodę. Poniżej znajduje się skrót biologiczny. Twój mózg ma ograniczone zasoby decyzyjne. Aby uniknąć zmęczenia, rozładowuje wybory, gdziekolwiek to możliwe. Rutiny i heurystyka pozwalają funkcjonować w złożonym świecie bez bycia przytłoczonym. Ale kiedy ten prymitywny refleks przejmie kontrolę, przestajesz pytać „dlaczego?” – i wtedy rzeczy stają się ryzykowne. Iluzja kompetencji Jednym z najbardziej niebezpiecznych aspektów delegowania sztucznej inteligencji jest iluzja kompetencji. Maszyna, która mówi słownie, poprawnie formatuje lub generuje kod roboczy, wydaje się inteligentna. Ale za polskim może leżeć płytkie rozumowanie, błędna interpretacja, a nawet halucynowane treści. Nie zauważasz tego, ponieważ twoja kognitywna lenistwo wkracza. Zaakceptujesz poprawność, ponieważ "brzmi to dobrze".Głębsza, analityczna część twojego mózgu - twoja skorupa przedramienna - nigdy nie jest zaangażowana. Jest to również sposób, w jaki błędy są wdrażane, umowy idą nie tak, a systemy zawiodą. Delegacja bez odpowiedzialności Koszty ludzkie błędnych decyzji dotyczących sztucznej inteligencji są już tutaj: ludzie zostają pozbawieni pokrycia opieki zdrowotnej, oznaczeni za oszustów lub uwięzieni na podstawie algorytmicznych przewidywań. Kiedy delegujesz decyzję do systemu, którego nie rozumiesz i nie sprawdzasz, poddałeś się agencji. "Algorytm tak powiedział" staje się tarczą. Jak walczyć z reptylem wewnątrz ciebie Delegacja nie jest z natury zła, ale musisz to uświadomić. Sprawdzanie wydajności dowolnej sztucznej inteligencji, której używasz, zwłaszcza w przypadku zadań krytycznych Zrozumienie ograniczeń systemu, na którym polegasz Przyjmowanie odpowiedzialności za decyzje, nawet gdy narzędzia ułatwiają podejmowanie decyzji Zapytaj siebie: Czy outsourcę to dlatego, że jest efektywne – czy dlatego, że jestem leniwy?” Czy outsourcę to dlatego, że jest efektywne – czy dlatego, że jestem leniwy?” To pytanie może ponownie zaangażować twój racjonalny mózg. konkluzji Twój mózg chce przetrwać. Nie ma znaczenia, czy Twoje oprogramowanie działa, czy Twój model jest uczciwy, czy Twój raport jest dokładny. Po prostu chce odciąć wysiłek. W dżungli wszystko działało dobrze. Ale nie w świecie, w którym decyzje mają konsekwencje cyfrowe. Delegacja bez kontroli to nie efektywność, to abdykacja. A jeśli nie będziesz mieć kontroli nad swoimi decyzjami, ktoś - lub coś - to zrobi.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - REFACTORING.

2020 - Hacker Noon Contributor of the Year in REFACTORING

2022 - HackerNoon Contributor of the Year - Clean Code

2022 - HackerNoon Contributor of the Year - Debugging

2022 - HackerNoon Contributor of the Year - Github

2022 - HackerNoon Contributor of the Year - Machine Learning

2022 - HackerNoon Contributor of the Year - Quality Assurance

2022 - HackerNoon Contributor of the Year - Refactoring

2022 - HackerNoon Contributor of the Year - Software Architecture

2022 - the Greatest Storyteller

Buy My Book

Share your ideas with me!

Read My Stories

Buy Me a Coffee

Software Engineer and Book Author

Ten dźwięk jest produkowany w oryginalnym języku historii!

Od użytecznego do szkodliwego: Jak zalecenia AI zniszczyły mój system operacyjny

About Author

UWAGI

ZAWIEŚĆ TAGI

ARTYKUŁ TEN ZOSTAŁ PREZENTOWANY W

Related Stories

Google's Gemini AI: A Thought Experiment in Deception

The Blockchain Social Experiment: Enforced Logic

The Noonies 2022 Award Goes to Madalin Muraretiu - Contributor of The Year - Cryptocurrency Edition

Pleasures of the telescope by Garrett Putman Serviss - Table of Links

Google's Gemini AI: A Thought Experiment in Deception

The Blockchain Social Experiment: Enforced Logic

The Noonies 2022 Award Goes to Madalin Muraretiu - Contributor of The Year - Cryptocurrency Edition

Pleasures of the telescope by Garrett Putman Serviss - Table of Links

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps