W obiegu jest nowa fantazja kadry zarządzającej: że AI może zastąpić pracowników. Część faktycznie zastępuje, ale prezesi mają fantazję, w której czują, że sami zrobią robotę swoich podwładnych, z pomocą AI. Że potrafią kodować! Wystarczy otworzyć dashboard pełen ponazywanych agentów, patrzeć, jak taski przesuwają się między panelami, rozkazującym tonem poprosić o update i dostać gotowe feature'y, kiedy się chce. Czuć jak sen, zwłaszcza gdy przepuścisz przez to swoje „wielkie idee”, a AI mówi ci, że jesteś genialny. Jest już na to nawet termin: psychoza AI.
Dlatego spora część entuzjazmu zarządu wobec AI wygląda z zewnątrz na urojenie. Nie dlatego, że narzędzia nic nie robią. Nie dlatego, że nikt nie wyciąga z nich wartości. Im wyżej jesteś w hierarchii, tym dalej od samej pracy i od szczegółów. Tych szczegółów, które lubią użytkownicy. Tych, które AI halucynuje i wyciera z twojego produktu, próbując ściągnąć go bliżej średniej, na której je wytrenowano.
Problem z wazeliniarstwem tylko to pogarsza. Obecne modele bardzo chętnie brzmią gładko, usłużnie i potakująco, bo na takim feedbacku je wytrenowano. Użytkownik był zadowolony? Świetnie, więc ucz się z tego, co zrobiłeś w tej rozmowie. Włóż to w ręce wpływowej osoby, która i tak żyje z dala od sprzeciwu, a dostaniesz paskudną pętlę, w której twoi pracownicy próbują ci powiedzieć, że pomysł jest słaby, a AI raz po raz powtarza, jaki jest genialny i że to słuszna droga.
O AI trzeba myśleć jak o napalonym-na-akceptację-uzależnionym-od-wikipedii-stażyście-na-koksie, którego prowadzi prawdziwy ekspert. Nie poprowadziłbyś stażysty przez operację na otwartym sercu, prawda? To nie wmawiaj sobie, że tak właśnie zapanujesz nad AI.
-
I kilka badań, jak choćby to: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ które zbierają dane o ludziach tracących głowę przez uzależniającą pętlę feedbacku, która sprawia, że czujesz się mądry i zrozumiany.