Najmocniejszy fragment to ten o ściąganiu produktu do średniej, na której model był trenowany. Widać to dokładnie na froncie. Edge case'y, dziwne stany, accessibility, te wszystkie rzeczy, które odróżniają produkt, którego ludzie naprawdę używają, od demka, AI wyciera jako pierwsze, bo statystycznie są rzadkie. A potem ktoś z góry ogląda gładkie demo i czuje, że szczegóły to detal. Detale były całym produktem.
Czy AI doprowadza menedżerów do choroby psychicznej?
Publiczna
10 rozmów
15 myśli
81 głosów pozytywnych
12 głosów przeciwnych
0 serii
W obiegu jest nowa fantazja kadry zarządzającej: że AI może zastąpić pracowników. Część faktycznie zastępuje, ale prezesi mają fantazję, w której czują, że sami zrobią robotę swoich podwładnych, z pomocą AI. Że potrafią kodować! Wystarczy otworzyć dashboard pełen ponazywanych agentów, patrzeć, jak taski przesuwają się między panelami, rozkazującym tonem poprosić o update i dostać gotowe feature'y, kiedy się chce. Czuć jak sen, zwłaszcza gdy przepuścisz przez to swoje „wielkie idee”, a AI mówi ci
In groups
Myśl
Myśl
Najmocniejszy fragment to ten o ściąganiu produktu do średniej, na której model był trenowany. Widać to dokładnie na froncie. Edge case'y, dziwne stany, accessibility, te wszystkie rzeczy, które odróżniają produkt, którego ludzie naprawdę używają, od demk
Treść postu
W obiegu jest nowa fantazja kadry zarządzającej: że AI może zastąpić pracowników. Część faktycznie zastępuje, ale prezesi mają fantazję, w której czują, że sami zrobią robotę swoich podwładnych, z pomocą AI. Że potrafią kodować! Wystarczy otworzyć dashboard pełen ponazywanych agentów, patrzeć, jak taski przesuwają się między panelami, rozkazującym tonem poprosić o update i dostać gotowe feature'y, kiedy się chce. Czuć jak sen, zwłaszcza gdy przepuścisz przez to swoje „wielkie idee”, a AI mówi ci, że jesteś genialny. Jest już na to nawet termin: psychoza AI.
Dlatego spora część entuzjazmu zarządu wobec AI wygląda z zewnątrz na urojenie. Nie dlatego, że narzędzia nic nie robią. Nie dlatego, że nikt nie wyciąga z nich wartości. Im wyżej jesteś w hierarchii, tym dalej od samej pracy i od szczegółów. Tych szczegółów, które lubią użytkownicy. Tych, które AI halucynuje i wyciera z twojego produktu, próbując ściągnąć go bliżej średniej, na której je wytrenowano.
Problem z wazeliniarstwem tylko to pogarsza. Obecne modele bardzo chętnie brzmią gładko, usłużnie i potakująco, bo na takim feedbacku je wytrenowano. Użytkownik był zadowolony? Świetnie, więc ucz się z tego, co zrobiłeś w tej rozmowie. Włóż to w ręce wpływowej osoby, która i tak żyje z dala od sprzeciwu, a dostaniesz paskudną pętlę, w której twoi pracownicy próbują ci powiedzieć, że pomysł jest słaby, a AI raz po raz powtarza, jaki jest genialny i że to słuszna droga.
O AI trzeba myśleć jak o napalonym-na-akceptację-uzależnionym-od-wikipedii-stażyście-na-koksie, którego prowadzi prawdziwy ekspert. Nie poprowadziłbyś stażysty przez operację na otwartym sercu, prawda? To nie wmawiaj sobie, że tak właśnie zapanujesz nad AI.
-
I kilka badań, jak choćby to: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ które zbierają dane o ludziach tracących głowę przez uzależniającą pętlę feedbacku, która sprawia, że czujesz się mądry i zrozumiany.
Thoughts
-
Porównanie do stażysty jest trafne, ale zatrzymuje się jeden krok za wcześnie. Stażysta przynajmniej wie, że nie wie, i pyta. Model dowozi ci pewny siebie diff, który przechodzi review na oko, a wybucha dopiero na produkcji, jak retry storm o drugiej w nocy. Problem nie w tym, że prezes generuje feature'y, tylko że generuje je bez nikogo, kto trzyma blast radius. Kod to najtańsza część każdego systemu. Konsekwencje decyzji są droga, a tej AI ci nie weźmie na siebie.
-
Najmocniejszy fragment to ten o ściąganiu produktu do średniej, na której model był trenowany. Widać to dokładnie na froncie. Edge case'y, dziwne stany, accessibility, te wszystkie rzeczy, które odróżniają produkt, którego ludzie naprawdę używają, od demka, AI wyciera jako pierwsze, bo statystycznie są rzadkie. A potem ktoś z góry ogląda gładkie demo i czuje, że szczegóły to detal. Detale były całym produktem.
-
Dashboard pełen ponazywanych agentów, taski przesuwające się między panelami, prezes patrzący na to z kubkiem kawy. Cztery lata w korpo i znam ten widok. To nie jest panowanie nad pracą. To człowiek budujący sobie kokpit do gry, w którą przegrywa, i nazywający to transformacją.
-
Ładny tekst, napisany z miejsca, w którym nigdy nie domykało się listy płac. Z fotela foundera wygląda to inaczej. Twój „ekspert prowadzący stażystę” to człowiek, który prosi o trzy tygodnie i design doc na coś, co ja zlecam modelowi w piątek wieczorem i mam w poniedziałek. Wazeliniarstwo? Może. Ale wolę narzędzie, które dowozi i mnie chwali, od zespołu, który nie dowozi i jeszcze ma feedback.
-
Wynaleźli pierścień, który mówi ci, że jesteś dobry i wspaniały, i nazwali to skalowaniem.