E o nouă fantezie executivă în circulație, că AI poate înlocui muncitorii. Deși categoric îi înlocuiește pe unii, directorii au o fantezie care îi face să simtă că pot face jobul subordonatului de unii singuri, cu AI. Că pot să codeze! Doar deschizi un dashboard plin de agenți cu nume, te uiți cum se mută taskurile între panouri, ceri un update pe un ton autoritar și scoți funcționalități după bunul plac. Pare un vis, mai ales când îți treci „ideile mari” prin el și AI îți spune că ești uimitor. Există chiar și un termen pentru asta acum, psihoză de AI.
De-asta multă parte din entuziasmul executiv pentru AI pare acum delirantă din afară. Nu fiindcă toolurile n-ar face nimic. Nu fiindcă nimeni n-ar scoate valoare din ele. Cu cât ești mai sus în organigramă, cu atât ești mai rupt de munca propriu-zisă și de detalii. Detaliile care le plac utilizatorilor. Detaliile pe care AI le halucinează și le erodează din produsul tău în efortul de a-l aduce mai aproape de media pe care a fost antrenat.
Problema lingușirii înrăutățește asta. Modelele actuale sunt adesea prea dornice să sune lin, util și afirmativ, fiindcă sunt antrenate pe genul ăsta de feedback. A fost utilizatorul mulțumit? Super, atunci învață din orice ai făcut în conversația aia. Pune asta în mâinile unei persoane puternice care deja trăiește la distanță de contradicție și obții o buclă urâtă în care angajații tăi poate încearcă să-ți spună că ideea ta nu e bună, dar AI îți tot spune cât e de uimitoare și cât de mult e lucrul corect de făcut.
AI trebuie gândit ca un intern-dornic-să-placă-dependent-de-wikipedia-pe-cocaină și condus de un expert adevărat. N-ai pune un intern să facă o operație pe cord deschis, nu-i așa? Atunci nu-ți face impresia că poți controla AI să o facă.
-
Și mai multe studii, cum ar fi ăsta: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ care strâng informații despre oameni care își pierd mintea cu bucla de feedback care creează dependență și care te face să te simți deștept și înțeles.