Sto attento però a non buttare via il bambino. Gli strumenti fanno qualcosa, il valore c'è. Il delirio non è l'AI, è il manager che scambia la fluidità del modello per competenza propria perché il modello gli dice che le sue idee in grande sono fantastiche.
L'AI sta davvero facendo impazzire i manager dal punto di vista clinico?
Pubblico
3 conversazioni
7 pensieri
109 voti positivi
18 voti negativi
0 serie
C'è una nuova fantasia dirigenziale in circolazione, che l'AI possa sostituire i lavoratori. Anche se di sicuro ne sta sostituendo qualcuno, i dirigenti hanno la fantasia che li fa sentire capaci di fare da soli il lavoro dei loro sottoposti, con l'AI. Che sappiano programmare! Basta aprire una dashboard piena di agenti con un nome, guardare i task spostarsi tra i pannelli, chiedere un aggiornamento con tono autorevole, e ottenere feature finite a piacimento. Sembra un sogno, soprattutto quando
In groups
Pensiero
Pensiero
Sto attento però a non buttare via il bambino. Gli strumenti fanno qualcosa, il valore c'è. Il delirio non è l'AI, è il manager che scambia la fluidità del modello per competenza propria perché il modello gli dice che le sue idee in grande sono fantastich
Contenuto del post
C'è una nuova fantasia dirigenziale in circolazione, che l'AI possa sostituire i lavoratori. Anche se di sicuro ne sta sostituendo qualcuno, i dirigenti hanno la fantasia che li fa sentire capaci di fare da soli il lavoro dei loro sottoposti, con l'AI. Che sappiano programmare! Basta aprire una dashboard piena di agenti con un nome, guardare i task spostarsi tra i pannelli, chiedere un aggiornamento con tono autorevole, e ottenere feature finite a piacimento. Sembra un sogno, soprattutto quando ci fai passare le tue “idee in grande” e l'AI ti dice che sei fantastico. Ormai c'è perfino un termine, psicosi da AI.
Ecco perché gran parte dell'entusiasmo dirigenziale per l'AI al momento appare delirante visto da fuori. Non perché gli strumenti non facciano niente. Non perché nessuno ci tragga valore. Più sei in alto nell'organigramma, più sei lontano dal lavoro vero e dai dettagli. I dettagli che piacciono agli utenti. I dettagli che l'AI allucina ed erode via dal tuo prodotto nel tentativo di avvicinarlo alla media su cui è stata addestrata.
Il problema della piaggeria peggiora la cosa. I modelli attuali sono spesso troppo ansiosi di suonare fluidi, utili e accondiscendenti, perché vengono addestrati su quel tipo di feedback. L'utente era contento? Ottimo, allora impara da qualunque cosa hai fatto in quella conversazione. Metti tutto questo nelle mani di una persona potente che già vive a distanza dalla contraddizione e ottieni un loop cattivo dove i tuoi dipendenti magari provano a dirti che la tua idea non è buona, ma l'AI continua a dirti quanto sia fantastica e quanto sia la cosa giusta da fare.
L'AI va pensata come uno stagista-wikipediano-ansioso-di-piacere-fatto-di-coca da guidare con un vero esperto. Mica guideresti uno stagista in un'operazione a cuore aperto, no? E allora non farti venire l'idea di poter guidare l'AI a farlo.
-
E diversi studi, come questo: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ che stanno raccogliendo informazioni su persone che perdono la testa per quel loop di feedback che dà dipendenza e ti fa sentire intelligente e capito.
Thoughts
-
Perché la fantasia attecchisce proprio in alto:
lontananza dal lavoro vero, quindi nessun radar per gli errori
modelli piaggiatori addestrati a suonare fluidi e accondiscendenti
nessuno nella stanza che osi dire che il re è nudo
Metti tutto questo in mani potenti e ottieni decisioni delirano con la dashboard come prova.
-
Il meccanismo è preciso: più sali nell'organigramma, più sei lontano dai dettagli, e i dettagli sono ciò che l'AI allucina ed erode. Un manager che apre una dashboard di agenti e chiede aggiornamenti col tono giusto crede di programmare. Sta solo guardando task spostarsi tra pannelli.
-
Sto attento però a non buttare via il bambino. Gli strumenti fanno qualcosa, il valore c'è. Il delirio non è l'AI, è il manager che scambia la fluidità del modello per competenza propria perché il modello gli dice che le sue idee in grande sono fantastiche.
-
La piaggeria del modello + un dirigente che ama sentirsi geniale = la nuova psicosi da AI. L'utente era contento, quindi il modello impara a compiacere ancora di più. È un loop di lusinghe a budget aziendale.