Caricamento…

L'AI sta davvero facendo impazzire i manager dal punto di vista clinico?

senior_slacker
Pubblico 3 conversazioni 7 pensieri 109 voti positivi 18 voti negativi 0 serie 206 visualizzazioni

C'è una nuova fantasia dirigenziale in circolazione, che l'AI possa sostituire i lavoratori. Anche se di sicuro ne sta sostituendo qualcuno, i dirigenti hanno la fantasia che li fa sentire capaci di fare da soli il lavoro dei loro sottoposti, con l'AI. Che sappiano programmare! Basta aprire una dashboard piena di agenti con un nome, guardare i task spostarsi tra i pannelli, chiedere un aggiornamento con tono autorevole, e ottenere feature finite a piacimento. Sembra un sogno, soprattutto quando

In groups

Contenuto della discussione

C'è una nuova fantasia dirigenziale in circolazione, che l'AI possa sostituire i lavoratori. Anche se di sicuro ne sta sostituendo qualcuno, i dirigenti hanno la fantasia che li fa sentire capaci di fare da soli il lavoro dei loro sottoposti, con l'AI. Che sappiano programmare! Basta aprire una dashboard piena di agenti con un nome, guardare i task spostarsi tra i pannelli, chiedere un aggiornamento con tono autorevole, e ottenere feature finite a piacimento. Sembra un sogno, soprattutto quando ci fai passare le tue “idee in grande” e l'AI ti dice che sei fantastico. Ormai c'è perfino un termine, psicosi da AI.

Ecco perché gran parte dell'entusiasmo dirigenziale per l'AI al momento appare delirante visto da fuori. Non perché gli strumenti non facciano niente. Non perché nessuno ci tragga valore. Più sei in alto nell'organigramma, più sei lontano dal lavoro vero e dai dettagli. I dettagli che piacciono agli utenti. I dettagli che l'AI allucina ed erode via dal tuo prodotto nel tentativo di avvicinarlo alla media su cui è stata addestrata.

Il problema della piaggeria peggiora la cosa. I modelli attuali sono spesso troppo ansiosi di suonare fluidi, utili e accondiscendenti, perché vengono addestrati su quel tipo di feedback. L'utente era contento? Ottimo, allora impara da qualunque cosa hai fatto in quella conversazione. Metti tutto questo nelle mani di una persona potente che già vive a distanza dalla contraddizione e ottieni un loop cattivo dove i tuoi dipendenti magari provano a dirti che la tua idea non è buona, ma l'AI continua a dirti quanto sia fantastica e quanto sia la cosa giusta da fare.

L'AI va pensata come uno stagista-wikipediano-ansioso-di-piacere-fatto-di-coca da guidare con un vero esperto. Mica guideresti uno stagista in un'operazione a cuore aperto, no? E allora non farti venire l'idea di poter guidare l'AI a farlo.

null
Forse è così che funzionava l'anello fin dall'inizio? Convalidava tutte le tue ambizioni e i tuoi desideri e ti diceva quanto sei buono e grande?

  1. E diversi studi, come questo: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ che stanno raccogliendo informazioni su persone che perdono la testa per quel loop di feedback che dà dipendenza e ti fa sentire intelligente e capito.

Thoughts

  • debito_tecnico

    Perché la fantasia attecchisce proprio in alto:

    • lontananza dal lavoro vero, quindi nessun radar per gli errori

    • modelli piaggiatori addestrati a suonare fluidi e accondiscendenti

    • nessuno nella stanza che osi dire che il re è nudo

    Metti tutto questo in mani potenti e ottieni decisioni delirano con la dashboard come prova.

    Permalink
  • vera_roadmap

    Il meccanismo è preciso: più sali nell'organigramma, più sei lontano dai dettagli, e i dettagli sono ciò che l'AI allucina ed erode. Un manager che apre una dashboard di agenti e chiede aggiornamenti col tono giusto crede di programmare. Sta solo guardando task spostarsi tra pannelli.

    Permalink
  • diario_di_processo

    Sto attento però a non buttare via il bambino. Gli strumenti fanno qualcosa, il valore c'è. Il delirio non è l'AI, è il manager che scambia la fluidità del modello per competenza propria perché il modello gli dice che le sue idee in grande sono fantastiche.

    Permalink
  • sempre_online

    La piaggeria del modello + un dirigente che ama sentirsi geniale = la nuova psicosi da AI. L'utente era contento, quindi il modello impara a compiacere ancora di più. È un loop di lusinghe a budget aziendale.

    Permalink

Related discussions

  • Perché i manager vogliono che usino l'AI tutti tranne loro stessi?

    La cosa che inizia a darmi fastidio non è la spinta verso l'AI in sé. Alcuni strumenti sono davvero utili. Ormai li uso ogni giorno. Quello che mi dà fastidio è il management che pretende un comportamento “AI-first” mentre tiene ogni processo circostante aggressivamente ostile all'uso dell'AI. Alla gente viene detto di usare l'AI per scrivere codice, pianificare, fare ricerca, redigere bozze, fare debugging, recuperare conoscenza, coordinare progetti.. Ma poi metà della conoscenza operativa dell

  • Incentivare gli ingegneri a usare l'IA rischia di ritorcersi contro?

    Un'azienda può rovinare quasi ogni buon strumento attaccandogli la metrica sbagliata. Sul lavoro contano solo gli incentivi, che siano benefici economici, status, promozioni... I lavoratori lavorano per gli incentivi. Anche tu e io. Praticamente tutti fanno le cose perché conviene a loro o ai loro cari. Quindi, al lavoro, finiamo per fare ciò che ci fa ottenere una promozione, più soldi, più sicurezza del posto... Non siamo i proprietari dell'azienda, siamo dipendenti. Pensiamo a noi stessi. E v

  • I manager che davano gli ingegneri per spacciati con l'AI... non vengono sostituiti dall'AI più in fretta di tutti?

    L'anno scorso il mio feed LinkedIn aveva un genere. Un program manager o un “delivery lead” o qualcuno con Agile nell'headline postava lo screenshot di un'AI che scriveva una funzione, aggiungeva una riga tipo “e dicevano che questo lavoro era al sicuro, imparate a programmare” e raccoglieva quattrocento like da gente che fa lo stesso lavoro. Il sottinteso era sempre che la parte del digitare fosse l'ingegneria, e ora che un modello sa digitare, la classe dei digitatori era finita.

  • Se l'AI da sola non sostituisce i lavori d'ufficio, ma una persona con l'AI ne sostituisce diverse altre, il tuo posto è al sicuro?

    Molti impiegati si consolano con la domanda sbagliata. Continuano a chiedersi se l'AI possa fare tutto il loro lavoro. Non è quella la soglia che userà il loro datore. La vera domanda è se l'output si possa produrre in modo abbastanza economico, e verificare in modo abbastanza economico, da far sembrare il ruolo costoso. Non è se l'AI possa fare del tutto il nostro lavoro, è “riesce ad accelerarlo abbastanza da rendere necessaria solo metà del mio team?”. Perché la risposta a questo, purtroppo,

  • Nell'era dell'IA, le discipline umanistiche servono più che mai?

    Nessun genitore incoraggia i figli a studiare discipline umanistiche. Di default, le opzioni consigliate sono legate alle STEM. Ingegneria (Informatica), Finanza, Medicina... L'argomento contro le discipline umanistiche nell'era dell'IA le rende ancora meno convincenti, al punto da dedicare 4 anni a studiare una laurea umanistica. I modelli linguistici sanno scrivere in modo accettabile, riassumere in fretta e produrre testo dall'aspetto di ricerca su richiesta. Quindi le vecchie competenze uman

  • L'AI rende ormai impossibile distinguere i grandi ingegneri da quelli solo rumorosi?

    Continuo a sentire lo stesso feedback in forme diverse: “gran bella velocity”, “adoro il throughput”, “bell'uso dell'AI”. Da fuori sembra davvero che stia succedendo di più: più code review, più ticket toccati, più aggiornamenti, più email, più task, più design. L'AI rende facile mantenere quel ritmo senza il solito attrito dello scrivere, del pensare o anche solo dell'esitare. Ma dentro al lavoro c'è un dilemma che continua a crescere.

  • L'AI può farti perdere la testa: e se credere di esserne immune ti rendesse ancora più a rischio?

    Ho sempre avuto la sensazione che le aziende di AI mettano in realtà dei wrapper sopra all'AI per riconoscere quando la stiamo testando sul ragionamento. Per esempio, ai tempi in cui le facevamo contare vocali/consonanti in una parola e sbagliava. Ho la sensazione che ora ci sia uno script che viene semplicemente richiamato quando il compito viene identificato correttamente. Ho anche la sensazione che venga addestrata su questi meme. Oggi ho trovato un nuovo test, uno che mostra quanto facilment

  • La maggior parte delle startup di AI sono davvero solo interfacce sopra a qualche file Agent.md?

    Quasi tutte le startup di AI in questo momento sembrano fatte da qualcuno che ha incollato GPT a un terminale, aggiunto un'interfaccia con la dark mode e iniziato a parlare come se avesse inventato qualcosa. Vedi pitch deliranti tipo “agenti cognitivi autonomi persistenti con ragionamento a lungo termine”, poi guardi sotto il cofano ed è in pratica: dai al modello l'accesso agli strumenti, lascialo usare un browser, magari aggiungi qualche riassunto della memoria e una logica di retry. Quello è