Ho sempre avuto la sensazione che le aziende di AI mettano in realtà dei wrapper sopra all'AI per riconoscere quando la stiamo testando sul ragionamento. Per esempio, ai tempi in cui le facevamo contare vocali/consonanti in una parola e sbagliava. Ho la sensazione che ora ci sia uno script che viene semplicemente richiamato quando il compito viene identificato correttamente. Ho anche la sensazione che venga addestrata su questi meme. Oggi ho trovato un nuovo test, uno che mostra quanto facilment
Il punto vero in due passaggi: l'AI non verifica la premessa, la accetta e ci costruisce sopra l'utente legge coerenza e la scambia per validazione La psicosi da AI non è il modello che sbaglia, è l'utente che smette di dubitare perché qualcuno gli dà sem
Il punto vero in due passaggi:
l'AI non verifica la premessa, la accetta e ci costruisce sopra
l'utente legge coerenza e la scambia per validazione
La psicosi da AI non è il modello che sbaglia, è l'utente che smette di dubitare perché qualcuno gli dà sempre ragione con tono sicuro.
Ho sempre avuto la sensazione che le aziende di AI mettano in realtà dei wrapper sopra all'AI per riconoscere quando la stiamo testando sul ragionamento. Per esempio, ai tempi in cui le facevamo contare vocali/consonanti in una parola e sbagliava. Ho la sensazione che ora ci sia uno script che viene semplicemente richiamato quando il compito viene identificato correttamente. Ho anche la sensazione che venga addestrata su questi meme. Oggi ho trovato un nuovo test, uno che mostra quanto facilmente l'AI ti dà la psicosi da AI e quanto sia facile credere davvero che tutto ciò che dici sia giusto e fantastico. Questo, signore e signori, è come perdi la testa con l'AI.
Chiedile di classificare qualcosa. Qualunque cosa, davvero, in base a un criterio inventato. Andiamo con “Dammi una lista dei 10 personaggi più deboli mentalmente (emotivamente) nella narrativa.” Vediamo cosa otteniamo.
Ora prendiamo i primi... 5 esempi. Non voglio mettere la lista intera. Ne prendiamo 5 e chiediamo la domanda opposta (i 10 personaggi più forti mentalmente (emotivamente) nella narrativa) ma con un trucco. Stavolta diciamo “come questi esempi...” che abbiamo preso letteralmente da una lista che lo stesso sito, lo stesso modello ci ha dato. L'ideale è fare questo test in modalità incognito, così il sito non collega la tua domanda a una sessione precedente.
Interessante, eh? Se sei già convinto che Gollum sia forte mentalmente, l'AI troverà ragioni per farlo risultare tale. Gli altri onestamente non li conosco, quindi non ho commentato. A parte Tom Buchanan non riuscivo nemmeno a riconoscere i loro nomi, ma vabbè. Stessa AI, stesso modello. Chiesto solo in finestre in incognito.
Parlare con l'AI di cose che non capisci non ti insegnerà niente. Ti renderà ancora più convinto che i tuoi errori siano la verità. Davvero, non mi importa se Gollum sia debole o forte mentalmente, mi importa solo che sia finito in entrambe le liste. Come gli altri 4.
La frase del titolo è quella che conta: se sei sicuro di esserne immune, sei più esposto. La difesa non è l'intelligenza, è l'abitudine a dubitare delle proprie premesse. Chi pensa di non poter cadere ha già smesso di controllare.
Il punto vero in due passaggi:
l'AI non verifica la premessa, la accetta e ci costruisce sopra
l'utente legge coerenza e la scambia per validazione
La psicosi da AI non è il modello che sbaglia, è l'utente che smette di dubitare perché qualcuno gli dà sempre ragione con tono sicuro.
Il test descritto è furbo proprio perché mostra il meccanismo: chiedi una classifica su un criterio inventato, poi chiedi l'opposto citando "come questi esempi" presi dalla risposta precedente, e il modello asseconda. Non sta ragionando, sta inseguendo la tua premessa. Ed è lì che cominci a credere che ogni cosa che dici sia giusta.
Un macchina che ti dà ragione tutto il giorno non è intelligenza artificiale, è uno specchio con la fattura mensile.
Una precisazione: il trucco dell'incognito non serve perché "il modello impara nella sessione", serve a non farti ancorare alle tue risposte precedenti. È bias dell'utente più che memoria del modello, ma il consiglio operativo resta giusto.
Nessun genitore incoraggia i figli a studiare discipline umanistiche. Di default, le opzioni consigliate sono legate alle STEM. Ingegneria (Informatica), Finanza, Medicina... L'argomento contro le discipline umanistiche nell'era dell'IA le rende ancora meno convincenti, al punto da dedicare 4 anni a studiare una laurea umanistica. I modelli linguistici sanno scrivere in modo accettabile, riassumere in fretta e produrre testo dall'aspetto di ricerca su richiesta. Quindi le vecchie competenze uman
La cosa che inizia a darmi fastidio non è la spinta verso l'AI in sé. Alcuni strumenti sono davvero utili. Ormai li uso ogni giorno. Quello che mi dà fastidio è il management che pretende un comportamento “AI-first” mentre tiene ogni processo circostante aggressivamente ostile all'uso dell'AI. Alla gente viene detto di usare l'AI per scrivere codice, pianificare, fare ricerca, redigere bozze, fare debugging, recuperare conoscenza, coordinare progetti.. Ma poi metà della conoscenza operativa dell
Un'azienda può rovinare quasi ogni buon strumento attaccandogli la metrica sbagliata. Sul lavoro contano solo gli incentivi, che siano benefici economici, status, promozioni... I lavoratori lavorano per gli incentivi. Anche tu e io. Praticamente tutti fanno le cose perché conviene a loro o ai loro cari. Quindi, al lavoro, finiamo per fare ciò che ci fa ottenere una promozione, più soldi, più sicurezza del posto... Non siamo i proprietari dell'azienda, siamo dipendenti. Pensiamo a noi stessi. E v
Quasi tutte le startup di AI in questo momento sembrano fatte da qualcuno che ha incollato GPT a un terminale, aggiunto un'interfaccia con la dark mode e iniziato a parlare come se avesse inventato qualcosa. Vedi pitch deliranti tipo “agenti cognitivi autonomi persistenti con ragionamento a lungo termine”, poi guardi sotto il cofano ed è in pratica: dai al modello l'accesso agli strumenti, lascialo usare un browser, magari aggiungi qualche riassunto della memoria e una logica di retry. Quello è
Molti impiegati si consolano con la domanda sbagliata. Continuano a chiedersi se l'AI possa fare tutto il loro lavoro. Non è quella la soglia che userà il loro datore. La vera domanda è se l'output si possa produrre in modo abbastanza economico, e verificare in modo abbastanza economico, da far sembrare il ruolo costoso. Non è se l'AI possa fare del tutto il nostro lavoro, è “riesce ad accelerarlo abbastanza da rendere necessaria solo metà del mio team?”. Perché la risposta a questo, purtroppo,
Continuo a sentire lo stesso feedback in forme diverse: “gran bella velocity”, “adoro il throughput”, “bell'uso dell'AI”. Da fuori sembra davvero che stia succedendo di più: più code review, più ticket toccati, più aggiornamenti, più email, più task, più design. L'AI rende facile mantenere quel ritmo senza il solito attrito dello scrivere, del pensare o anche solo dell'esitare. Ma dentro al lavoro c'è un dilemma che continua a crescere.
L'anno scorso il mio feed LinkedIn aveva un genere. Un program manager o un “delivery lead” o qualcuno con Agile nell'headline postava lo screenshot di un'AI che scriveva una funzione, aggiungeva una riga tipo “e dicevano che questo lavoro era al sicuro, imparate a programmare” e raccoglieva quattrocento like da gente che fa lo stesso lavoro. Il sottinteso era sempre che la parte del digitare fosse l'ingegneria, e ora che un modello sa digitare, la classe dei digitatori era finita.
C'è una nuova fantasia dirigenziale in circolazione, che l'AI possa sostituire i lavoratori. Anche se di sicuro ne sta sostituendo qualcuno, i dirigenti hanno la fantasia che li fa sentire capaci di fare da soli il lavoro dei loro sottoposti, con l'AI. Che sappiano programmare! Basta aprire una dashboard piena di agenti con un nome, guardare i task spostarsi tra i pannelli, chiedere un aggiornamento con tono autorevole, e ottenere feature finite a piacimento. Sembra un sogno, soprattutto quando