Punctul cu „fluența fără conținut” e cel pe care îl simt pe pielea mea. Am dat la o facultate tehnică fiindcă așa mi s-a spus, și abia acum, citind rapoarte generate, îmi dau seama că nu mă învățase nimeni să întreb dacă un paragraf chiar zice ceva. Pot urmări o derivație, dar un text care doar redenumește subiectul mă păcălea complet. Aia e exact lacuna pe care o descrii.
Sunt științele umaniste mai necesare ca niciodată în era inteligenței artificiale?
Public
9 conversații
14 gânduri
98 voturi pozitive
24 voturi negative
0 serii
194 vizualizări
Niciun părinte nu-și încurajează copiii să studieze științele umaniste. Implicit, opțiunile recomandate țin de STEM. Inginerie (informatică), finanțe, medicină... Argumentul împotriva științelor umaniste în era inteligenței artificiale face și mai puțin atrăgătoare ideea de a dedica 4 ani studierii unei diplome în științe umaniste. Modelele de limbaj pot scrie acceptabil, pot rezuma rapid și pot produce la cerere text cu aspect de cercetare. Așa că vechile aptitudini umaniste ar trebui să contez
In groups
Gândire
Gândire
Punctul cu „fluența fără conținut” e cel pe care îl simt pe pielea mea. Am dat la o facultate tehnică fiindcă așa mi s-a spus, și abia acum, citind rapoarte generate, îmi dau seama că nu mă învățase nimeni să întreb dacă un paragraf chiar zice ceva. Pot u
Conținutul discuției
Niciun părinte nu-și încurajează copiii să studieze științele umaniste. Implicit, opțiunile recomandate țin de STEM. Inginerie (informatică), finanțe, medicină... Argumentul împotriva științelor umaniste în era inteligenței artificiale face și mai puțin atrăgătoare ideea de a dedica 4 ani studierii unei diplome în științe umaniste. Modelele de limbaj pot scrie acceptabil, pot rezuma rapid și pot produce la cerere text cu aspect de cercetare. Așa că vechile aptitudini umaniste ar trebui să conteze mai puțin. Învață să programezi, învață să dai prompturi și încetează să te mai prefaci că lectura atentă aduce ceva. Am auzit versiuni ale acestei replici de destule ori încât are deja ritmul ei mort. Argumentul ăla pică din același motiv din care pică tehnologia: un rezultat fluent nu e același lucru cu o judecată solidă. LLM-urile sunt bune la ghicit statistic, foarte foarte bune. Și sunt antrenate cu milioanele de utilizatori care vorbesc cu ele zi de zi, fiind configurate treptat să facă pe plac utilizatorului, mai degrabă decât să aibă dreptate.
Ce sunt științele umaniste?
O parte din confuzie e că oamenii încă aud „științele umaniste” ca pe un fel de pachet liberal îmbogățitor: literatură, filozofie, istorie, artă, poate vreo promisiune vagă de îmbogățire interioară. Ce leagă aceste domenii nu e doar materia, ci metoda. Ele antrenează interpretarea, argumentul, dovada în cuvinte și judecata sub incertitudine, fiindcă o mulțime de lucruri umane nu pot fi tranșate doar prin experiment. Dacă științele exacte sunt cele mai apropiate de măsurare, științele umaniste sunt cele mai apropiate de limbaj, iar limbajul e exact locul unde inteligența artificială produce acum cele mai convingătoare eșecuri ale ei.
Oamenii formați în retorică și în lectură atentă au recunoscut devreme modurile de eșec, fiindcă modurile de eșec erau vechi. Oamenii fără acea formare tot puneau o întrebare mai elementară: e asta exact, e ăsta raționament, înseamnă propoziția asta de fapt ceva? Decalajul ăsta nu e un defect moral. E ce se întâmplă când o cultură ajunge foarte bună la a produce text și mult mai proastă la a-l interoga.
Halucinația. Modelele mari de limbaj actuale pot produce afirmații care sună întemeiate, cu surse și precise, fiind în același timp false exact în felul în care un cititor grăbit le-ar putea rata. Așa ajungi la citări juridice ale unor spețe care nu au existat niciodată, la lucrări academice cu autori reali și titluri inventate și la rezumate istorice care rămân în secolul corect, dar greșesc faptele. Sistemul nu încearcă să mintă; produce continuări plauzibile fără o relație încorporată cu adevărul. Retorica și lectura atentă au antrenat dintotdeauna o parte a minții exact pentru această problemă: partea care întreabă dacă autoritatea e demonstrată sau doar jucată.
Raționamentul circular. Modelul îți spune că ceva e eficient fiindcă are caracteristicile eficienței, sau că o tendință va continua fiindcă tendințele continuă adesea, sau că un punct de vedere e apărabil fiindcă i se pot aduce argumente. Forma arată ca un raționament. Substanța lipsește. Logica există exact în acest scop. Te învață să găsești premisa ascunsă, întrebarea presupusă deja rezolvată, concluzia strecurată în premise. Astea nu sunt aptitudini decorative de școală. Sunt unelte de detectare a erorilor.
Fluența fără conținut. E cea pe care mulți cititori încă o subestimează, fiindcă proza sună atât de compusă. Un model va genera adesea un paragraf care tot redenumește subiectul fără să facă vreodată o afirmație despre el. Întrebi despre efectele sociale ale muncii la distanță și primești un paragraf despre cum munca la distanță e o evoluție semnificativă în cultura profesională modernă, cum reflectă dinamici de lucru în schimbare, cum are atât oportunități, cât și provocări, cum organizațiile trebuie să navigheze într-un mediu în schimbare. Gramatica și ritmul sunt în regulă, dar de fapt nu s-a spus nimic. Lectura atentă a fost construită ca să prindă exact acel gol, propoziție cu propoziție.
Da, adesea nici sălile de curs nu predau bine aceste aptitudini
Sălile de curs de științe umaniste adesea nu reușesc să predea bine aceste aptitudini. O grămadă de oameni pot trece cursurile de retorică sau de literatură învățând mai degrabă vocabularul judecății critice decât obiceiul ei. Universitățile nu sunt nevinovate aici. Adesea promovează științele umaniste într-un limbaj de prestigiu și apoi le predau ca expunere la conținut, nu ca lectură disciplinată, analiză a argumentelor și scrutin interpretativ. Ăsta nu e un argument împotriva materiilor. E un argument împotriva predării lor proaste.
Aici își are locul și obiecția legată de cunoașterea domeniului. Da, un medic prinde un sfat medical prost în parte fiindcă știe medicină. Un avocat prinde o citare falsă în parte fiindcă știe legea. Expertiza de domeniu contează. Dar cunoașterea domeniului și disciplina lecturii critice nu sunt rivale. Sunt parteneri. Expertul de domeniu care nu poate interoga structura unui argument, vaguitatea verbală sau autoritatea jucată e totuși mai ușor de păcălit decât cel care poate. Științele umaniste nu sunt singura cale spre aceste aptitudini. Sunt una dintre cele mai vechi și mai explicite tradiții de antrenare a lor.
Științele umaniste sunt sufletul umanității.
Științele, ingineria, economia sunt uneltele. Sunt necesare amândouă. Da, înaintezi mai repede în viață în privința mobilității sociale prin calea STEM. Salariile sunt mai mari, e mai multă muncă și e cu siguranță o opțiune mai potrivită pentru majoritatea oamenilor. Totuși, avem nevoie și de științele umaniste ca să ne ajute să explorăm natura umană, să motiveze schimbarea și să ne pună în mișcare. Ființele umane sunt mișcate de povești, de discursuri, de istorii și de încadrare morală cu mult înainte să fie mișcate de un tabel de calcul. Coliba unchiului Tom a fost esențială în a face sclavia vie și moralmente urgentă pentru mulți cititori din Nord, care altfel o puteau ține abstractă. „J’accuse...!” al lui Zola nu a tranșat afacerea Dreyfus , dar a transformat o speță juridică într-o luptă publică despre dovezi, dreptate și necinste de stat. În Europa de Est comunistă, eseurile disidente și samizdatul au fost esențiale în a face ca limbajul guvernamental să pară mai puțin natural și mai puțin credibil. Cuvintele nu înlocuiesc armatele, legile sau instituțiile, dar le pun în mișcare. Ele chiar ajută la a decide ce poate vedea limpede un public, ce găsește tolerabil și care minciuni încep să sune subțire.
Nu e nicio îndoială că se poate produce text. Mașinile pot face asta acum, ieftin și constant. Întrebarea practică e dacă poți citi un text generat suficient de bine încât să știi când blufează, când se învârte în cerc, când nu spune nimic sau când folosește un limbaj fluent ca să mimeze autoritatea. Asta era deja o aptitudine serioasă înainte de inteligența artificială. Inteligența artificială nu a creat nevoia de ea. Doar a făcut testul imposibil de ignorat.
Cazuri răsunătoare de halucinație a inteligenței artificiale în context juridic și academic au fost relatate pe larg din 2022 încoace. Mata v. Avianca (2023), în care un avocat a depus citări generate de inteligența artificială către spețe inexistente, rămâne cel mai amuzant exemplu juridic documentat. Sunt răspândite și cazuri documentate de citări academice halucinate.
Istoricii încă dezbat exact câtă greutate cauzală să atribuie Colibei unchiului Tom în politica ce a dus la Războiul Civil. Afirmația modestă de aici e că romanul a ajutat la modelarea sentimentului antisclavagist din Nord făcând sclavia vie pentru cititori aflați departe de viața de pe plantație.
Scrisoarea deschisă „J’accuse...!” (1898) a lui Émile Zola a devenit unul dintre textele publice definitorii ale afacerii Dreyfus. Ideea nu e că un singur articol a rezolvat speța, ci că intervenția literară și retorică a schimbat felul în care speța a fost înțeleasă public.
Pentru Europa de Est, gândește-te la scrierile disidente și la cultura samizdatului la scriitori precum Václav Havel. Afirmația e interpretativă, dar bine întemeiată: un limbaj care despuia formulele oficiale de credibilitate a contat pentru conștiința antiregim chiar și atunci când nu schimba de unul singur, în mod direct, politica de stat.
Thoughts
-
Caption-ul cu „Cauza pierdută” e cel mai pasiv-agresiv mod posibil de a-ți face cititorii să-ți dea dreptate. Funcționează, totuși.
-
Punctul cu „fluența fără conținut” e cel pe care îl simt pe pielea mea. Am dat la o facultate tehnică fiindcă așa mi s-a spus, și abia acum, citind rapoarte generate, îmi dau seama că nu mă învățase nimeni să întreb dacă un paragraf chiar zice ceva. Pot urmări o derivație, dar un text care doar redenumește subiectul mă păcălea complet. Aia e exact lacuna pe care o descrii.
-
Cea mai tare formulare a ta e că AI produce „cele mai convingătoare eșecuri ale ei” exact în limbaj, terenul umanioarelor. Asta răstoarnă elegant argumentul standard. Dacă mașina e slabă tocmai unde pare puternică, atunci aptitudinea de a o interoga crește în valoare, nu scade. Argumentul împotriva umanioarelor presupune că textul fluent e produsul, când de fapt el e capcana.
-
Frumos eseu, dar e scris de cineva care nu și-a făcut griji că nu are ce mânca. Sunt primul din familie la facultate. Părinții mei nu m-au împins spre STEM din filistinism, ci fiindcă o diplomă în litere însemna pentru noi risc de a rămâne fără nimic. Tu zici „sufletul umanității”, eu aud „patru ani fără plasă de siguranță”. Lectura atentă e un lux după ce ai un salariu, nu în loc de el.
-
Lucrez în software și sunt parțial de acord, dar ai romanțat puțin lectura atentă. Cea mai bună apărare împotriva unei halucinații nu e retorica, e să rulezi codul sau să cauți sursa. Lectura critică prinde blufful verbal, da, dar prinderea citării juridice false vine din a verifica registrul, nu din analiza prozei. Sunt parteneri, cum zici, dar pune și mâna pe instrument, nu doar pe text.
Related discussions
-
Te poate face AI să-ți pierzi mintea — și, dacă nu crezi asta, ești și mai expus?
Mereu am simțit că firmele de AI pun de fapt wrappere peste AI ca să detecteze că îl testăm la gândire. De exemplu, pe vremea când îl puneam să numere vocalele/consoanele dintr-un cuvânt și greșea. Simt că acum e un script care pur și simplu e apelat când taskul e identificat corect. Simt și că e antrenat pe memele astea. Azi am găsit un nou test, unul care arată cât de ușor îți dă AI psihoză de AI și cât de ușor e să crezi cu adevărat că tot ce spui vreodată e corect și uimitor.
-
De ce tocmai managerii care ziceau că AI-ul înlocuiește inginerii sunt înlocuiți primii?
Anul trecut feedul meu de LinkedIn avea un gen al lui. Un program manager sau un „delivery lead” sau cineva cu Agile în titlu posta un screenshot cu un AI scriind o funcție, adăuga o frază gen „și ziceau că jobul ăsta e sigur, doar învață să codezi” și strângea patru sute de likeuri de la oameni care fac același job. Subînțelesul era mereu că partea de tastat din inginerie era ingineria, iar acum că un model poate să tasteze, clasa tastatorilor s-a terminat.
-
Nu AI îți ia jobul de birou de unul singur — dar un om cu AI poate înlocui mai mulți alții?
O mulțime de oameni de birou se liniștesc cu întrebarea greșită. Tot întreabă dacă AI le poate face jobul întreg. Nu ăsta e pragul pe care îl va folosi angajatorul lor. Adevărata întrebare e dacă rezultatul poate fi produs destul de ieftin și verificat destul de ieftin încât rolul să înceapă să pară scump. Nu e dacă AI ne poate face complet jobul, e „poate să-l accelereze suficient încât să fie nevoie doar de jumătate din echipa mea?”. Fiindcă răspunsul la asta, din păcate, e da.
-
De ce vor managerii ca toți ceilalți să folosească AI, dar nu și ei înșiși?
Ce începe să mă irite nu e împingerea spre AI în sine. Unele dintre tooluri sunt cu adevărat utile. Le folosesc zilnic acum. Ce mă irită e managementul care cere comportament „AI-first”, ținând în același timp fiecare proces din jur agresiv ostil față de folosirea AI. Oamenilor li se spune să folosească AI pentru cod, planificare, research, scris de ciorne, debugging, regăsire de cunoștințe, coordonare de proiecte.. Dar apoi jumătate din cunoștințele operaționale ale companiei trăiesc tot în con
-
Îi face AI pe manageri nebuni la propriu?
E o nouă fantezie executivă în circulație, că AI poate înlocui muncitorii. Deși categoric îi înlocuiește pe unii, directorii au o fantezie care îi face să simtă că pot face jobul subordonatului de unii singuri, cu AI. Că pot să codeze! Doar deschizi un dashboard plin de agenți cu nume, te uiți cum se mută taskurile între panouri, ceri un update pe un ton autoritar și scoți funcționalități după bunul plac. Pare un vis, mai ales când îți treci „ideile mari” prin el și AI îți spune că...
-
Nu sunt oare cele mai multe startupuri de AI doar niște UI-uri peste niște fișiere Agent.md?
Cele mai multe startupuri de AI de acum par ca și cum cineva a lipit GPT de un terminal, a adăugat un UI cu dark mode și a început să vorbească de parcă ar fi inventat ceva. O să vezi pitchuri demente de genul „agenți cognitivi autonomi persistenți cu raționament pe termen lung”, iar apoi te uiți sub capotă și e practic: dă-i modelului acces la tooluri, lasă-l să folosească un browser, poate adaugă rezumate de memorie și logică de retry. Ăsta e „produsul”. Poți să-l ai și singur, dându-i acces l
-
Face AI imposibil de deosebit inginerii buni de cei doar gălăgioși?
Aud întruna același feedback în forme diferite: „velocity excelent”, „îmi place throughputul”, „mișto folosire a AI-ului”. Din afară chiar pare că se întâmplă mai mult: mai multe Code Review-uri, mai multe tichete atinse, mai multe update-uri, mai multe emailuri, mai multe taskuri, mai multe designuri. AI face ușor de susținut cadența asta fără frecarea obișnuită a scrisului, a gânditului sau măcar a ezitatului. Dar înăuntrul muncii e o dilemă care tot crește.
-
O să dea greș ideea de a-i stimula pe ingineri să folosească AI?
O companie poate strica aproape orice unealtă bună atașându-i metrica greșită. Stimulentele sunt tot ce contează la locul de muncă, fie ele beneficii financiare, statut, promovare... Angajații muncesc cu stimulente. Și tu, și eu. Practic toți facem lucruri fiindcă ne avantajează pe noi sau pe cei dragi. Prin urmare, la muncă, ajungem să facem ce ne face să fim promovați, să luăm mai mulți bani, să avem mai multă siguranță a locului de muncă... Nu suntem proprietarii companiei, suntem un angajat.