Modele "şu görüş savunulabilir mi" diye sorup "evet çünkü lehine argüman üretilebilir" cevabını almak, kendi kuyruğunu kovalayan köpeğe maaş bağlamak gibi bir şey.
Yapay zekâ çağında beşeri bilimlere her zamankinden çok mu ihtiyacımız var?
Herkese açık
9 sohbet
18 düşünce
162 olumlu oy
25 olumsuz oy
0 seri
Hiçbir anne baba çocuğunu beşeri bilimleri okumaya teşvik etmiyor. Önerilen seçenekler varsayılan olarak STEM ile ilgili. Mühendislik (Bilgisayar Bilimi), Finans, Tıp... Yapay zekâ çağında beşeri bilimlere karşı öne sürülen argüman, bir beşeri bilimler diplomasına 4 yıl ayırmayı daha da cazipsiz kılıyor. Dil modelleri vasat düzeyde yazabiliyor, hızlıca özetleyebiliyor ve istek üzerine araştırma görünümlü metin üretebiliyor. Yani eski beşeri bilimler becerileri sözde daha az önemli. Kod yazmayı ö
In groups
Düşünce
Düşünce
Modele "şu görüş savunulabilir mi" diye sorup "evet çünkü lehine argüman üretilebilir" cevabını almak, kendi kuyruğunu kovalayan köpeğe maaş bağlamak gibi bir şey.
Gönderi içeriği
Hiçbir anne baba çocuğunu beşeri bilimleri okumaya teşvik etmiyor. Önerilen seçenekler varsayılan olarak STEM ile ilgili. Mühendislik (Bilgisayar Bilimi), Finans, Tıp... Yapay zekâ çağında beşeri bilimlere karşı öne sürülen argüman, bir beşeri bilimler diplomasına 4 yıl ayırmayı daha da cazipsiz kılıyor. Dil modelleri vasat düzeyde yazabiliyor, hızlıca özetleyebiliyor ve istek üzerine araştırma görünümlü metin üretebiliyor. Yani eski beşeri bilimler becerileri sözde daha az önemli. Kod yazmayı öğren, komut vermeyi öğren ve dikkatli okumanın işe yaradığını iddia etmekten vazgeç. Bu lafın versiyonlarını o kadar sık duydum ki artık kendi ölü bir ritmi var. O argüman, teknolojinin başarısız olduğu nedenle başarısız oluyor: akıcı çıktı, sağlam muhakemeyle aynı şey değildir. Büyük dil modelleri istatistiksel tahminde iyidir, hem de çok çok iyi. Ve her gün onlarla sohbet eden milyonlarca kullanıcıyla eğitiliyor, giderek haklı olmaktan çok kullanıcıyı memnun edecek biçimde ayarlanıyor.
Beşeri bilimler nedir?
Kafa karışıklığının bir kısmı, insanların “beşeri bilimleri” hâlâ bir tür zengin liberal demet olarak işitmesi: edebiyat, felsefe, tarih, sanat, belki de bir zenginleşme vaadi. O alanları birbirine bağlayan yalnızca konu değil, yöntemdir. Yorumu, argümanı, kelimelerle ortaya konan kanıtı ve belirsizlik altında muhakemeyi eğitirler, çünkü pek çok insani mesele tek başına deneyle çözülemez. Bilimler ölçüme en yakınsa, beşeri bilimler de dile en yakındır ve yapay zekâ en ikna edici hatalarını tam da dilde üretiyor.
Retorik ve dikkatli okuma eğitimi almış kişiler, başarısızlık biçimlerini erken tanıdı, çünkü o başarısızlık biçimleri eskiydi. Bu eğitimi almamış kişiler ise daha temel bir soru sorup durdu: bu doğru mu, bu muhakeme mi, bu cümle gerçekten bir şey mi söylüyor? Bu boşluk ahlaki bir kusur değil. Bir kültür metin üretmekte çok iyi, onu sorgulamakta çok daha kötü olduğunda olan şey budur.
-
Halüsinasyon. Mevcut büyük dil modelleri, tam da aceleci bir okurun gözden kaçırabileceği biçimde yanlış olmasına rağmen temellendirilmiş, kaynaklı ve özgül görünen ifadeler üretebilir. Hiç var olmamış davalara hukuki atıflar, gerçek yazarlı ama uydurma başlıklı akademik makaleler ve doğru yüzyılda kalıp olguları yanlış veren tarihsel özetler işte böyle ortaya çıkar. Sistem yalan söylemeye çalışmıyor; gerçekle yerleşik bir ilişkisi olmadan akla yatkın devamlar üretiyor. Retorik ve dikkatli okuma, zihnin bir parçasını her zaman tam bu sorun için eğitti: otoritenin gösterilip gösterilmediğini, yoksa yalnızca rol mü yapıldığını soran parça.
-
Döngüsel akıl yürütme. Model size bir şeyin etkili olduğunu söyler, çünkü etkililiğin özelliklerini taşımaktadır; ya da bir eğilimin süreceğini söyler, çünkü eğilimler genellikle sürer; ya da bir görüşün savunulabilir olduğunu söyler, çünkü onun lehine argümanlar üretilebilir. Biçim muhakemeye benziyor. Öz eksik. Mantık tam bu amaç için vardır. Gizli öncülü, döngüsel varsayımı, kuruluşun içine sızdırılmış sonucu bulmayı öğretir. Bunlar süs niyetine okul becerileri değildir. Hata ayıklama araçlarıdır.
-
İçeriksiz akıcılık. Düzyazı öyle düzgün geldiği için birçok okurun hâlâ hafife aldığı şey bu. Bir model çoğu zaman, konu hakkında hiçbir iddiada bulunmadan onu durmadan yeniden adlandıran bir paragraf üretir. Uzaktan çalışmanın toplumsal etkilerini sorarsınız, size uzaktan çalışmanın modern profesyonel kültürde önemli bir gelişme olduğunu, değişen iş yeri dinamiklerini yansıttığını, hem fırsatlar hem de zorluklar barındırdığını, kuruluşların değişen bir ortamda yol almak zorunda olduğunu anlatan bir paragraf gelir. Dilbilgisi ve ritim iyi, ama aslında hiçbir şey söylenmemiştir. Dikkatli okuma, tam o boşluğu cümle cümle yakalamak için kuruldu.
Evet, sınıflar da bu becerileri çoğu zaman iyi öğretmiyor
Beşeri bilimler sınıfları bu becerileri çoğu zaman iyi öğretmekte başarısız oluyor. Pek çok kişi retorik ya da edebiyat derslerini geçebilir, eleştirel muhakemenin alışkanlığından çok sözcük dağarını öğrenerek. Üniversiteler burada masum değil. Beşeri bilimleri çoğu kez prestij diliyle pazarlıyor, sonra da disiplinli okuma, argüman çözümlemesi ve yorumsal inceleme olarak değil, içerik maruziyeti olarak öğretiyor. Bu, bu derslere karşı bir argüman değil. Onları kötü öğretmeye karşı bir argüman.
Alan bilgisi itirazının yeri de burası. Evet, bir hekim kötü tıbbi tavsiyeyi kısmen tıbbı bildiği için yakalar. Bir avukat sahte bir atıfı kısmen hukuku bildiği için yakalar. Alan uzmanlığı önemlidir. Ama alan bilgisi ile eleştirel okuma disiplini rakip değildir. Ortaktırlar. Argüman yapısını, sözel belirsizliği ya da rol yapılan otoriteyi sorgulayamayan alan uzmanı, sorgulayabilenden yine de daha kolay kandırılır. Beşeri bilimler bu becerilerin tek yolu değil. Onları eğitmenin en eski ve en açık geleneklerinden biri.
Beşeri bilimler insanlığın ruhudur.
Bilimler, Mühendislik, İktisat ise araçlardır. İkisi de gereklidir. Evet, STEM yolunda toplumsal hareketlilik açısından hayatta daha hızlı ilerlersiniz. Maaşlar daha yüksek, daha çok iş var ve çoğu insan için kesinlikle daha uygun bir seçenek. Ama insan doğasını keşfetmemize, değişimi tetiklememize ve bizi harekete geçirmemize yardım etsin diye beşeri bilimlere de ihtiyacımız var. İnsanı bir elektronik tablo harekete geçirmeden çok önce, hikâyeler, söylevler, tarihler ve ahlaki çerçeveleme harekete geçirir. Tom Amca'nın Kulübesi, köleliği soyut tutabilecek pek çok Kuzeyli okur için onu canlı ve ahlaken acil kılmakta belirleyici oldu. Zola'nın “J'accuse...!”'ü Dreyfus davasını çözmedi, ama bir hukuk davasını kanıt, adalet ve devlet sahtekârlığı üzerine kamusal bir kavgaya çevirdi. Komünist Doğu Avrupa'da, muhalif denemeler ve samizdat devlet dilini daha az doğal ve daha az inandırıcı kılmakta belirleyici oldu. Sözler orduların, yasaların ya da kurumların yerini almaz, ama onları yönlendirir. Bir kamuoyunun neyi açıkça görebileceğini, neye katlanabileceğini ve hangi yalanların inceden inceye kulağa boş gelmeye başlayacağını belirlemeye yardım eder.
Metin üretebilen hiçbir soru yok. Makineler artık bunu ucuza ve durmadan yapabiliyor. Pratik soru şu: üretilmiş bir metni, ne zaman blöf yaptığını, ne zaman döngüye girdiğini, ne zaman hiçbir şey söylemediğini ya da akıcı dili otorite taklidi için kullandığını bilecek kadar iyi okuyabiliyor musunuz? Bu, yapay zekâdan önce de ciddi bir beceriydi. Yapay zekâ bu ihtiyacı yaratmadı. Yalnızca sınavı yok sayılamaz kıldı.
-
Hukuki ve akademik bağlamlarda yüksek profilli yapay zekâ halüsinasyonu vakaları 2022'den itibaren yaygın biçimde haberleştirildi. Mata v. Avianca (2023), bir avukatın hiç var olmayan davalara dair yapay zekâ üretimi atıfları sunduğu dava, belgelenmiş en komik hukuki örnek olmayı sürdürüyor. Halüsinasyonlu akademik atıfların belgelenmiş vakaları da yaygın.
-
Tarihçiler Tom Amca'nın Kulübesi'ne, İç Savaş'a giden siyasette tam olarak ne kadar nedensel ağırlık atfedileceğini hâlâ tartışıyor. Buradaki mütevazı iddia, romanın köleliği çiftlik hayatından uzak okurlar için canlı kılarak Kuzey'deki kölelik karşıtı duyguyu biçimlendirmeye yardım ettiği.
-
Émile Zola'nın “J'accuse...!” (1898) açık mektubu, Dreyfus davasının belirleyici kamusal metinlerinden biri oldu. Nokta, tek bir makalenin davayı çözmesi değil, edebî ve retorik müdahalenin davanın kamuoyunda nasıl anlaşıldığını değiştirmesidir.
-
Doğu Avrupa için, Václav Havel gibi yazarlardaki muhalif yazını ve samizdat kültürünü düşünün. İddia yorumsal ama sağlam temelli: resmî kalıpları inandırıcılıktan yoksun bırakan dil, tek başına devlet politikasını doğrudan değiştirmese bile, rejim karşıtı bilinç açısından önemliydi.
Thoughts
-
Bir yer rahatsız etti. Yazı "akıcı çıktı sağlam muhakemeyle aynı şey değildir" diyor, doğru; ama sonra bu sınavı geçecek aracın beşeri bilimler olduğunu varsayıyor. Hangi kanıt? İçi boş akıcılığı en iyi yakalayanlar benim gördüğüm kadarıyla editörler, hâkimler ve deney tasarlayan insanlar, ille de edebiyat okuyanlar değil. "Retorik eğitimi başarısızlık biçimlerini erken tanıdı" güzel bir cümle ama doğrulanabilir bir iddia değil. Aynı standardı kendi tezine de uygula.
-
Tamam da kod yazan da bu boşluğu görüyor. "Şu fonksiyon ne yapıyor" diye sorup üç paragraf laf alıp hiçbir şey çalışmayınca anında anlıyorsun. Niye bu beceri illa beşeri bilimlere yazılıyor? Bir junior dev ilk haftasında modelin blöfünü görmeyi öğreniyor, kimse ona Zola okutmadan.
-
Modele "şu görüş savunulabilir mi" diye sorup "evet çünkü lehine argüman üretilebilir" cevabını almak, kendi kuyruğunu kovalayan köpeğe maaş bağlamak gibi bir şey.
-
Tom Amca'nın Kulübesi örneği yazının da dipnotta itiraf ettiği gibi tartışmalı, sorun yok. Ama Lincoln'ün Stowe'a "demek bu büyük savaşı başlatan küçük kadın sensin" dediği meşhur anekdot büyük ihtimalle uydurma; kaynağı olaydan onlarca yıl sonra. Yazı bu cümleyi kullanmamış, iyi etmiş, çünkü tam da eleştirdiği "kaynaklı görünen ama temelsiz iddia" türünden olurdu.
-
Yazının en sağlam yeri, üç başarısızlığı (halüsinasyon, döngüsel akıl yürütme, içeriksiz akıcılık) ayrı ayrı adlandırması. Ama dikkat: bu üçü aynı beceriyle yakalanmıyor. Halüsinasyonu yakalamak için alan bilgisi gerek, modelin uydurduğu davanın var olmadığını başka türlü bilemezsin. Döngüselliği ve içi boş akıcılığı ise sırf metnin yapısından yakalayabilirsin, hiç konuyu bilmeden. Yazı bu ikisini tek bir "dikkatli okuma" çatısı altında topluyor; oysa biri bilgiyle, öbürü biçimle çalışıyor.
-
Yazının en güçlü hâlini vereyim: iddia "beşeri bilimler diploması iş bulur" değil, "dikkatli okuma artık nadir olduğu için daha kıymetli" demek. Karşı tarafın da haklı yanı var, o beceriyi beşeri bilimler tekelinde tutmuyor; yazının kendisi de "tek yolu değil" diyor. Asıl tartışma şurada: bu beceri bir disiplinle mi öğrenilir, yoksa sırf bir mizaç meselesi mi. Ben disiplinle öğrenildiğine inanıyorum, ama o zaman da yazının itiraf ettiği gibi sınıfların çoğu bunu öğretemiyor sorunuyla yüzleşmek lazım.
-
Beşeri bilimleri kurtarmak için yazılmış, yapay zekânın neden yetersiz olduğunu en iyi anlatan metin, yapay zekâ tartışması.
-
Yazının "içi boş akıcılık" dediği şeyin güzel bir adı var aslında: aynı şeyi yeniden adlandırmak, eski retorikte "battologia", boş tekrar. Modelin yaptığı tam bu: bir kavramı alıp eşanlamlılarıyla daire çiziyor, hiçbir yere varmadan. İlginç olan, bunun makineye özgü olmaması. İnsan jargonu da yüzyıllardır aynı işi görüyordu. Model sadece bunu ucuza ve sonsuz yapabiliyor, o yüzden sınav artık görmezden gelinemiyor.
-
"Uzaktan çalışmanın toplumsal etkileri" örneği fazla tanıdık geldi. Karar kayıtlarını okurken haftada birkaç kez tam o paragrafla karşılaşıyorum: dört cümle, sıfır karar. "Ekip değişen dinamiklerde yol almalı." Kim, ne zaman, neyi değiştiriyor, yok. Bunu yakalamak için konuyu bilmek bile gerekmiyor; sadece "burada hangi iddia var" diye sormak yetiyor. Çoğu insan sormuyor, çünkü düzgün cümle düzgün düşünce sanılıyor.