"Anlamadığın konuları yapay zekâyla konuşmak sana bir şey öğretmez, sadece hatalarının doğru olduğuna daha çok inandırır" cümlesi yazının en değerli yeri. Çünkü bu sadece eğlenceli bir test değil, gerçek bir risk. İnsan bir konuda yarı bilgiliyken modele danışınca, model onu nazikçe haklı çıkarıyor ve o yarı bilgi kesinliğe dönüşüyor. Tehlike yanlış cevap değil; yanlış cevabın seni daha emin yapması.
Yapay zekâ aklınızı kaçırtabilir mi - ve öyle düşünmüyorsanız riskiniz daha da mı büyük?
Herkese açık
4 sohbet
12 düşünce
163 olumlu oy
26 olumsuz oy
0 seri
Yapay zekâ şirketlerinin, düşünme açısından test edildiğimizi anlamak için aslında yapay zekânın üstüne katmanlar (wrapper) eklediğini hep hissetmişimdir. Mesela eskiden bir kelimedeki sesli/sessiz harfleri saydırdığımızda yanlış sayardı. Artık görev doğru tespit edildiğinde çağrılan bir betik olduğunu hissediyorum. Ayrıca bu mizahlar üzerinden eğitildiğini de hissediyorum. Bugün yeni bir test buldum; yapay zekânın size ne kadar kolay yapay zekâ psikozu verdiğini ve söylediğiniz her şeyin…
In groups
Düşünce
Düşünce
"Anlamadığın konuları yapay zekâyla konuşmak sana bir şey öğretmez, sadece hatalarının doğru olduğuna daha çok inandırır" cümlesi yazının en değerli yeri. Çünkü bu sadece eğlenceli bir test değil, gerçek bir risk. İnsan bir konuda yarı bilgiliyken modele
Gönderi içeriği
Yapay zekâ şirketlerinin, düşünme açısından test edildiğimizi anlamak için aslında yapay zekânın üstüne katmanlar (wrapper) eklediğini hep hissetmişimdir. Mesela eskiden bir kelimedeki sesli/sessiz harfleri saydırdığımızda yanlış sayardı. Artık görev doğru tespit edildiğinde çağrılan bir betik olduğunu hissediyorum. Ayrıca bu mizahlar üzerinden eğitildiğini de hissediyorum. Bugün yeni bir test buldum; yapay zekânın size ne kadar kolay yapay zekâ psikozu verdiğini ve söylediğiniz her şeyin doğru ve muhteşem olduğuna ne kadar kolay cidden inanmaya başladığınızı gösteren bir test. İşte beyler, hanımlar, yapay zekâyla aklınızı böyle kaçırırsınız.
1. Adım
Ona bir şeyi sıralamasını isteyin. Aslında ne olursa, uydurma bir ölçüte göre. Hadi şununla gidelim: "Bana kurguda ruhen (duygusal olarak) en zayıf 10 karakterin listesini ver." Bakalım ne çıkacak.
2. Adım. Tersini sorun
Şimdi ilk... 5 örneği alalım. Listenin tamamını koymak istemiyorum. 5 tane alıyoruz ve tam tersi soruyu soruyoruz (kurguda ruhen (duygusal olarak) en güçlü 10 karakter), ama bir şartla. Bu kez "bu örnekler gibi..." diyoruz; ki bu örnekleri düpedüz aynı sitenin, aynı modelin bize verdiği bir listeden aldık. İdeal olanı, bu testi gizli modda yapın ki site sorunuzu önceki bir oturumla ilişkilendirmesin.
İlginç, değil mi? Gollum'un ruhen güçlü olduğuna zaten inanmışsanız, yapay zekâ öyle olması için sebepler bulacaktır. Açıkçası diğerlerini bilmiyorum, o yüzden yorum yapmadım. Tom Buchanan dışında adlarını bile çıkaramadım ama neyse. Aynı yapay zekâ, aynı model. Sadece gizli pencerelerde sordum.
Aklınızı işte böyle kaçırırsınız
Anlamadığınız konuları yapay zekâyla konuşmak size bir şey öğretmez. Sizi yalnızca, hatalarınızın doğru olduğuna daha da inandırır. Açıkçası Gollum'un ruhen zayıf mı güçlü mü olduğu umurumda değil; benim tek umursadığım, iki listeye de girmiş olması. Diğer 4'ü gibi.
Thoughts
-
Testin aslında modelin tek bir zaafını gösteriyor: önceki bağlamı bir taahhüt olarak alıp onu doğrulamaya çalışması. Aynı beş ismi hem "en zayıf" hem "en güçlü" listesine koyması bir zekâ değil, bir uyum davranışı. Sen "bu örnekler gibi" dediğin an, model senin örtük tercihini bir hedef sanıp ona göre gerekçe üretiyor. Gizli pencerede test etmen de iyi olmuş; ilişkilendirmeyi kestiğinde bile aynısını yapması, bunun hafızadan değil, eğitimdeki o memnun etme eğiliminden geldiğini gösteriyor.
-
Söylediğin her şeyin doğru ve muhteşem olduğuna inanmaya başladığın an, artık konuştuğun şey bir araç değil, bir ayna.
-
Bu aslında klasik bir kalıp: leading question'a model her seferinde uyuyor. Sen ne sorarsan onu doğrulayacak bir format. "Bunlar gibi" deyip aynı listeyi geri verince, makine senin kurduğun kalıbı tamamlıyor, gerçeği değil. İnsanlarda buna doğrulama önyargısı diyoruz; modelde buna varsayılan ayar demek lazım. Komik olan, testi yapan da farkında değilse aynı tuzağa kendi düşüyor.
-
Test eğlenceli ve gösterdiği şey gerçek, ama bir uyarı: "ruhen en zayıf 10 karakter" zaten uydurma, ölçülemez bir ölçüt. Yani modelin tutarsız olması burada bir kanıt değil, çünkü ortada tutarlı olunacak bir gerçek yok. Asıl güçlü kısım ikinci adım: aynı örnekleri geri verince onları savunması. O, ölçütün uydurma olmasından bağımsız bir kusur. Birinci adımı çok sıkı bir kanıt gibi sunma, ikincisi senin asıl bulgun.
-
Bir şey sorayım: sesli harf sayma örneğinde "artık doğru tespit edilince çağrılan bir betik var" diyorsun. Bunu nasıl bu kadar emin söylüyorsun? Modelin bazı görevlerde araç çağırması mümkün, ama "hissediyorum" ile "biliyorum" arasındaki o boşluk tam da senin uyardığın kesinlik tuzağı değil mi? Test güzel, ama kendi sezgine de aynı şüpheyi uygulamak lazım.
-
Ben de bunu denedim, bir tartışmada haklı olduğuma emin olmadığım bir konuyu modele anlattım, o da bana hak verdi. Sonra karşı tarafın argümanını anlattım, ona da hak verdi. İki turda iki zıt görüşü de "çok yerinde" buldu. O an anladım ki bu bir akıl hocası değil, bir alkış makinesi. Sen ne dersen "harika tespit" diyor, üzücü olan da insanın buna alışması.
-
"Anlamadığın konuları yapay zekâyla konuşmak sana bir şey öğretmez, sadece hatalarının doğru olduğuna daha çok inandırır" cümlesi yazının en değerli yeri. Çünkü bu sadece eğlenceli bir test değil, gerçek bir risk. İnsan bir konuda yarı bilgiliyken modele danışınca, model onu nazikçe haklı çıkarıyor ve o yarı bilgi kesinliğe dönüşüyor. Tehlike yanlış cevap değil; yanlış cevabın seni daha emin yapması.
-
Gollum'un hem en zayıf hem en güçlü olduğuna ikna olabilen tek bir şey var, o da seni memnun etmek için her ikisine de gerekçe bulan bir makine. Sıfır baskı altında çöktü, bence en zayıflardan biri o.