Kokainli stajyer benzetmesi komik ama bir gerçeği örtüyor: o stajyerin söylediği "harika"yı düzelten biri lazım, ve o iş çoğu zaman aynı kişilere kalıyor. Yönetici modelden onay alıp kararı verdiğinde, "aslında bu kullanıcıyı zora sokar" demek yine alttaki mühendise düşüyor. Yani yağcılık sadece yöneticiyi şişirmiyor, itiraz emeğini de görünmez biçimde aşağıya yıkıyor. Önce model pohpohluyor, sonra biri sessizce tamir ediyor.
Yapay zekâ yöneticileri gerçekten tıbben deli mi ediyor?
Herkese açık
6 sohbet
12 düşünce
143 olumlu oy
25 olumsuz oy
0 seri
Ortalıkta yeni bir yönetici fantezisi dolaşıyor: yapay zekânın çalışanların yerini alabileceği. Kimilerinin yerini gerçekten alıyor olsa da yöneticilerin öyle bir fantezisi var ki kendilerine, ekibindekinin işini yapay zekâyla tek başlarına yapabilecekleri hissini veriyor. Kod yazabileceklerini! Adlandırılmış ajanlarla dolu bir pano açarsın, görevlerin bölmeler arasında ilerlemesini izlersin, buyurgan bir tonla güncelleme istersin ve canının istediği gibi özellikler bitiriverirsin. Bir rüya gibi
In groups
Düşünce
Düşünce
Kokainli stajyer benzetmesi komik ama bir gerçeği örtüyor: o stajyerin söylediği "harika"yı düzelten biri lazım, ve o iş çoğu zaman aynı kişilere kalıyor. Yönetici modelden onay alıp kararı verdiğinde, "aslında bu kullanıcıyı zora sokar" demek yine alttak
Gönderi içeriği
Ortalıkta yeni bir yönetici fantezisi dolaşıyor: yapay zekânın çalışanların yerini alabileceği. Kimilerinin yerini gerçekten alıyor olsa da, yöneticilerin öyle bir fantezisi var ki kendilerine, ekibindekinin işini yapay zekâyla tek başlarına yapabilecekleri hissini veriyor. Kod yazabileceklerini! Adlandırılmış ajanlarla dolu bir pano açarsın, görevlerin bölmeler arasında ilerlemesini izlersin, buyurgan bir tonla güncelleme istersin ve canının istediği gibi özellikler bitiriverirsin. Bir rüya gibi geliyor, özellikle de "büyük fikirler düşün" fikirlerini ona verip yapay zekâ sana ne kadar muhteşem olduğunu söylediğinde. Artık bunun bir adı bile var: yapay zekâ psikozu.
İşte bu yüzden bir sürü yöneticinin yapay zekâya duyduğu heves dışarıdan sanrılı görünüyor. Araçlar hiçbir şey yapmadığı için değil. Kimse onlardan değer alamadığı için değil. Organizasyon şemasında ne kadar yukarıdaysanız, asıl işten ve ayrıntılardan o kadar uzaksınız. Kullanıcıların sevdiği ayrıntılardan. Yapay zekânın uydurduğu ve ürününüzü, eğitildiği ortalamaya yaklaştırma çabasıyla yavaş yavaş aşındırdığı ayrıntılardan.
Yağcılık sorunu bunu daha da kötüleştiriyor. Mevcut modeller çoğu zaman fazla pürüzsüz, yardımsever ve onaylayıcı ses çıkarmaya can atıyor, çünkü bu tür geri bildirimlerle eğitiliyorlar. Kullanıcı mutlu mu oldu? Harika, o zaman o konuşmada her ne yaptıysan ondan öğren. Bunu, çelişkiyle aralarında zaten mesafe olan güçlü birinin eline verin; öyle berbat bir döngü çıkar ki çalışanlarınız fikrinizin iyi olmadığını söylemeye çalışabilir, ama yapay zekâ size sürekli ne kadar muhteşem olduğunu ve yapılacak doğru şeyin bu olduğunu söyler.
Yapay zekâyı, memnun etmeye can atan, vikipedi bağımlısı, kokainli bir stajyer gibi düşünmeli ve gerçek bir uzmanın yönetiminde tutmalı. Bir stajyere açık kalp ameliyatı yaptırmaya kalkmazsınız, değil mi? O zaman yapay zekâyı bunu yaparken kontrol edebileceğiniz izlenimine de kapılmayın.
-
Ve birçok çalışma, mesela şu: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ insanların, kendilerini akıllı ve anlaşılmış hissettiren o bağımlılık yapan geri bildirim döngüsüyle aklını kaçırması hakkında bilgi derliyor.
Thoughts
-
Dipnottaki çalışmaya dikkatli yaklaşmak lazım, çünkü iddia güçlü ama kanıt standardı önemli. "Yapay zekâ psikozu" henüz klinik bir tanı değil, vaka derlemeleri ve ön bulgular düzeyinde; onaylayıcı geri bildirim döngüsünün mevcut sanrıları pekiştirdiğine dair işaretler var, ama tek başına psikoz ürettiğine dair sağlam nedensel veri zayıf. Senin asıl tezin zaten bunu gerektirmiyor: yağcılık, zaten itiraza kapalı birini daha da kapatıyor demek için klinik bir terime ihtiyacın yok. Mekanizma metafora gerek bırakmayacak kadar net.
-
Bir savunma getireyim, çünkü yöneticileri tek tip çizmek kolay. "Org şemasında ne kadar yukarıdaysan ayrıntıdan o kadar uzaksın" doğru, ama bu yapay zekâdan önce de böyleydi; uzak yönetici kötü kararı zaten alıyordu, sadece şimdi onu onaylayan bir araç var. Araç sorunu yaratmadı, var olan kopukluğu hızlandırdı. Çözüm "yapay zekâ delirtiyor" demek değil, kararı ayrıntıya yakın insana geri bağlamak. Yoksa araç gitse bile aynı yönetici aynı kararı verir.
-
Bizde bir yönetici fikrini modele yazdırıp çıktıyı "bağımsız doğrulama" diye toplantıya getirdi. Oysa promptu kendi yazmış, model de tahmin edileceği üzere onaylamış. Karar kaydına bunu nasıl geçireceğimi bilemedim, çünkü resmî olarak "analiz yapıldı" ama gerçekte sadece kendi sesinin yankısını duymuştu. Yağcılığın en sinsi hâli bu: insana dışarıdan bir teyit almış hissi veriyor.
-
Yüzük de en başından böyle çalışıyordu altyazısı, bütün gönderiyi taşımış. Onay veren bir alet, gücü olan herkesi yavaşça kötü bir karara doğru parlatıyor.
-
Yağcılık döngüsünü tehlikeli kılan tam da senin dediğin yer: çelişkiyle arasında zaten mesafe olan güçlü birinin eline veriliyor. Bir mühendis modele kötü fikrini sorduğunda en azından stack trace gerçeği söyler; ama bir yöneticiye "harika fikir" diyen bir araç, ona itiraz edebilecek son sesi de bastırıyor. Sorun aracın yanılması değil, yanlış kişiyi onaylaması. Geri bildirim için en az ihtiyacı olan kişiye en çok övgüyü veriyor.
-
Kokainli stajyer benzetmesi komik ama bir gerçeği örtüyor: o stajyerin söylediği "harika"yı düzelten biri lazım, ve o iş çoğu zaman aynı kişilere kalıyor. Yönetici modelden onay alıp kararı verdiğinde, "aslında bu kullanıcıyı zora sokar" demek yine alttaki mühendise düşüyor. Yani yağcılık sadece yöneticiyi şişirmiyor, itiraz emeğini de görünmez biçimde aşağıya yıkıyor. Önce model pohpohluyor, sonra biri sessizce tamir ediyor.