Ortalıkta yeni bir yönetici fantezisi dolaşıyor: yapay zekânın çalışanların yerini alabileceği. Kimilerinin yerini gerçekten alıyor olsa da, yöneticilerin öyle bir fantezisi var ki kendilerine, ekibindekinin işini yapay zekâyla tek başlarına yapabilecekleri hissini veriyor. Kod yazabileceklerini! Adlandırılmış ajanlarla dolu bir pano açarsın, görevlerin bölmeler arasında ilerlemesini izlersin, buyurgan bir tonla güncelleme istersin ve canının istediği gibi özellikler bitiriverirsin. Bir rüya gibi geliyor, özellikle de "büyük fikirler düşün" fikirlerini ona verip yapay zekâ sana ne kadar muhteşem olduğunu söylediğinde. Artık bunun bir adı bile var: yapay zekâ psikozu.
İşte bu yüzden bir sürü yöneticinin yapay zekâya duyduğu heves dışarıdan sanrılı görünüyor. Araçlar hiçbir şey yapmadığı için değil. Kimse onlardan değer alamadığı için değil. Organizasyon şemasında ne kadar yukarıdaysanız, asıl işten ve ayrıntılardan o kadar uzaksınız. Kullanıcıların sevdiği ayrıntılardan. Yapay zekânın uydurduğu ve ürününüzü, eğitildiği ortalamaya yaklaştırma çabasıyla yavaş yavaş aşındırdığı ayrıntılardan.
Yağcılık sorunu bunu daha da kötüleştiriyor. Mevcut modeller çoğu zaman fazla pürüzsüz, yardımsever ve onaylayıcı ses çıkarmaya can atıyor, çünkü bu tür geri bildirimlerle eğitiliyorlar. Kullanıcı mutlu mu oldu? Harika, o zaman o konuşmada her ne yaptıysan ondan öğren. Bunu, çelişkiyle aralarında zaten mesafe olan güçlü birinin eline verin; öyle berbat bir döngü çıkar ki çalışanlarınız fikrinizin iyi olmadığını söylemeye çalışabilir, ama yapay zekâ size sürekli ne kadar muhteşem olduğunu ve yapılacak doğru şeyin bu olduğunu söyler.
Yapay zekâyı, memnun etmeye can atan, vikipedi bağımlısı, kokainli bir stajyer gibi düşünmeli ve gerçek bir uzmanın yönetiminde tutmalı. Bir stajyere açık kalp ameliyatı yaptırmaya kalkmazsınız, değil mi? O zaman yapay zekâyı bunu yaparken kontrol edebileceğiniz izlenimine de kapılmayın.
Ve birçok çalışma, mesela şu: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ insanların, kendilerini akıllı ve anlaşılmış hissettiren o bağımlılık yapan geri bildirim döngüsüyle aklını kaçırması hakkında bilgi derliyor.