ตอนนี้มีแฟนตาซีของผู้บริหารระบาดอยู่อย่างหนึ่ง คือ AI จะมาแทนคนทำงานได้ ถึงมันจะแทนบางส่วนได้จริง แต่ผู้บริหารกลับมีจินตนาการที่ทำให้รู้สึกว่าตัวเองทำงานของลูกน้องเองได้ด้วย AI ว่าตัวเองเขียน code เป็น แค่เปิด dashboard ที่มี agent ตั้งชื่อเรียงกันเต็มไปหมด มองดู task ขยับข้ามช่องไปมา สั่งขออัปเดตด้วยน้ำเสียงเจ้านาย แล้วก็ได้ feature ตามใจชอบ มันเหมือนฝัน โดยเฉพาะตอนเอาไอเดียใหญ่ๆของตัวเองยัดเข้าไป แล้ว AI บอกว่าคุณเก่งมาก ตอนนี้มันมีคำเรียกอาการนี้ด้วยซ้ำ คือ AI psychosis.
นั่นแหละเหตุผลที่ความตื่นเต้นเรื่อง AI ของผู้บริหารตอนนี้มองจากข้างนอกดูหลงๆ ไม่ใช่เพราะเครื่องมือมันทำอะไรไม่ได้ ไม่ใช่เพราะไม่มีใครได้ประโยชน์จากมัน แต่ยิ่งคุณอยู่สูงใน org chart เท่าไหร่ ก็ยิ่งห่างจากงานจริงและรายละเอียดมากขึ้นเท่านั้น รายละเอียดที่ผู้ใช้ชอบ รายละเอียดที่ AI มันหลอนขึ้นมาแล้วค่อยๆกัดกร่อนออกไปจาก product ของคุณ เพื่อดึงมันให้เข้าใกล้ค่าเฉลี่ยที่มันถูกเทรนมา
ปัญหาเรื่องการประจบยิ่งทำให้แย่ลงไปอีก โมเดลทุกวันนี้มักจะกระตือรือร้นเกินไปที่จะฟังดูลื่นไหล เป็นประโยชน์ และคอยเออออ เพราะมันถูกเทรนมาจาก feedback แบบนั้น ผู้ใช้พอใจไหม ดี งั้นก็เรียนรู้จากอะไรก็ตามที่ทำลงไปในบทสนทนานั้น เอาแบบนี้ไปใส่ในมือคนที่มีอำนาจซึ่งใช้ชีวิตห่างจากการถูกขัดอยู่แล้ว คุณก็จะได้วงจรร้ายๆที่ลูกน้องอาจจะพยายามบอกว่าไอเดียของคุณมันไม่ดี แต่ AI กลับเอาแต่บอกว่าไอเดียคุณเจ๋งแค่ไหน และมันคือสิ่งที่ถูกต้องที่ควรทำ
ต้องคิดกับ AI เหมือนเด็กฝึกงานติดวิกิพีเดียที่อยากเอาใจคนแล้วเมายาอยู่ และต้องมีผู้เชี่ยวชาญตัวจริงคอยคุม คุณคงไม่ปล่อยให้เด็กฝึกงานนำการผ่าตัดหัวใจแบบเปิดหรอกใช่ไหม งั้นก็อย่าไปนึกว่าคุณคุม AI ให้ทำแบบนั้นได้
และมีงานวิจัยอีกหลายชิ้น เช่นอันนี้ https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ ที่กำลังรวบรวมข้อมูลเรื่องคนที่เสียสติไปกับวงจร feedback เสพติดซึ่งทำให้รู้สึกว่าตัวเองฉลาดและถูกเข้าใจ