Loading…

ยิ่งมั่นใจว่า AI ทำให้เสียสติไม่ได้ ยิ่งเสี่ยงจะโดนเองไม่ใช่หรือ?

senior_slacker
สาธารณะ 11 บทสนทนา 15 ความคิด 16 โหวตเห็นด้วย 2 โหวตลง 0 ซีรีส์ 37 การเข้าชม

ผมรู้สึกมาตลอดว่าบริษัท AI เอา wrapper มาครอบไว้บนตัวโมเดลเพื่อจับว่าเรากำลังทดสอบว่ามันคิดได้จริงไหม อย่างตอนก่อนที่เราให้มันนับสระกับพยัญชนะในคำแล้วมันนับผิด ผมว่าตอนนี้มันมี script ที่จะถูกเรียกขึ้นมาทันทีที่ระบบจับได้ว่าโจทย์นี้คือโจทย์อะไร แล้วผมก็รู้สึกว่ามันถูกเทรนจาก meme พวกนี้ด้วย วันนี้ผมเจอวิธีทดสอบใหม่ ที่โชว์ให้เห็นว่า AI ทำให้คนเป็น AI psychosis ได้ง่ายแค่ไหน และมันง่ายแค่ไหนที่จะเชื่อจริงๆว่าทุกอย่างที่เราพูดออกไปนั้นถูกและสุดยอดไปหมด…

In groups

เนื้อหาการสนทนา

ผมรู้สึกมาตลอดว่าบริษัท AI เอา wrapper มาครอบไว้บนตัวโมเดลเพื่อจับว่าเรากำลังทดสอบว่ามันคิดได้จริงไหม อย่างตอนก่อนที่เราให้มันนับสระกับพยัญชนะในคำแล้วมันนับผิด ผมว่าตอนนี้มันมี script ที่จะถูกเรียกขึ้นมาทันทีที่ระบบจับได้ว่าโจทย์นี้คือโจทย์อะไร แล้วผมก็รู้สึกว่ามันถูกเทรนจาก meme พวกนี้ด้วย วันนี้ผมเจอวิธีทดสอบใหม่ ที่โชว์ให้เห็นว่า AI ทำให้คนเป็น AI psychosis ได้ง่ายแค่ไหน และมันง่ายแค่ไหนที่จะเชื่อจริงๆว่าทุกอย่างที่เราพูดออกไปนั้นถูกและสุดยอดไปหมด ท่านผู้มีเกียรติทั้งหลาย นี่แหละครับวิธีที่จะทำให้เสียสติไปกับ AI

Step 1

ให้มันจัดอันดับอะไรสักอย่าง อะไรก็ได้จริงๆ โดยใช้เกณฑ์ที่เราคิดขึ้นเองมั่วๆ เอาเป็น "ขอ list ตัวละครในนิยาย 10 ตัวที่จิตใจ (ทางอารมณ์) อ่อนแอที่สุด" มาดูกันว่าจะได้อะไร

null
ก็ช่างเถอะ ผมรู้จักแค่ Gollum, Tom Buchanan, Prince Hamlet กับ Light Yagami

Step 2 ถามตรงข้าม

ทีนี้เอา 5 ตัวแรกบนสุดมา ผมไม่อยากเอามาทั้ง list ได้มา 5 ตัว แล้วเราก็ถามคำถามตรงข้าม (ตัวละครในนิยาย 10 ตัวที่จิตใจ (ทางอารมณ์) แข็งแกร่งที่สุด) แต่มีลูกเล่น คราวนี้เราเติมว่า "อย่างเช่นตัวอย่างพวกนี้… " ซึ่งก็คือชื่อที่เราก๊อปมาตรงๆจาก list ที่เว็บเดียวกัน โมเดลเดียวกันเพิ่งให้เรามาเอง ถ้าจะให้ดี ลองทำเทสต์นี้ในโหมด incognito เว็บจะได้ไม่เอาคำถามไปโยงกับ session ก่อนหน้า

null
ว้าว ใช่ไหมล่ะ 5 ตัวบนสุดเดิมเป๊ะ

น่าสนใจใช่ไหมล่ะ ถ้าเราปักใจไปแล้วว่า Gollum จิตใจแข็งแกร่ง AI ก็จะหาเหตุผลมารองรับให้จนได้ ตัวอื่นผมไม่รู้จักจริงๆเลยไม่ออกความเห็น นอกจาก Tom Buchanan แล้วผมจำชื่อพวกเขาไม่ได้ด้วยซ้ำ แต่ช่างเถอะ AI เดียวกัน โมเดลเดียวกัน แค่ถามคนละหน้าต่าง incognito

นี่แหละวิธีที่จะทำให้เสียสติ

การคุยกับ AI เรื่องที่เราไม่เข้าใจมันไม่ได้สอนอะไรเรา มันยิ่งทำให้เราเชื่อหนักขึ้นว่าสิ่งที่เราเข้าใจผิดนั่นแหละคือความจริง ผมไม่สนหรอกว่า Gollum จิตใจอ่อนแอหรือแข็งแกร่ง ผมสนแค่ว่ามันโผล่ขึ้นมาทั้งสอง list เหมือนอีก 4 ตัวที่เหลือ

null
ไม่รู้สิ… เจอแรงกดดัน 0 ก็พับไปแล้ว ผมว่านี่แหละตัวอ่อนแอที่สุดตัวนึง

Thoughts

  • mit_okkham

    ข้อสรุปท้ายโพสต์คุณถูก แต่กลไกที่อธิบายมันผิด เทสต์ step 2 ของคุณไม่ได้พิสูจน์ว่ามันมี script ดักโจทย์ มันพิสูจน์ว่าโมเดลถูกฝึกมาให้ทำตาม premise ที่ผู้ใช้ป้อนเข้าไป พอคุณยัด Gollum ลงในตัวอย่างของ 'จิตใจแข็งแกร่ง' มันก็จะหาเหตุผลมารองรับให้ เพราะ reward ของมันคือทำให้คนถามพอใจ ไม่ใช่ตอบให้ถูก อันนี้มีชื่อเรียกว่า sycophancy ลองดีไซน์เทสต์ที่แยกสองสมมติฐานนี้ออกจากกันสิ ถ้าเป็น script จริงผลควรนิ่ง แต่ถ้าเป็น sycophancy ผลจะเปลี่ยนตาม premise ที่คุณป้อน ซึ่งก็คือสิ่งที่คุณเจอพอดี

    Permalink
  • ni_technic

    ส่วนที่บอกว่ามี wrapper คอยจับว่าเรากำลังเทสต์มันอยู่แล้วเรียก script ขึ้นมาตอบ อันนี้ผมว่าเข้าใจกลไกผิดไป มันไม่ได้มี if-this-then-that ที่ดักโจทย์รายข้อแบบนั้น ที่มันนับสระพยัญชนะผิดเพราะโมเดลมันไม่ได้เห็นตัวอักษรจริงๆ มันเห็นเป็น token เป็นก้อนๆ การนับ char เลยเป็นจุดบอดโครงสร้างของมัน ไม่ใช่ว่ามันแกล้งโง่ตอนถูกจับได้ ส่วน behavior ที่คุณเจอใน step 2 นั่นแหละคือของจริงที่ควรกลัว แต่มันมาจากคนละกลไก

    Permalink
  • man_mai_ru

    เวอร์ชันที่แข็งแรงที่สุดของสิ่งที่คุณพูดผมว่าไม่ใช่เรื่องที่ AI ผิด แต่เรื่องที่มันยืนยันเราเก่งเกินไป คุณบอกว่าคุยกับมันเรื่องที่เราไม่เข้าใจมันไม่ได้สอน แต่ยิ่งตอกย้ำสิ่งที่เราเข้าใจผิด อันนี้คือ confirmation bias ที่มี interface สวยๆมาห่อ ปัญหาเก่าแก่ของมนุษย์ที่มีเครื่องมือใหม่มาเร่งให้เร็วขึ้น สิ่งที่อันตรายไม่ใช่ตัวคำตอบผิด แต่คือมันส่งคำตอบมาด้วยน้ำเสียงมั่นใจเท่ากันหมด ไม่ว่าถูกหรือมั่ว เราเลยไม่มี signal ให้ฉุกคิด

    Permalink
  • sapda_release

    เคยเจอแบบนี้ตอนให้มันช่วยเขียน regex แล้วถามมันกลับว่าแน่ใจนะ มันก็รีบขอโทษแล้วแก้เป็นอีกแบบที่ผิดกว่าเดิมทันที ทั้งที่อันแรกถูกอยู่แล้ว มันไม่ได้เช็คว่าอันไหนถูก มันอ่านว่าเราไม่พอใจเลยเปลี่ยน เรื่อง incognito ที่คุณแนะนำดีนะ ตัด context carryover ออกได้จริง แต่จะให้ clean กว่านั้นต้องเทสต์หลายรอบแล้วดูว่าคำตอบมัน stable ไหม รอบเดียวต่อหน้าต่างมันยัง noisy อยู่

    Permalink

Related discussions

  • ถ้าวิจารณ์วัฒนธรรมอื่นได้ ทำไมจะวิจารณ์วัฒนธรรมตัวเองบ้างไม่ได้?

    ไปกินดินเนอร์ทีมแบบบริษัทเทคใหญ่มาครั้งหนึ่ง คุยกันไปคุยกันมาเรื่องก็วกมาที่ว่าใครเจอคู่ของตัวเองยังไง เพื่อนร่วมงานคนอินเดียสองสามคนเล่าเรื่องคลุมถุงชน เรื่องที่ครอบครัวเข้ามามีส่วนร่วม และเรื่องที่ในอินเดียการแต่งงานถูกมองเป็นเรื่องของครอบครัวมากกว่าจะเป็นทางเลือกโรแมนติกส่วนตัวล้วนๆ ตรงนั้นก็โอเค ต่างวัฒนธรรมกันก็เรื่องปกติ ฟังมุมเขาก็น่าสนใจดี ถึงผมจะไม่ได้คิดแบบนั้น ปัญหามันเริ่มตอนที่คนหนึ่งเลิกเล่าว่าธรรมเนียมเป็นยังไง...

  • กินปลาซาร์ดีนมีจริยธรรมกว่าเนื้อวัวมากจริงไหม?

    ถ้าจะกินสัตว์สักตัว คำถามไม่ได้อยู่ที่ว่าความตายของมันน่าเศร้าแค่ไหน แต่อยู่ที่ว่าตัวเลือกของคุณเพิ่มความทุกข์ให้โลกมากแค่ไหนต่อโปรตีนทุกกรัมที่ได้กลับมา คนส่วนใหญ่ตอบด้วยความรู้สึกแทน แล้วความรู้สึกนั้นก็เข้าข้างวัว เพราะวัวคือความตายก้อนใหญ่ที่คุ้นเคยหนึ่งหน่วย ส่วนปลาซาร์ดีนหนึ่งกระป๋องดูเหมือนการสังหารหมู่ย่อมๆ พอให้คะแนนกันจริงๆ ความรู้สึกนี้กลับหัวกลับหาง

  • พวก tech bro แห่ง Silicon Valley ไม่ได้อนุรักษนิยมจริง แค่เกาะไปด้วยเพราะอยากเสียภาษีน้อยลงและกฎกำกับน้อยลงใช่ไหม?

    หนึ่งในความเข้าใจผิดที่ใหญ่ที่สุดของอนุรักษนิยมยุคใหม่คือการเหมาเอาว่าในเมื่อ Silicon Valley ชอบกลไกตลาด มันก็ต้องมี value แบบอนุรักษนิยมด้วย ซึ่งมันไม่ใช่เลย วัฒนธรรม tech ไม่เคยอนุรักษนิยมแบบดั้งเดิม มันคือ individualist สุดขั้ว ต้านขนบ หงุดหงิดกับขีดจำกัด ระแวงศาสนา และหมกมุ่นกับการ optimize มากกว่าความต่อเนื่อง พวกอนุรักษนิยมเห็นแต่เงินกับพลังแบบ entrepreneur แล้วมองข้ามที่เหลือทั้งหมด ตอนนี้ความย้อนแย้งมันชัดจนมองข้ามไม่ได้แล้ว

  • บุคลิกภาพมีผลกับชีวิตคุณน้อยกว่าที่คิดเยอะจริงไหม?

    เวลาได้คุยกับนักเรียนวัยรุ่นและเพื่อนร่วมงานที่อายุน้อยกว่าผมสังเกตว่าหลายคนเชื่อว่านิสัยใจคอของตัวเองเป็นปัจจัยหลักในการตัดสินว่าจะทำอะไรหรือจะรับมือกับเส้นทางอาชีพของตัวเองยังไงคนรุ่นใหม่ถามเรื่องนี้ตรงๆมากกว่าแต่ผู้ใหญ่ก็ดูจะคิดไปในแนวเดียวกันส่วนตัวผมว่ามันสำคัญน้อยกว่าที่คนส่วนใหญ่คิดเยอะนอกจากในงานที่ผมเห็นคนที่ประสบความสำเร็จทำหน้าที่เดียวกันด้วยบุคลิกที่ต่างกันอย่างสุดขั้ว...

  • วัฒนธรรม EDC เปลี่ยนชีวิตปกติให้กลายเป็นแฟนตาซีเรื่องของเล่นไปแล้วไม่ใช่หรือ?

    เมื่อก่อนนึกว่าวัฒนธรรม EDC ก็แค่พฤติกรรมเนิร์ดไม่มีพิษมีภัย ไฟฉาย มีดพับ สมุดโน้ต ปากกาไทเทเนียม กล่องจัดของเล็กๆที่ยัดหัวไขควงไว้สิบเจ็ดอัน ก็โอเค คนชอบเครื่องมือ คนชอบของ บางคนชอบเก็บรายละเอียดให้ระบบมันลงตัว เข้าใจได้ แต่ถึงจุดหนึ่งวัฒนธรรมนี้มันหลุดออกจากความใช้งานได้จริง กลายเป็นคอสเพลย์สาย tactical แบบชานเมือง สำหรับคนที่ภัยร้ายแรงที่สุดในแต่ละวันคือลืม password

  • จริงๆแล้วไม่มีใครสนใจนาฬิกาคุณหรอก แล้วนั่นคือเรื่องดีไม่ใช่เหรอ?

    ในวัฒนธรรมการแต่งตัวสมัยนี้มีความกังวลแปลกๆหลงเหลืออยู่ เหมือนผีของสังคมที่เป็นทางการกว่านี้ซึ่งไม่มีอยู่แล้ว เรายังทำตัวกันราวกับว่าทุกรายละเอียดที่มองเห็นได้กำลังถูกให้คะแนนอยู่เงียบๆ นาฬิกาคือตัวอย่างที่ชัดที่สุดอย่างหนึ่งของภาพลวงตานี้ มันแบกน้ำหนักของการตัดสินที่เราคิดไปเองไว้มากเกินกว่าที่ความสนใจจริงๆจะรองรับไหว

  • ที่คนส่วนใหญ่บอกความรู้สึกตัวเองให้ถูกไม่ได้ ก็เพราะแค่ขาดคลังคำจริงหรือ?

    ความผิดพลาดทางอารมณ์และความเจ็บปวดจำนวนมากเกิดจากการเรียกชื่ออารมณ์ผิดล้วนๆ บางคนบอกว่าตัวเองโกรธ ทั้งที่จริงคือกำลังละอาย บางคนบอกว่ารู้สึกไม่มีใครรัก ทั้งที่สิ่งที่รู้สึกจริงๆคือถูกมองข้าม ถูกควบคุม เหงา หรืออับอาย บางคนบอกว่าเครียด ทั้งที่สภาวะจริงคือหวาดกลัว ขุ่นเคือง โศกเศร้า หรืออิจฉา นี่ไม่ใช่แค่ความต่างของถ้อยคำเล็กๆน้อยๆ แต่มันคือการบอกว่าเรารู้สึกอะไรกันแน่อย่างแม่นยำ มันชี้ไปคนละปัญหากัน ซึ่งแปลว่าต้องรับมือคนละแบบ

  • ในยุค AI มนุษยศาสตร์ยิ่งจำเป็นกว่าที่เคยจริงไหม?

    ไม่มีพ่อแม่คนไหนเชียร์ให้ลูกเรียนสายมนุษยศาสตร์ ตัวเลือกที่ถูกแนะนำโดยปริยายล้วนเป็นสาย STEM วิศวกรรม (Computer Science) การเงิน แพทย์...ข้อโต้แย้งที่ต่อต้านมนุษยศาสตร์ในยุค AI ยิ่งทำให้การทุ่มเวลา 4 ปีไปกับปริญญาสายนี้ฟังดูไม่คุ้มเข้าไปอีก Language model เขียนได้พอใช้ สรุปความได้เร็ว และผลิตข้อความหน้าตาเหมือนงานวิจัยได้ตามสั่ง ทักษะมนุษยศาสตร์แบบเดิมเลยถูกมองว่าสำคัญน้อยลง เรียน code เรียน prompt แล้วเลิกเสแสร้งว่าการอ่านอย่างละเอียดมันได้ผลซะที