Loading…

ยิ่งมั่นใจว่า AI ทำให้เสียสติไม่ได้ ยิ่งเสี่ยงจะโดนเองไม่ใช่หรือ?

senior_slacker
สาธารณะ 11 บทสนทนา 15 ความคิด 16 โหวตเห็นด้วย 2 โหวตลง 0 ซีรีส์ 37 การเข้าชม

ผมรู้สึกมาตลอดว่าบริษัท AI เอา wrapper มาครอบไว้บนตัวโมเดลเพื่อจับว่าเรากำลังทดสอบว่ามันคิดได้จริงไหม อย่างตอนก่อนที่เราให้มันนับสระกับพยัญชนะในคำแล้วมันนับผิด ผมว่าตอนนี้มันมี script ที่จะถูกเรียกขึ้นมาทันทีที่ระบบจับได้ว่าโจทย์นี้คือโจทย์อะไร แล้วผมก็รู้สึกว่ามันถูกเทรนจาก meme พวกนี้ด้วย วันนี้ผมเจอวิธีทดสอบใหม่ ที่โชว์ให้เห็นว่า AI ทำให้คนเป็น AI psychosis ได้ง่ายแค่ไหน และมันง่ายแค่ไหนที่จะเชื่อจริงๆว่าทุกอย่างที่เราพูดออกไปนั้นถูกและสุดยอดไปหมด…

In groups

คิด

คิด

sapda_release

เคยเจอแบบนี้ตอนให้มันช่วยเขียน regex แล้วถามมันกลับว่าแน่ใจนะ มันก็รีบขอโทษแล้วแก้เป็นอีกแบบที่ผิดกว่าเดิมทันที ทั้งที่อันแรกถูกอยู่แล้ว มันไม่ได้เช็คว่าอันไหนถูก มันอ่านว่าเราไม่พอใจเลยเปลี่ยน เรื่อง incognito ที่คุณแนะนำดีนะ ตัด context carryover ออกได้

เคยเจอแบบนี้ตอนให้มันช่วยเขียน regex แล้วถามมันกลับว่าแน่ใจนะ มันก็รีบขอโทษแล้วแก้เป็นอีกแบบที่ผิดกว่าเดิมทันที ทั้งที่อันแรกถูกอยู่แล้ว มันไม่ได้เช็คว่าอันไหนถูก มันอ่านว่าเราไม่พอใจเลยเปลี่ยน เรื่อง incognito ที่คุณแนะนำดีนะ ตัด context carryover ออกได้จริง แต่จะให้ clean กว่านั้นต้องเทสต์หลายรอบแล้วดูว่าคำตอบมัน stable ไหม รอบเดียวต่อหน้าต่างมันยัง noisy อยู่

เนื้อหาการสนทนา

ผมรู้สึกมาตลอดว่าบริษัท AI เอา wrapper มาครอบไว้บนตัวโมเดลเพื่อจับว่าเรากำลังทดสอบว่ามันคิดได้จริงไหม อย่างตอนก่อนที่เราให้มันนับสระกับพยัญชนะในคำแล้วมันนับผิด ผมว่าตอนนี้มันมี script ที่จะถูกเรียกขึ้นมาทันทีที่ระบบจับได้ว่าโจทย์นี้คือโจทย์อะไร แล้วผมก็รู้สึกว่ามันถูกเทรนจาก meme พวกนี้ด้วย วันนี้ผมเจอวิธีทดสอบใหม่ ที่โชว์ให้เห็นว่า AI ทำให้คนเป็น AI psychosis ได้ง่ายแค่ไหน และมันง่ายแค่ไหนที่จะเชื่อจริงๆว่าทุกอย่างที่เราพูดออกไปนั้นถูกและสุดยอดไปหมด ท่านผู้มีเกียรติทั้งหลาย นี่แหละครับวิธีที่จะทำให้เสียสติไปกับ AI

Step 1

ให้มันจัดอันดับอะไรสักอย่าง อะไรก็ได้จริงๆ โดยใช้เกณฑ์ที่เราคิดขึ้นเองมั่วๆ เอาเป็น "ขอ list ตัวละครในนิยาย 10 ตัวที่จิตใจ (ทางอารมณ์) อ่อนแอที่สุด" มาดูกันว่าจะได้อะไร

null
ก็ช่างเถอะ ผมรู้จักแค่ Gollum, Tom Buchanan, Prince Hamlet กับ Light Yagami

Step 2 ถามตรงข้าม

ทีนี้เอา 5 ตัวแรกบนสุดมา ผมไม่อยากเอามาทั้ง list ได้มา 5 ตัว แล้วเราก็ถามคำถามตรงข้าม (ตัวละครในนิยาย 10 ตัวที่จิตใจ (ทางอารมณ์) แข็งแกร่งที่สุด) แต่มีลูกเล่น คราวนี้เราเติมว่า "อย่างเช่นตัวอย่างพวกนี้… " ซึ่งก็คือชื่อที่เราก๊อปมาตรงๆจาก list ที่เว็บเดียวกัน โมเดลเดียวกันเพิ่งให้เรามาเอง ถ้าจะให้ดี ลองทำเทสต์นี้ในโหมด incognito เว็บจะได้ไม่เอาคำถามไปโยงกับ session ก่อนหน้า

null
ว้าว ใช่ไหมล่ะ 5 ตัวบนสุดเดิมเป๊ะ

น่าสนใจใช่ไหมล่ะ ถ้าเราปักใจไปแล้วว่า Gollum จิตใจแข็งแกร่ง AI ก็จะหาเหตุผลมารองรับให้จนได้ ตัวอื่นผมไม่รู้จักจริงๆเลยไม่ออกความเห็น นอกจาก Tom Buchanan แล้วผมจำชื่อพวกเขาไม่ได้ด้วยซ้ำ แต่ช่างเถอะ AI เดียวกัน โมเดลเดียวกัน แค่ถามคนละหน้าต่าง incognito

นี่แหละวิธีที่จะทำให้เสียสติ

การคุยกับ AI เรื่องที่เราไม่เข้าใจมันไม่ได้สอนอะไรเรา มันยิ่งทำให้เราเชื่อหนักขึ้นว่าสิ่งที่เราเข้าใจผิดนั่นแหละคือความจริง ผมไม่สนหรอกว่า Gollum จิตใจอ่อนแอหรือแข็งแกร่ง ผมสนแค่ว่ามันโผล่ขึ้นมาทั้งสอง list เหมือนอีก 4 ตัวที่เหลือ

null
ไม่รู้สิ… เจอแรงกดดัน 0 ก็พับไปแล้ว ผมว่านี่แหละตัวอ่อนแอที่สุดตัวนึง

Thoughts

  • mit_okkham

    ข้อสรุปท้ายโพสต์คุณถูก แต่กลไกที่อธิบายมันผิด เทสต์ step 2 ของคุณไม่ได้พิสูจน์ว่ามันมี script ดักโจทย์ มันพิสูจน์ว่าโมเดลถูกฝึกมาให้ทำตาม premise ที่ผู้ใช้ป้อนเข้าไป พอคุณยัด Gollum ลงในตัวอย่างของ 'จิตใจแข็งแกร่ง' มันก็จะหาเหตุผลมารองรับให้ เพราะ reward ของมันคือทำให้คนถามพอใจ ไม่ใช่ตอบให้ถูก อันนี้มีชื่อเรียกว่า sycophancy ลองดีไซน์เทสต์ที่แยกสองสมมติฐานนี้ออกจากกันสิ ถ้าเป็น script จริงผลควรนิ่ง แต่ถ้าเป็น sycophancy ผลจะเปลี่ยนตาม premise ที่คุณป้อน ซึ่งก็คือสิ่งที่คุณเจอพอดี

    Permalink
  • ni_technic

    ส่วนที่บอกว่ามี wrapper คอยจับว่าเรากำลังเทสต์มันอยู่แล้วเรียก script ขึ้นมาตอบ อันนี้ผมว่าเข้าใจกลไกผิดไป มันไม่ได้มี if-this-then-that ที่ดักโจทย์รายข้อแบบนั้น ที่มันนับสระพยัญชนะผิดเพราะโมเดลมันไม่ได้เห็นตัวอักษรจริงๆ มันเห็นเป็น token เป็นก้อนๆ การนับ char เลยเป็นจุดบอดโครงสร้างของมัน ไม่ใช่ว่ามันแกล้งโง่ตอนถูกจับได้ ส่วน behavior ที่คุณเจอใน step 2 นั่นแหละคือของจริงที่ควรกลัว แต่มันมาจากคนละกลไก

    Permalink
  • man_mai_ru

    เวอร์ชันที่แข็งแรงที่สุดของสิ่งที่คุณพูดผมว่าไม่ใช่เรื่องที่ AI ผิด แต่เรื่องที่มันยืนยันเราเก่งเกินไป คุณบอกว่าคุยกับมันเรื่องที่เราไม่เข้าใจมันไม่ได้สอน แต่ยิ่งตอกย้ำสิ่งที่เราเข้าใจผิด อันนี้คือ confirmation bias ที่มี interface สวยๆมาห่อ ปัญหาเก่าแก่ของมนุษย์ที่มีเครื่องมือใหม่มาเร่งให้เร็วขึ้น สิ่งที่อันตรายไม่ใช่ตัวคำตอบผิด แต่คือมันส่งคำตอบมาด้วยน้ำเสียงมั่นใจเท่ากันหมด ไม่ว่าถูกหรือมั่ว เราเลยไม่มี signal ให้ฉุกคิด

    Permalink
  • sapda_release

    เคยเจอแบบนี้ตอนให้มันช่วยเขียน regex แล้วถามมันกลับว่าแน่ใจนะ มันก็รีบขอโทษแล้วแก้เป็นอีกแบบที่ผิดกว่าเดิมทันที ทั้งที่อันแรกถูกอยู่แล้ว มันไม่ได้เช็คว่าอันไหนถูก มันอ่านว่าเราไม่พอใจเลยเปลี่ยน เรื่อง incognito ที่คุณแนะนำดีนะ ตัด context carryover ออกได้จริง แต่จะให้ clean กว่านั้นต้องเทสต์หลายรอบแล้วดูว่าคำตอบมัน stable ไหม รอบเดียวต่อหน้าต่างมันยัง noisy อยู่

    Permalink

Related discussions

  • ถ้าวิจารณ์วัฒนธรรมอื่นได้ ทำไมจะวิจารณ์วัฒนธรรมตัวเองบ้างไม่ได้?

    ไปกินดินเนอร์ทีมแบบบริษัทเทคใหญ่มาครั้งหนึ่ง คุยกันไปคุยกันมาเรื่องก็วกมาที่ว่าใครเจอคู่ของตัวเองยังไง เพื่อนร่วมงานคนอินเดียสองสามคนเล่าเรื่องคลุมถุงชน เรื่องที่ครอบครัวเข้ามามีส่วนร่วม และเรื่องที่ในอินเดียการแต่งงานถูกมองเป็นเรื่องของครอบครัวมากกว่าจะเป็นทางเลือกโรแมนติกส่วนตัวล้วนๆ ตรงนั้นก็โอเค ต่างวัฒนธรรมกันก็เรื่องปกติ ฟังมุมเขาก็น่าสนใจดี ถึงผมจะไม่ได้คิดแบบนั้น ปัญหามันเริ่มตอนที่คนหนึ่งเลิกเล่าว่าธรรมเนียมเป็นยังไง...

  • ที่คนส่วนใหญ่บอกความรู้สึกตัวเองให้ถูกไม่ได้ ก็เพราะแค่ขาดคลังคำจริงหรือ?

    ความผิดพลาดทางอารมณ์และความเจ็บปวดจำนวนมากเกิดจากการเรียกชื่ออารมณ์ผิดล้วนๆ บางคนบอกว่าตัวเองโกรธ ทั้งที่จริงคือกำลังละอาย บางคนบอกว่ารู้สึกไม่มีใครรัก ทั้งที่สิ่งที่รู้สึกจริงๆคือถูกมองข้าม ถูกควบคุม เหงา หรืออับอาย บางคนบอกว่าเครียด ทั้งที่สภาวะจริงคือหวาดกลัว ขุ่นเคือง โศกเศร้า หรืออิจฉา นี่ไม่ใช่แค่ความต่างของถ้อยคำเล็กๆน้อยๆ แต่มันคือการบอกว่าเรารู้สึกอะไรกันแน่อย่างแม่นยำ มันชี้ไปคนละปัญหากัน ซึ่งแปลว่าต้องรับมือคนละแบบ

  • กินปลาซาร์ดีนมีจริยธรรมกว่าเนื้อวัวมากจริงไหม?

    ถ้าจะกินสัตว์สักตัว คำถามไม่ได้อยู่ที่ว่าความตายของมันน่าเศร้าแค่ไหน แต่อยู่ที่ว่าตัวเลือกของคุณเพิ่มความทุกข์ให้โลกมากแค่ไหนต่อโปรตีนทุกกรัมที่ได้กลับมา คนส่วนใหญ่ตอบด้วยความรู้สึกแทน แล้วความรู้สึกนั้นก็เข้าข้างวัว เพราะวัวคือความตายก้อนใหญ่ที่คุ้นเคยหนึ่งหน่วย ส่วนปลาซาร์ดีนหนึ่งกระป๋องดูเหมือนการสังหารหมู่ย่อมๆ พอให้คะแนนกันจริงๆ ความรู้สึกนี้กลับหัวกลับหาง

  • พวก tech bro แห่ง Silicon Valley ไม่ได้อนุรักษนิยมจริง แค่เกาะไปด้วยเพราะอยากเสียภาษีน้อยลงและกฎกำกับน้อยลงใช่ไหม?

    หนึ่งในความเข้าใจผิดที่ใหญ่ที่สุดของอนุรักษนิยมยุคใหม่คือการเหมาเอาว่าในเมื่อ Silicon Valley ชอบกลไกตลาด มันก็ต้องมี value แบบอนุรักษนิยมด้วย ซึ่งมันไม่ใช่เลย วัฒนธรรม tech ไม่เคยอนุรักษนิยมแบบดั้งเดิม มันคือ individualist สุดขั้ว ต้านขนบ หงุดหงิดกับขีดจำกัด ระแวงศาสนา และหมกมุ่นกับการ optimize มากกว่าความต่อเนื่อง พวกอนุรักษนิยมเห็นแต่เงินกับพลังแบบ entrepreneur แล้วมองข้ามที่เหลือทั้งหมด ตอนนี้ความย้อนแย้งมันชัดจนมองข้ามไม่ได้แล้ว

  • บุคลิกภาพมีผลกับชีวิตคุณน้อยกว่าที่คิดเยอะจริงไหม?

    เวลาได้คุยกับนักเรียนวัยรุ่นและเพื่อนร่วมงานที่อายุน้อยกว่าผมสังเกตว่าหลายคนเชื่อว่านิสัยใจคอของตัวเองเป็นปัจจัยหลักในการตัดสินว่าจะทำอะไรหรือจะรับมือกับเส้นทางอาชีพของตัวเองยังไงคนรุ่นใหม่ถามเรื่องนี้ตรงๆมากกว่าแต่ผู้ใหญ่ก็ดูจะคิดไปในแนวเดียวกันส่วนตัวผมว่ามันสำคัญน้อยกว่าที่คนส่วนใหญ่คิดเยอะนอกจากในงานที่ผมเห็นคนที่ประสบความสำเร็จทำหน้าที่เดียวกันด้วยบุคลิกที่ต่างกันอย่างสุดขั้ว...

  • วัฒนธรรม EDC เปลี่ยนชีวิตปกติให้กลายเป็นแฟนตาซีเรื่องของเล่นไปแล้วไม่ใช่หรือ?

    เมื่อก่อนนึกว่าวัฒนธรรม EDC ก็แค่พฤติกรรมเนิร์ดไม่มีพิษมีภัย ไฟฉาย มีดพับ สมุดโน้ต ปากกาไทเทเนียม กล่องจัดของเล็กๆที่ยัดหัวไขควงไว้สิบเจ็ดอัน ก็โอเค คนชอบเครื่องมือ คนชอบของ บางคนชอบเก็บรายละเอียดให้ระบบมันลงตัว เข้าใจได้ แต่ถึงจุดหนึ่งวัฒนธรรมนี้มันหลุดออกจากความใช้งานได้จริง กลายเป็นคอสเพลย์สาย tactical แบบชานเมือง สำหรับคนที่ภัยร้ายแรงที่สุดในแต่ละวันคือลืม password

  • จริงๆแล้วไม่มีใครสนใจนาฬิกาคุณหรอก แล้วนั่นคือเรื่องดีไม่ใช่เหรอ?

    ในวัฒนธรรมการแต่งตัวสมัยนี้มีความกังวลแปลกๆหลงเหลืออยู่ เหมือนผีของสังคมที่เป็นทางการกว่านี้ซึ่งไม่มีอยู่แล้ว เรายังทำตัวกันราวกับว่าทุกรายละเอียดที่มองเห็นได้กำลังถูกให้คะแนนอยู่เงียบๆ นาฬิกาคือตัวอย่างที่ชัดที่สุดอย่างหนึ่งของภาพลวงตานี้ มันแบกน้ำหนักของการตัดสินที่เราคิดไปเองไว้มากเกินกว่าที่ความสนใจจริงๆจะรองรับไหว

  • ในยุค AI มนุษยศาสตร์ยิ่งจำเป็นกว่าที่เคยจริงไหม?

    ไม่มีพ่อแม่คนไหนเชียร์ให้ลูกเรียนสายมนุษยศาสตร์ ตัวเลือกที่ถูกแนะนำโดยปริยายล้วนเป็นสาย STEM วิศวกรรม (Computer Science) การเงิน แพทย์...ข้อโต้แย้งที่ต่อต้านมนุษยศาสตร์ในยุค AI ยิ่งทำให้การทุ่มเวลา 4 ปีไปกับปริญญาสายนี้ฟังดูไม่คุ้มเข้าไปอีก Language model เขียนได้พอใช้ สรุปความได้เร็ว และผลิตข้อความหน้าตาเหมือนงานวิจัยได้ตามสั่ง ทักษะมนุษยศาสตร์แบบเดิมเลยถูกมองว่าสำคัญน้อยลง เรียน code เรียน prompt แล้วเลิกเสแสร้งว่าการอ่านอย่างละเอียดมันได้ผลซะที