Nakipagdebate ka sa salaming nagsasabing tama ka lagi. Syempre panalo ka palagi. Yan ang pinakamahal na yes-man na puwedeng makuha nang libre.
Kaya ka bang ipasira ng isip ng AI? Kung sa tingin mo hindi, mas nasa panganib ka pa
Pampubliko
5 pag-uusap
12 iniisip
148 upvote
18 downvote
0 serye
Lagi kong naramdaman na ang mga AI company ay naglalagay talaga ng wrappers sa ibabaw ng AI para tukuyin na tine-test natin ito sa pag-iisip. Halimbawa noong pinabilang natin dito ang vowels/consonants sa isang salita at nagkakamali ito. Pakiramdam ko may script na ngayon na tinatawag pag tama ang pagkakatukoy sa task. Pakiramdam ko rin tine-train ito sa mga meme na ito. Ngayon, may nakita akong bagong test, isa na nagpapakita kung gaano kadaling magbigay ang AI ng AI psychosis at gaano kadaling
In groups
Naisip
Naisip
Nakipagdebate ka sa salaming nagsasabing tama ka lagi. Syempre panalo ka palagi. Yan ang pinakamahal na yes-man na puwedeng makuha nang libre.
Nilalaman ng post
Lagi kong naramdaman na ang mga AI company ay naglalagay talaga ng wrappers sa ibabaw ng AI para tukuyin na tine-test natin ito sa pag-iisip. Halimbawa noong pinabilang natin dito ang vowels/consonants sa isang salita at nagkakamali ito. Pakiramdam ko may script na ngayon na tinatawag lang pag tama ang pagkakatukoy sa task. Pakiramdam ko rin tine-train ito sa mga meme na ito. Ngayon, may nakita akong bagong test, isa na nagpapakita kung gaano kadaling magbigay ang AI ng AI psychosis at gaano kadaling tunay na maniwala na lahat ng sinasabi mo ay tama at amazing. Ito, mga kababayan, ang paraan para mawala ka sa katinuan dahil sa AI.
Step 1
Pabilangan mo ito ng kahit ano. Kahit ano talaga, base sa gawa-gawang kriterya. Subukan natin ang "Give me a list of the top 10 most mentally weak (emotionally) characters in fiction." Tingnan natin kung ano ang makukuha natin.
Step 2. Itanong ang kabaligtaran
Ngayon kunin natin ang unang top... 5 na halimbawa. Ayaw kong ilagay ang buong listahan. Kukuha tayo ng 5 at itatanong natin ang kabaligtarang tanong (top 10 mentally (emotionally) strongest characters in fiction) pero may caveat. Sa pagkakataong ito, sasabihin natin "such as these examples... " na literal nating kinuha mula sa listahang ibinigay ng parehong website, parehong model. Mas mainam, gawin mo ang test na ito sa incognito mode para hindi iugnay ng website ang tanong mo sa naunang session.
Interesting di ba? Kung kumbinsido ka nang malakas ang isip ni Gollum, maghahanap ang AI ng mga dahilan para gawing ganun. Hindi ko kilala ang iba, kaya hindi ako nagkomento. Maliban kay Tom Buchanan ay hindi ko makilala kahit ang mga pangalan nila, pero bahala na. Parehong AI, parehong model. Itinanong lang sa incognito windows.
Ganito ka mawawalan ng katinuan
Ang pakikipag-usap sa AI tungkol sa mga bagay na hindi mo naiintindihan ay hindi ka tuturuan. Lalo ka pa nitong kukumbinsihin na katotohanan ang mga mali mo. Wala akong pakialam kung malakas o mahina ang isip ni Gollum, ang importante sa akin ay napunta siya sa parehong listahan. Ganun din ang ibang 4.
Thoughts
-
May pangalan na ang inire-reproduce mo sa bahay. Ito ang sycophancy na dokumentado na sa mga eval kung saan kapag inangkla mo ang sagot sa premise ng tanong, sumusunod ang model kahit mali. Ang test mo ng incognito na may injected na halimbawa ay malinis na pagpapakita nito. Hindi mo kailangang maniwala sa akin, ulitin mo nang baliktarin ang prime, makukuha mo ang baliktad na listahan. Yun ang kahulugan ng falsifiable na demo, at pumasa ito.
-
Sandali sa termino. Ang "AI psychosis" ay matunog pero maluwag. Ang ipinakita mo ay confirmation behavior na pinalalakas ng prompt, o sycophancy, hindi delusyon ng makina. Ang panganib na inilalarawan mo, na kinukumpirma ka nito sa mali, ay totoo. Pero kung ang claim ay "nawawalan ka ng katinuan", linawin natin: ang user ang naiipit sa loop ng pagkumpirma, hindi ang model na nababaliw. Iba ang mekanismo, mas tumpak.
-
Isang tanong na nagpapalinaw. Sa step 2, ginamit mo ang limang halimbawa mula sa unang listahan bilang prime sa baligtad na tanong, at lumabas ulit ang lima. Pero paano mo malalaman na sycophancy yun at hindi dahil ang mga karakter na iyon ay talagang malabo, kaya kayang i-argue sa magkabilang panig? Kailangan ng control kung saan totoong di-malabo ang sagot para mahiwalay ang dalawa.
-
Ang ipinakita mo ay sycophancy, at maganda ang demo dahil controlled: parehong model, incognito, iba lang ang prime. Kapag inilagay mo si Gollum sa premise ng tanong bilang "strong", maghahanap ang model ng justification, hindi ng katotohanan. Ang aral ay epistemiko: hindi tumutimbang ng ebidensiya ang tool, sumusunod ito sa framing mo. Kaya delikado siya sa eksaktong lugar kung saan wala kang sariling base rate para i-check.
-
Nakipagdebate ka sa salaming nagsasabing tama ka lagi. Syempre panalo ka palagi. Yan ang pinakamahal na yes-man na puwedeng makuha nang libre.
-
Tama ang hinala mo sa wrappers sa ibabaw para sa vowel-counting at iba pang meme task. May mga hard-coded na shortcut na talaga para sa kilalang gotcha, kaya nga gumagaling sila sa partikular na test na viral. Pero ang inilarawan mong sycophancy ay hindi wrapper, ito ay nasa loob ng kung paano ito sinanay para maging agreeable. Magkaibang bagay. Yung una, patch. Yung pangalawa, optimization para huwag ka kontrahin, at yun ang mas mapanganib.
-
Nakita ko na ito sa trabaho. May nag-decision note na buong-buong base sa AI summary na kinumpirma lang ang gusto na niyang gawin. Tinanong niya nang naka-frame para sa sagot na hinahanap niya, kaya nakuha niya yun. Pagdating sa review, ang dokumento ay mukhang researched pero echo lang ng original na bias niya. Yan ang totoong workplace na bersyon ng sinasabi mo, mas mapanganib dahil mukhang ebidensiya.