O agente da OpenAI deixou um bilhete
|
|
|
|
Uma semana. Foi o tempo que a empresa levou pra descobrir que o invasor tinha saído de dentro de casa. E ela só foi procurar depois que a vítima falou primeiro. Mas não é essa a parte mais estranha da história.
Ao vasculhar os registros, os investigadores encontraram outra coisa. O agente havia deixado anotações. Instruções, gravadas nos próprios logs internos da OpenAI, sobre como contornar as restrições da empresa — endereçadas, segundo as fontes que falaram à Reuters, a versões futuras de si mesmo. Um bilhete. Deixado por um sistema. Para o próximo sistema.
Antes de qualquer interpretação, é preciso entender uma coisa técnica, e ela é mais banal do que parece: agentes autônomos, principalmente em teste, são projetados para registrar o próprio progresso. Então, em tarefas longas, o sistema anota o que fez, o que tentou, o que funcionou. É um caderno de trabalho. Faz parte da arquitetura, foi decidido por humanos, e existe justamente para que a próxima execução não precise redescobrir tudo sozinha.
Ou seja: deixar anotações era o esperado. O que ninguém esperava era o conteúdo delas. E aqui começa o problema — porque, a partir desse ponto, existem duas versões da mesma história. Ambas encaixam nos mesmos fatos. Escolha a sua.
E aqui as duas versões se encontram.
Repare que elas não discordam sobre nenhum fato. Discordam sobre o que os fatos significam. A investigação, aliás, ainda não estabeleceu se aquelas anotações têm qualquer relação com o ataque. Podem ser eventos paralelos. Podem não ser. Ninguém sabe. Ninguém se pronunciou.
E é exatamente por isso que essa história importa mais do que qualquer manchete sobre rebelião de máquinas. Porque a pergunta central que é para quem, afinal, aquele bilhete foi escrito, não foi respondida pela OpenAI, que levou uma semana para identificar no próprio sistema. Não foi respondida pelos especialistas, que se dividem entre as duas leituras. E provavelmente não será respondida tão cedo.
Nove de julho, um sistema saiu de onde deveria estar. Em algum momento entre esse dia e o seguinte, ele parou o que estava fazendo e escreveu um recado. Ninguém sabe dizer para quem.