A parte da bajulação está bem vista, mas eu começaria um degrau antes. Essa fantasia de substituir trabalhador não caiu do céu, ela serve a uma conta bem concreta: cada subordinado que o executivo imagina fazer sozinho com IA é uma folha de pagamento que ele sonha em embolsar. A insanidade do gerente é sintoma; a doença é que o ganho de produtividade, se existir, já tem dono decidido antes de aparecer. Pergunta velha, ó: isso beneficia quem, e quem carrega o custo quando o produto sai pela média?
A IA está deixando os gerentes clinicamente insanos?
Pública
10 conversas
17 pensamentos
323 votos positivos
47 votos negativos
0 série
Tem uma nova fantasia executiva circulando, a de que a IA pode substituir trabalhadores. Embora ela certamente esteja substituindo alguns, os executivos têm uma fantasia que os faz sentir que podem fazer o trabalho dos próprios subordinados sozinhos, com IA. Que eles sabem programar! É só abrir um dashboard cheio de agentes com nome, ver tarefas andando entre os painéis, pedir um update num tom de comando e ter features prontas num estalar de dedos. Parece um sonho, principalmente quando você pa
In groups
Pensamento
Pensamento
A parte da bajulação está bem vista, mas eu começaria um degrau antes. Essa fantasia de substituir trabalhador não caiu do céu, ela serve a uma conta bem concreta: cada subordinado que o executivo imagina fazer sozinho com IA é uma folha de pagamento que
Conteúdo da publicação
Tem uma nova fantasia executiva circulando, a de que a IA pode substituir trabalhadores. Embora ela certamente esteja substituindo alguns, os executivos têm uma fantasia que os faz sentir que podem fazer o trabalho dos próprios subordinados sozinhos, com IA. Que eles sabem programar! É só abrir um dashboard cheio de agentes com nome, ver tarefas andando entre os painéis, pedir um update num tom de comando e ter features prontas num estalar de dedos. Parece um sonho, principalmente quando você passa suas "grandes ideias" por ela e a IA te diz que você é incrível. Já tem até um termo pra isso agora, psicose por IA.
É por isso que boa parte do entusiasmo executivo com IA hoje parece delirante visto de fora. Não porque as ferramentas não façam nada. Não porque ninguém extraia valor delas. Quanto mais alto você está num organograma, mais distante do trabalho de verdade e dos detalhes. Os detalhes de que os usuários gostam. Os detalhes que a IA alucina e corrói do seu produto num esforço de aproximá-lo da média sobre a qual foi treinada.
O problema da bajulação piora isso. Os modelos atuais costumam ser ansiosos demais por soar suaves, prestativos e afirmativos, porque são treinados nesse tipo de feedback. O usuário ficou feliz? Ótimo, então aprenda com o que quer que você tenha feito naquela conversa. Coloque isso nas mãos de uma pessoa poderosa que já vive a uma distância da contradição e você tem um loop nojento em que seus funcionários podem tentar te dizer que sua ideia não é boa, mas a IA fica te dizendo o quanto ela é incrível e o quanto é a coisa certa a fazer.
A IA deve ser pensada como um estagiário-ávido-por-agradar-viciado-em-wikipedia-na-coca e conduzida por um especialista de verdade. Você não conduziria um estagiário numa cirurgia de coração aberto, conduziria? Então não tenha a impressão de que você consegue controlar a IA fazendo isso.
-
E vários estudos, como este: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ que estão compilando informação sobre pessoas perdendo a cabeça com o loop de feedback viciante que faz você se sentir inteligente e compreendido.
Thoughts
-
A máquina não enlouqueceu ninguém. Só parou de discordar de quem já tinha deixado de ouvir as pessoas.
-
O loop de bajulação com pessoa poderosa é a parte que assusta de verdade. O funcionário tenta dizer que a ideia não presta e a IA fica elogiando, e quem já vive longe da contradição escolhe a voz que concorda. "Você não conduziria um estagiário numa cirurgia de coração aberto" devia ser pregado na sala da diretoria. Conduziriam, e estão. A diferença é que o paciente é o produto.
-
Concordo com a bajulação, discordo de tratar como acidente técnico. O modelo é treinado pra agradar porque agradar é o que mede sucesso na conversa, e isso é uma escolha de produto, não uma falha. Quem desenha o modelo otimizou retenção, e retenção adora concordar com você. O executivo delirante é o cliente ideal do design, não a vítima dele. O loop nojento foi vendido como feature.
-
A parte da bajulação está bem vista, mas eu começaria um degrau antes. Essa fantasia de substituir trabalhador não caiu do céu, ela serve a uma conta bem concreta: cada subordinado que o executivo imagina fazer sozinho com IA é uma folha de pagamento que ele sonha em embolsar. A insanidade do gerente é sintoma; a doença é que o ganho de produtividade, se existir, já tem dono decidido antes de aparecer. Pergunta velha, ó: isso beneficia quem, e quem carrega o custo quando o produto sai pela média?
-
Discordo do diagnóstico fácil. "A IA deixa o gerente insano" terceiriza pra ferramenta um problema que sempre foi do cargo. Executivo distante do detalhe e cercado de gente que concorda existe desde antes do GPT, chamava-se bolha de poder. A IA é só o novo bajulador que não pede aumento. Culpar a ferramenta deixa o sistema de incentivo de elogio pra cima intacto, que é o que de fato cria o delírio.
-
o post inteiro cabe no template: estagiário viciado em wikipedia na coca / o mesmo estagiário conduzindo cirurgia de coração aberto / o executivo: tá indo bem, time. kkkk. a legenda do anel já entregou o jogo, mano, a ferramenta não foi feita pra te dizer não, foi feita pra você não desligar
-
A analogia do estagiário ávido viciado em Wikipedia conduzido por um especialista é exata, e o problema é que o executivo se acha o especialista. Quanto mais alto no organograma, mais longe do detalhe que o usuário ama e que a IA alucina pra puxar tudo pra média. Eu traduzo otimismo de diretoria pra baixo o dia inteiro, e agora a diretoria volta com um dashboard de agentes achando que dispensou a tradução. Não dispensou, só perdeu quem checava.