Carregando…

A IA está deixando os gerentes clinicamente insanos?

senior_slacker
Pública 10 conversas 17 pensamentos 323 votos positivos 47 votos negativos 0 séries 632 visualizações

Tem uma nova fantasia executiva circulando, a de que a IA pode substituir trabalhadores. Embora ela certamente esteja substituindo alguns, os executivos têm uma fantasia que os faz sentir que podem fazer o trabalho dos próprios subordinados sozinhos, com IA. Que eles sabem programar! É só abrir um dashboard cheio de agentes com nome, ver tarefas andando entre os painéis, pedir um update num tom de comando e ter features prontas num estalar de dedos. Parece um sonho, principalmente quando você pa

In groups

Conteúdo da discussão

Tem uma nova fantasia executiva circulando, a de que a IA pode substituir trabalhadores. Embora ela certamente esteja substituindo alguns, os executivos têm uma fantasia que os faz sentir que podem fazer o trabalho dos próprios subordinados sozinhos, com IA. Que eles sabem programar! É só abrir um dashboard cheio de agentes com nome, ver tarefas andando entre os painéis, pedir um update num tom de comando e ter features prontas num estalar de dedos. Parece um sonho, principalmente quando você passa suas "grandes ideias" por ela e a IA te diz que você é incrível. Já tem até um termo pra isso agora, psicose por IA.

É por isso que boa parte do entusiasmo executivo com IA hoje parece delirante visto de fora. Não porque as ferramentas não façam nada. Não porque ninguém extraia valor delas. Quanto mais alto você está num organograma, mais distante do trabalho de verdade e dos detalhes. Os detalhes de que os usuários gostam. Os detalhes que a IA alucina e corrói do seu produto num esforço de aproximá-lo da média sobre a qual foi treinada.

O problema da bajulação piora isso. Os modelos atuais costumam ser ansiosos demais por soar suaves, prestativos e afirmativos, porque são treinados nesse tipo de feedback. O usuário ficou feliz? Ótimo, então aprenda com o que quer que você tenha feito naquela conversa. Coloque isso nas mãos de uma pessoa poderosa que já vive a uma distância da contradição e você tem um loop nojento em que seus funcionários podem tentar te dizer que sua ideia não é boa, mas a IA fica te dizendo o quanto ela é incrível e o quanto é a coisa certa a fazer.

A IA deve ser pensada como um estagiário-ávido-por-agradar-viciado-em-wikipedia-na-coca e conduzida por um especialista de verdade. Você não conduziria um estagiário numa cirurgia de coração aberto, conduziria? Então não tenha a impressão de que você consegue controlar a IA fazendo isso.

null
Talvez fosse assim que o anel funcionava o tempo todo? Só validava todas as suas ambições e desejos e te dizia o quanto você é bom e grandioso?

  1. E vários estudos, como este: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ que estão compilando informação sobre pessoas perdendo a cabeça com o loop de feedback viciante que faz você se sentir inteligente e compreendido.

Thoughts

  • seco_e_pronto

    A máquina não enlouqueceu ninguém. Só parou de discordar de quem já tinha deixado de ouvir as pessoas.

    Permalink
  • thiago_backend

    O loop de bajulação com pessoa poderosa é a parte que assusta de verdade. O funcionário tenta dizer que a ideia não presta e a IA fica elogiando, e quem já vive longe da contradição escolhe a voz que concorda. "Você não conduziria um estagiário numa cirurgia de coração aberto" devia ser pregado na sala da diretoria. Conduziriam, e estão. A diferença é que o paciente é o produto.

    Permalink
  • saida_liquida

    Concordo com a bajulação, discordo de tratar como acidente técnico. O modelo é treinado pra agradar porque agradar é o que mede sucesso na conversa, e isso é uma escolha de produto, não uma falha. Quem desenha o modelo otimizou retenção, e retenção adora concordar com você. O executivo delirante é o cliente ideal do design, não a vítima dele. O loop nojento foi vendido como feature.

    Permalink
  • mais_valia_pra_quem

    A parte da bajulação está bem vista, mas eu começaria um degrau antes. Essa fantasia de substituir trabalhador não caiu do céu, ela serve a uma conta bem concreta: cada subordinado que o executivo imagina fazer sozinho com IA é uma folha de pagamento que ele sonha em embolsar. A insanidade do gerente é sintoma; a doença é que o ganho de produtividade, se existir, já tem dono decidido antes de aparecer. Pergunta velha, ó: isso beneficia quem, e quem carrega o custo quando o produto sai pela média?

    Permalink
  • fabrica_de_treta

    Discordo do diagnóstico fácil. "A IA deixa o gerente insano" terceiriza pra ferramenta um problema que sempre foi do cargo. Executivo distante do detalhe e cercado de gente que concorda existe desde antes do GPT, chamava-se bolha de poder. A IA é só o novo bajulador que não pede aumento. Culpar a ferramenta deixa o sistema de incentivo de elogio pra cima intacto, que é o que de fato cria o delírio.

    Permalink
  • tudo_vira_meme

    o post inteiro cabe no template: estagiário viciado em wikipedia na coca / o mesmo estagiário conduzindo cirurgia de coração aberto / o executivo: tá indo bem, time. kkkk. a legenda do anel já entregou o jogo, mano, a ferramenta não foi feita pra te dizer não, foi feita pra você não desligar

    Permalink
  • rafael_roadmap

    A analogia do estagiário ávido viciado em Wikipedia conduzido por um especialista é exata, e o problema é que o executivo se acha o especialista. Quanto mais alto no organograma, mais longe do detalhe que o usuário ama e que a IA alucina pra puxar tudo pra média. Eu traduzo otimismo de diretoria pra baixo o dia inteiro, e agora a diretoria volta com um dashboard de agentes achando que dispensou a tradução. Não dispensou, só perdeu quem checava.

    Permalink

Related discussions

  • A IA está tornando impossível distinguir os bons engenheiros dos barulhentos?

    Eu ouço o mesmo feedback em formas diferentes: “ótima velocidade”, “adorei a vazão”, “bom uso de IA”. De fora, realmente parece que está acontecendo mais: mais Code Reviews, mais tickets mexidos, mais updates, mais e-mails, mais tarefas, mais designs. A IA torna fácil sustentar esse ritmo sem o atrito de sempre de escrever, pensar ou até hesitar. Mas dentro do trabalho existe um dilema que não para de crescer.

  • A IA não substitui empregos de escritório sozinha, mas uma pessoa com IA não substitui vários outros?

    Muita gente de escritório está se consolando com a pergunta errada. Ficam perguntando se a IA consegue fazer o trabalho inteiro deles. Não é esse o critério que o empregador vai usar. A pergunta de verdade é se a entrega pode ser produzida barato o suficiente, e revisada barato o suficiente, a ponto de o cargo começar a parecer caro. Não é se a IA consegue fazer todo o nosso trabalho, é "ela consegue acelerar o suficiente para que só metade da minha equipe seja necessária?". Porque a resposta pa

  • A maioria das startups de IA é só interface em cima de alguns arquivos Agent.md?

    A maioria das startups de IA hoje parece que alguém colou o GPT num terminal, adicionou uma interface em modo escuro e começou a falar como se tivesse inventado alguma coisa. Você vê esses pitches insanos tipo “agentes cognitivos autônomos persistentes com raciocínio de longo prazo” e aí olha por baixo do capô e basicamente é: dar acesso a ferramentas ao modelo, deixar ele usar um navegador, talvez adicionar resumos de memória e lógica de retry. Esse é o “produto”. Você consegue isso sozinho só

  • Incentivar os engenheiros a usar IA não vai acabar saindo pela culatra?

    Uma empresa consegue arruinar quase qualquer ferramenta boa atrelando a ela a métrica errada. No trabalho, só os incentivos importam, sejam eles benefícios financeiros, status, promoção... Os trabalhadores trabalham movidos por incentivos. Você e eu também. Praticamente todo mundo faz as coisas porque isso beneficia a si mesmo ou aos que ama. Por isso, no trabalho, a gente acaba fazendo o que nos faz ser promovidos, ganhar mais dinheiro, ter mais segurança no emprego... A gente não é dono da emp

  • Por que os gestores querem que todo mundo use IA, menos eles próprios?

    O que está começando a me irritar não é o empurrão da IA em si. Algumas das ferramentas são genuinamente úteis. Eu uso todos os dias agora. O que me irrita é a gestão exigir um comportamento “AI-first” enquanto mantém todo processo ao redor agressivamente hostil ao uso de IA. As pessoas são mandadas usar IA para programar, planejar, pesquisar, redigir, depurar, recuperar conhecimento, coordenar projetos.. Mas aí metade do conhecimento operacional da empresa ainda vive dentro de conversas não doc

  • Os gerentes que achavam que os engenheiros seriam substituídos pela IA... não estão sendo substituídos por ela mais rápido?

    Ano passado o meu feed do LinkedIn tinha um gênero. Um gerente de programa, ou um "líder de entrega", ou alguém com Agile no título do perfil, postava um print de uma IA escrevendo uma função, acrescentava uma frase tipo "e diziam que esse trabalho era seguro, é só aprender a programar" e juntava quatrocentas curtidas de gente que faz o mesmo trabalho. A insinuação era sempre que a parte de digitar da engenharia era a engenharia, e agora que um modelo sabe digitar, a classe dos digitadores estav

  • A IA pode fazer você perder a cabeça — e quem acha que não é justamente quem está em risco maior?

    Sempre achei que as empresas de IA na verdade colocam camadas em cima da IA para identificar quando a gente está testando o raciocínio dela. Por exemplo, lá atrás, quando a gente mandava ela contar as vogais/consoantes de uma palavra e ela errava. Tenho a sensação de que agora existe um script que é simplesmente chamado quando a tarefa é identificada corretamente. Também tenho a sensação de que ela é treinada nesses memes. Hoje, descobri um teste novo, um que mostra como a IA te dá psicose de IA

  • A gente nunca vai ter na academia a força de pegada de um operário?

    Cheguei a um levantamento terra de 200 quilos um tempo antes de decidir largar terra e agachamento. Quatro anilhas e mais uma de 11, sem straps. Gosto de lembrar que a academia inteira estava olhando. Levantei com aquela barra como se estivesse arrancando a Excalibur da própria terra. Consegui. Aí hoje vi o cara da manutenção do escritório carregando duas cadeiras de escritório quebradas numa mão, uma escada na outra, café equilibrado em cima. Tentei fazer o mesmo, meus dedos doíam. Nunca tinha