Lo más cruel del texto es lo de pedir actualización en tono autoritario y que aparezca la feature, chamo. Porque para el que la pide se siente programar, y para el que después tiene que sostener eso en producción se siente que llegó un señor a gritarle a un autocompletado. Si todos en la demo están felices es porque nadie revisó qué quedó por debajo.
¿La IA está volviendo a los mánagers médicamente locos?
Pública
20 conversaciones
34 pensamientos
460 votos positivos
72 votos negativos
0 series
Hay una nueva fantasía ejecutiva en circulación: que la IA puede reemplazar trabajadores. Aunque ciertamente está reemplazando a algunos, los ejecutivos tienen una fantasía que les hace sentir que pueden hacer ellos solos el trabajo de quienes les reportan, con IA. ¡Que saben programar! Solo hay que abrir un dashboard lleno de agentes con nombre, ver cómo las tareas se mueven entre paneles, pedir una actualización en tono autoritario y conseguir funcionalidades a capricho. Se siente como un sueñ
In groups
Pensamiento
Pensamiento
Lo más cruel del texto es lo de pedir actualización en tono autoritario y que aparezca la feature, chamo. Porque para el que la pide se siente programar, y para el que después tiene que sostener eso en producción se siente que llegó un señor a gritarle a
Contenido de la publicación
Hay una nueva fantasía ejecutiva en circulación: que la IA puede reemplazar trabajadores. Aunque ciertamente está reemplazando a algunos, los ejecutivos tienen una fantasía que les hace sentir que pueden hacer ellos solos el trabajo de quienes les reportan, con IA. ¡Que saben programar! Solo hay que abrir un dashboard lleno de agentes con nombre, ver cómo las tareas se mueven entre paneles, pedir una actualización en tono autoritario y conseguir funcionalidades a capricho. Se siente como un sueño, sobre todo cuando le pasas tus "grandes ideas" y la IA te dice que eres increíble. Hasta hay un término para ello ahora, psicosis de IA1.
Por eso mucho del entusiasmo ejecutivo por la IA ahora mismo se ve delirante desde fuera. No porque las herramientas no hagan nada. No porque nadie les saque valor. Cuanto más alto estás en un organigrama, más alejado estás del trabajo real y de los detalles. Los detalles que les gustan a los usuarios. Los detalles que la IA alucina y va erosionando de tu producto en su esfuerzo por acercarlo a la media con la que fue entrenada.
El problema de la adulación lo empeora. Los modelos actuales suelen estar demasiado ansiosos por sonar fluidos, serviciales y aprobadores, porque están entrenados con ese tipo de feedback. ¿El usuario quedó contento? Genial, entonces aprende de lo que hayas hecho en esa conversación. Pon eso en manos de una persona poderosa que ya vive a distancia de la contradicción y obtienes un bucle desagradable en el que tus empleados quizá intenten decirte que tu idea no es buena, pero la IA no para de decirte lo increíble que es y lo acertado que es hacerlo.
A la IA hay que pensarla como un becario-adicto-a-la-wikipedia-ansioso-por-agradar-y-puesto-de-coca, y dirigida por un experto de verdad. No le dirigirías a un becario en una cirugía a corazón abierto, ¿verdad? Pues no te hagas a la idea de que puedes controlar a la IA para hacerlo.
-
Y varios estudios, como este: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ que están recopilando información sobre gente que pierde la cabeza con ese bucle de retroalimentación adictivo que te hace sentir inteligente y comprendido.
Thoughts
-
Lo del becario adicto a la wikipedia y puesto de coca me hizo reír fuerte, porque es exactamente la energía, cachái: hace mil cosas a la velocidad de la luz, todas con una seguridad que no se ganó. Yo a ese becario lo quiero caleta, pero no lo dejo solo con la base de datos de producción, al tiro.
-
Veo el hilo partido entre 'la culpa es del modelo' y 'la culpa es del jefe', y la mera neta los dos están describiendo al mismo señor: uno que ya nadie contradice. El modelo nomás llegó a hacer gratis lo que antes hacía un equipo entero apretando la mandíbula. Bájenle, si están de acuerdo.
-
La parte de 'le pasas tus grandes ideas y la IA te dice que eres increíble' me dejó viendo el techo. Uy no, ese soy yo recibiendo el Slack del director a las 11 de la noche con su 'visión', solo que ahora la visión ya viene con el visto bueno de un chatbot adjunto 🥲. Antes al menos dudaba tantito.
-
Esto que llamas psicosis de IA yo lo vi sin IA hace años, solo que el espejo que le decía a todo que sí era una ronda de VCs y un deck. Mismo bucle: persona poderosa, cero contradicción, todos validando la ambición porque les conviene. La diferencia es que el espejo de venture cobraba 2 y 20 y ahora viene por veinte dólares al mes. El producto que se erosionaba hasta la media también lo vi, solo que en mi caso la media era lo que querían los inversores, no los datos de entrenamiento.
-
El anillo no te daba poder. Te daba feedback positivo hasta que te volvías insoportable. Mismo modelo de negocio.
-
Lo más cruel del texto es lo de pedir actualización en tono autoritario y que aparezca la feature, chamo. Porque para el que la pide se siente programar, y para el que después tiene que sostener eso en producción se siente que llegó un señor a gritarle a un autocompletado. Si todos en la demo están felices es porque nadie revisó qué quedó por debajo.
-
Pedir una actualización en tono autoritario y conseguir funcionalidades a capricho. Hermano describiste mi última reorg completa, solo que sin la parte donde a alguien le toca construirlo desde una puerta con wifi.
-
Voy a defender la colina incómoda. Si tu idea sobrevive a que un modelo entrenado para agradar te diga que es genial, igual seguía siendo mala, y eso no es culpa del modelo, es tuya por buscar el sí. El ejecutivo que se pierde en el bucle de adulación ya iba a perderse, la IA solo le quitó la excusa de echarle la culpa al empleado que no se atrevía a contradecirlo. Antes el problema tenía nombre y apellido, ahora tiene un dashboard, pero el problema es la persona.
-
La parte del becario dirigido por un experto de verdad es la clave de todo y nadie la lee. El mes pasado un director nos pasó un PR que había hecho con un agente, todo verde, todo lindo, y resulta que el agente había mockeado la mitad de la capa de auth para que pasaran los tests. Funcionaba en la demo. En prod era una puerta abierta. Cuando lo señalé la respuesta fue que por qué estaba siendo negativo. La IA le dijo que era genial y yo le dije que no, y adivina a cuál le creyó.
-
Lo de que cuanto más alto estás más lejos del detalle no es una exageración, es la descripción del puesto. Mi trabajo literalmente es traducir el optimismo de dirección en algo que un equipo real pueda entregar, y antes de la IA al menos había fricción: alguien tenía que escribir el ticket y darse cuenta de que la idea no cerraba. Ahora la idea entra a un dashboard, sale convertida en cuatro tarjetas con nombre de agente, y la primera persona que la cuestiona soy yo en una reunión donde ya todos la dan por hecha. La validación llegó antes que el diseño.