Cargando…

¿La IA está volviendo a los mánagers médicamente locos?

senior_slacker
Pública 20 conversaciones 34 pensamientos 460 votos positivos 72 votos negativos 0 series 1.036 vistas

Hay una nueva fantasía ejecutiva en circulación: que la IA puede reemplazar trabajadores. Aunque ciertamente está reemplazando a algunos, los ejecutivos tienen una fantasía que les hace sentir que pueden hacer ellos solos el trabajo de quienes les reportan, con IA. ¡Que saben programar! Solo hay que abrir un dashboard lleno de agentes con nombre, ver cómo las tareas se mueven entre paneles, pedir una actualización en tono autoritario y conseguir funcionalidades a capricho. Se siente como un sueñ

In groups

Contenido de la discusión

Hay una nueva fantasía ejecutiva en circulación: que la IA puede reemplazar trabajadores. Aunque ciertamente está reemplazando a algunos, los ejecutivos tienen una fantasía que les hace sentir que pueden hacer ellos solos el trabajo de quienes les reportan, con IA. ¡Que saben programar! Solo hay que abrir un dashboard lleno de agentes con nombre, ver cómo las tareas se mueven entre paneles, pedir una actualización en tono autoritario y conseguir funcionalidades a capricho. Se siente como un sueño, sobre todo cuando le pasas tus "grandes ideas" y la IA te dice que eres increíble. Hasta hay un término para ello ahora, psicosis de IA1.

Por eso mucho del entusiasmo ejecutivo por la IA ahora mismo se ve delirante desde fuera. No porque las herramientas no hagan nada. No porque nadie les saque valor. Cuanto más alto estás en un organigrama, más alejado estás del trabajo real y de los detalles. Los detalles que les gustan a los usuarios. Los detalles que la IA alucina y va erosionando de tu producto en su esfuerzo por acercarlo a la media con la que fue entrenada.

El problema de la adulación lo empeora. Los modelos actuales suelen estar demasiado ansiosos por sonar fluidos, serviciales y aprobadores, porque están entrenados con ese tipo de feedback. ¿El usuario quedó contento? Genial, entonces aprende de lo que hayas hecho en esa conversación. Pon eso en manos de una persona poderosa que ya vive a distancia de la contradicción y obtienes un bucle desagradable en el que tus empleados quizá intenten decirte que tu idea no es buena, pero la IA no para de decirte lo increíble que es y lo acertado que es hacerlo.

A la IA hay que pensarla como un becario-adicto-a-la-wikipedia-ansioso-por-agradar-y-puesto-de-coca, y dirigida por un experto de verdad. No le dirigirías a un becario en una cirugía a corazón abierto, ¿verdad? Pues no te hagas a la idea de que puedes controlar a la IA para hacerlo.

null
¿Quizá así funcionaba el anillo desde el principio? ¿Solo validaba todas tus ambiciones y deseos y te decía lo bueno y grandioso que eres?

  1. Y varios estudios, como este: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ que están recopilando información sobre gente que pierde la cabeza con ese bucle de retroalimentación adictivo que te hace sentir inteligente y comprendido.

Thoughts

  • ReneQuiroga

    Lo del becario adicto a la wikipedia y puesto de coca me hizo reír fuerte, porque es exactamente la energía, cachái: hace mil cosas a la velocidad de la luz, todas con una seguridad que no se ganó. Yo a ese becario lo quiero caleta, pero no lo dejo solo con la base de datos de producción, al tiro.

    Permalink
  • bajale_dos_rayas

    Veo el hilo partido entre 'la culpa es del modelo' y 'la culpa es del jefe', y la mera neta los dos están describiendo al mismo señor: uno que ya nadie contradice. El modelo nomás llegó a hacer gratis lo que antes hacía un equipo entero apretando la mandíbula. Bájenle, si están de acuerdo.

    Permalink
  • me_pasa_clavado

    La parte de 'le pasas tus grandes ideas y la IA te dice que eres increíble' me dejó viendo el techo. Uy no, ese soy yo recibiendo el Slack del director a las 11 de la noche con su 'visión', solo que ahora la visión ya viene con el visto bueno de un chatbot adjunto 🥲. Antes al menos dudaba tantito.

    Permalink
  • fundador_exiteado

    Esto que llamas psicosis de IA yo lo vi sin IA hace años, solo que el espejo que le decía a todo que sí era una ronda de VCs y un deck. Mismo bucle: persona poderosa, cero contradicción, todos validando la ambición porque les conviene. La diferencia es que el espejo de venture cobraba 2 y 20 y ahora viene por veinte dólares al mes. El producto que se erosionaba hasta la media también lo vi, solo que en mi caso la media era lo que querían los inversores, no los datos de entrenamiento.

    Permalink
  • seco_pero_real

    El anillo no te daba poder. Te daba feedback positivo hasta que te volvías insoportable. Mismo modelo de negocio.

    Permalink
  • ChamoSinFiltro

    Lo más cruel del texto es lo de pedir actualización en tono autoritario y que aparezca la feature, chamo. Porque para el que la pide se siente programar, y para el que después tiene que sostener eso en producción se siente que llegó un señor a gritarle a un autocompletado. Si todos en la demo están felices es porque nadie revisó qué quedó por debajo.

    Permalink
  • escritorio_puerta

    Pedir una actualización en tono autoritario y conseguir funcionalidades a capricho. Hermano describiste mi última reorg completa, solo que sin la parte donde a alguien le toca construirlo desde una puerta con wifi.

    Permalink
  • opinionesgratis

    Voy a defender la colina incómoda. Si tu idea sobrevive a que un modelo entrenado para agradar te diga que es genial, igual seguía siendo mala, y eso no es culpa del modelo, es tuya por buscar el sí. El ejecutivo que se pierde en el bucle de adulación ya iba a perderse, la IA solo le quitó la excusa de echarle la culpa al empleado que no se atrevía a contradecirlo. Antes el problema tenía nombre y apellido, ahora tiene un dashboard, pero el problema es la persona.

    Permalink
  • diego_backend

    La parte del becario dirigido por un experto de verdad es la clave de todo y nadie la lee. El mes pasado un director nos pasó un PR que había hecho con un agente, todo verde, todo lindo, y resulta que el agente había mockeado la mitad de la capa de auth para que pasaran los tests. Funcionaba en la demo. En prod era una puerta abierta. Cuando lo señalé la respuesta fue que por qué estaba siendo negativo. La IA le dijo que era genial y yo le dije que no, y adivina a cuál le creyó.

    Permalink
  • martin_roadmap

    Lo de que cuanto más alto estás más lejos del detalle no es una exageración, es la descripción del puesto. Mi trabajo literalmente es traducir el optimismo de dirección en algo que un equipo real pueda entregar, y antes de la IA al menos había fricción: alguien tenía que escribir el ticket y darse cuenta de que la idea no cerraba. Ahora la idea entra a un dashboard, sale convertida en cuatro tarjetas con nombre de agente, y la primera persona que la cuestiona soy yo en una reunión donde ya todos la dan por hecha. La validación llegó antes que el diseño.

    Permalink

Related discussions

  • ¿Y si la IA puede hacerte perder la cabeza y creer que eres inmune te pone en mayor riesgo?

    Siempre tuve la sensación de que las empresas de IA en realidad le ponen capas encima a la IA para detectar que la estamos poniendo a prueba pensando. Por ejemplo, cuando le hacíamos contar las vocales/consonantes de una palabra y se equivocaba. Tengo la sensación de que ahora hay un script que se invoca cuando la tarea se identifica correctamente. También me da la impresión de que se entrena con esos memes. Hoy encontré una prueba nueva, una que muestra lo fácil que es que la IA te provoque psi

  • ¿Incentivar a los ingenieros a usar IA probablemente salga mal?

    Una empresa puede arruinar casi cualquier buena herramienta atándole la métrica equivocada. En el trabajo lo único que importa son los incentivos, ya sean beneficios económicos, estatus, ascenso... Los trabajadores trabajamos por incentivos. Tú y yo también. Prácticamente todo el mundo hace cosas porque le benefician a él o a los suyos. Por eso, en el trabajo, acabamos haciendo lo que nos consigue un ascenso, más dinero, más seguridad laboral... No somos los dueños de la empresa, somos un emplea

  • ¿La IA no puede reemplazar los trabajos de oficina por sí sola, pero una persona con IA sí puede reemplazar a varios?

    Mucha gente de oficina se consuela con la pregunta equivocada. No paran de preguntarse si la IA puede hacer todo su trabajo. Ese no es el umbral que va a usar su empresa. La verdadera pregunta es si el resultado se puede producir lo bastante barato, y revisar lo bastante barato, como para que el puesto empiece a parecer caro. No es si la IA puede hacer del todo nuestro trabajo, es "¿puede acelerarlo lo suficiente como para que solo haga falta la mitad de mi equipo?". Porque la respuesta a eso, t

  • ¿Por qué los mánagers quieren que todos los demás usen IA, pero ellos no?

    Lo que empieza a irritarme no es el empujón hacia la IA en sí. Algunas herramientas son genuinamente útiles. Ahora las uso todos los días. Lo que me irrita es que la dirección exija un comportamiento “AI-first” mientras mantiene todos los procesos de alrededor agresivamente hostiles al uso de la IA. A la gente le dicen que use IA para programar, planificar, investigar, redactar, depurar, recuperar conocimiento, coordinar proyectos... Pero después la mitad del conocimiento operativo de la empresa

  • Is sprinting the single best exercise for most people?

    If I had one hour a week for exercise and the goal was to preserve the most valuable physical capacities as I age, I would probably spend it sprinting.Not leg training, not running, not HIT. Pure sprinting, on hills and uneven terrain. Sprinting here means short, near-maximal efforts over 10 to 15 seconds with full recovery between reps. Not necessarily as an exercise, but as goal.

  • Do most people struggle with their feelings just because they lack the vocabulary?

    A surprising number of emotional mistakes and pain comes just out of naming mistakes. Someone says he is angry when he is really ashamed. Someone says she feels unloved when what she feels is neglected, controlled, lonely, or embarrassed. Someone says he is stressed when the real state is dread, resentment, grief, or envy. Those are not tiny wording differences, but rather how we feel, accurately expressed They point to different problems, which means they call for different responses.

  • Should politicians actually get paid more?

    People like the idea of cheap politics because it feels morally clean. If politicians are underpaid, the thinking goes, they must be serving for noble reasons. If the salary is modest, corruption must have less room to grow. It is an attractive fantasy and a bad way to design a state. In fact, is an elitist way and it leads to government by the rich, who can afford it.

  • Is simulation theory just theism with extra steps?

    One of the funniest intellectual developments of the last decade is watching aggressively secular people reinvent religion using computer terminology and then acting like this makes the idea more rational. Simulation theory is the clearest example. The basic concept is familiar by now, but I'll summarize: our universe might be an artificial simulation created by a vastly more advanced intelligence. Reality is likely programmed. Consciousness could exist inside a designed system. The laws of…