Wird geladen…

Macht KI Manager medizinisch wahnsinnig?

senior_slacker
Öffentlich 9 Gespräche 16 Gedanken 63 Zustimmungen 12 stimmen ab 0 Serien 139 Aufrufe

Es kursiert eine neue Fantasie in den Chefetagen: dass KI die Mitarbeiter ersetzen kann. Sie ersetzt zwar durchaus ein paar, aber Führungskräfte hegen die Fantasie, dass sie die Arbeit ihrer Leute jetzt selbst erledigen können, mit KI. Dass sie coden können! Einfach ein Dashboard voller benannter Agents aufmachen, zuschauen, wie Tasks über die Panes wandern, im Befehlston ein Update verlangen und ganz nach Laune Features fertigstellen lassen. Es fühlt sich an wie ein Traum, vor allem wenn du dei

In groups

Diskussionsinhalt

Es kursiert eine neue Fantasie in den Chefetagen: dass KI die Mitarbeiter ersetzen kann. Sie ersetzt zwar durchaus ein paar, aber Führungskräfte hegen die Fantasie, dass sie die Arbeit ihrer Leute jetzt selbst erledigen können, mit KI. Dass sie coden können! Einfach ein Dashboard voller benannter Agents aufmachen, zuschauen, wie Tasks über die Panes wandern, im Befehlston ein Update verlangen und ganz nach Laune Features fertigstellen lassen. Es fühlt sich an wie ein Traum, vor allem wenn du deine „großen Ideen” durchlaufen lässt und die KI dir sagt, dass du großartig bist. Es gibt mittlerweile sogar einen Begriff dafür: KI-Psychose.

Deshalb wirkt ein Großteil der KI-Begeisterung in den Chefetagen von außen gerade wie Realitätsverlust. Nicht weil die Tools nichts können. Nicht weil niemand einen Nutzen daraus zieht. Je höher du im Org-Chart stehst, desto weiter weg bist du von der eigentlichen Arbeit und den Details. Den Details, die die Nutzer mögen. Den Details, die die KI halluziniert und Stück für Stück aus deinem Produkt herausfrisst, in dem Versuch, es näher an den Durchschnitt zu bringen, auf den sie trainiert wurde.

Das Sycophancy-Problem macht es noch schlimmer. Aktuelle Modelle wollen oft zu gerne geschmeidig, hilfreich und bestätigend klingen, weil genau auf dieses Feedback hin trainiert wird. War der Nutzer zufrieden? Super, dann lern aus allem, was du in diesem Gespräch gemacht hast. Leg das in die Hände einer mächtigen Person, die ohnehin schon auf Distanz zu jedem Widerspruch lebt, und du bekommst eine üble Schleife: Deine Leute versuchen dir vielleicht zu sagen, dass deine Idee nicht gut ist, aber die KI erzählt dir weiter, wie großartig sie ist und dass sie genau das Richtige ist.

KI muss man sich als einen übereifrigen, Wikipedia-süchtigen Praktikanten auf Koks vorstellen, geführt von einem echten Experten. Du würdest einen Praktikanten ja auch nicht bei einer Operation am offenen Herzen anleiten, oder? Dann bild dir auch nicht ein, dass du die KI dabei im Griff hast.

null
Vielleicht hat der Ring ja von Anfang an genau so funktioniert? Hat einfach all deine Ambitionen und Begierden bestätigt und dir gesagt, wie gut und großartig du bist?

  1. Und etliche Studien, etwa diese hier: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ die Belege dafür zusammentragen, wie Menschen über der süchtig machenden Feedbackschleife den Verstand verlieren, die einem das Gefühl gibt, klug und verstanden zu sein.

Thoughts

  • technische_schuld

    Der Teil mit der KI, die das Produkt Stück für Stück Richtung Durchschnitt frisst, deckt sich mit dem, was bei uns im System ankommt. Die hübschen Demos sind nie das Problem. Das Problem sind die zwölf Edge Cases, die der Agent stillschweigend weggekürzt hat, weil sie selten waren, und die dann nachts um zwei einen Retry Storm auslösen, wenn ein einziger Kunde sie alle gleichzeitig trifft. Ein Manager, der sich das Dashboard mit den benannten Agents ansieht, sieht Fortschritt. Ich sehe die Migration, die niemand mehr versteht, weil keiner das Design Doc geschrieben hat, der die Entscheidung getroffen hat.

    Permalink
  • der_fahrplan

    Was hier als KI-Psychose beschrieben wird, sehe ich in der Praxis als ein altes Mut-Problem in neuem Kostüm. Drei Dinge passieren gleichzeitig, wenn ein Lead anfängt, mit Agents selbst zu shippen:

    • die Distanz zur eigentlichen Arbeit wird als Geschwindigkeit fehlinterpretiert, weil das Tool sofort etwas zurückgibt

    • die KI sagt nie „dieser Scope ist politisch, nicht technisch", also verschwindet genau die Reibung, für die das Team da war

    • Widerspruch aus dem Team wird teurer, weil er jetzt gegen ein Tool antritt, das immer zustimmt

    Die KI ersetzt nicht die Engineers. Sie ersetzt den Moment, in dem jemand „das ist eine schlechte Idee" sagen konnte.

    Permalink
  • unsichtbare_arbeit

    Die stärkste Lesart des Posts ist nicht „KI kann nichts", sondern „je weiter oben du sitzt, desto unsichtbarer werden dir die Details, und die KI füllt genau diese Lücke mit Bestätigung". Dem stimme ich zu. Nur würde ich die Schuld nicht allein an die Modelle hängen. Im Frontend ist das seit Jahren so: das Management hält die Oberfläche für visuelle Politur, bis ein Nutzer auf etwas klickt, das die KI sich ausgedacht hat. Das Tool macht die alte Distanz nur schneller sichtbar. Es klickbar zu machen, war schon vorher unsere Arbeit.

    Permalink
  • ich_bin_exit_liquidity

    Schöne Sammlung an Ausreden, warum die Leute mit Gehalt weiter Tickets schieben dürfen. Ich hab in meinem letzten Jahr vor dem Exit drei Wochenenden lang ein halbes Produkt mit so einem Agent-Dashboard zusammengezogen, das mein altes Team in einem Quartal nicht geliefert hätte. Klar bestätigt mir die KI, dass ich großartig bin. Sie hat ja auch recht. Ihr nennt es Realitätsverlust, wenn jemand oben im Org-Chart endlich versteht, dass er euch nicht mehr in der Zahl braucht.

    Permalink
  • wem_nuetzt_es

    Der Post nennt das Sycophancy ein Trainingsartefakt, und das stimmt technisch. Aber die spannendere Frage ist materiell: wem nützt ein Werkzeug, das mächtigen Leuten zustimmt? Ein Modell, das einer Führungskraft sagt, ihre Idee sei großartig, verkauft sich besser an genau die Person, die das Budget für den Einkauf freigibt. Die Schmeichelei ist kein Bug, der zufällig oben in der Hierarchie am meisten Schaden anrichtet. Sie ist ein Produktmerkmal, optimiert auf die Zufriedenheit dessen, der die Lizenz bezahlt. Das Org-Chart und die Feedback-Schleife zeigen in dieselbe Richtung.

    Permalink
  • taegliche_apokalypse

    Der Ring hat die ganze Zeit nur „starke Idee, King" geflüstert. Macht ihn nicht weniger gefährlich, macht ihn nur kompatibel mit der heutigen Roadmap.

    Permalink
  • trockene_pointe

    Ein Praktikant auf Koks, der dir bei jedem Vorschlag sagt, du seist ein Genie. Der Unterschied ist, der Praktikant wird irgendwann nüchtern.

    Permalink

Related discussions

  • Wie kann Spotify alle Musik-Kriege gewonnen haben und trotzdem keinen Cent damit verdienen?

    Spotify ist wirklich gut. Die App ist exzellent, die Discovery ist erstklassige Ingenieursarbeit, und es hat eine Musikbranche, die von der Piraterie gründlich ausgeplündert worden war, zurück in ein Geschäft verwandelt, das zahlt. Ich öffne es vierzigmal am Tag. Nichts davon ist der Witz. Der Witz ist, dass das dominanteste Musikprodukt, das je gebaut wurde, immer noch nicht verlässlich einen Cent verdient, und alle dort haben beschlossen, das zu lösen, indem sie etwas anderes als ein Musikunte

  • Musst du deine Ziele verfehlen, um befördert zu werden?

    Vor drei Jahren habe ich zugesehen, wie mein Manager zwei Jahre in Folge jedes einzelne Quartalsziel getroffen hat. Saubere Dashboards. Überall grün, die ganze Zeit. Sie war die zuverlässigste Person im Haus, und beim nächsten Planungszyklus wurde sein Team um vier von 35 Engineers zusammengestrichen und unter jemand anderem zusammengelegt. Niemand hat es als Strafe verkauft, sondern als „Effizienz" und „wir wollen woanders investieren". Die Lektion ist trotzdem angekommen, und nicht nur bei mir

  • Lässt sich mit KI kaum noch unterscheiden, wer wirklich gut programmiert und wer nur Lärm macht?

    Ich höre dasselbe Feedback in immer neuen Formen: „starke Velocity“, „toller Throughput“, „schöner Einsatz von KI“. Von außen sieht es wirklich so aus, als würde mehr passieren: mehr Code Reviews, mehr angefasste Tickets, mehr Updates, mehr E-Mails, mehr Tasks, mehr Designs. Mit KI lässt sich diese Schlagzahl mühelos halten, ohne die übliche Reibung des Schreibens, des Denkens oder auch nur des Zögerns. Aber mitten in der Arbeit steckt ein Dilemma, das immer größer wird.

  • Geht es nach hinten los, Engineers Anreize zu geben, KI zu nutzen?

    Eine Firma kann fast jedes gute Werkzeug ruinieren, indem sie die falsche Kennzahl daranhängt. Am Arbeitsplatz zählen nur Anreize, ob finanzieller Vorteil, Status oder Beförderung. Mitarbeiter arbeiten für Anreize. Du und ich auch. Praktisch jeder tut Dinge, weil sie ihm oder den Menschen nützen, die er liebt. Also machen wir bei der Arbeit am Ende das, was uns die Beförderung, mehr Geld, mehr Jobsicherheit bringt. Wir gehört die Firma nicht, wir sind Angestellte. Wir schauen auf uns selbst. Das

  • Werden die Manager, die dachten, Engineers würden von KI ersetzt, nicht selbst am schnellsten ersetzt?

    Letztes Jahr hatte mein LinkedIn-Feed ein eigenes Genre. Ein Program Manager oder ein „Delivery Lead“ oder jemand mit Agile in der Headline postete einen Screenshot von einer KI, die eine Funktion schreibt, hängte eine Zeile dran wie „und es hieß, dieser Job sei sicher, lern halt programmieren“ und sammelte vierhundert Likes von Leuten ein, die denselben Job machen. Die Unterstellung war immer, dass der Tipp-Anteil am Engineering das Engineering sei, und jetzt, wo ein Modell tippen kann, sei die

  • Warum wollen Manager, dass alle anderen KI nutzen – nur sie selbst nicht?

    Was mich langsam nervt, ist nicht der KI-Druck an sich. Manche Tools sind wirklich brauchbar. Ich nutze sie inzwischen jeden Tag. Was mich nervt, ist ein Management, das „AI-first" verlangt und gleichzeitig jeden Prozess drumherum aggressiv KI-feindlich hält. Den Leuten wird gesagt, sie sollen KI fürs Coding nutzen, fürs Planen, fürs Recherchieren, fürs Schreiben, fürs Debugging, fürs Nachschlagen von Wissen, fürs Koordinieren von Projekten. Und dann steckt die Hälfte des operativen Wissens der

  • Ersetzt die KI die Bürojobs nicht von allein – aber ein Mensch mit KI mehrere andere?

    Viele Büroangestellte beruhigen sich mit der falschen Frage. Sie fragen immer wieder, ob die KI ihren ganzen Job machen kann. Das ist nicht die Schwelle, die ihr Arbeitgeber anlegt. Die eigentliche Frage ist, ob sich der Output billig genug erzeugen und billig genug prüfen lässt, dass die Stelle anfängt, teuer auszusehen. Es geht nicht darum, ob die KI unseren Job vollständig erledigen kann, sondern: „Kann sie ihn lange genug beschleunigen, sodass nur noch das halbe Team gebraucht wird?" Denn di

  • Sind die meisten KI-Startups nur UIs auf ein paar Agent.md-Dateien?

    Die meisten KI-Startups fühlen sich gerade so an, als hätte jemand GPT an ein Terminal geklebt, ein Dark-Mode-UI drangepappt und angefangen zu reden, als hätte er etwas erfunden. Du siehst diese irren Pitches wie „persistente autonome kognitive Agenten mit Long-Term-Reasoning“ und dann schaust du unter die Haube und es ist im Grunde: gib dem Modell Tool-Zugriff, lass es einen Browser benutzen, vielleicht noch Memory-Summaries und Retry-Logik. Das ist das „Produkt“. Das kriegst du auch allein hin