Was wir bei KI und Produktivität falsch machen

David Rice: Also, Ihr Team nutzt KI, um Berichte zu schreiben, Daten zu analysieren und Entscheidungen schneller zu treffen. Die Produktivität steigt, oder? Ihre Quartalszahlen sehen wahrscheinlich ziemlich gut aus, aber wissen Sie was? Sie machen Ihre Leute still und heimlich dümmer. Das ist nicht übertrieben. Eine aktuelle Studie unter Medizinern, die KI-gestützte Diagnose-Tools nutzten, zeigte, dass sie so abhängig von der Technologie wurden, dass sie, sobald man die KI ausschaltete, dramatisch schlechter abschnitten als bevor sie überhaupt damit gearbeitet hatten. Das ist kein Trainingsproblem. Das ist Gehirnverfall.

Unser heutiger Gast im Podcast ist Dr. Vivienne Ming. Sie ist theoretische Neurowissenschaftlerin, eine Unternehmerin, die vor 15 Jahren voraussagte, dass GPS-Navigation die Demenzraten kausal steigen lassen würde. Und heute gibt es empirische Beweise dafür, dass sie recht hatte, aber darum geht es heute nicht.

Worum es heute geht: Wir stehen jetzt vor einer Wahl zwischen zwei vollkommen unterschiedlichen Wegen – kognitive Automatisierung, bei der KI die Arbeit für Sie übernimmt und Sie kurzfristige Erfolge, aber langfristige Verluste erzielen, oder kognitive Erweiterung, bei der KI die Arbeit schwerer macht – auf eine Art, die Ihre Leute wirklich besser macht.

Wir sprechen darüber, weshalb der Spruch "KI macht das Leben leichter" aktuell das gefährlichste Versprechen im Business ist, über den Unterschied zwischen Automatisierung, die Fertigkeiten abbaut, und Augmentation, die Fähigkeiten aufbaut. Außerdem: Wie Sie KI-Tools so gestalten, dass die Menschen nach deren Nutzung besser sind als zuvor, und warum Führungskräfte, die den bequemen Weg wählen, kurzfristige Gewinne, aber strategisches Scheitern erleben werden.

Ich bin David Rice. Das ist People Managing People. Und falls Sie Produktivitätsgewinne feiern, ohne zu hinterfragen, was dabei verloren geht, ist dieses Gespräch ein Weckruf. Los geht's.

Also gut, Vivienne, willkommen in der Sendung.

Vivienne Ming: Es ist großartig, hier zu sein.

David Rice: Bevor wir gestartet sind, habe ich wie so oft aktuelle Nachrichten gelesen und sah einen Artikel: Nature hat letzte Woche eine Studie veröffentlicht, laut der KI Schwierigkeiten hat, Informationen, speziell aus sozialen Medien, zu verarbeiten. Ich wollte dazu Ihre Reaktion, denn es hieß wörtlich: Zu viel Social Media gibt KI-Chatbots Gehirnverfall.

Vivienne Ming: Jep.

David Rice: Aber bedeutet das, dieser Content ist für niemanden gut?

Vivienne Ming: Gehirnverfall ist gerade das Schlagwort. Gehirnverfall und Arbeitsschlamm. Ich kann darauf sehr nerdig antworten, was da passiert und was wir tun sollten. Aber für ein breites Publikum: Man sollte sich Sorgen machen. Es braucht tatsächlich sehr wenig schlechte Informationen, um ein LLM völlig aus der Bahn zu werfen.

Auch wenn man auf sogenannten "Human-in-the-Loop", Feintuning, Reinforcement Learning setzt, ist es sehr schwer, jemals wieder das ursprüngliche Potenzial zu erreichen. Viele sprechen über die Wichtigkeit von qualitativ hochwertigen Daten. Das ist eines dieser Beispiele: Schon eine kleine Menge zufälligen oder sogar absichtlich eingeschleusten Mülls im System – es ist effektiv ein Hacking des Gehirns.

Das ist nicht nur Gehirnverfall – das ist wie ein Gehirnwurm. Also, das sind Dinge, über die wir uns Sorgen machen sollten. Hier mein etwas nerdiger Ansatz, über den ich gerade ein Paper schreibe: Menschen sind nicht perfekt. Wir sind außerdem voller Vorurteile. Und, wie es scheint, wenn wir uns dem Internet aussetzen, verfällt auch unser Gehirn.

Aber trotzdem machen wir als Menschen eine sehr wichtige Sache. Bekommen wir eine völlig absurde Information, ignorieren wir sie. Natürlich gibt es Ausnahmen. Aber zum Beispiel bei der in der Studie beschriebenen Gehirnverfallsforschung: Dort war es oft wirres Zeug. Kein Mensch käme darauf, eine Seite Kauderwelsch auswendig zu lernen.

Wir haben hier eine Superkraft, die aktuelle KI noch nicht hat: ein Weltmodell. Die KI-Welt spricht zwar viel darüber, aber nein, nicht wirklich. Wir sehen die Welt, wenden dieses Modell an und Dinge, die nicht passen – das ist oft gut, manchmal auch schlecht – sagen wir: "Das ist weniger wichtig, das präge ich mir nicht tief ein." Und wie bekommen wir KIs dazu? Die Vorstellung, dass Datensätze perfekt sein müssen und eine KI niemals ein schlechtes Röntgenbild oder irgendeinen Internet-Müll sehen darf, sonst bekommt sie Gehirnverfall, zeigt wirklich eine Schwäche unseres Trainings.

David Rice: Es heißt oft, wir haben ein Gehirn geschaffen, das so komplex ist wie unseres. Das habe ich oft gehört, aber ich weiß nicht... Ich habe mich oft gegen den Begriff "Gehirn" gewehrt. Doch als ich das las, dachte ich: Vielleicht ist es doch so ein Gehirn. Hat Social-Media-Content also auf KI die gleiche Auswirkung wie bei uns?

Vivienne Ming: Ja. Ich bin gern zurückhaltend. Ich bin eine KI-Realistin. Die Welt ist voller Bullshit. Die KI-Utopisten denken, KI würde alles retten – und die Dystopisten, wir bauen Skynet. Ich wünschte, wir hätten ein Skynet-Problem, einfach weil niemand weiß, wie man sowas baut.

Das gibt es nicht. Aber das, was wir gebaut haben, ist wirklich intelligent. Es ist künstliche Intelligenz, einfach von einer speziellen Sorte: statistisches Lernen. Das ist etwas, das wir Menschen auch massiv nutzen, und insofern bestehen viele Parallelen, besonders zwischen großen Sprachmodellen und uns.

Aber wir haben noch viele andere Formen von Intelligenz, niederstufige rechnerische Ideen, hochabstrakte. Da war z.B. dieser berühmte Henry Markham: Er musste zur Behandlung seiner Epilepsie operiert werden und konnte danach nie wieder ein Langzeitgedächtnis bilden. Menschen wie ich kennen ihn als berühmtes Forschungsobjekt.

Er konnte Gitarre spielen, wusste aber nicht mehr, dass er es je gelernt hatte. In diesem Sinne gibt es verschiedene Formen von Intelligenz. Er konnte keine neuen Erinnerungen bilden, aber trotzdem Gitarre erlernen. Maschinen und Menschen bringen unterschiedliche Stärken mit. Wenn wir aufhören würden, künstliche Menschen zu bauen, sondern feiern, was KI gut kann...

Dann wären wir heute weiter.

David Rice: Da stimme ich zu und das führt eigentlich genau dazu, wohin ich heute wollte: Es herrscht die Vorstellung, dass KI alles leichter, bequemer, effizienter und profitabler macht.

Ich glaube, das ist das, was viele Führungskräfte gerade reizt. Als wir vorab sprachen, haben Sie diese Erzählung jedoch teilweise hinterfragt und gefragt: Was, wenn KI das Leben nicht leichter, sondern schwerer macht? Oder uns auf eine Weise herausfordert, die uns besser macht. Wie sieht das konkret aus?

Vivienne Ming: Ich habe am Wochenende Forschung geteilt, die nichts mit KI zu tun hat. Eine Untersuchung zeigte: Risikokapitalgeber investieren eher in Unternehmer, deren Gesicht ihnen ähnelt.

Ein cooles Experiment, das nur mit KI machbar ist: Man konnte die numerische Ähnlichkeit messen und dann sagen: Wow, Sie bekommen 3 % wahrscheinlicher eine Investition, wenn Sie einem VC ähnlich sehen – aber Sie sind 7 % weniger erfolgreich hinsichtlich der Rendite. Das zeigt, wie voller Vorurteile wir sind.

Wie hilft das? Wir sind voreingenommen und denken, wir seien rational, was nicht stimmt. Ein großes Beispiel für diese Irrationalität: Wir haben einen natürlichen Drang, es uns leichtzumachen. In der Psychologie sprechen wir von flachen und tiefen Prozessen. Die meiste Zeit, auch Hochbegabte, gehen wir durchs Leben eher oberflächlich, was okay ist. Aber manchmal müssen wir in die Tiefe gehen.

Und das Lustige daran: Wir haben das perfekte Werkzeug gebaut, um den Rest des Lebens so flach wie möglich zu verbringen. Wenn dann noch betriebliche Fehlentscheidungen dazukommen – z.B. jemanden einstellen, der einem äußerlich ähnelt, statt den Besten zu wählen...

Eine weitere Studie, die ich geteilt habe: Das Peter-Prinzip ist real – Vertriebler werden wegen ihrer Verkaufszahlen befördert, nicht wegen Managementpotenzial, was die Wirtschaftlichkeit von Firmen beeinflusst. Während diese Menschen entscheiden über Beförderungen, Investments und KI-Einsatz, glauben wir der Erzählung, KI würde alles bequem machen: Sie übernimmt langweilige Arbeit, wir machen das Kreative. Doch bei meinen Untersuchungen zeigt sich: Je mehr langweilige Arbeit KI übernimmt, desto mehr langweilige Arbeit gibt es für alle. Beispiel: Viele Unternehmen bewerben intern, dass KI alle E-Mails liest und schreibt – und so Zeit spart.

Tatsächlich kommt es so zu noch mehr Müll-E-Mails, das heißt, wir müssen uns noch mehr durch E-Mails kämpfen. Die Vorstellung, der Zweck der KI bestünde in kurzfristigen Produktivitätsschüben – wie Kokain für die Produktivität – ist aus meiner Sicht eine Sackgasse.

Nicht zuletzt, weil das sicht- und messbar menschliches Potenzial abbaut, wenn KI Menschen ersetzt. Es gibt viele Forschung dazu. Das Argument, KI übernimmt das Langweilige und wir werden magisch kreativer, stimmt einfach nicht. Wer bessere Menschen will und KI liebt wie ich seit 30 Jahren, muss KI bauen, die explizit und zweifelsfrei Kreativität fördert, und das ist meist das Gegenteil von Bequemlichkeit: Sie macht es schwerer. Sie sagt: Das ist keine gute Idee! Sie zeigt, warum Sie falsch liegen. Sie schafft konstruktiven Widerspruch. Ich schreibe dazu in meinem neuen Buch und nenne es das Nemesis-Prompt.

Ich habe es beim Schreiben des Buches genutzt: Kapitel für Kapitel, und es war zäh, weil es technisch und voll meines Nerd-Humors ist – ein Ghostwriter oder eine KI hätten das nicht so machen können. Ich schrieb also ein Kapitel, dann bat ich Gemini: Sei mein schlimmster Feind, mein Nemesis! Hier ist mein neues Kapitel, finde alles Falsche, jeden Irrtum, jede widerlegbare Aussage und erkläre es mir im Detail – und falls möglich, mach es besser.

Ich habe KI also nicht genutzt, das Buchschreiben leichter zu machen, sondern schwerer, wie Sie sagten: auf eine Weise, die mich besser gemacht hat.

David Rice: Das ist ja in der gesamten KI-Kultur sichtbar: Wir sehen KI immer als Abkürzung zu Produktivität, als Komfort-Werkzeug zur Effizienzsteigerung, aber zu selten als Katalysator für persönliches Wachstum oder zur Weiterentwicklung von Führungskompetenz.

Oder, wie Sie erwähnten – Vertriebler werden wegen Verkaufszahlen befördert, nicht wegen Führungsqualität – auch unsere Fragen werden selten herausfordernd genug. Wir rahmen es wie jede Technik der letzten 50 Jahre: Es macht alles leichter und bequemer. Aber ob das in anderen Lebensbereichen je viel gebracht hat?

Vivienne Ming: Als ich mich teilweise aus der Wissenschaft zurückzog, begann ich meine ersten Firmen, und dann wurde ich eingeladen, Keynotes zur Zukunft der Arbeit zu geben.

Nachdem ich KI-Bildungsfirmen, KI im Arbeitsmarkt und Medizin gegründet hatte – wer wäre da besser geeignet? Auf so einer Bühne sagte mein Co-Speaker: "Es ist wie die industrielle Revolution. Keine Sorge, es entstehen mehr Jobs als wegfallen, alles wird wunderbar." Als ob dieser Vergleich mathematisch unwiderlegbar wäre.

Einmal war ich mit dem schlimmsten Mansplainer überhaupt auf der Bühne, der nur Schein-Fakten von sich gab. Ich war so frustriert, dass ich schrieb: Das ist nicht die industrielle Revolution. Es wurde ein Kapitel in dem gelben Buch dort hinten. Es ging erstens darum, ob wir wirklich verstanden haben, was die industrielle Revolution war (Wirtschaftsgeschichte), aber auch: Ist KI einfach nur das Fließband, Elektrizität oder der Verbrennungsmotor?

Wir verweisen auf historische Wendepunkte – und es lohnt sich, diese zu verstehen! – aber KI hebt nicht von unten an. Für KI gibt es kein Unten. Sie kann den dümmsten Tweet generieren oder einen Witz-Bildgenerator, genauso wie sie nicht nur Krebs diagnostizieren, sondern neue Erklärungsmodelle für Krebs entwerfen kann. Der Unterschied: KI ist alles egal. Für sie ist beides gleich. Entweder bereichert sie die Welt mit einer kurzlebigen Spielerei für 35 Millisekunden oder sie verändert die Menschheitszukunft. Das ist nicht die Fabriklinie, nicht die landwirtschaftliche Revolution – es ist ohne historisches Vorbild. Es muss nicht schlecht sein, aber eben auch nicht gut.

Bis wir akzeptieren, dass Menschen chaotisch – und KIs es auf ihre Weise auch sind –, passiert nichts. Richtig kombiniert entsteht etwas Großartiges, falsch kombiniert werden etwa Endokrinologen schlechter in der Krebsdiagnose, Studierende schreiben schlechtere Aufsätze, ihre Hirnaktivität nimmt ab.

Das ist weder gut noch schlecht – es ist ein komplexes, dynamisches System. Entscheidend ist, wie wir es nutzen! Viel mehr als bei der berühmten Second-Amendment-Debatte. Waffen machen die Welt nicht schlechter – KI auch nicht. YouTube-Algorithmen machen nicht automatisch alles schlimmer. Es ist unser Zusammenspiel mit diesen Algorithmen, das die Zukunft bestimmt.

Wenn wir nicht lernen, in die Tiefe zu gehen, mache ich mir Sorgen.

David Rice: Ich entgegne immer, historische Umwälzungen liefen nie in diesem Tempo ab. Unser Gehirn ist vielleicht nicht gemacht für die Geschwindigkeit des Wandels, vor der wir stehen.

Etwa unsere Fähigkeit, Echt von Unecht zu unterscheiden – das ist mit KI-generierten Internet-Inhalten schon heute ein Problem. Viele erkennen nicht mehr: Ist das KI, ist es nicht, wird es nur behauptet? Realität wird in Frage gestellt – das gab es vorher so nicht.

Das ist eine ganz andere und größere Aufgabe für uns als Menschheit. Und wie wir damit umgehen – wenn wir schon Probleme beim Verstehen haben und sie trotzdem nutzen, steigt das Risiko, sie falsch einzusetzen.

Vivienne Ming: Ich arbeite gerade an einer Pilotstudie zu Hybrid-Kollektiv-Intelligenz: Wie Menschen und Maschinen zusammenarbeiten – das Gute, das Schlechte und das Hässliche. Es ist noch früh. Wer das Paper lesen will, muss sich gedulden, bis ich die Studie fertig und valide ausgewertet habe.

Aber vorab: Ich fand, es ist ein guter Weg, den Welt-Einfluss von Menschen über ihre Prognosefähigkeiten zu messen. Es gibt schon so etwas, z.B. Poly Market, wo man Geld auf Ereignisse wetten kann, auch zur Mondwahl gab's dazu jüngst Schlagzeilen.

Wenn ich jetzt Uni-Teilnehmer (Teams aus 3–5 Leuten) eine Stunde lang jede Menge Polymarket-Prognosen bewerten lasse, können wir messen: Die Laien schneiden nicht so gut ab wie Profis. KIs (wie Gemini, GPT) schneiden recht gut ab – nicht so gut wie der Markt selbst, aber solide, v. a. bei naheliegenden Vorhersagen.

Kombiniert man Menschen und KI, wird es spannend: Nicht die KI ist der wichtigste Erfolgsfaktor, sondern das Humankapital – weil es bestimmt, wie man KI nutzt. Bei geringem Humankapital übernimmt man einfach die KI-Empfehlung. Dann sind die Ergebnisse wie beim KI-Solo-Test. Bei hohem Humankapital entstehen kreative Wechselwirkungen: Menschen bringen Ideen, KI verfeinert, Menschen optimieren weiter – und so weiter. Provokant: Solche Hybrid-Teams schneiden sogar so gut ab wie der Markt selbst, vor allem bei unvorhersehbaren Outlier-Ergebnissen.

Was zählt, ist also die Form der Interaktion: Wer sich tief einlässt, profitiert – es geht nicht um Outsourcing des kollektiven Gehirns, sondern um die Integration der KI ins Innovationsprozess. Das ist ein riesiges Ergebnis: Das Intelligenteste auf dem Planeten ist heute Kollektiv-Intelligenz aus Mensch und KI – nicht irgendeine Super-KI allein, nicht irgendein menschliches Genie wie Terrence Tao – sondern bereits normal begabte Teams, die von KI unterstützt werden.

David Rice: Das ist faszinierend – ich habe letztes Wochenende das erste Mal von Poly Market gelesen, es ist verrückt, auf wie viele Dinge man mittlerweile wetten kann.

Ich würde gern das Effizienz-Mythos ansprechen: Überall im Arbeitsalltag begegnet uns der scheinbare Drang zur Effizienz. Glauben Sie, dass dieser Narrative KI daran hindert, das Potenzial für echte Wirkung im Unternehmen zu entfalten?

Vivienne Ming: In der Effizienzannahme stecken viele Voraussetzungen. Eine ist, wir hätten ein gutes Effizienz-Modell – etwa, dass Zeilen an Code oder Dealflow tatsächliche Gesamteffekte eines Unternehmens messen. Betrachtet man die Wirtschaftsleistung der letzten 30 Jahre in den USA, sieht man: Ein Großteil des Wachstums kommt von einigen wenigen "Super-Firmen" mit unerklärlich hoher Produktivität. Es geht also um schwer fassbare Faktoren – und sicher nicht nur darum, dass Leute schneller E-Mails beantworten oder schneller Code schreiben. Interne Studien bei Google zeigten: Die besten Teams arbeiteten ineffizient im Sinne, dass sie weniger Zeit miteinander, dafür intensiver mit anderen im Unternehmen kommunizierten.

Meine eigene Forschung untersuchte, was ich "höherwertige Produktivität" nenne: Wie steigert eine Person die Leistung der anderen im Team? Die gängigen Effizienz- und Produktivitätsmetriken messen fast nur persönliche oder Team-Leistung, bestenfalls mit kleinen Nebeneffekten. Was, wenn ein Unternehmen von 500.000 Menschen ein neuronales Netz mit 500.000 künstlichen Neuronen wäre? In neuronalen Netzen kann man mathematisch bestimmen, wie die Änderung einer Komponente das Gesamtsystem beeinflusst. Ich habe das wirklich angewandt: 11 % der Mitarbeiter sorgten für 80 % der "Nicht-individual-metrisch" messbaren Produktivitätssteigerungen – ein kleiner, aber wesentlicher Anteil machte alle besser.

Dank Tag-zu-Tag-Daten von 70.000 Freiwilligen zeigte sich: Diese Leute helfen einfach. Sie sind ineffizient im alten Sinne, weil sie Dinge tun, die nicht ihr eigentlicher Job sind, was alle ringsum besser macht.

Welche Effizienzkennzahl bildet das ab? Das ist ein gigantischer, verborgener Produktivitätstreiber, der nirgends gemessen wird. Wer Callcenter-Mitarbeiter durch Chatbots ersetzt, senkt zwar die Kosten pro Fall – aber kommt es dadurch nicht zu mehr Problemen an anderer Stelle? Wenn KI den Code vollständig generiert, müssen Senior Developer öfter Fehler ausbessern – es wird also nicht besser. Doch wenn hochqualifizierte Menschen mit KI kreativ am Code arbeiten, dauert es zwar länger, aber die Codequalität und der langfristige Nutzen steigen.

Unsere Vorstellungen von Effizienz und deren Messung sind falsch in einer Welt, in der es richtig wäre, Fehler zu machen, Alternativen zu erkunden und mit KI zu experimentieren, anstatt alles einfach nur zu automatisieren.

David Rice: Schönes Beispiel: Wenn ein bestimmter Mitarbeiter ausfällt, ist das ganze Team betroffen, wie bei einem "Kleber" im Sportteam. Von außen sieht das nicht so dramatisch aus, aber intern bricht alles auseinander. Wie misst man das in Daten?

Vivienne Ming: Das nimmt man im Sport sehr ernst. Werte wie "Value over Substitution" zeigen: Nicht diejenigen mit den meisten Toren oder Punkten sind am wichtigsten, sondern diejenigen, die dem Team zusammenhalt geben. Sobald man komplexer misst, erscheinen ganz andere Spieler in den Rankings, während andere verschwinden – Teams sind komplexe Systeme. Wenn Sie zum Beispiel Ihre Lieferkette komplex betrachten – warum nicht auch Ihr Humankapital? Ein und derselbe Mensch kann in einem Team gut, in einem anderen nicht passen. Es gibt manchmal Einzelne, die das ganze Team auf ein neues Niveau heben. Brad Pitt alias Moneyball: Wer wüsste nicht gern, wie das perfekte Team zusammengebaut wird?

Am Ende zählt: Beim KI-Einsatz muss man überlegen, wie KI Menschen besser macht, nicht nur, wie sie diese ersetzt.

David Rice: Das Bild vom neuronalen Netz mit 500.000 Personen zeigt: Erst die Vielfalt ermöglicht unterschiedliche Perspektiven – und der Verlust von Einstiegspositionen ist besorgniserregend. Wer den Podcast kennt, weiß um die Kosten für Lernen und Nachfolgeplanung. Aber betrifft es noch mehr? Gibt es einen größeren kognitiven Preis, wenn uns der Einstieg ins Arbeitsleben verloren geht, weil die KI – wie Sie sagten – selbst nichts weiß?

Vivienne Ming: Das Zitat "KI weiß nichts" möchte ich gern ausführen. Meine Doktoranden an der UC Berkeley (und anderswo) sind brillante Menschen. In ihrem Spezialgebiet wissen sie mehr als irgendjemand sonst – auch mehr als ich – sie leben das Tag und Nacht. Warum bin ich überhaupt da? Sie könnten alles in der Bibliothek nachlesen, alle Ursprungsarbeiten finden, die Mathematik, das Gehirn, die KI lernen...

Warum bin ich anwesend? Sie wissen alles und verstehen nichts. Meine Aufgabe ist es, Verständnis zu vermitteln – wie man Forscher wird, wie man das Gehirn exploriert, was übrigens viel komplexer ist als GPT-5 und jede je gebaute Maschine. Das Ziel ist, das Unbekannte zu erforschen: aus allem Gelernten neue Fragen an die Welt stellen.

Arbeiten mit einem LLM erinnert an meine Doktoranden, sie wissen alles über alles – Jura, Gehirn, Technik. Sie geben mir Antworten, aber sie VERSTEHEN nichts, wissen nicht, was sie nicht wissen, das ist die Bauweise. Die Aufgabe der Menschen ist es, das Unbekannte zu erkunden, in diese Richtung zu gehen. Und das ist das Wertvolle an Berufseinsteigern – um endlich zur Frage zu kommen:

Wenn ein Juraabsolvent beginnt, ist nicht dessen Wissen wertvoll – das "Mietwissen" entlastet Ältere von Basistätigkeiten (Fallprüfung, Vertragsreviews etc.), gleichzeitig bringe ich ihm bei: Nicht das Gesetz, sondern das Vorgehen – und das ist entscheidend für die spätere Karriere.

Ich hielt einen Vortrag in New York für Chefjuristen großer Unternehmen. Eine Teilnehmerin schilderte: Sie blockt nach jedem Neueinstieg zwei Wochen, in denen alle Neueinsteiger (alles Beste aus Eliteunis) alle bisherigen Verträge des Unternehmens lesen. Alle finden dann Fehler, Vorschläge, Vorteile – und präsentieren das dem Chef. Der gibt ihnen 30 Minuten, dann sagt er: Schön, dass Sie sich so bemüht haben. Aber diese Schwächen kennen wir, und wir werden sie nicht ausnutzen – denn dann kämen die anderen auf dieselbe Idee. Es geht nicht um das Wissen, sondern um das, was man danach tut.

Die jungen Leute wollen in späteren Jahren Entscheidungen treffen, nicht Ewigkeiten Fallprüfungen machen. Dafür müssen sie sowohl das Stoffwissen als auch das Verständnis entwickeln. Wenn das Wissen von Beginn an durch KI übernommen wird – wie sollen sie je Verständnis erwerben? Sie werden nicht "geboren" mit der Fähigkeit, das Wissen klug anzuwenden.

Einzige Ausnahme: Die TikTok-/YouTube-Influencer-Welt, wo wenige Glückliche es dank Zufall schaffen – aber wollen wir eine Arbeitswelt, die sich wie eine Lotterie anfühlt, in der rein der Zufall über Erfolg entscheidet? Da ist selbst Qualität kein Garant. Es braucht einen gesellschaftlich und wirtschaftlich sinnvolleren Weg.

Spannend ist: Nicht die KI, die allein die Tabellen analysiert, trifft die beste Entscheidung, sondern der Mensch und die KI zusammen – es wird iteriert, ausprobiert, gemeinsam analysiert. Das ist wirklich produktiver als der Mensch allein. Die Qualität verbessert sich und alle lernen dabei.

David Rice: Fazit: KI hat keinen Welt-Kontext, keine praktische Erfahrung. Urteilsvermögen entsteht durch viele kleine Erfahrungen, und ich sorge mich genau um diesen Verlust an persönlicher Entwicklung. Oder halte ich das für überbewertet?

Vivienne Ming: Hier ein scheinbares Paradox: Ein Feld, in dem seit langem am intensivsten KI-Forschung betrieben wurde, ist Bildung. Es gibt eine goldene Regel für KI-Tutoren – auch bestätigt für die neuesten LLMs: Gibt der Tutor dem Lernenden je die Lösung, lernt er nichts.

Auch die Arbeit am MIT und Forschung von Anthropic zeigen das. Und überträgt man das auf Karriereeinsteiger: Gibt das LLM die Antworten, lernt man nie die Arbeitsaufgabe. Die meisten Menschen lernen nicht "von selbst" – nur eine kleine Minderheit engagiert sich tief. Paradox nun: Der beste KI-Tutor gibt nie die Antwort, sondern führt mittels Fragen, Impulsen und Anregungen zum eigenen Lösen.

LLMs führen zum eigenen Verständnis, geben Hilfen, aber nie die Lösung. Das nennt man "Scaffolding". Das knüpft an meine Arbeit zu Neuroprothesen an: Technologie sollte Menschen nicht nur besser machen, solange sie sie nutzen, sondern sie sollen auch nach dem Abschalten besser sein als vorher. Es gibt viele Studien, die zeigen, das gilt aktuell noch nicht: Durchschnittlich werden die Nutzer von LLMs mit der Zeit sogar schlechter.

Das muss nicht so sein! Wenn wir das Interaction-Design verbessern – etwa die KI so bauen, dass sie keine Lösungen präsentiert, oder die Menschen gezielt befähigen, in die Tiefe zu gehen (wie in meiner Poly-Market-Studie) – dann könnten die Riesenvorteile für viel größere Gruppen entstehen.

David Rice: Sie sprachen vom "Jiffy-Lube-Effekt" oder von "Entprofessionalisierung". Was meinen Sie damit?

Vivienne Ming: Ich erwähnte es schon im Zusammenhang mit der Frage, ob dies die industrielle Revolution 2.0 ist: Oft wird behauptet, KI werde mehr Jobs schaffen als vernichten, etwa wie die Webstühle erst Märkte zerstörten, dann aber die Modeindustrie schufen.

Meine Sicht: KI sollte grundsätzlich sogar viel mehr Jobs schaffen als zerstören. Aber anders als Fließbänder, Dampfmaschinen, usw. ist es so: Sobald KI einen neuen Job möglich macht – egal wie anspruchsvoll –, wird spätestens nach sechs Monaten eine neue KI gebaut, die den nun ebenfalls erledigt. Die Frage ist also: Wer ist noch qualifiziert für Jobs, die KI selbst nicht kann? Das ist aktuell eine beängstigend kleine Gruppe.

Das große Versprechen war: Jeder Arzt wird dank KI zum Superarzt. Pragmatisch betrachtet: In der Diagnostik funktioniert Hybrid-Intelligenz fantastisch. Aber: Machen wir daraus etwa das "Jiffy-Lube-Koloskopie"-Modell? Wo Jugendliche mit Realschulabschluss Ihnen für wenig Lohn eine Standardprozedur abnehmen – 80 % Wert zum Bruchteil der Kosten – weil es sich nicht lohnt, noch eine Maschine zu bauen? Für viele CFOs klingt das attraktiv.

Effekt: Die Jobs verschwinden nicht, sondern verlieren an Kompetenz-Anforderungen. Viele "niedrig qualifizierte" Jobs entstehen, einzig, weil sie sich automatisiert noch nicht rechnen. Was für eine gesellschaftliche Spaltung: Nur noch Jobs, weil sie die Kosten einer Roboterisierung nicht rechtfertigen.

David Rice: Wir sprechen oft von Augmentation. Aber oft wird es doch kognitive Automatisierung. Was ist der Unterschied und warum ist er wichtig?

Vivienne Ming: Nerdig ausgedrückt: Bei echter Nutzung des Gehirns ist man gefordert – komplexe, zeitübergreifende Planung, Emotionsmanagement, alles typisch menschlich. Im Neurobereich spricht man von GAM-Aktivität – stark erhöhte Hirnaktivität bei harter Denkarbeit. In einer MIT-Studie zeigte sich: Studierende, die Essays mit LLM schrieben, hatten weniger von dieser Aktivität als solche mit Google oder ohne Hilfsmittel. Die, die ohne Hilfen schrieben, hatten schlechtere Zeichensetzung, aber mehr Hirnaktivität – und erkannten die eigenen Texte später wieder als ihr Werk. Mit LLMs war das nicht so, und die Aufsätze wurden von Dritten auch als weniger überzeugend empfunden.

Am Beispiel Navigation: Früher mussten London-Cabbies alle Adressen und Wege kennen, und hatten dadurch herausragende Gedächtnisleistungen sowie kognitive Gesundheit im Alter. Heute fahren die Uber-Fahrer strikt nach Navi. Kurzfristig macht sie der Einsatz der Technik besser, aber langfristig schlechter, da sie kognitive Bereiche nicht mehr trainieren. Ich prophezeite schon vor 15 Jahren, GPS werde Demenz fördern. Heute gibt es dafür empirische Beweise.

Kognitive Automatisierung bringt mich ans Ziel – kognitive Augmentation gibt mir das richtige Maß an Herausforderung. Ich stelle meinen Studierenden an der UC Berkeley gern die Aufgabe: Wie würdest du Google Maps so redesignen, dass du nicht nur ankommst, sondern kognitiv fitter bist als vorher? Es gibt High-Tech-Ideen, aber auch ganz einfache wie: Lass dich von Google Maps leiten, nutze aber DEIN Wissen, um die KI zu schlagen. Das ist Augmentation: Man nutzt das eigene Gehirn plus KI-Benefits.

Man kann KI explizit gestalten, damit sie Menschen besser macht – das ist aber nicht der Stand der Dinge bei heutigen LLMs.

David Rice: Nach meinem Umzug habe ich mir das Ziel gesetzt, ein mentales Stadtmodell aufzubauen – nach ein paar Monaten habe ich das Navi abgestellt. Aber manchmal frage ich es noch: Welche Route ist jetzt am schnellsten? Aber dann folge ich wieder meiner Intuition.

Vivienne Ming: Und du navigierst selbst. Noch ein Beispiel: In Portugal zeigte eine Studie mit Gastroenterologen – also Magen-Darm-Ärzten –, dass sie mit KI-Assistenz bei Koloskopien kurzfristig besser sind; schaltet man die KI ab, sind sie aber schlechter als je zuvor. Manche sagen: Hauptsache mit KI besser! Doch wenn die langfristigen Fähigkeiten erodieren, verliert man auf Dauer.

KI und Mensch machen unterschiedliche Fehler. Kognitive Automation sorgt dafür, dass ausschließlich die Maschine entscheidet, und das eliminiert die einzigartige menschliche Fähigkeit für "Spürsinn" oder Intuition. Eben diese hybride Stärke erhalten wir nur durch echtes Zusammenspiel.

David Rice: Das war ein faszinierendes Gespräch, Vivienne. Ich danke Ihnen sehr für die Einblicke zu Gehirn und KI im Alltag und zu den möglichen Langzeiteffekten.

Vivienne Ming: Ich danke ebenfalls für die Einladung. Mein Schlusswort: Am Ende geht es um kollektive Intelligenz, geführt durch Menschen. Wählen Führungskräfte den bequemen Weg – KI ersetzt Menschen – gibt es kurzfristig einen Produktivitätsschub, aber langfristig Verluste. Investieren Sie in Mensch und KI, sehen Sie echte, nachhaltige Fortschritte – aber das verlangt Mut und manchmal politisches Kapital in der Firma.

David Rice: Absolut. Ich habe letzte Woche bei einem Vortrag zu HR-Führungskräften gesagt: Ich weiß, Sie wollten keine philosophische Debatte führen, aber jetzt ist die Zeit dafür gekommen. Wir müssen uns alle darauf einlassen. Vielen Dank, dass Sie dabei waren und nochmals danke für das Schlusswort.

Vivienne Ming: Sehr gerne. Danke!

David Rice: Liebe Zuhörer, falls Sie es noch nicht getan haben: Abonnieren Sie unseren Newsletter auf peoplemanagingpeople.com. Dort finden Sie auch unseren KI-Transformation Explorer. Erstellen Sie ein kostenloses Konto, um Zugriff darauf zu erhalten.

Bis zum nächsten Mal – es liegt in unserer Hand, wie KI die Welt prägt, und Sie sind die Vorreiter.