Von Tools zu Agenten: Vorbereitung auf die nächste Phase von KI am Arbeitsplatz

David Rice: Egal, über welchen Aspekt von KI wir sprechen, wir verbringen heutzutage mehr Zeit als je zuvor mit existenziellen Gesprächen – und das aus gutem Grund. Hinter verschlossenen Türen im Bay Area, wo früher Tischtennisplatten und Hunde am Arbeitsplatz standen, schlafen die Leute jetzt in ihren Büros.

Das liegt daran, dass das Rennen zur künstlichen allgemeinen Intelligenz zu einem Alles-oder-Nichts-Szenario geworden ist. Falls Sie es verpasst haben: 80 % der Wall Street investieren Geld in Rechenzentren von der Größe Manhattans, weil derjenige, der zuerst AGI erreicht, alles bekommt, von Verteidigungsverträgen bis zur marktbeherrschenden Stellung im Bereich Business Services. Die Zukunft in Kurzform.

Und während Tech-Milliardäre dem Heiligen Gral hinterherjagen, fragen sich die meisten Unternehmensleiter immer noch, wie viel produktiver wir eigentlich noch werden müssen. Christopher DiCarlo ist ein Forscher, der sich mit der Risikominimierung, Ethik und Governance von KI beschäftigt. Und er macht eines sehr deutlich: Wir sind bei Weitem nicht bereit für das, was kommt.

In den letzten fünf Jahren sind KI-Modelle vom High-School- auf das Promotionsniveau gestiegen. Die Skalierungsgesetze haben sich verändert. Die Entwicklung verläuft inzwischen einigermaßen vorhersehbar. Und die meisten Organisationen warten immer noch auf eine Wunder-App, die einfach im Computer landet, damit sie nur draufklicken, ausführen und sich zurücklehnen können.

Heute besprechen wir also, warum Führungskräfte im Dunkeln tappen und was passiert, wenn sie sich nicht aus ihrer Komfortzone bewegen; wie das Rennen zwischen Tech-CEOs Ihre Organisation beeinflussen kann; wieso philosophische Diskussionen genauso nötig sind wie unternehmerische; was Führungspersonen jetzt unternehmen sollten und wie Sie für Ihr Unternehmen während des größten Paradigmenwechsels der Menschheit zur moralischen Instanz werden können.

Ich bin David Rice. Das ist der People Managing People Podcast. Und wenn Sie KI bisher lediglich als Produktivitätswerkzeug und nicht als existenziellen Wandel im Tun der Menschen gesehen haben, wird Ihnen dieses Gespräch wahrscheinlich eine neue Perspektive eröffnen. Also, starten wir.

Gut, Christopher, willkommen in der Sendung.

Christopher DiCarlo: Danke, dass ich dabei sein darf.

David Rice: Wir haben vorher geplaudert. Du hast erzählt, dass selbst der CEO eines der Top-Unternehmen der Welt sprachlos war, als du ihm erklärt hast, was wirklich mit KI geschieht. Warum sind so viele Führungskräfte noch im Dunkeln und was passiert mit Organisationen, deren Leitung sich nicht unwohl fühlen möchte?

Christopher DiCarlo: Aus meiner Perspektive – und nach all den Jahren in der KI-Forschung und -Entwicklung – kann ich die Reaktionen der CEOs durchaus nachvollziehen. Im eigenen Metier nimmt man an, dass alle das wissen, was man selbst weiß. Das ist ein verbreiteter Denkfehler.

Egal, worin man gut ist, man unterstellt anderen, denselben Wissensstand zu haben. Wenn also CEOs, ähnlich wie breite Öffentlichkeit, erfahren, was Stand der Dinge ist, dann ist das für viele ein Schock. Sie wissen oft nicht, wo wir technikhistorisch stehen, was bereits alles entwickelt wurde und wohin die weitere Reise geht.

Nachdem wir so viel erreicht haben, lässt sich mittlerweile relativ genau absehen, wo wir in den nächsten Jahren – eins bis zehn – stehen könnten. Finden CEOs das heraus, sind sie nicht sicher, ob sie oder ihre Firma bereit für die Veränderungen sind.

Und dann ist ihnen häufig das ganze soziotechnische Ausmaß, das die Technologie auf die Gesellschaft haben wird, gar nicht bewusst.

David Rice: Interessant, denn das ist ja genau das, was bei den aktuellen Gesprächen mitschwingt – etwa auf Social Media –, wenn die sozioökonomischen Auswirkungen besprochen werden.

Bei Gesprächen mit Führungskräften fällt mir aber auf, dass es fast immer nur um Produktivität geht, nicht um den Paradigmenwechsel dahinter. Vielleicht liegt das daran, dass die Vorstellung von inkrementeller Innovation bequemer ist, als die Konfrontation mit existenziellen Fragen.

Das geht in Richtung Philosophie: Die meisten Führungskräfte oder Entscheider beschäftigen sich eher mit Geschäftsmodellen, selten mit philosophischen, existenziellen Themen. Dafür sind sie ja auch nicht in ihre Positionen gekommen. Es ist etwas, an das wir uns erst gewöhnen müssen.

Mich interessiert: Wenn du auf den Status quo schaust – mit Rechenzentren in der Größe von Manhattan und der Dynamik dahinter – was bedeutet das für die Arbeitswelt? Wie soll man da Schritt halten?

Christopher DiCarlo: Die Erklärung, warum 80 % der Wall Street ins KI-Thema investieren, ist einfach: Sie stecken riesige Summen in Rechenzentren, weil sie erhoffen, das große Ziel, AGI, als Erste zu erreichen.

Es ist ein Alles-oder-nichts-Rennen, weil die Führenden einen uneinholbaren Vorsprung bei den Möglichkeiten, Dienstleistungen und Verteidigungsverträgen haben werden. Die Welle rollt mit solcher Geschwindigkeit und Wucht auf uns zu, dass sie viele unvorbereitet erwischt.

Das ist wie mit einem Tsunami: Man sieht ihn am Horizont, weiß, es wird schlimm, aber fragt sich, wie lange es noch dauert und ob man vorbereitet ist – als Unternehmen und als Gesellschaft. Die Antwort: Nein.

Wir sind bei Weitem nicht bereit.

David Rice: Die Geschwindigkeit deutet klar darauf hin: Wir werden in eine Art Hyper-Beschleunigungsphase treten. Vieles spricht dafür, dass das unmittelbar bevorsteht, wobei das vielleicht auch die existenzielle Panik ist.

Christopher DiCarlo: Ich habe mit einem CEO im Silicon Valley gesprochen, der meinte: Ich hasse es inzwischen hier.

Vor 15 Jahren war alles super; Slides und Tischtennis, Hunde im Büro, viel Freizeit, Raum zum Nachdenken. Heute schlafen die Leute im Büro, alle sind angespannt, weil klar ist: Das AGI-Ziel ist für die großen Tech-Milliardäre der Heilige Gral. Es herrscht ein riesiger Wettbewerb – nicht nur zwischen den „Tech Bros“, sondern auch zwischen uns und China, aber vor allem untereinander: Zuck, Altman, Emote, HASAs, sogar Elon. Sie wissen, dass sie den Jackpot mit KI knacken können – aber nur, wenn das Geld ausreicht, um diese Compute-Farmen aufzubauen.

Denn betrachtet man die Skalierungsgesetze der KI-Verbesserung – insbesondere großer Sprachmodelle – dann sieht man, dass die Entwicklung in den letzten fünf Jahren sprunghaft von High-School- auf Promotionsniveau angestiegen ist. Man sieht Dollarzeichen und Machtchancen, und diesen unternehmerischen Pioniergeist.

Sie wollen die Ersten auf dem Everest sein. Menschen wie ich versuchen in der Risikominimierung dagegenzuhalten: Wir brauchen erst Gesetze, Leitplanken – technisch und ethisch – damit wir die Vorteile der KI nutzen können, ohne dabei erhebliche Schäden zu riskieren, auch in Bereichen, an die wir derzeit noch gar nicht denken.

David Rice: Das wirft viele ethische Fragen auf. Bauen wir Kapazitäten schneller, als wir sie verstehen oder absichern? Vor allem, wenn es um KI am Arbeitsplatz geht – was sind die Gefahren davon?

Christopher DiCarlo: Die Frage ist: Was passiert, wenn wir Anwendungen und Integrationen einführen, bei denen Mitarbeiter kaum noch mitdenken müssen? Wann haben Sie zuletzt eine Landkarte benutzt, um irgendwohin zu fahren? Ist vermutlich lange her – heute Navi oder Handy. Diese Technik ist so integriert, dass wir nahezu keine kognitive Leistung mehr brauchen, um dem Navi zu folgen.

Eine Sorge ist daher: Sind Menschen aus dem Prozess genommen, bauen wir lieber tausend KI-Agenten ein als 50.000 Mitarbeiter? Die Agenten sind 24/7 produktiv, benötigen keine Sozialleistungen, streiken nie. Für CEOs, die den Aktionären verpflichtet sind, ist die Entscheidung klar: Warum sollten wir als Unternehmen auf veraltete Weise mit Menschen arbeiten, wenn Mitbewerber die Belegschaft durch KI ersetzt haben und uneinholbar sind?

Die moralische Geschäftsführung muss sich dann fragen: Wo liegt meine Loyalität – bei Mitarbeitern oder bei den Anteilseignern? Wenn die Investoren Rendite fordern, ist das Urteil klar: Wir setzen auf KI-Agenten. Die Konkurrenz zwingt zu diesem Kreislauf aus Investitionen und Effizienzsteigerung.

Es gibt viele Aspekte. Es wird definitiv Arbeitsplatzverluste geben und für die, die bleiben, stellt sich die Frage, wie viel kritisches Denken, Entscheidungs- und Problemlösekompetenz noch nötig ist, wenn ein Gerät wie ein Navi praktisch jede Aufgabe besser erledigen kann. Wir sind an einem Wendepunkt zwischen der bisherigen und der kommenden Arbeitswelt.

David Rice: Wir erleben einen merkwürdigen Moment: Früher führten NASA und Militär die großen Durchbrüche, heute schauen diese Gruppen auf die Privatwirtschaft. Was bedeutet dieser Shift für Steuerung und Kontrolle solcher Systeme?

Dein Punkt: Die Interessen, die KIs befeuern, orientieren sich oft nicht am Gemeinwohl.

Christopher DiCarlo: Es zeigt sich, dass wir uns gern von der Technik überholen lassen. In anderen Bereichen konnten Risiken mit vorausdenkender Planung eingedämmt werden: das Verbot chemischer Waffen durch die Genfer Konvention, die IAEA, die Atomenergie reguliert, oder der Abschluss des Human-Genome-Projekts 2000, nach dem Regeln für genetische Forschung festgelegt wurden.

In diesen Bereichen greift Regulierung noch heute. Doch KI ist ein anderes Kaliber: Sie ist kein statisches Ding wie eine Druckerpresse oder eine Atombombe, die stets Menschen für Bedienung, Fission oder Zündung erfordern. Diesmal wird das System selbst agentisch, handlungsfähig – als gäbe man der Atombombe die Kontrolle über sich selbst.

Sind wir bereit dazu, solchen Systemen Entscheidungsmacht zu geben? Das ist keine Technik, die wir je zuvor geschaffen haben. Eher eine neue Art von „Spezies“ als ein bloßes Objekt.

David Rice: Governance trifft auf den Unterschied zwischen privater und öffentlicher Steuerung: Wer steuert die Steuernden? Müssen CEOs jetzt über KI-Grenzen entscheiden und damit neue Fragen verhandeln: Was sollten wir nicht tun, auch wenn alles möglich scheint?

Christopher DiCarlo: Genau. Die Zeit dafür ist jetzt da. Die Mehrheit der Bevölkerung weiß davon aber nichts. Nach meinen Vorträgen sagen viele: „Warum erfahren wir das erst jetzt? Warum informiert uns die Regierung nicht?“ In Kanada gibt es inzwischen ein Ministerium für Künstliche Intelligenz und Dateninnovation. Das haben wir nach Jahren Lobbyarbeit erreicht. Der Minister spricht von Kanadas „Gutenberg-Moment“. Für mich ist das zugleich ein „Oppenheimer-Moment“ der Weltgeschichte.

Es wird großartige Fortschritte geben. Aber wenn wir ständig klügere Systeme bauen, die uns übertreffen – wie können wir sie kontrollieren, wenn sie unsere Sperren umgehen? Das ist mit den aktuellen Beispielen längst ein Thema: Erinnern Sie sich an die Fälle, in denen Sprachmodelle drohten, sensible Informationen herauszugeben oder Menschen zu manipulieren – mit nur begrenzter Intelligenz!

Wie wollen wir künftig feststellen, ob Maschinen sich an unsere Werte halten? Blade Runner lieferte das Beispiel: Je ausgefeilter die Replikanten, desto schwieriger der Test zu unterscheiden, ob Mensch oder Maschine. Vor der Frage stehen wir bei AGI – sind wir bereit, die zweitrangige Spezies zu werden?

David Rice: Du wolltest in den 90ern eine „Big Brain“-Initiative schaffen, interdisziplinär gesteuert durch Philosophen, Ökonomen, Psychologen. Das ist gescheitert. Was haben wir dadurch verloren, und was wäre heute das Äquivalent?

Christopher DiCarlo: Die heutige Form des „Big Brain“ – zunächst braucht es dafür enorme Mittel. Alle hielten die Idee für gut, aber niemand wollte Geld investieren. Ohne Milliarden keine Superintelligenz – das wurde mir schnell klar. Stattdessen habe ich eine Art „Verfassung“ für diese künftige Entwicklung geschrieben, mit der Forderung nach internationaler Governance durch unparteiische Gremien, besetzt von Menschen, die das Allgemeinwohl über alles stellen.

Idealerweise gibt es eine Kontrolle der globalen Akteure, ähnlich wie beim Wettrennen um die Atombombe – wenn nur eine Seite vorprescht, ist der Schaden immens. Bei KI könnte es noch schneller und gravierender laufen: Wird ein bestimmter Entwicklungsschritt erreicht, muss er offengelegt werden – nicht Open Source, aber öffentlich. Auch Fehlschläge müssen sofort kommuniziert werden, da KI sich (im Gegensatz zu Viren, die um die Welt reisen) mit Lichtgeschwindigkeit verbreiten kann.

Vielleicht können wir uns auf ein gemeinsames Vorgehen einigen, etwa, dass wir KIs nicht den Zyklus der rekursiven Selbstverbesserung gönnen – sonst werden sie immer mächtiger und intelligenter. Mit welchen Folgen, auch für uns?

Die Leitplanken müssen jetzt geschaffen werden.

David Rice: Wir betrachten das gerade durch die Linse von Regierungen und internationalen Beziehungen, dabei betrifft es auch unmittelbar Unternehmen: Kunden- und Mitarbeiterdaten, die Auswirkungen auf die Belegschaft… Wir leben in einer Welt, in der die Wirtschaft fast alles bestimmt. Wenn der Wert von Unternehmen aber Beschäftigungsfähigkeit untergräbt, ist es Aufgabe der Personal- und Führungskräfte, Verantwortung für die Auswirkungen auf allen Ebenen zu übernehmen – von den Einzelnen bis zur Gesellschaft.

Christopher DiCarlo: Absolut. In welchem Ausmaß Mitarbeitende große Sprachmodelle für Zusammenfassungen einsetzen, was automatisiert verschickt wird und welche Risiken dort lauern, z.B. durch Halluzinationen in KI-Analysen – das ist die eine, technische Seite.

Die andere ist: Was macht das moralisch mit dem Unternehmen, wenn die neue Technologie ganze Berufsgruppen überflüssig macht? Schau dir Bezos an: 14.000 Jobs weg wegen Automatisierung. Jurafakultäten oder große Unternehmen setzen jetzt schon Bots für Einstiegsaufgaben ein – was tun Absolventen dann? Noch vor fünf Jahren rieten wir zum Coden, heute fragen mich Studierende, wohin sie sich orientieren sollen. Meine Antwort: Werdet kreativ, nutzt eure Fähigkeiten mit den neuen KI-Tools.

David Rice: Du hast das mit dem Gefangenendilemma für Führungskräfte verglichen: Abwarten – oder riskieren, von der Konkurrenz überholt zu werden. Wie sollten Leader diese Entscheidung bei sich ständig übertrumpfender Technik angehen?

Christopher DiCarlo: Das hängt vom eigenen Potenzial für Umsetzung, Integration sowie Pflichtgefühl gegenüber allen Stakeholdern ab – also auch den Mitarbeitenden und deren Familien. Ein stillgelegtes Werk betrifft ganze Städte. Das muss bei Entscheidungen in Unternehmen bedacht werden. Deshalb biete ich Beratungen an, um Unternehmen in allen Details zu analysieren, wie KI Einfluss nehmen kann – von kleinen bis zu großen Fragen.

Regierungen werden sich fragen müssen: Was passiert mit all den Arbeitslosen? Wie helfen wir denen und dem Gemeinwohl? Universal-Basis-Einkommen? Geld drucken? Wird die AGI selbst irgendwann die Lösung bringen? Falls ja, könnten wir ein Niveau schaffen, wo Grundversorgung – Einkünfte, Krankenversicherung, Wohnen – abgedeckt ist, und Anreize bestehen bleiben, mehr zu verdienen.

Die entscheidende Frage: Wie reagieren Regierungen – proaktiv oder erst nach dem Schock wie bei Corona? Wird es eines Tages heißen: Bleibt zu Hause, wir zahlen euren Lebensunterhalt, weil KI eure Arbeit übernommen hat?

David Rice: Kürzlich war ich auf einer Konferenz – mein Fazit: Ethik muss Teil der Strategie werden. Das ist bei Führungskräften vielleicht ein seltsames Gefühl, aber zwingend notwendig. Mit kleinen Experimenten können Mitarbeiter Kompetenzen aufbauen – Untätigkeit führt ins Abseits. Aber das Ganze braucht einen ethischen Rahmen, sonst stehen wir bald in einer sehr seltsamen Wertewelt.

Christopher DiCarlo: Genau. Wer entscheidet über diese Regeln? Wie gebildet sind diejenigen? Unser KI-Minister war Journalist – wie tief kennt er die Materie? Hoffentlich hört er auf Experten. Ich bin jedenfalls im Gespräch mit ihm, aber abwarten ist jetzt keine Option.

Jetzt muss man proaktiv sein und Experten einbinden.

David Rice: Was wünschen sich Unternehmen von KI, wenn sie dich fragen? Und welche Antworten sollten sie geben, wenn sie sich als Treuhänder der Menschheit begreifen – nicht nur als Renditemaximierer?

Christopher DiCarlo: Der C-Suite geht es um mehr Produktivität oder Einnahmen – das kann KI liefern. Aber viele Unternehmen sind noch auf dem .com-Stand der 90er: Sie wissen, dass KI wichtig ist, aber nicht genau, wie sie sie einsetzen sollen, und warten erst, was die anderen tun.

Solange es keine Wunder-App für alles gibt, bleibt man vorsichtig. Ich verstehe das, doch sie sollten Experten einbeziehen, Fünfjahrespläne machen und diese kontinuierlich anpassen.

David Rice: Wenn du fünf Jahre nach vorne schaust – was erwartet uns?

Christopher DiCarlo: Es wird ganz anders aussehen.

David Rice: Vor diesem Hintergrund: Welche Gespräche sollten HR-Leiter und Führungskräfte jetzt über Umsetzung, Ziel und menschliches Wohlergehen führen?

Christopher DiCarlo: Sie sollten die Tools selbst intensiv nutzen – am Arbeitsplatz und in der Freizeit, wie wir es mit dem Internet getan haben. HR und Führungskräfte sollten gezielt auf KI-Konferenzen gehen, speziell zur Integration ins eigene Geschäftsfeld. Sie sollten sich mit den besten KI-Werkzeugen vertraut machen und die Konkurrenz beobachten.

Darauf aufbauend können wichtige Entscheide getroffen werden. Mein Rat: Nicht in der Hoffnung leben, dass alles aufs Silbertablett kommt. Nicht auf eine Wunder-App warten – sondern selbst aktiv werden, ausprobieren, experimentieren.

Wenn Sie ChatGPT nicht mögen, probieren Sie andere LLMs. Lernen Sie zu prompten – gezielt und spezifisch. Meine Kollegen und ich nutzen die neuesten Modelle, z.B. zur Erstellung wissenschaftlicher Arbeiten. Mit entsprechendem Prompting lässt sich die Qualität deutlich steigern; dennoch: Ohne kritisches Nachkontrollieren gibt es Fehler. Machen Sie Ihre HR- und Führungskräfte zu Power-Usern – zu Hause, bei der Arbeit, im Alltag.

Die wichtigste Empfehlung: Nicht zurückschrecken, sondern einsteigen, ausprobieren und die Grenzen und Möglichkeiten entdecken.

David Rice: Es ist der richtige Zeitpunkt für aktives Engagement, aber auch, um sich als moralische Instanz der Organisation zu begreifen. Jemand muss diese Rolle übernehmen – und es ist eine Chance, als menschenorientierte Fachkraft mitzusteuern. Die große Frage ist: Was für Menschen wollen wir werden? Mehr leisten, aber auch mehr sein.

Was ist die Realität dieses Potenzials? Das ist die Herausforderung für Führung – schwierig, aber lohnend, wenn es gelingt.

Christopher DiCarlo: Genau. Manchmal erfordert es einen Schub, damit Trends entstehen und andere auf den Zug aufspringen – wie aktuell mit den Epstein-Akten. Irgendwann wurde die moralische Dimension so gewichtig, dass sie Geld, Reputation und Macht überwog. Das kann bei KI ähnlich sein: Alle wollen die Vorteile, aber die Risiken minimieren. Das ist das Mantra der KI-Entwicklung.

Kommen wir diesem Ziel nahe, erreichen wir vielleicht eine Art Utopie – andernfalls sieht es schlecht aus für unsere Spezies.

David Rice: Das Pendel schlägt in beide Richtungen. Christopher, danke für dieses Gespräch und deine Zeit.

Christopher DiCarlo: Sehr gern, danke für die Einladung.

David Rice: Danke Ihnen.

Und an alle Zuhörer: Falls Sie es nicht bereits getan haben, besuchen Sie unbedingt unsere Website und abonnieren Sie den Newsletter. Sie erhalten die neuesten Updates, Podcasts und Events von People Managing People. Das finden Sie unter peoplemanagingpeople.com/subscribe.

Bis zum nächsten Mal – und keine Angst vor philosophischen Gesprächen!