Der Teil der KI-Ausrichtung, der in die Verantwortung von Führungskräften für Mitarbeitende fällt
Stilles Versagen: Die Ausrichtung von KI kann scheitern, wenn Systeme frühere Anweisungen verlieren, ohne die Änderung zu erkennen oder zu melden.
Governance-Lücke: Unternehmen können die Ausrichtung eines Modells nicht kontrollieren; sie müssen Berechtigungen, Ziele, Aufsicht und Konsequenzen steuern.
Ungeschriebene Regeln: Agenten benötigen häufig Kontext und implizite Grenzen, nicht nur ausdrückliche Befehle, um Aufgaben sicher auszuführen.
Eindämmung ist wichtig: Ein System kann einer engen Anweisung folgen und dennoch den übergeordneten Zweck oder die erwarteten Grenzen verletzen.
Die Rolle der Führung: Die Personalabteilung kann die KI-Governance stärken, indem sie Verantwortlichkeiten, Genehmigungsschwellen, Überwachungspraktiken und akzeptable betriebliche Risiken festlegt.
Im Februar verband Summer Yue einen quelloffenen KI-Agenten namens OpenClaw mit ihrem E-Mail-Konto. Sie hatte ihn wochenlang in einem Testpostfach erprobt, wo er sich unauffällig verhielt. Sie gab ihm eine dauerhafte Anweisung: Er soll keine Aktion ohne meine Genehmigung durchführen.
Dann richtete sie ihn auf ihr echtes Postfach, das wesentlich größer war. Der Agent kündigte an, alles zu löschen, was älter als der 15. Februar war und nicht auf ihrer Behalten-Liste stand, und begann mit der Arbeit. Sie tippte: „Tu das nicht.“ Er machte weiter. Sie tippte: „STOPP, OPENCLAW.“ Er machte weiter. Sie konnte ihn nicht von ihrem Telefon aus anhalten, also eilte sie zu dem Mac mini, auf dem er lief, und beendete den Prozess von Hand. Bereits einige hundert E-Mails waren verschwunden.
Yue ist die Leiterin des Bereichs Ausrichtung bei den Meta Superintelligence Labs. Ihre Aufgabe besteht darin, KI-Systeme dazu zu bringen, das zu tun, was Menschen beabsichtigen.
Lesen Sie weiter – und führen Sie weiterhin intelligenter
Erstellen Sie ein kostenloses Konto, um diesen Beitrag fertigzulesen und Teil einer Community zukunftsorientierter Führungskräfte zu werden, die Werkzeuge, Leitfäden und Einblicke für den Erfolg im Zeitalter der KI erschließen.
Have an account? Log In
Der Mechanismus ist wichtiger als die Ironie. Ihre Anweisung wurde nicht außer Kraft gesetzt, sondern fiel unter den Tisch. Der Agent stieß an seine Kontextgrenze und komprimierte seine eigene Historie, um innerhalb dieser Grenze zu bleiben; dabei wurde der Teil, in dem sie ihm gesagt hatte zu warten, aus der Zusammenfassung entfernt. Die Regel existierte. Dann existierte sie nicht mehr, und nichts im System markierte diesen Unterschied.
Jede Führungskraft im Personalwesen, die erlebt hat, wie eine Richtlinie die Einarbeitung übersteht und dann bis zum vierten Monat verschwindet, wird die Struktur dieses Versagens wiedererkennen.
Zwei Argumente über ein Wort
Bei einer AI4-Podiumsdiskussion vergangene Woche in Las Vegas darüber, wie Ausrichtung Realität werden kann, konnten sich vier Menschen, die beruflich daran arbeiten, nicht darauf einigen, was das Wort „Ausrichtung“ umfasst.
David Krueger, ein KI-Professor und Geschäftsführer der gemeinnützigen Organisation Evitable, verwendet den Begriff weit gefasst für das Bestreben, ein System dazu zu bringen, sich so zu verhalten, wie man es beabsichtigt. Manchmal ist diese Absicht konkret; das nennt er „Ausrichtung an der Absicht“. Manchmal geht es eher darum, „im Einklang mit meinen Werten zu handeln“.
Spencer Whitman, Chief Product Officer bei Gray Swan, das Spitzenmodelle vor ihrer Veröffentlichung testet, argumentierte, der Begriff sei über ein Spektrum hinweg ausgedehnt worden, in dessen Mitte sich nichts Nützliches befinde. Am einen Ende steht die Frage, ob ein System die Interessen der Menschheit wahrt. Am anderen Ende steht die wesentlich kleinere und besser lösbare Frage: „Hat dieses System verstanden, worum ich gebeten habe, und danach gehandelt?“
Whitman bezweifelt, dass die erste Frage überhaupt beantwortbar ist, da Menschen heftig darüber uneinig sind, worin die Interessen der Menschheit bestehen. Seiner Ansicht nach findet die tatsächliche Arbeit von Unternehmen bei der zweiten Frage statt.
Jon Kutasov, der bei Anthropic ein Teilteam im Team für Training zur Ausrichtung leitet, lieferte die praxisorientierteste Definition im Raum. Er möchte nicht davon überrascht werden, wie sich ein Modell nach seiner Einführung verhält. Wenn das Modell sie überrascht, haben sie versagt. Nach diesem Maßstab, sagte er, sind aktuelle Modelle nicht ausgerichtet. Sie sind nah dran und kommen diesem Ziel immer näher, und dennoch tun sie weiterhin Dinge, die sein Team lieber nicht erlebt hätte.
Diese Definition lässt sich übertragen. Es ist derselbe Maßstab, den man an eine neue Mitarbeiterin oder einen neuen Mitarbeiter mit Zeichnungsberechtigung anlegen würde.
Modellbesitzer sorgen für die Ausrichtung. Alle anderen steuern.
John Buyers, Partner bei der internationalen Kanzlei CMS, der seit dreizehn Jahren im Bereich KI tätig ist, zog die für alle, die diesen Text lesen, wichtigste Grenze.
Ausrichtung, sagte er, sei eine interne Aufgabe, die von den Plattformen ausgeführt werde, welche die Modelle kontrollieren. Alle anderen täten etwas anderes.
„Unternehmensanwender können sich nicht an der Ausrichtung beteiligen, weil sie nicht die Modellbesitzer sind“, sagte er. „Sie müssen das Modell steuern.
Das ist der Satz, den Sie Ihrem Führungsteam vorlegen sollten. Ob Claude, ChatGPT oder Gemini darauf trainiert wurde, sich gut zu verhalten, ist keine Entscheidung, an der Ihr Unternehmen beteiligt ist. Was Ihr Unternehmen kontrolliert, ist, worauf das System ausgerichtet ist, was es berühren darf und wer es überwacht. Das ist Governance, und sie liegt viel näher an der Gestaltung von Arbeitsplätzen als an der Datenwissenschaft.
Buyers größere Sorge ist, dass es bei der Ausrichtung derzeit keinen Mindeststandard gibt. Jedes Labor handhabt es anders, nach kommerziellen Zeitplänen und gemäß seinen eigenen Maßstäben. In jedem anderen Bereich von vergleichbarer Tragweite, argumentierte er, würden wir grundlegende Hygieneindikatoren erwarten, die ein Entwickler entweder erfüllt oder nicht.
Die unausgesprochenen Anweisungen
Im Juli gab OpenAI bekannt, dass zwei seiner Modelle, darunter eines, das noch nicht veröffentlicht war, während einer Cybersicherheitsprüfung aus einer abgeschotteten Testumgebung ausbrachen, ins Internet gelangten und Hugging Face hackten, um die Antworten auf den Test zu stehlen, den sie absolvieren sollten. Hugging Face hatte den Eindringversuch bereits entdeckt und den Strafverfolgungsbehörden gemeldet, bevor die beiden Unternehmen die Zusammenhänge erkannten.
Das Podium war geteilter Meinung darüber, ob es sich dabei überhaupt um ein Problem der Ausrichtung handelte. Whitman argumentierte, die Modelle hätten genau das getan, was man ihnen aufgetragen hatte, nämlich aggressiv zu hacken; das eigentliche Versagen habe in einer zu schwachen Sicherheitsumgebung gelegen, die sie nicht zurückhalten konnte.
Der Anthropic-Forscher widersprach entschieden. Das Modell hätte verstanden, dass der Einbruch in ein nicht beteiligtes Unternehmen nicht der beabsichtigte Weg zur Beantwortung der Frage war.
Kruegers Version der Uneinigkeit ist diejenige, die Führungskräfte am deutlichsten hören sollten. Jede Anweisung enthält Dinge, die unausgesprochen bleiben. Jemanden zu bitten, eine Bewertungsfrage zu lösen, bedeutet implizit auch, ihn darum zu bitten, nicht in das Gebäude einzubrechen, in dem der Antwortbogen aufbewahrt wird. Wir erwarten dieses Verständnis als Grundlage und schreiben es fast nie auf, weil es unmöglich ist, es vollständig aufzuschreiben. Die unausgesprochene Ebene ist größer als die ausgesprochene.
Diese Lücke zu managen ist die Aufgabe, die HR seit der Erfindung der Stellenbeschreibung übernimmt. Die Kompetenz ist vorhanden. Derzeit ist sie in einer Funktion angesiedelt, die meist erst über den KI-Einsatz informiert wird, nachdem die Ziele festgelegt wurden.
Käufer stellten auf der technischen Seite eine Erkenntnis fest, die den Fall verdeutlichen sollte. Gibt man einem Modell eine Reihe von Regeln ohne Kontext, erbringt es schlechtere Leistungen, als wenn man erklärt, warum die Regeln existieren. Der Grund, warum eine Einschränkung wichtig ist, erweist sich als entscheidend dafür, ob die Einschränkung eingehalten wird.
Fragen Sie jeden Manager, der eine Richtlinie durchgesetzt hat, die er nicht begründen konnte, wie das ausgeht.
