Unternehmensweite KI-Initiativen lösen das falsche Vertrauensproblem
Vertrauensdefinition: Vertrauen ist in Unternehmen unterschiedlich definiert; eine Definition bezieht sich auf Sicherheit, während die Perspektiven der Mitarbeitenden oft übersehen werden.
Sicherheit an erster Stelle: Francis deSouza betont Sicherheitsarchitektur als Grundlage für Vertrauen in KI innerhalb von Organisationen.
Bedarf an Transparenz: Ehrlichkeit in Bezug auf Interaktionen zwischen Anbieter und Kunde ist entscheidend, bedeutet aber keine Gleichberechtigung oder Stimme für Mitarbeitende.
Das Wort „Vertrauen“ tauchte in zwei Sitzungen über Enterprise-KI bei HumanX letzte Woche dutzende Male auf. Was aus diesen Sitzungen hervorging, ist der Beweis, dass Vertrauen innerhalb der Organisation nicht immer dasselbe Wort bedeutet.
Für Francis deSouza, COO von Google Cloud, beginnt Vertrauen mit Sicherheitsarchitektur.
„Es gibt kein KI-Gespräch ohne ein Sicherheitsgespräch“, sagte er und erläuterte, dass Unternehmen sich mit neuen Angriffsflächen, agentischen Bedrohungen und der Notwendigkeit auseinandersetzen müssen, Datenstrategien von Grund auf neu zu gestalten, bevor KI im großen Maßstab eingeführt wird.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Als er beschrieb, wie Mitarbeitende Tools außerhalb der IT-Kontrolle herunterladen, stellte er dies als Problem des Risikomanagements dar. Die Lösung sei eine genehmigte Plattform, geregelt und prüfbar.
In einer separaten Sitzung zur Gestaltung von KI-Systemen, die das Vertrauen der Nutzer gewinnen, bot Wendy Gonzalez von Sama einen anderen Zugang. Sie schilderte ein Gespräch, das sie direkt vor ihrem Auftritt mit einer Kollegin geführt hatte. Die Sorge war nicht Arbeitsplatzverlust. Es ist keine Sicherheitsfrage. Kein Bedrohungsmodell fängt dies auf.
Es geht nicht einmal darum, ob mir dadurch der Job weggenommen wird. Vielmehr ist es so: Wenn andere meine Prompts sehen, werden sie dann denken, ich bin nicht so klug?
Die Lücke ist offensichtlich
Das ist das Problem. Die Einführung von Enterprise-KI wird immer ausgefeilter, was die technische Definition von Vertrauen angeht — Sicherheit, Zuverlässigkeit, Prüfbarkeit, Modellvalidierung. Sie sind wesentlich weniger ausgereift bei der menschlichen: also ob Mitarbeitende glauben, dass die Systeme, die ihre Arbeit prägen, fair sind, ehrlich mit ihren Grenzen umgehen und mit Rücksicht auf die Menschen darin entworfen wurden.
Organisationen vermengen die beiden. Wird eine sichere, regelkonforme, gut gesteuerte KI-Plattform aufgebaut, fühlt sich das Vertrauensproblem gelöst an. Tatsächlich ist damit aber nur die Anbietersicht gelöst, wie sie in Sicherheitsüberprüfungen und Compliance-Frameworks auftaucht.
Die Sicht der Mitarbeitenden bleibt größtenteils unbehandelt und wird in den meisten Diskussionen über Enterprise-KI kaum angesprochen.
Christina Casioppo von Vanta bot das an, was sie als die klarste Formulierung von Unternehmensvertrauen bezeichnete: „Halten, was auf der Verpackung steht“ – Verantwortlichkeit.
Mit anderen Worten: Wenn Sie behaupten, X zu tun, und dann Y machen, sagen Sie es. Das ist ein vernünftiger Standard, aber es ist ein unternehmenszentrierter Standard darüber, wie ein Anbieter bei einem Kunden Vertrauen gewinnt. Was Mitarbeitenden zusteht, erhält weniger Aufmerksamkeit.
Der offenste Moment der Session war, als Casioppo die Herangehensweise von Vanta an interne Transparenz beschrieb: Neuen Mitarbeitenden wird gleich zu Beginn mitgeteilt, dass im Konfliktfall die Kund:innen Vorrang haben.
Die Logik dahinter: Offenheit mildert später den Schock, sich hintangestellt zu fühlen. Es ist ehrlich. Aber Transparenzpraktiken bei KI sind nicht dasselbe wie Gerechtigkeit, und zu wissen, wo man im Ranking steht, ist nicht dasselbe, wie dabei mitbestimmen zu können.
Gonzalez kam dem Mitarbeitenden-Vertrauensempfinden am nächsten, als sie beschrieb, dass Arbeitsgruppen verschiedene Tools testen durften, sich austauschten, was funktioniert hat und was nicht, und beides feiern konnten.
Sie stellte es als Weg dar, echtes Vertrauen aufzubauen, statt eine Plattform von oben zu verordnen. Das unterscheidet sich wesentlich davon, einfach nur die Einführung zu erzwingen und Zahlen zu messen. Es bleibt aber trotzdem beim Thema Einführung stehen.
Vertrauen, im Sinne von dem, was CHROs und COOs interessieren sollte, umfasst mehr: Glauben Mitarbeitende, dass KI so eingesetzt wird, dass ihre Interessen berücksichtigt werden, dass die Entscheidungen, die sie beeinflusst, fair sind, und dass es einen Ort gibt, an den sie sich wenden können, wenn das nicht so ist?
Wenn das System zum Entscheider wird
Die agentische Ebene macht dies noch dringlicher. Gonzalez zog eine Unterscheidung, die genau darauf abzielt.
Es ist eine Sache, einem Ergebnis zu vertrauen, eine ganz andere, einem gesamten System zu vertrauen." — Wendy Gonzalez, Sama
Wenn KI eine Frage beantwortet, kann eine Arbeitskraft die Antwort bewerten. Wenn KI Arbeit zuteilt, Leistung signalisiert oder beeinflusst, wer welche Chance erhält, sieht die Arbeitskraft das System oft überhaupt nicht. Die Transparenzstandards, die auf Modellebene sinnvoll erscheinen, gelten nicht automatisch für die Menschen, die mit den Ergebnissen des Modells leben müssen.
DeSouza beschrieb das langfristige Ziel als den Aufbau einer Belegschaft, die "zweisprachig" ist – also in ihrer Funktion wie auch mit KI vertraut. Er verwies auf die internen Hackathons bei Google, bei denen das HR-Team zweimal in Folge gewann, als Beweis dafür, dass breite Akzeptanz zu echter Vertrautheit über alle Funktionen hinweg führen kann.
Das ist ein nützliches Signal. Aber Vertrautheit mit einem Werkzeug ist nicht dasselbe wie Vertrauen in das System, zu dem dieses Werkzeug gehört. Mitarbeitende können sehr kompetente KI-Nutzer sein und trotzdem keinerlei Einblick darin haben, wie KI genutzt wird, um sie zu bewerten, einzustufen oder neu einzusetzen.
Die erfolgreiche Belegschaft der Zukunft wird in jeder Funktion zweisprachig sein. Jeder wird seine Funktion kennen – und KI.
Beide Sitzungen waren inhaltlich stark. Die Redner waren überlegt. Bemerkenswert ist nicht, was einer von beiden falsch gemacht hat, sondern wofür im Gespräch über KI im Unternehmen als Ganzes noch kein Raum geschaffen wurde.
Sicherheit und Compliance sind echte, dringende und tatsächlich schwierige Themen. Aber sie beschreiben die Infrastruktur des Vertrauens, nicht das Erleben davon. Für die Mitarbeitenden, die ihr Arbeitsleben um diese Systeme herum aufbauen sollen, ist genau dieser Unterschied die entscheidende Frage.
