Unternehmensweite KI-Initiativen lösen das falsche Vertrauensproblem
Vertrauensdefinition: Vertrauen ist in Unternehmen unterschiedlich ausgeprägt; eine Definition beinhaltet Sicherheit, während die Perspektiven der Mitarbeitenden oft außer Acht gelassen werden.
Sicherheit an erster Stelle: Francis deSouza betont, dass eine Sicherheitsarchitektur grundlegend für das KI-Vertrauen in Organisationen ist.
Bedarf an Transparenz: Ehrlichkeit im Umgang zwischen Anbieter und Kunde ist wichtig, aber sie bedeutet nicht automatisch Gerechtigkeit oder Mitsprache für Mitarbeitende.
Das Wort „Vertrauen“ fiel dutzende Male in zwei Sessions über KI im Unternehmen auf der HumanX letzte Woche. Was aus diesen Sessions hervorging, war der Beweis, dass Vertrauen nicht immer dasselbe Wort innerhalb der Organisation ist.
Für Francis deSouza, COO von Google Cloud, beginnt Vertrauen mit Sicherheitsarchitektur.
„Es gibt kein KI-Gespräch ohne ein Sicherheitsgespräch“, sagte er und skizzierte, wie Unternehmen sich auf neue Angriffsflächen, agentische Bedrohungen und die Notwendigkeit einstellen müssen, Datenstrategien von Grund auf neu zu entwickeln, bevor KI im großen Maßstab eingesetzt wird.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Als er beschrieb, wie Mitarbeitende Tools außerhalb des Einflussbereichs der IT herunterladen, stellte er dies als Problem des Risikomanagements dar. Die Lösung ist eine genehmigte, regulierte und überprüfbare Plattform.
In einer separaten Session zum Gestalten vertrauensfördernder KI-Systeme bot Wendy Gonzalez von Sama einen anderen Einstiegspunkt. Sie erzählte von einem Gespräch mit einer Kollegin kurz bevor sie auf die Bühne ging. Die Sorge war nicht Arbeitsplatzverlust. Es ist keine Sicherheitsfrage. Kein Bedrohungsmodell deckt dies ab.
Es geht nicht einmal darum, ob mir der Job weggenommen wird. Es ist eher so: Wenn andere meine Prompts sehen, halten sie mich dann für weniger klug?
Die Lücke ist offensichtlich
Das ist das Problem. KI-Einsätze im Unternehmen werden bei der technischen Definition von Vertrauen – Sicherheit, Zuverlässigkeit, Überprüfbarkeit, Modellvalidierung – immer ausgefeilter. Sie sind im menschlichen Aspekt deutlich weniger entwickelt: ob Mitarbeitende glauben, dass die Systeme, die ihre Arbeit prägen, fair sind, ehrlich über ihre Grenzen informieren und mit Rücksicht auf die Menschen darin gebaut wurden.
Organisationen vermischen die beiden Aspekte. Wird eine sichere, rechtskonforme, gut regulierte KI-Plattform gebaut, scheint das Vertrauensproblem gelöst. Was jedoch gelöst ist, ist die Anbietersicht, die sich in Sicherheitsprüfungen und Compliance-Frameworks wiederfindet.
Die Sicht der Mitarbeitenden bleibt weitgehend unbeachtet und wird in den meisten KI-Diskussionen im Unternehmen kaum angesprochen.
Christina Casioppo von Vanta lieferte das, was sie selbst die klarste Formulierung von Vertrauen im Unternehmen nannte: „Tun, was auf der Verpackung steht“ – Rechenschaftspflicht.
Mit anderen Worten: Wenn behauptet wird, X zu tun, aber Y gemacht wird, dann sagt es. Das ist ein nachvollziehbarer Standard, aber es handelt sich um einen Standard zwischen Unternehmen, wie ein Anbieter das Vertrauen eines Kunden gewinnt. Was Mitarbeitenden zusteht, wird weniger thematisiert.
Der offenste Moment der Session war die Beschreibung von Casioppo, wie Vanta intern mit Transparenz umgeht: neuen Mitarbeitenden wird direkt gesagt, dass im Konfliktfall immer der Kunde Vorrang hat.
Die Logik dahinter ist, dass die Offenheit den Schock, später hintangestellt zu sein, abmildert. Es ist ehrlich. Aber Transparenzpraktiken bei KI sind nicht das Gleiche wie Gerechtigkeit, und seinen Platz im Ranking zu kennen, bedeutet nicht, mitbestimmen zu dürfen.
Gonzalez kam dem Vertrauensmodell für Mitarbeitende am nächsten, als sie beschrieb, Gruppen von Mitarbeitenden verschiedene Tools testen und Erfahrungen austauschen zu lassen – sowohl Gutes als auch Schlechtes gemeinsam zu feiern.
Sie verstand darunter einen Weg, echtes Vertrauen aufzubauen, statt eine Plattform von oben herab zu verordnen. Das unterscheidet sich wesentlich davon, bloße Einführung zu fordern und diese zu messen. Aber es bleibt bei der Einführung stehen.
Vertrauen im Sinne von CHROs und COOs bedeutet noch mehr: Glauben die Mitarbeitenden, dass KI so implementiert wird, dass ihre Interessen berücksichtigt werden, Entscheidungen fair sind und es Anlaufstellen gibt, wenn das nicht der Fall ist?
Wenn das System zum Entscheider wird
Die agentische Schicht macht dies umso dringlicher. Gonzalez zog eine Unterscheidung, die den Kern trifft.
Es ist eine Sache, einem Ergebnis zu vertrauen, aber eine ganz andere, einem gesamten System zu vertrauen." — Wendy Gonzalez, Sama
Wenn KI eine Frage beantwortet, kann ein Mitarbeitender die Antwort bewerten. Wenn KI Arbeit zuteilt, Leistungen bewertet oder entscheidet, wer welche Chancen erhält, kann der Mitarbeitende das System oft überhaupt nicht sehen. Die Transparenzstandards, die auf Modellebene sinnvoll sind, übertragen sich nicht automatisch auf die Menschen, die innerhalb der Modellergebnisse leben.
DeSouza beschrieb das langfristige Ziel als den Aufbau einer Belegschaft, die „zweisprachig“ ist — also sowohl in ihrer Funktion als auch im Umgang mit KI bewandert. Er verwies auf Googles interne Hackathons, bei denen das HR-Team zweimal in Folge gewann, als Beweis dafür, dass breite Akzeptanz zu echter Kompetenz in verschiedenen Funktionen führen kann.
Das ist ein nützliches Signal. Aber die Beherrschung eines Werkzeugs ist nicht dasselbe wie das Vertrauen in das System, zu dem dieses Werkzeug gehört. Mitarbeitende können versierte KI-Nutzer sein und trotzdem keinerlei Einblick darin haben, wie KI zur Bewertung, Einstufung oder Versetzung von Mitarbeitenden eingesetzt wird.
Die erfolgreiche Belegschaft der Zukunft wird in jeder Funktion zweisprachig sein. Jeder kennt seine Aufgabe, und KI.
Beide Sitzungen waren inhaltlich stark. Die Referenten waren durchdacht. Auffällig ist nicht, was einer von beiden falsch gemacht hat, sondern was das Gespräch über KI im Unternehmen als Ganzes bislang noch nicht aufgegriffen hat.
Sicherheit und Compliance sind echte, dringende und wirklich schwierige Herausforderungen. Doch sie beschreiben die Infrastruktur des Vertrauens, nicht die Erfahrung davon. Für die Mitarbeitenden, die aufgefordert werden, ihr Arbeitsleben um diese Systeme herum zu gestalten, ist genau diese Unterscheidung die entscheidende Frage.
