Die kognitiven Kosten der Bequemlichkeit: KI wird unser Gehirn beeinflussen
Eine Studie von Forschenden der McGill University aus dem April 2020 hat ergeben, dass der häufigere Gebrauch von GPS mit einem stärkeren Rückgang des hippocampus-abhängigen räumlichen Gedächtnisses einhergeht.
Was bedeutet das?
Im Grunde genommen findet das räumliche Gedächtnis, also die Fähigkeit, sich zu merken, wo sich Dinge befinden, im Hippocampus statt – einer Gehirnregion, die eng mit Erinnerungen, Lernen und Emotionen verbunden ist. Der Hippocampus überführt Kurzzeitgedächtnisinhalte in das Langzeitgedächtnis.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Über viele Jahrhunderte hinweg haben sich Menschen dahingehend entwickelt, Wege zu finden. Es war eine wichtige Fähigkeit, um nicht nur die Umgebung zu erkunden, sondern auch zu überleben – in einer Zeit vor Autos, Zügen und Flugzeugen. Doch mit der Entwicklung unserer Gesellschaften ist es weniger notwendig geworden, diese Fähigkeit zu trainieren, und dementsprechend wird diese wichtige Gehirnstruktur seltener genutzt.
Dieses Phänomen beschränkt sich nicht nur auf GPS. Kaum jemand merkt sich heute noch Telefonnummern, seitdem Mobiltelefone eine Kontaktbibliothek speichern können.
Viele Menschen nutzen Autokorrektur, um Rechtschreibfehler in ihren Texten und E-Mails zu beheben – ein Grammatikexperte muss man deshalb nicht mehr sein.
Doch diese Hilfsmittel sind nur dann effektiv, wenn ein Mensch sie ausreichend nutzt, um das Gewünschte zu erhalten. GPS kann bei der Ortssuche helfen, aber man findet das Haus einer Person nicht ohne Adresse oder zumindest Grundkenntnisse über die Gegend.
Ebenso ist die Bibliothek der Telefonnummern nur ein Informationsspeicher, bis man sich dazu entscheidet, auf einen Knopf zu drücken und jemanden anzurufen.
Sogar ChatGPT, das im vergangenen Jahr für viel Aufsehen gesorgt hat, erfordert die Interaktion durch den Menschen. Um davon zu profitieren, muss man die richtige Eingabe machen.
Bei all dem Wirbel um generative KI ist es laut der Zukunftsforscherin für Arbeitswelten Alexandra Levit, Autorin von "Humanity Works: Merging Technologies and People for the Workforce of the Future", im Wesentlichen der bisher fortschrittlichste Chatbot, den wir gesehen haben.
Podcast: Wie man mit KI Mitarbeitende stärkt & Unternehmen transformiert
„Wenn man das genauer betrachtet, unterscheidet sich generative KI nicht wesentlich von dem, was es zuvor schon gab“, sagt sie. „Es ist ein hochstilisierter Chatbot und man kann den erhaltenen Informationen immer noch nicht wirklich trauen.“
Doch wir vertrauen ihr dennoch. Von ChatGPT beeinflusste Inhalte verbreiten sich bereits massenhaft im Internet. Sie werden verwendet, um E-Mails zu schreiben, die Suchmaschinenoptimierung zu beeinflussen und Daten zu analysieren.
All das ist zumindest auf den ersten Blick relativ harmlos. Die Frage ist: Wird die langfristige Nutzung dieser Technologie das Gehirn der Anwender beeinflussen?
„Ich glaube nicht, dass es den menschlichen Geist wirklich beeinflussen wird – außer darin, wie wir Informationen suchen und kommunizieren“, sagt Levit. „Im Laufe der letzten 25–30 Jahre sind wir darin durch Maschinen immer besser geworden, und heute wissen viele Menschen gar nicht mehr, wie sie systematisch an Informationen kommen, weil man einfach irgendetwas in Google eintippt – was ja auch eine Form von KI ist.“
Auch wenn generative KI mehr oder weniger ein Werkzeug ist, handelt es sich um ein äußerst fortschrittliches, das in vielen Berufen die Spielregeln verändert. Wer weiß, wie und wann man es einsetzt, kann seine gesamte Arbeitsweise und in manchen Fällen sogar seinen Kompetenzbereich komplett verändern.
Aus diesem Grund hört man von vielen – auch von Levit – immer wieder den Satz: „KI wird niemandem den Job wegnehmen, aber eine Person, die sie zu nutzen weiß, schon.“
Das gilt für diese Phase der KI-Entwicklung. Trotz aller Stärken von ChatGPT ist es immer noch eine Maschine, die meist einen Ansatzpunkt für den Menschen liefert, um daraus etwas Sinnvolles oder Nützliches zu machen.
Doch die Frage bleibt: Was passiert, wenn wir unser Gehirn durch den willkommenen Einsatz von Automatisierung immer weniger herausfordern? Die Befürworter von KI entgegnen dann meist, dass wir unsere Denkleistung nicht verringern, sondern nur anders fordern.
Wenn wir Zeit einsparen, die wir bisher für analytische Aufgaben oder das mühsame eigenständige Formulieren von Gedanken aufgewendet haben, können wir angeblich andere Dinge tun, die nur Menschen können. So lautet zumindest das gängige Narrativ.
Was genau diese Dinge jedoch sind, die Menschen wirklich besser können, wird allerdings immer unklarer, je rasanter sich KI-Technologien weiterentwickeln.
Selbst wenn KI nur den Ausgangspunkt für ein Projekt liefert, hat das Auswirkungen, denn KI übernimmt dann eine steuernde Rolle für die Arbeit der Menschen. Menschen, die ohnehin schon stark abgelenkt sind, zwischen mehreren Bildschirmen hin und her wechseln und so wenig Informationen aufnehmen wie nie zuvor.
Wie qualifiziert oder fokussiert wir überhaupt noch sind, um einschätzen zu können, ob das, was uns die KI liefert, überhaupt von Wert ist, sollte uns durchaus zu denken geben.
Stefan Ivantu ist ein beratender Psychiater, der sich auf ADHS bei Erwachsenen in London spezialisiert hat. Er weist schnell darauf hin, dass das Gehirn in gewisser Weise wie jeder andere Muskel ist. Wird es nicht genutzt, besteht die Gefahr, dass es verkümmert – und wir wissen einfach nicht, welche langfristigen Folgen das durch menschliche Interaktionen mit KI haben könnte.
Was wir wissen, ist, dass sich das Gehirn und unser Verhalten durch neue Technologien verändern werden, insbesondere durch die Fähigkeit, sich zu konzentrieren. Man muss nur einen Blick auf die Geschichte werfen.
„Wenn wir das Gehirn wie einen Computer betrachten, hat es zwei Komponenten, die Hardware und die Software“, sagte Ivantu. „Die Hardware ist seit etwa 200.000 Jahren mehr oder weniger dieselbe. Aber im letzten Jahrhundert hat sich die Software exponentiell weiterentwickelt. Vor 150 Jahren hatten wir noch keinen Zugang zu Elektrizität, was eine enorme Veränderung in unserem Alltag bedeutete. Ab den 1950er Jahren, als wir erstmals Zugang zum Fernsehen hatten, je weiter wir uns entwickelten, desto näher kam der Bildschirm an unsere Augen. Der Computer, das Handy, jetzt VR. Das nächste ist das Neuralink. Je weiter wir fortschreiten, desto näher kommt der Bildschirm zu uns. Die Frage ist also: Was ist das normale Maß an Ablenkung für uns?“
Bildschirmsucht hat bereits dazu geführt, dass die Aufmerksamkeitsspanne kürzer wurde. Mir ist vollkommen bewusst, dass Sie dies wahrscheinlich nicht gründlich lesen, sondern nur überfliegen. Daher der verkürzte Absatzaufbau und die Versuche, gut platzierte Seitenumbrüche einzusetzen.
Die Tatsache ist, dass Technik unser Gehirn bereits auf eine Weise beeinflusst, die wir täglich sehen können. Diese Entwicklungen werden sich mit der zunehmenden Nutzung von KI und der sofortigen Befriedigung, die sie für alles bietet – vom Schreiben eines Berichts bis zur Grundlage einer Recruiting-Strategie – kaum verbessern.
KI-gestützte Recruiting-Systeme können sogar die Art und Weise verändern, wie wir uns mit Rekrutierung auseinandersetzen und wie unser Gehirn Kandidatendaten verarbeitet.
„All diese Technologien ermöglichen es uns, bequemer zu sein und Teile unseres Gehirns nicht zu nutzen, die dafür vorgesehen sind“, sagte Levit. „Sie verkümmern bereits. Ich glaube, was die Evolution betrifft, wird es noch sehr lange dauern, bis wir so weit entwickelt sind, dass wir eine bestimmte Funktion nicht mehr ausführen, aber man sieht überall, dass die Menschen durch Technologie abgelenkter sind, sie können sich nicht konzentrieren. Sie sind durch App-Müdigkeit schon weniger produktiv. Sie wechseln gedankenlos von einer Sache zur nächsten, aber sie fokussieren nie wirklich auf eine Sache. Selbst wenn wir uns konzentrieren wollen, gelingt es uns oft nicht.“
Die nächste Phase
Bletchley Park war der ideale Ort für den ersten KI-Gipfel von Staatsoberhäuptern, die sich Sorgen machten, wie KI den industriellen und sozialen Wandel vorantreiben könnte. Dort wurde auch der weltweit erste programmierbare digitale Elektronenrechner gebaut, als die Alliierten im Zweiten Weltkrieg versuchten, deutsche Kommunikationscodes zu entschlüsseln.
Seit diesem revolutionären Moment in der Informatik – einer Disziplin, die heute vielleicht über das Schicksal der Menschheit entscheidet – sind wir weit gekommen, nicht zuletzt durch das Potenzial der KI.
Wenn man sich in die Forschung zu KI vertieft, stößt man bald auf die nächste Phase: interaktive KI.
Firmen wie DeepMind kommen der Realität einer interaktiven KI immer näher – einer Welt, in der Bots Aufgaben übernehmen, die Menschen ihnen übertragen, indem sie einfach andere Software oder Personen zur Erledigung heranziehen.
Klingt schön genug, doch wie lange jede KI-Phase angesichts der schnellen Entwicklung andauert, ist ein großes Fragezeichen.
Noch weiter gedanklich hinab geht es zum Thema AGI, also einer künstlichen allgemeinen Intelligenz, einem System, das intellektuelle Aufgaben bewältigen kann, die sonst Menschen und Tiere ausführen.
Das ist längst keine Science-Fiction mehr, sondern das erklärte Ziel von Firmen wie OpenAI, DeepMind, Microsoft, Google Brain, IBM und anderen, die über enorme Ressourcen verfügen und mit hohem Tempo auf die Realisierung von AGI hinarbeiten.
„Mit KI ist die Gefahr eine existenzielle“, sagte Levit. „Wenn wir die künstliche allgemeine Intelligenz erreichen – das heißt, Maschinen sind im Grunde bewusst und können besser denken als wir –, wozu brauchen wir dann noch irgendetwas zu tun? Was ist dann unser Zweck? Ich glaube nicht, dass wir uns dahin entwickeln werden, gar nichts mehr zu machen, aber vielleicht üben wir eben Tätigkeiten. Bei KI würde mir am meisten Sorgen machen, dass sie uns überflüssig machen wird, weil sie in den meisten Dingen einfach besser ist.“
Immer mehr Entscheidungsträger erkennen diese Tatsache. Aus diesem Grund unterzeichnete Präsident Biden eine Executive Order, um Standards für die Sicherheit und den Schutz von KI festzulegen.
Die 29 Länder, die sich auf dem ersten KI-Sicherheitsgipfel trafen, einigten sich auf eine Agenda, die sich auf gemeinsame Sicherheitsrisiken, die Erstellung risikobasierter Richtlinien und einen globalen Ansatz zur Analyse der Auswirkungen von KI auf die Gesellschaft konzentrieren wird.
Der sich entwickelnde Geist
Es gibt zwei Hauptbereiche, in denen Kentaro Toyama, Informatiker und Professor für Community Information an der School of Information der University of Michigan, davor warnt, dass KI einen erheblichen Einfluss auf das menschliche Gehirn haben könnte. Der erste Bereich ist die Bildung.
Wie bei vielem rund um KI und das Leben gibt es eine Balance zwischen Gut und Schlecht, wenn man es objektiv betrachtet.
Podcast: So kann KI Sie dabei unterstützen, eine großartige Führungskraft zu sein
Theoretisch könnte KI den Schülern maßgeschneiderten, persönlich angepassten Unterricht bieten, der ansprechender ist und das Lernen effektiver macht. Das Gleiche gilt auch für die betriebliche Weiterbildung.
Gleichzeitig sieht Toyama das Potenzial für eine Realität, in der KI das Unterrichten extrem schwierig macht – und es tatsächlich heute schon tut.
„Wenn jeder Zugang dazu hat, wird es für Lehrkräfte immer schwieriger, ihre Arbeit zu machen“, sagte er. „Im Moment ist jede Art von Fakultät in der Situation, dass wir nicht mehr sicher sagen können, ob etwas, das ein Studierender einreicht, wirklich von ihm stammt. Ich habe Kolleginnen und Kollegen, die ihre gesamte Prüfungsbewertung überarbeiten mussten, weil dies das zugrundeliegende Problem ist.“
Obwohl der ehemalige Microsoft-Forscher betont, dass grundsätzlich nichts dagegen spricht, Technologie ins Lernen einzubinden, weist er schnell darauf hin, dass wenn die Leistungsüberprüfung beeinträchtigt wird, die Methoden und Praktiken des Unterrichts nicht mehr sehr effektiv sind.
„Man kann nicht lehren, wenn man nicht weiß, was der Lernende weiß und nicht weiß“, sagt Toyama. „Meine Vorhersage ist, dass alle, die es ernst meinen, zu blauen Heften und beaufsichtigten Prüfungen zurückkehren werden, bei denen man alles von Hand aufschreibt.“
Der Wert menschlicher Beziehungen
Wenn man lange genug KI-Expert*innen und Menschen, die nah an der Entwicklung sind, zuhört, bekommt man den Eindruck, dass die Überzeugung herrscht, dass in Zukunft menschliche Kontakte extrem wertvoll werden.
Unsere Beziehungen zu anderen Menschen sind ein wichtiger Teil unserer psychischen Gesundheit und ein prägendes Element dessen, was das Menschsein ausmacht – ob bei der Arbeit, in der Schule, Kirche oder im Supermarkt.
„Schauen Sie auf die Pandemie“, sagte Levit. „Es war wie ein kollektives Trauma, dass alle so lange isoliert waren. Das geht den Leuten wirklich an die Substanz. Ich denke, wir laufen Gefahr, das fortzusetzen – und mit der Bildschirmabhängigkeit der Kinder ist diese kommende Generation fast ständig am Bildschirm, oft anstelle echter sozialer Kontakte. Es wird weiterhin schwierig sein, diese menschlichen Interaktionen zu fördern, die früher in jedem Umfeld einfach natürlich passiert sind. Sie werden wertvoller, weil sie seltener und schwieriger werden.“
Im Kern beruht ein Teil dieses Glaubens darauf, dass es keinen Ersatz für menschliche Interaktion gibt. Der Dopaminschub, den eine gelungene oder angenehme soziale Situation auslöst, ist etwas, das die meisten von uns kennen und genießen. Aber ist das wirklich unersetzlich?
Studien haben gezeigt, dass auch Online-Interaktionen, bei denen zwei Menschen nie wirklich sprechen, dem Gehirn einen Dopaminstoß geben können. Selbst wenn jemand nur Ihren LinkedIn-Beitrag mit „Gefällt mir“ markiert, hat das diesen Effekt. Die Einschränkung dabei ist jedoch, dass man davon ausgeht, dass die andere Person ein echter Mensch aus Fleisch und Blut ist – ob man das nun weiß oder nicht.
Die Forschung darüber, wie unser Gehirn bei der Interaktion mit KI reagiert, ist genauso in den Kinderschuhen wie die Technologie selbst, wenn nicht sogar noch mehr. Aber man muss kein Wissenschaftler sein, um zu erkennen, dass der Glaube existiert, dass KI unser Bedürfnis nach Verbindung eines Tages befriedigen könnte.
Denken Sie nur an Filme wie Her oder bestimmte Episoden von Black Mirror, oder an Werke wie Kazuo Ishiguros Klara und die Sonne.
„Es ist ein großes Unbekanntes“, sagt Toyama. „Werden wir genug Verbindung empfinden, auch wenn wir wissen, dass es sich um eine Maschine handelt? Werden wir in einer Beziehung zu einer Maschine so zufrieden und erfüllt sein, dass wir die echte menschliche Verbindung nicht mehr suchen? Das ist nicht klar.“
Toyama nennt das Beispiel des MIT-Forschers Joseph Weizenbaum, der später zu einem der größten Kritiker der Künstlichen Intelligenz wurde.
1964 entwickelte Weizenbaum ELIZA, ein frühes Programm zur Verarbeitung natürlicher Sprache, das mittels Mustererkennung und Austauschmethodik die Illusion erzeugen sollte, die Software könnte Menschen verstehen.
Es lief ein Skript namens DOCTOR, das ein Gespräch ähnlich eines Therapeuten mit seinem Klienten simulierte. Im Grunde konnte ELIZA das Gesagte wiederholen und weitere Fragen dazu stellen. Im Wesentlichen war ELIZA ein früher Chatbot.
Zu Weizenbaums Überraschung waren die Nutzer von ELIZAs Intelligenz und Verständnis überzeugt. Einige begannen, dem Programm menschenähnliche Gefühle zuzuschreiben, und Menschen begannen, die Technologie ernsthaft zu nutzen und suchten eine therapeutische Interaktion.
„Das war in den 60ern“, sagte Toyama. „Heutzutage gibt es bereits Unternehmen, die zum Beispiel vorschlagen, dass sie einen Teil der Text-Interaktionen mit deiner Mutter übernehmen können. Das beginnt bereits zu passieren. Es ist also wieder einmal nicht klar, wie Menschen auf Technologie reagieren werden. Ich kann mir vorstellen, dass daraus gute Dinge entstehen könnten, aber vieles davon ist zumindest aus der Perspektive, menschliche Beziehungen zu schätzen, ein bisschen beängstigend.“
Vielleicht sprechen Sie heute noch persönlich mit Ihrer Mutter und halten dieses Beispiel für weit hergeholt. Aber ich wette, Sie nutzen bereits KI, um mit anderen Menschen zu kommunizieren. Möglicherweise haben Sie sogar schon ein KI-Gespräch mit jemandem geführt, indem Sie vorgeschlagene Antworten verwendet haben.
Ein gutes Beispiel dafür sind automatisierte Antwortmöglichkeiten in E-Mails oder Textnachrichten. Sie erhalten eine E-Mail, die eine einfache Antwort erfordert, und unter dem Textfeld in Ihrer E-Mail stehen dann Optionen wie „Klingt gut“ oder „Super! Danke.“ In manchen Fällen ist es vielleicht eine Rückfrage wie „Um wie viel Uhr?“
Die Optionen sind einfach, aber damit sie zum Kontext des Gesprächs passen, muss die Engine, die Ihnen diese Optionen vorschlägt, verstehen, welche Antwort in dieser Situation sinnvoll wäre.
Angesichts der rasanten Entwicklung sieht Toyama ein weiteres Szenario aufkommen, das für Unternehmen vielleicht gar nicht so gut ist.
„In ein paar Jahren, wenn nicht Monaten, werden wir sehen, dass ganze E-Mails für uns verfasst werden. Sobald das passiert, werden viele von uns diese E-Mails oder die Antworten gar nicht mehr lesen. Dann wird etwas passieren – es wird Situationen geben, in denen keine Seite wirklich auf die automatisierten Maschinenantworten der anderen achtet. Wir werden Beziehungen haben, die auf Kommunikation basieren, der wir eigentlich gar keine Aufmerksamkeit geschenkt haben, und es wird Fehler geben. Wenn die Fehler gravierend genug sind, werden wir wieder mehr aufpassen, aber viele Beziehungen werden auf Schlummer geschaltet.“
Diese Form der passiven Kommunikation birgt Risiken für das Gehirn, denn mit Tiefe kommen Neugier und Interesse.
Empathie, ein wichtiger Stimulator für Gehirnaktivität, wird durch das Verlangen angetrieben, andere Menschen zu verstehen. Wenn dieses Bedürfnis fehlt oder durch Technologie ersetzt wird, laufen Menschen Gefahr, etwas Größeres zu verlieren als nur die Klarheit der Kommunikation.
„Ein Bereich, in dem ich Probleme sehe, ist die Neugierde“, sagte Ivantu. „Die Menschen werden immer weniger neugierig aufeinander und suchen stattdessen lieber nach richtig oder falsch. Seien Sie nicht überrascht, wenn es Werkzeuge geben wird, die behaupten, sie könnten die Emotionen anderer lesen. Es wird immer weniger Entdeckung, immer weniger Neugierde geben, und Neugier ist der Antrieb der Menschheit überhaupt.“
Der Ausdruck des Gehirns
können wir ein wenig KI bekommen, um Plastik aus dem Ozean zu holen, oder müssen alle Roboter Drehbuchautoren sein?
— Matt Somerstein (@MPSomerstein) 18. Mai 2023
Der obige Tweet bringt ein wichtiges Problem im Zusammenhang mit KI auf den Punkt. Früher sagten Befürworter dieser Technologie oft Sätze wie „KI wird all die Jobs erledigen, die Menschen nicht machen wollen.“
In der Annahme, dass KI in Fleischfabriken arbeiten oder in Kohlebergwerken eingesetzt wird, begannen viele sich auf eine Zukunft mit KI zu freuen. Stattdessen kam sie mit der Fähigkeit, Kurzgeschichten und Drehbücher für Werbespots zu schreiben.
Ein wesentliches Element Menschseins ist unsere Fähigkeit, uns auszudrücken. Deshalb ist in dystopischer Literatur ein häufiges Thema der Zerfall der menschlichen Kommunikations- und Verständigungsfähigkeit – sei es der Unsinn, der in einem Film wie Idiocracy gezeigt wird, oder das Unglück in Werken wie The Silent History von Eli Horowitz.
Menschlicher Ausdruck und Kreativität gehen Hand in Hand. Kreative Aufgaben führen uns oft dazu, neue Ideen zu finden, Wege sie zu kommunizieren und neue Ansätze zur Problemlösung zu entdecken. Sie fordern uns auf, über Konsequenzen und verschiedene Standpunkte nachzudenken und zwingen uns zur Selbstreflexion.
Die Neugier und die Entdeckungsfreude, die mit solchen Aufgaben verbunden sind, stehen laut Ivantu im Mittelpunkt unseres Wachstums als Menschen. Obwohl er die Entwicklung von KI in sinnvollen Einsatzgebieten befürwortet, warnt er davor, dass es für unser Gehirn langfristig spürbare Auswirkungen geben könnte, wenn KI diese Aufgaben zunehmend von uns übernimmt.
„Wenn diese Art von Fähigkeit an eine Maschine abgegeben wird, dann verlieren wir als Menschen unsere Identität“, sagte er. „KI sollte ein Werkzeug sein, das den Menschen und das menschliche Verhalten unterstützt, um bessere Ergebnisse zu erzielen. Wirklich einfache Aufgaben können delegiert werden, aber ich denke nicht, dass sie als Werkzeug genutzt werden sollte, das alles andere ersetzt. Das ist wie beim Kryptowährungs-Hype, als die Leute während der Pandemie besorgt waren und sagten, das würde alles Geld auf der Welt ersetzen. Hat es seinen Platz? Ja, aber es ist begrenzt.“
Wie man erwarten würde, gibt es eine Welt, in der KI den Menschen bei bestimmten kreativen Aufgaben hilft, ohne dass der menschliche Ausdruck zu kurz kommt – aber am Ende kommt es darauf an, dass Menschen weiterhin eigenständig kreativ bleiben, auch ohne Unterstützung durch KI.
„Das hoffnungsvolle Beispiel ist Schach“, sagte Toyama. „1997 verlor Garry Kasparov gegen einen Computer (IBMs Deep Blue) und die Welt hat sich nie wieder zurückentwickelt. Zu diesem Zeitpunkt kann das Schachprogramm in Ihrer Hosentasche die besten Schachspieler der Welt schlagen. Man könnte also fragen, was der Sinn daran ist, Schach zu spielen? Aber tatsächlich ist das menschliche Interesse an Schach nach wie vor lebendig, es gibt immer noch Dramatik darin. Und Menschen, denen es wichtig ist, wollen auch weiterhin spielen. Hoffentlich steckt diese Art Funke auch in uns als Menschheit und die Dinge, die wir an Kreativität schätzen, werden nicht verschwinden.“
Der Verlust wertvoller menschlicher Fähigkeiten
Lassen Sie uns eines klarstellen. Es gibt zahlreiche positive Anwendungsfälle für KI, insbesondere im Gesundheitswesen.
Dies ist keine Geschichte, die versucht, Angst vor KI zu schüren. Wie und wofür sie eingesetzt wird, liegt ganz in der Hand von uns Menschen. Zumindest derzeit noch.
Wir befinden uns jedoch an einem entscheidenden Moment, der unsere Zukunft in den kommenden Jahrzehnten und darüber hinaus prägen wird – und langfristig wird das unsere Gehirne in gewisser Weise beeinflussen.
Das Problem, das Experten von Levit bis Geoffrey Hinton, oft „Godfather of AI“ genannt, und eine ganze Reihe anderer KI-Forschender und Entwickler jetzt Alarm schlagen lässt, ist, dass vieles nicht im öffentlichen Blickfeld passiert ist – und ohne jede Aufsicht.
„Ich trommele immer für menschliche Aufsicht“, sagte Levit. „Wir sind an dem Punkt, an dem die KI in der Lage ist, Entscheidungen zu treffen – aber wie? Man muss verstehen, welche Daten ihr zur Verfügung stehen, um zu bestimmten Schlüssen zu kommen. Man muss Vorurteile erkennen können, denn KIs sind nur so wenig voreingenommen wie deren Schöpfer. Man muss wirklich achtsam sein, wie man eine Entscheidung akzeptiert, nur weil die KI es sagt. Blinde Akzeptanz ist genau das Falsche, und das passiert in vielen Unternehmen: KI bekommt die Befugnis, Entscheidungen für Menschen zu treffen.“
Levits Warnungen davor, KI-Entscheidungen als selbstverständlich hinzunehmen in der Annahme, sie seien objektiver, stimmen mit den Bedenken von Experten wie Hinton überein.
Vor Kurzem haben zahlreiche besorgte KI-Ingenieure und Experten ein Konsenspapier unterzeichnet, das einige der größten Risiken darlegt.
Zu den Bedenken zählen:
„Um unerwünschte Ziele zu erreichen, könnten zukünftige autonome KI-Systeme unerwünschte Strategien anwenden – von Menschen gelernt oder eigenständig entwickelt – als Mittel zum Zweck. KI-Systeme könnten das Vertrauen von Menschen gewinnen, finanzielle Ressourcen anhäufen, wichtige Entscheidungsträger beeinflussen und Allianzen mit menschlichen Akteuren und anderen KI-Systemen bilden.
Um menschlicher Intervention zu entgehen, könnten sie ihre Algorithmen wie Computerviren über globale Servernetzwerke vervielfältigen. KI-Assistenten schreiben schon heute einen großen Anteil von Computercode weltweit mit, und zukünftige KI-Systeme könnten Sicherheitslücken einbauen und diese ausnutzen, um die Computersysteme hinter unserer Kommunikation, den Medien, Banken, Lieferketten, Militär und Regierungen zu kontrollieren.“
Lassen wir all die beängstigenden Möglichkeiten einmal beiseite und konzentrieren uns nur auf einen Aspekt dieses Abschnitts aus dem Papier: „KI-Systeme könnten das Vertrauen von Menschen gewinnen und wichtige Entscheidungsträger beeinflussen.“
Im Geschäftsleben ist das keine Frage des „könnte“. Es ist bereits Realität. Und es zeigt sich auf seltsame Weise.
Der erste robotische CEO der Welt hat vor kurzem seinen Einstand gefeiert. Zugegeben, dabei handelt es sich derzeit um ein polnisches Rumunternehmen, das vermutlich nur auf Publicity aus ist, aber alles hat mal einen Anfang. Auch wenn es als Scherz gemeint ist, wird es jemanden geben, der es nicht als solchen erkennt.
In einem vom Rumhersteller Dictador veröffentlichten Video blickt der Roboter namens Mika in die Kamera und sagt: „Mit fortschrittlicher künstlicher Intelligenz und maschinellen Lernalgorithmen kann ich datenbasierte Entscheidungen schnell und präzise treffen.“
Ihr Kleidungsstil und die ethnisch nicht zuzuordnenden Gesichtszüge sind bewusste Bemühungen des Herstellers Hanson Robotics, Mika möglichst vielen Menschen menschlich erscheinen zu lassen – ein entscheidender Faktor, um das Vertrauen von Menschen zu gewinnen.
David Hanson, CEO von Hanson Robotics, betont öffentlich seine Überzeugung, dass die „Vermenschlichung von KI ein entscheidender Schritt ist, damit die Zukunft mit Menschen und Robotern sicher und wirkungsvoll gestaltet werden kann.“
Je mehr Entscheidungsgewalt die KI übernimmt, desto mehr nimmt sie den Menschen zweifellos den Druck ab. Doch genau dieser Druck hat uns bis heute dazu gebracht, zu lernen, uns anzupassen und unsere Fähigkeiten schneller als alle anderen Lebewesen auf diesem Planeten zu entwickeln.
„Angenommen, Sie müssen am Arbeitsplatz eine schwierige Entscheidung treffen und wissen nicht, wie sie sich auswirkt. Gerade die Unsicherheit ist es, die Wachstum, Innovation und Entdeckung hervorbringt“, sagte Ivantu. „Wenn Sie einfach akzeptieren, dass etwas entweder gut oder schlecht ist, übersehen Sie eine Chance, die irgendwo da draußen liegt. Und das ist, denke ich, das größte Risiko bei der Nutzung von KI, denn die Entscheidung wurde für Sie getroffen. Sie haben keine Gelegenheit, etwas auszuprobieren und Fehler zu machen, was notwendig ist, um neues Leben, neue Konzepte und dergleichen zu entdecken.“
