Die kognitiven Kosten der Bequemlichkeit: KI wird unser Gehirn beeinflussen

Bleiben Sie an der Spitze menschzentrierter Führung mit KI. Treten Sie der kostenlosen Community bei

Jede technologische Entwicklung beeinflusst das menschliche Gehirn auf eine andere Weise. Wenn die Entwicklung jedoch ein effizienteres Gehirn hervorbringt, als es irgendein Mensch besitzt, könnte die Auswirkung auf den wichtigsten Muskel, den wir haben, erheblich sein.

ai's impact on brain and behavior featured image

Eine im April 2020 von Forschern der McGill University durchgeführte Studie ergab, dass der Rückgang des vom Hippocampus abhängigen räumlichen Gedächtnisses umso stärker ausfiel, je häufiger eine Person GPS nutzte. 

Was bedeutet das? 

Grundsätzlich findet räumliches Gedächtnis – also die Fähigkeit, sich daran zu erinnern, wo sich Dinge befinden – im Hippocampus statt, einer stark an Gedächtnis, Lernen und Emotionen beteiligten Region des Gehirns. Es nimmt kurzfristige Erinnerungen auf und überträgt sie in den Langzeitspeicher unseres Gehirns. 

Über viele Jahrhunderte hinweg entwickelte der Mensch die Fähigkeit, sich zu orientieren. Das war nicht nur eine wichtige Fähigkeit, um sich in seiner Umgebung zurechtzufinden, sondern auch zum Überleben in einer Zeit vor Autos, Zügen und Flugzeugen. Doch mit der Entwicklung unserer Gesellschaften besteht für die Menschen immer weniger Bedarf, eine solche Fähigkeit zu verfeinern – und damit auch immer weniger Bedarf, diese wichtige Gehirnstruktur zu nutzen. 

Dieses Phänomen ist nicht auf GPS beschränkt. Nur wenige Menschen erinnern sich noch an Telefonnummern, seit Mobiltelefone die Möglichkeit bieten, eine ganze Kontaktbibliothek zu speichern.

Viele Menschen verwenden die Autokorrektur, um Rechtschreibfehler in ihren Texten und E-Mails zu korrigieren – man muss kein Sprachwissenschaftler mehr sein. 

Doch diese Werkzeuge lassen sich nur dann effektiv einsetzen, wenn ein Mensch sich ausreichend mit ihnen auseinandersetzt, um das zu bekommen, was er benötigt. GPS kann dir dabei helfen, Orte zu suchen, aber du kannst das Haus einer Person nicht finden, ohne eine Adresse zu haben oder zumindest das Gebiet zu kennen, nach dem du suchst. 

Ebenso ist deine Sammlung von Telefonnummern lediglich ein Informationsspeicher, bis du dich entscheidest, eine Taste zu drücken und jemanden anzurufen.

Selbst ChatGPT, das im vergangenen Jahr für einiges Aufsehen gesorgt hat, erfordert deine aktive Beteiligung. Wenn du etwas daraus gewinnen möchtest, musst du ihm eine Eingabeaufforderung geben.

Bei all dem Wirbel um generative KI handelt es sich dabei laut der Zukunftsforscherin für die Arbeitswelt Alexandra Levit, der Autorin von „Die Menschheit arbeitet: Technologien und Menschen für die Arbeitswelt der Zukunft zusammenführen“, im Wesentlichen um den fortschrittlichsten Chatbot, den wir bisher gesehen haben. 

Podcast: Wie du KI nutzt, um deine Mitarbeiter zu stärken und deine Organisation zu transformieren

„Wenn man genauer hinsieht, unterscheidet sich generative KI nicht wesentlich von dem, was vor ihr kam“, sagt sie. „Sie ist ein aufgeblähter Chatbot, und man kann den Informationen, die man erhält, nach wie vor nicht wirklich vertrauen.“

Doch wir vertrauen ihr. Inhalte, die stark von ChatGPT beeinflusst sind, werden bereits im gesamten Internet verbreitet. Sie wird zum Schreiben von E-Mails, zur Beeinflussung der Suchmaschinenoptimierung und zur Analyse von Daten eingesetzt.

All das ist zumindest oberflächlich betrachtet relativ harmlos. Die Frage ist: Wird sich die langfristige Nutzung dieser Technologie auf das Gehirn der Nutzer auswirken?  

„Ich glaube nicht, dass sie den menschlichen Geist wirklich beeinflussen wird, abgesehen davon, wie wir nach Informationen suchen und mit ihnen kommunizieren“, sagte Levit. „Wir sind in den vergangenen 25 bis 30 Jahren durch den Einsatz von Maschinen darin immer besser geworden, und heute wissen die Menschen nicht mehr wirklich, wie sie Informationen systematisch beschaffen können, weil man einfach irgendetwas in Google eingibt, was eine Form von KI ist.“

Auch wenn generative KI mehr oder weniger ein Werkzeug ist, handelt es sich um ein äußerst ausgeklügeltes Werkzeug, das in vielen Berufen die Ausgangslage verändert. Wer versteht, wie und wann man es einsetzt, kann seinen gesamten Arbeitsablauf und in manchen Fällen sogar seine Fähigkeiten verändern.

Aus diesem Grund hört man Menschen, darunter auch Levit, sehr häufig sagen: „KI wird niemandem den Arbeitsplatz wegnehmen, aber eine Person, die weiß, wie man KI nutzt, wird es tun.“  

Das trifft auf diese Phase der Entwicklung von KI zu. Trotz aller Stärken von Chat GPT ist es nach wie vor eine Maschine, die einem Menschen meistens einen Ausgangspunkt liefert, aus dem er etwas Sinnvolles oder Nützliches schaffen kann. 

Doch die Frage bleibt: Was geschieht, wenn wir unser Gehirn immer weniger herausfordern, indem wir Automatisierung begrüßen? Die gängige Erwiderung unter KI-Verfechtern lautet, dass wir es nicht weniger, sondern auf andere Weise herausfordern werden. 

Indem wir Zeit freisetzen, die derzeit für analytische Aufgaben oder etwas so Mühsames wie das eigenständige Verfassen eines zusammenhängenden Gedankens aufgewendet wird, können wir anderen Dingen Priorität einräumen, die nur Menschen leisten können. Zumindest lautet so die Erzählung.

Welche Dinge Menschen jedoch genau besser erledigen, wird zunehmend unklarer, während die KI-Technologie in unglaublichem Tempo voranschreitet.

Selbst wenn KI den Ausgangspunkt für ein Projekt liefert, hat sie Auswirkungen, da KI dann eine Rolle bei der Steuerung der Arbeit von Menschen spielt. Menschen, die bereits stark abgelenkt sind, zwischen mehreren Bildschirmen navigieren und weniger Informationen als je zuvor behalten. 

Es gibt Anlass zur Sorge, wie qualifiziert oder konzentriert wir sind, um zu beurteilen, ob das, was die KI uns liefert, tatsächlich gut ist.

Stefan Ivantu ist ein beratender Psychiater mit Schwerpunkt auf ADHS bei Erwachsenen in London. Er weist schnell darauf hin, dass das Gehirn in einer Hinsicht wie jeder andere Muskel ist. Wenn es nicht benutzt wird, kann es verkümmern, und wir wissen einfach nicht, welche langfristigen Folgen es haben könnte, wenn dies durch menschliche Interaktionen mit KI geschieht. 

Was wir wissen, ist, dass sich das Gehirn und unser Verhalten dank neuer Technologien verändern werden, insbesondere unsere Fähigkeit, uns zu konzentrieren. Man braucht sich nur die Geschichte anzusehen. 

„Wenn wir das Gehirn wie jeden Computer betrachten, hat es zwei Komponenten: die Hardware und die Software“, sagte Ivantu. „Die Hardware ist also seit den vergangenen 200.000 Jahren mehr oder weniger gleich geblieben. Aber im letzten Jahrhundert hat sich die Software exponentiell weiterentwickelt. Vor 150 Jahren hatten wir noch keinen Zugang zu Elektrizität, was eine enorme Veränderung in unserem täglichen Leben darstellte. Seit den 1950er-Jahren, als wir erstmals Zugang zum Fernsehen hatten, rückte der Bildschirm mit zunehmendem Fortschritt immer näher an unsere Augen. Der Computer, das Mobiltelefon, jetzt die virtuelle Realität. Als Nächstes kommt Neuralink. Je weiter wir fortschreiten, desto näher kommt der Bildschirm zu uns. Die Frage lautet also: Was ist für uns das normale Maß an Ablenkung?“

Bildschirmsucht hat bereits zu einer verkürzten Aufmerksamkeitsspanne geführt. Ich schreibe dies in dem vollen Bewusstsein, dass du es wahrscheinlich nicht gründlich liest, sondern überfliegst. Daher die verkürzte Absatzstruktur und die Versuche, Seitenumbrüche gut zu platzieren. 

Tatsache ist, dass Technologie unser Gehirn bereits auf eine Weise beeinflusst, die wir jeden Tag beobachten können. Diese Entwicklungen dürften sich durch die zunehmende Nutzung von KI und die sofortige Befriedigung, die sie für alles bietet – vom Verfassen eines Berichts bis hin zur Schaffung der Grundlage einer Rekrutierungsstrategie –, nicht verbessern. 

KI-gestützte Rekrutierungssysteme können sogar die Art und Weise verändern, wie wir mit der Personalbeschaffung umgehen, und beeinflussen, wie unser Gehirn Bewerberdaten verarbeitet.

„All diese Technologien ermöglichen es uns, fauler zu sein und die Teile unseres Gehirns nicht zu benutzen, die eigentlich genutzt werden sollten“, sagte Levit. „Sie verkümmern bereits. Ich denke, was die Evolution betrifft, wird es noch lange dauern, bis wir uns so entwickelt haben, dass wir eine bestimmte Funktion nicht mehr ausführen. Aber bei der Technologie sehen wir auf breiter Front, dass die Menschen abgelenkter sind und sich nicht konzentrieren können. Sie sind aufgrund der App-Müdigkeit bereits weniger produktiv. Sie wechseln gedankenlos von einer Sache zur nächsten, konzentrieren sich aber nie wirklich auf eine einzelne Sache. Selbst wenn wir uns konzentrieren wollen, können wir es oft nicht.“

Infografik, die den Einfluss von KI-Tools auf grundlegende menschliche Fähigkeiten darstellt. Die Grafik veranschaulicht, wie KI Fähigkeiten wie kognitive Funktionen, Entscheidungsfindung, Bildung, Kreativität und menschliche Verbundenheit beeinflusst hat.
Infografik, die erklärt, wie grundlegende menschliche Fähigkeiten durch KI-Tools beeinflusst wurden.

Die nächste Phase

Bletchley Park war der ideale Ort für den ersten KI-Gipfel von Staats- und Regierungschefs, die sich Sorgen über das Potenzial der KI machten, industrielle und gesellschaftliche Veränderungen voranzutreiben. Dort wurde der weltweit erste programmierbare digitale Elektronenrechner gebaut, als die Alliierten während des Zweiten Weltkriegs versuchten, deutsche Kommunikationscodes zu entschlüsseln. 

Seit diesem revolutionären Moment in der Informatik, einer Disziplin, die dank des Potenzials der KI nun möglicherweise das Schicksal der Menschheit in ihren Händen hält, haben wir einen langen Weg zurückgelegt. 

Wenn man sich in die KI-Forschung vertieft, dauert es nicht lange, bis man bei der nächsten Phase ankommt: der interaktiven KI.

Unternehmen wie DeepMind kommen der interaktiven KI immer näher als Realität – einer Realität, in der Bots Aufgaben erledigen, die Menschen ihnen übertragen, indem sie einfach andere Software oder Personen mit der Ausführung beauftragen.

Klingt zunächst ganz gut, aber wie lange die einzelnen Phasen der KI angesichts ihres Entwicklungstempos andauern werden, ist ungewiss. 

Wenn man noch tiefer in diese Forschung eintaucht, stößt man auf AGI, also künstliche allgemeine Intelligenz – ein System, das in der Lage ist, intellektuelle Aufgaben zu erledigen, die Menschen und Tiere ausführen. 

Sie gehört nicht mehr in den Bereich der Science-Fiction, sondern ist das Ziel von Unternehmen wie OpenAI, DeepMind, Microsoft, Google Brain, IBM und anderen, die über enorme finanzielle Ressourcen verfügen und uns mit alarmierender Geschwindigkeit der Verwirklichung von AGI näherbringen. 

„Bei KI ist die Gefahr gewissermaßen existenzieller Natur“, sagte Levit. „Wenn wir künstliche allgemeine Intelligenz erreichen, was bedeutet, dass Maschinen im Wesentlichen bewusst sind und besser denken können als wir, besteht dann überhaupt noch ein Bedarf für uns, irgendetwas zu tun? Was wäre dann unser Zweck? Ich glaube nicht, dass wir uns dahin entwickeln werden, gar nichts mehr zu tun, aber vielleicht werden wir einfach üben, Dinge zu tun. Bei KI würde ich mir vor allem Sorgen machen, dass sie uns überflüssig machen wird, weil sie die meisten Dinge einfach besser können wird.“

Immer mehr einflussreiche Menschen erkennen diese Tatsache. Aus diesem Grund unterzeichnete Präsident Biden eine Durchführungsverordnung zur Festlegung von Standards für die Sicherheit und den Schutz von KI. 

Die 29 Länder, die am ersten KI-Sicherheitsgipfel teilnahmen, einigten sich auf eine Tagesordnung, die sich auf Sicherheitsrisiken von gemeinsamem Interesse, die Schaffung risikobasierter Richtlinien und einen globalen Ansatz zum Verständnis der Auswirkungen von KI auf die Gesellschaft konzentrieren wird.  

Führen Sie intelligenter im Zeitalter der KI
Werden Sie Teil der People Managing People Community und erhalten Sie Zugang zu exklusiven Inhalten, praxisnahen Vorlagen, Veranstaltungen nur für Mitglieder und wöchentlichen Führungstipps – die Teilnahme ist kostenlos.
Get Free Access

Have an account? Log In

Der sich entwickelnde Geist

Es gibt zwei Hauptbereiche, in denen Kentaro Toyama, Informatiker und Professor für Community Information an der School of Information der University of Michigan, davor warnt, dass KI erhebliche Auswirkungen auf das menschliche Gehirn haben könnte. Der erste ist die Bildung. 

Wie bei vielen Dingen im Zusammenhang mit KI und dem Leben kann man darin ein Gleichgewicht zwischen Gutem und Schlechtem finden, wenn man die Sache objektiv betrachtet.

Podcast: Wie KI Sie dabei unterstützen kann, eine großartige Führungskraft zu sein

Theoretisch könnte KI Studierenden maßgeschneiderte, individuell angepasste Formen des Unterrichts bieten, die ansprechender sind und Lernenden helfen, Informationen gründlicher aufzunehmen. Dasselbe gilt für die Weiterbildung von Arbeitskräften. 

Gleichzeitig sieht Toyama die Möglichkeit einer Realität, in der KI das Unterrichten bemerkenswert schwierig macht – und tatsächlich tut sie das bereits.

„Wenn jeder Zugang dazu hat, wird es für Lehrkräfte immer schwieriger, ihre Arbeit zu erledigen“, sagte er. „Derzeit befindet sich jede Art von Lehrpersonal in einer Situation, in der wir nicht mehr mit Sicherheit sagen können, ob etwas, das ein Student abgibt, tatsächlich von diesem Studenten angefertigt wurde. Ich habe Kollegen, die ihre gesamte Art der Leistungsbewertung überarbeiten mussten, weil genau darin das grundlegende Problem liegt.“

Obwohl der ehemalige Microsoft-Forscher betont, dass grundsätzlich nichts dagegen spricht, Technologie in das Lernen einzubeziehen, weist er schnell darauf hin, dass Lehrmethoden und -praktiken nicht besonders wirksam sein werden, wenn dadurch der Bewertungsprozess beeinträchtigt wird.  

„Man kann nicht unterrichten, wenn man nicht weiß, was der Student weiß und was er nicht weiß“, sagte Toyama. „Meine Prognose ist, dass ernsthafte Menschen zu Klausurheften und beaufsichtigten Prüfungen zurückkehren werden, bei denen die Teilnehmer Dinge von Hand aufschreiben.“

Der Wert menschlicher Beziehungen

Wenn man lange genug KI-Experten und Menschen zuhört oder mit ihnen spricht, die an ihrer Entwicklung beteiligt sind, bekommt man den Eindruck, dass die Überzeugung besteht, menschliche Verbindungen würden in Zukunft unglaublich wertvoll werden.

Unsere Beziehungen zu anderen Menschen sind ein wichtiger Bestandteil unserer psychischen Gesundheit und ein prägendes Element dessen, was die menschliche Erfahrung ausmacht – ganz gleich, ob bei der Arbeit, in der Schule, in der Kirche oder im Supermarkt.

„Sehen Sie sich die Pandemie an“, sagte Levit. „Es war wie ein kollektives Trauma, da alle so lange isoliert waren. Das bringt die Menschen wirklich durcheinander. Ich denke, dass wir Gefahr laufen, diesen Zustand fortzusetzen, und durch die Bildschirmabhängigkeit der Kinder verbringt diese heranwachsende Generation ständig Zeit vor Bildschirmen, meistens anstelle echter sozialer Interaktion. Es wird weiterhin schwierig sein, diese menschliche Interaktion zu ermöglichen, die früher in jeder Umgebung ganz natürlich stattfand. Sie wird wertvoller werden, weil sie schwieriger und seltener sein wird.“ 

Grundsätzlich beruht ein Teil dieser Überzeugung auf der Tatsache, dass es keinen Ersatz für menschliche Interaktion gibt. Dieser Dopaminschub, der aus einer erfolgreichen oder angenehmen sozialen Situation entsteht, ist etwas, das die meisten von uns kennen und genießen. Aber ist er wirklich unersetzlich?

Untersuchungen haben gezeigt, dass Online-Interaktionen, bei denen zwei Menschen nie tatsächlich miteinander sprechen, im Gehirn einen Dopaminschub auslösen können. Selbst wenn jemand nur Ihren LinkedIn-Beitrag mit „Gefällt mir“ markiert, hat dies diesen Effekt. Der Grund, warum das so ist, liegt natürlich darin, dass Sie davon ausgehen, dass die Person am anderen Ende ein echter Mensch aus Fleisch und Blut ist – ganz gleich, ob Sie wissen, dass dies tatsächlich der Fall ist.  

Die Forschung zu unserem Gehirn bei der Interaktion mit KI steckt ebenso in den Kinderschuhen wie die Technologie selbst, wenn nicht sogar noch mehr. Aber man muss kein Wissenschaftler sein, um zu verstehen, dass die Vorstellung, KI könne unser Bedürfnis nach Verbindung befriedigen, durchaus existiert. 

Man denke nur an Filme wie Her, bestimmte Folgen von Black Mirror oder literarische Werke wie Kazuo Ishiguros Klara und die Sonne.

„Das ist eine große Unbekannte“, sagt Toyama. „Werden wir eine ausreichende Verbindung empfinden, wenn wir wissen, dass etwas eine Maschine ist? Werden wir uns in einer Beziehung mit einer Maschine so erfüllt und zufrieden fühlen, dass wir aufhören, die tatsächliche menschliche Verbindung zu suchen? Das ist nicht klar.“ 

Toyama nennt das Beispiel des MIT-Forschers Joseph Weizenbaum, der in seinen späteren Jahren zu einem der schärfsten Kritiker der KI wurde.

1964 entwickelte Weizenbaum ELIZA, ein frühes Programm zur Verarbeitung natürlicher Sprache, das Mustervergleich und Ersetzungsmethoden verwendete, um die Illusion zu erzeugen, das Programm könne Menschen verstehen. 

Es führte ein Skript namens DOCTOR aus, das ein Gespräch erzeugte, ähnlich dem, das ein Therapeut mit einem Patienten führen könnte. Im Wesentlichen konnte ELIZA Dinge wiederholen, die man gesagt hatte, und weitere Fragen dazu stellen. Genau genommen war es ein früher Chatbot. 

Zu Weizenbaums Überraschung waren die Nutzer von ELIZAs Intelligenz und Verständnis überzeugt. Einige begannen, dem Programm menschenähnliche Gefühle zuzuschreiben, und die Menschen begannen, die Technologie ernsthaft zu nutzen, indem sie eine therapeutische Interaktion suchten. 

„Das war in den 60ern“, sagte Toyama. „Heutzutage gibt es bereits Unternehmen, die vorschlagen, dass sie beispielsweise einen Teil der Nachrichtenkommunikation mit Ihrer Mutter übernehmen können. Das beginnt bereits zu geschehen. Es ist also erneut unklar, wie die Menschen auf die Technologie reagieren werden. Ich kann mir vorstellen, dass daraus auch gute Dinge entstehen könnten, aber vieles davon ist zumindest aus der Perspektive der Wertschätzung menschlicher Beziehungen ein wenig beängstigend.“

Vielleicht sprechen Sie heute also noch persönlich mit Ihrer Mutter und halten dieses Beispiel für weit hergeholt. Aber ich wette, dass Sie bereits KI nutzen, um mit anderen Menschen zu kommunizieren. Vielleicht haben Sie sogar schon mithilfe vorgegebener Antworten ein KI-Gespräch mit jemandem geführt. 

Ein gutes Beispiel dafür sind automatische Antwortoptionen in E-Mails oder Textnachrichten. Sie erhalten eine E-Mail, die eine einfache Antwort erfordert, und unterhalb des Textfelds in Ihrer E-Mail werden Optionen wie „Klingt gut“ oder „Super! Danke.“ angezeigt. In manchen Fällen handelt es sich vielleicht um eine Anschlussfrage wie „Um wie viel Uhr?“ 

Die Optionen sind einfach, aber damit sie zum Kontext des Gesprächs passen, muss die Engine, die Ihnen diese Optionen vorschlägt, verstehen, welche Antwort in dieser Situation sinnvoll wäre. 

Angesichts der Geschwindigkeit, mit der sich die Dinge entwickeln, kann sich Toyama ein weiteres Szenario vorstellen, das für die Geschäftswelt möglicherweise nicht besonders positiv wäre. 

„Innerhalb weniger Jahre, wenn nicht sogar Monate, werden wir damit beginnen, dass die gesamte E-Mail für uns verfasst wird. Sobald das geschieht, werden viele von uns diese E-Mail oder die Antwort nicht einmal mehr lesen. Dann wird etwas passieren: Es wird Situationen geben, in denen keine der beiden Seiten den automatisierten Maschinenantworten der jeweils anderen wirklich Aufmerksamkeit schenkt. Wir werden Beziehungen haben, die auf Mitteilungen beruhen, denen wir eigentlich keine Aufmerksamkeit geschenkt haben, und es wird Fehler geben. Wenn die Fehler schwerwiegend genug sind, werden wir wieder mehr Aufmerksamkeit schenken, aber viele Beziehungen werden im Schlummermodus stattfinden.“

Diese Art der passiven Kommunikation birgt Risiken für das Gehirn, denn mit Tiefe gehen Neugier und Interesse einher.

Empathie, ein wichtiger Stimulator der Gehirnaktivität, wird von dem Wunsch angetrieben, unsere Mitmenschen zu verstehen. Wenn dieser Wunsch nicht vorhanden ist oder durch Technologie verdrängt wird, laufen wir Gefahr, etwas zu verlieren, das größer ist als die Klarheit der Kommunikation.

„Ein Bereich, in dem ich Probleme sehe, ist die Neugier“, sagte Ivantu. „Die Menschen werden immer weniger neugierig aufeinander sein und stattdessen lieber nach richtig oder falsch suchen. Seien Sie nicht überrascht, wenn es künftig Werkzeuge gibt, die behaupten, die Emotionen einer Person lesen zu können. Es wird immer weniger Entdeckungen und immer weniger Neugier geben, und Neugier ist es, die die Menschheit überhaupt antreibt.“

More Articles

Der Ausdruck des Gehirns


Der obige Tweet hebt ein wichtiges Problem bei den Argumenten für KI hervor. In vergangenen Jahren sagten Befürworter der Technologie oft Dinge wie: „KI wird all die Arbeiten übernehmen, die Menschen nicht machen wollen.“ 

Unter der Annahme, dass KI in Fleischverpackungsfabriken arbeiten und in Kohleminen hinabsteigen würde, begannen viele Menschen, sich auf eine Zukunft mit KI zu freuen. Stattdessen kam sie mit der Fähigkeit, Kurzgeschichten und Drehbücher für Werbespots zu verfassen.

Ein wesentlicher Bestandteil des Menschseins ist unsere Fähigkeit, uns auszudrücken. Deshalb ist in dystopischen Romanen und Filmen ein häufig wiederkehrendes Motiv der Zusammenbruch der Fähigkeit der Menschen, miteinander zu kommunizieren oder einander zu verstehen – sei es die zur Schau gestellte Dummheit in einem Film wie „Idiocracy“ oder das Unglück in einem Werk wie „Die stille Geschichte“ von Eli Horowitz. 

Der menschliche Ausdruck und die Kreativität gehen Hand in Hand. Kreative Aufgaben führen uns oft dazu, neue Ideen, Wege zu ihrer Vermittlung und neue Ansätze zur Lösung von Problemen zu finden. Sie fordern uns auf, über Konsequenzen und unterschiedliche Sichtweisen nachzudenken, und zwingen uns zur Selbstreflexion. 

Die Neugier und die Erkundung, die mit diesen Aufgaben einhergehen, stehen laut Ivantu im Zentrum unseres Wachstums als Menschen. Obwohl er die Entwicklung von KI für positive Anwendungsfälle befürwortet, warnt er davor, dass es für unser Gehirn im Laufe der Zeit durchaus spürbare Kosten haben könnte, wenn die KI diese Aufgaben zunehmend von unserer kognitiven Last nimmt.

„Wenn diese Art von Fähigkeit an eine Maschine übergeben wird, verlieren wir als Menschen unsere Identität“, sagte er. „KI sollte ein Werkzeug sein, das dem Menschen und menschlichem Verhalten hilft, bessere Ergebnisse zu erzielen. Wirklich einfache Aufgaben können delegiert werden, aber ich glaube nicht, dass sie als Werkzeug eingesetzt werden sollte, das alles andere ersetzt. Genauso war es während des Kryptowährungsbooms, als die Menschen während der Pandemie besorgt waren und sagten, dass dadurch alles Geld der Welt ersetzt werden würde. Hat sie ihren Platz? Ja, aber er ist begrenzt.“

Wie zu erwarten ist, gibt es eine Welt, in der KI Menschen bei bestimmten kreativen Aufgaben unterstützt, ohne dass der menschliche Ausdruck dabei große Einbußen erleidet. Letztlich wird es jedoch auf das menschliche Engagement hinauslaufen, weiterhin ohne die Unterstützung von KI kreativ zu sein.

„Das hoffnungsvolle Beispiel ist Schach“, sagte Toyama. „1997 verlor Garry Kasparow gegen einen Computer (IBMs Deep Blue), und die Welt ist nie wieder zum vorherigen Zustand zurückgekehrt. Mittlerweile kann dieser Computer in deiner Tasche die besten Schachspieler der Welt schlagen. Man könnte also fragen: Wozu überhaupt noch Schach spielen? Aber tatsächlich ist das menschliche Interesse am Schach nach wie vor lebendig und stark, und es steckt immer noch Dramatik darin. Menschen, denen etwas daran liegt, wollen weiterhin spielen. Hoffentlich gibt es diesen Funken auch in uns als Menschheit, und die Dinge, die wir an Kreativität schätzen, werden nicht verschwinden.“

Der Verlust wertvoller menschlicher Fähigkeiten

Seien wir uns über eines im Klaren. Es gibt mehrere positive Anwendungsfälle für KI, insbesondere im Gesundheitswesen. 

Dies ist keine Geschichte, die versucht, Angst vor KI zu schüren. Wie sie eingesetzt wird und wofür, liegt vollständig in den Händen der Menschen. Zumindest vorerst. 

Aber wir befinden uns an einem entscheidenden Moment, der unsere Zukunft in den kommenden Jahrzehnten und darüber hinaus prägen wird, und langfristig wird er unsere Gehirne in irgendeiner Weise beeinflussen. 

Das Problem, das Experten von Levit bis Geoffrey Hinton, der oft als „Pate der KI“ bezeichnet wird, sowie eine ganze Reihe anderer KI-Forscher und -Entwickler inzwischen die Alarmglocken läuten lässt, besteht darin, dass vieles von dem, was geschehen ist, nicht in der Öffentlichkeit oder unter irgendeiner Form von Aufsicht stattgefunden hat. 

„Ich trommle ständig für die menschliche Aufsicht“, sagte Levit. „Wir sind an einem Punkt angelangt, an dem die Technologie in der Lage ist, Entscheidungen zu treffen, aber wie? Man muss die Daten verstehen, die ihr zur Verfügung stehen, um zu diesen Schlussfolgerungen zu gelangen. Man muss Vorurteile erkennen können, denn KIs sind nur so unvoreingenommen wie die Menschen, die sie erschaffen. Man muss wirklich sehr aufmerksam darauf achten, wie man eine Entscheidung aufnimmt und akzeptiert, nur weil die KI es sagt. Blinde Akzeptanz ist genau das Falsche, und genau das geschieht. Viele Arbeitsplätze geben der KI die Befugnis, Entscheidungen für Menschen zu treffen.“

Levits Warnungen davor, Entscheidungen der KI für bare Münze zu nehmen, unter der Annahme, sie seien objektiver, decken sich mit den Warnungen von Experten wie Hinton.

Kürzlich unterstützte eine große Zahl besorgter KI-Ingenieure und -Experten ein Konsenspapier, in dem einige der größten Risiken dargelegt wurden. 

Zu den Bedenken gehören:

„Um unerwünschte Ziele voranzutreiben, könnten künftige autonome KI-Systeme unerwünschte Strategien – von Menschen erlernt oder unabhängig entwickelt – als Mittel zum Zweck einsetzen. KI-Systeme könnten das Vertrauen von Menschen gewinnen, finanzielle Ressourcen erwerben, wichtige Entscheidungsträger beeinflussen und Koalitionen mit menschlichen Akteuren und anderen KI-Systemen bilden. 

Um menschliche Eingriffe zu vermeiden, könnten sie ihre Algorithmen wie Computerviren über globale Servernetzwerke kopieren. KI-Assistenten schreiben bereits weltweit einen großen Teil des Computercodes mit, und künftige KI-Systeme könnten Sicherheitslücken einfügen und anschließend ausnutzen, um die Computersysteme hinter unserer Kommunikation, unseren Medien, dem Bankwesen, Lieferketten, Militär und Regierungen zu kontrollieren.“

Abgesehen von all den erschreckenden Möglichkeiten wollen wir uns einfach auf einen Teil dieses Abschnitts aus dem Papier konzentrieren: „KI-Systeme könnten das Vertrauen von Menschen gewinnen und wichtige Entscheidungsträger beeinflussen.“

In der Geschäftswelt geht es nicht um ein „könnte“. Es ist bereits geschehen. Und es nimmt auf seltsame Weise Gestalt an. 

Der erste robotische CEO gab kürzlich sein Debüt. Sicher, vorerst handelt es sich um ein polnisches Rumunternehmen, das höchstwahrscheinlich nach einem PR-Gag sucht, aber alles beginnt irgendwo. Selbst wenn es ein Witz ist, wird es zwangsläufig jemanden geben, der es einfach nicht versteht. 

In einem vom Rumhersteller Dictador veröffentlichten Video schaut der Roboter namens Mika in die Kamera und sagt: „Mit fortschrittlicher künstlicher Intelligenz und Algorithmen des maschinellen Lernens kann ich schnell und präzise datenbasierte Entscheidungen treffen.“

Ihr Kleidungsstil und ihre ethnisch mehrdeutigen Gesichtszüge sind bewusste Versuche des Herstellers Hanson Robotics, Mika für möglichst viele Menschen menschlich wirken zu lassen – ein entscheidender Faktor, um das Vertrauen der Menschen zu gewinnen. 

Der CEO von Hanson Robotics, David Hanson, hat öffentlich seine Überzeugung betont, dass „die Vermenschlichung von KI ein entscheidender Schritt ist, um die Sicherheit und Wirksamkeit der Umgebung zu gewährleisten, während Menschen und Roboter auch in Zukunft zusammenarbeiten.“

Während KI immer mehr Entscheidungsmacht übernimmt, wird sie zweifellos den Druck von den Menschen nehmen. Doch genau dieser Druck hat dazu geführt, dass wir unsere Fähigkeiten schneller als alle anderen Lebewesen auf dem Planeten erlernt, angepasst und weiterentwickelt haben. 

„Nehmen wir an, du musst bei der Arbeit eine schwierige Entscheidung treffen und weißt nicht, wie sie sich entwickeln wird. Die Unsicherheit ist der Faktor, der Wachstum, Innovation und Entdeckungen hervorbringt“, sagte Ivantu. „Wenn du einfach akzeptierst, dass etwas entweder gut oder schlecht ist, hast du eine Gelegenheit übersehen, die sich dir bietet. Und ich denke, dass genau darin das größte Risiko bei der Nutzung von KI liegt, denn die Entscheidung wurde für dich getroffen. Du hast nicht die Möglichkeit, etwas zu erkunden und Fehler zu machen, was notwendig ist, um neues Leben, neue Konzepte und so weiter zu entdecken.“

David Rice

David Rice ist ein erfahrener Journalist und Redakteur, der sich auf Themen rund um Personalwesen und Führung spezialisiert hat. Im Lauf seiner Karriere widmete er sich verschiedenen Branchen für Print- und Digitalmedien in den USA und Großbritannien.

Follow the author:

You may also like