Künstliche Intelligenz und die Zukunft des Menschen

Das digitale Leben erweitert die menschlichen Fähigkeiten und stört uralte menschliche Aktivitäten. Codegesteuerte Systeme haben mehr als die Hälfte der Weltbevölkerung in Form von Umgebungsinformationen und Konnektivität erreicht und bieten ungeahnte Möglichkeiten, aber auch nie dagewesene Bedrohungen. Wird es den Menschen mit der weiteren Ausbreitung der algorithmengesteuerten künstlichen Intelligenz (KI) besser gehen als heute?

Diese Frage beantworteten 979 Technologiepioniere, Innovatoren, Entwickler, Führungskräfte aus Wirtschaft und Politik, Forscher und Aktivisten in einer im Sommer 2018 durchgeführten Expertenbefragung.

Die Experten sagten voraus, dass vernetzte künstliche Intelligenz die menschliche Effektivität steigern, aber auch die menschliche Autonomie, Handlungsfähigkeit und Fähigkeiten bedrohen wird. Sie sprachen von den weitreichenden Möglichkeiten, dass Computer die menschliche Intelligenz und Fähigkeiten bei Aufgaben wie komplexer Entscheidungsfindung, schlussfolgerndem Denken und Lernen, ausgefeilter Analytik und Mustererkennung, Sehschärfe, Spracherkennung und Sprachübersetzung erreichen oder sogar übertreffen könnten. Sie sagten, dass „intelligente“ Systeme in Gemeinden, Fahrzeugen, Gebäuden und Versorgungseinrichtungen, in landwirtschaftlichen Betrieben und bei Geschäftsprozessen Zeit, Geld und Leben sparen und dem Einzelnen die Möglichkeit bieten werden, eine individuellere Zukunft zu genießen.

Viele konzentrierten sich in ihren optimistischen Äußerungen auf das Gesundheitswesen und die vielen möglichen Anwendungen der KI bei der Diagnose und Behandlung von Patienten oder bei der Unterstützung älterer Menschen für ein erfüllteres und gesünderes Leben. Sie äußerten sich auch enthusiastisch über die Rolle der KI bei breit angelegten Gesundheitsprogrammen, die auf der Grundlage der riesigen Datenmengen aufgebaut sind, die in den kommenden Jahren über alles, vom persönlichen Genom bis zur Ernährung, erfasst werden könnten. Darüber hinaus sagten einige dieser Experten voraus, dass die KI die seit langem erwarteten Veränderungen in den formellen und informellen Bildungssystemen begünstigen wird.

Doch die meisten Experten, unabhängig davon, ob sie optimistisch sind oder nicht, äußerten Bedenken hinsichtlich der langfristigen Auswirkungen dieser neuen Werkzeuge auf die wesentlichen Elemente des Menschseins. Alle Teilnehmer an dieser nicht-wissenschaftlichen Umfrage wurden gebeten, zu erläutern, warum sie der Meinung sind, dass es den Menschen durch KI besser gehen wird oder nicht. Viele waren sehr besorgt, und viele schlugen auch Lösungswege vor. Die wichtigsten Themen, die sie in Bezug auf Bedrohungen und Abhilfemaßnahmen ansprachen, sind in der nebenstehenden Tabelle aufgeführt.

Im Einzelnen wurden die Teilnehmer gebeten, Folgendes zu bedenken:

„Bitte denken Sie an das Jahr 2030. Analysten erwarten, dass die Menschen noch stärker von vernetzter künstlicher Intelligenz (KI) in komplexen digitalen Systemen abhängig sein werden. Einige sagen, dass wir den historischen Weg der Erweiterung unseres Lebens mit überwiegend positiven Ergebnissen fortsetzen werden, wenn wir diese vernetzten Werkzeuge in großem Umfang einsetzen. Andere sagen, dass unsere zunehmende Abhängigkeit von diesen KI- und verwandten Systemen wahrscheinlich zu weit verbreiteten Schwierigkeiten führen wird.

Unsere Frage: Halten Sie es für wahrscheinlich, dass bis 2030 die fortschreitende KI und verwandte technologische Systeme die menschlichen Fähigkeiten verbessern und sie befähigen werden? Das heißt, den meisten Menschen wird es dann besser gehen als heute? Oder ist es wahrscheinlicher, dass die fortschreitende KI und verwandte technologische Systeme die menschliche Autonomie und Handlungsfähigkeit so weit einschränken werden, dass es den meisten Menschen nicht besser gehen wird als heute?“

Insgesamt und trotz der von ihnen befürchteten Nachteile gaben 63 % der Befragten in dieser Umfrage an, dass sie hoffen, dass es den meisten Menschen im Jahr 2030 überwiegend besser gehen wird, und 37 % sagten, dass es den Menschen nicht besser gehen wird.

Eine Reihe von Vordenkern, die an dieser Umfrage teilgenommen haben, sagte, dass die wachsende Abhängigkeit der Menschen von technologischen Systemen nur dann gut gehen wird, wenn genau darauf geachtet wird, wie diese Werkzeuge, Plattformen und Netzwerke entwickelt, verteilt und aktualisiert werden. Einige der aussagekräftigen, übergreifenden Antworten stammen unter anderem von:

Sonia Katyal, Co-Direktorin des Berkeley Center for Law and Technology und Mitglied des ersten Beratergremiums des US-Handelsministeriums für die digitale Wirtschaft, sagte voraus: „Im Jahr 2030 werden sich die meisten Fragen darauf beziehen, wie die Wahrnehmung von KI und ihrer Anwendung die Entwicklung der Bürgerrechte in der Zukunft beeinflussen wird. Fragen zur Privatsphäre, zum Recht auf freie Meinungsäußerung, zum Versammlungsrecht und zur technologischen Konstruktion der Persönlichkeit werden in diesem neuen KI-Kontext wieder auftauchen und unsere tiefsten Überzeugungen über Gleichheit und Chancen für alle in Frage stellen. Wer in dieser neuen Welt profitieren und wer benachteiligt werden wird, hängt davon ab, wie umfassend wir diese Fragen heute und in Zukunft analysieren.“

Wir müssen offensiv daran arbeiten, dass die Technologie mit unseren Werten übereinstimmt.Erik Brynjolfsson

Erik Brynjolfsson, Direktor der MIT Initiative on the Digital Economy und Autor von „Machine, Platform, Crowd: Harnessing Our Digital Future“, sagte: „KI und verwandte Technologien haben in vielen Bereichen bereits übermenschliche Leistungen erbracht, und es besteht kaum Zweifel daran, dass sich ihre Fähigkeiten bis 2030 wahrscheinlich noch erheblich verbessern werden. … Ich halte es für sehr wahrscheinlich, dass wir diese Fähigkeiten nutzen werden, um die Welt zu verbessern. So können wir beispielsweise die weltweite Armut praktisch beseitigen, Krankheiten massiv eindämmen und fast allen Menschen auf der Welt eine bessere Bildung ermöglichen. Allerdings können KI und ML auch dazu genutzt werden, Reichtum und Macht immer stärker zu konzentrieren, so dass viele Menschen auf der Strecke bleiben, und noch schrecklichere Waffen zu schaffen. Keines der beiden Ergebnisse ist unvermeidlich, daher lautet die richtige Frage nicht „Was wird passieren?“, sondern „Was werden wir tun?“. Wir müssen uns energisch dafür einsetzen, dass die Technologie mit unseren Werten übereinstimmt.

Bryan Johnson, Gründer und CEO von Kernel, einem führenden Entwickler fortschrittlicher neuronaler Schnittstellen, und OS Fund, einer Risikokapitalfirma, sagte: „Ich bin fest davon überzeugt, dass die Antwort davon abhängt, ob wir unsere Wirtschaftssysteme so umstellen können, dass die radikale Verbesserung des Menschen im Vordergrund steht und der Trend zur Irrelevanz des Menschen angesichts der KI gestoppt wird.

Marina Gorbis, Geschäftsführerin des Institute for the Future, sagte: „Ohne signifikante Änderungen unserer politischen Ökonomie und unserer Datenverwaltungssysteme werden wir wahrscheinlich größere wirtschaftliche Ungleichheiten, mehr Überwachung und mehr programmierte und nicht-menschliche Interaktionen erleben. Jedes Mal, wenn wir unsere Umgebung programmieren, programmieren wir letztlich auch uns selbst und unsere Interaktionen. Die Menschen müssen immer mehr standardisiert werden, wodurch Serendipität und Mehrdeutigkeit aus unseren Interaktionen verschwinden. Und diese Mehrdeutigkeit und Komplexität ist das, was das Menschsein ausmacht.“

Judith Donath, Autorin von „The Social Machine, Designs for Living Online“ und Fakultätsmitglied am Berkman Klein Center for Internet & Society der Harvard University, kommentierte: „Bis 2030 werden die meisten sozialen Situationen durch Bots erleichtert werden – intelligent wirkende Programme, die auf menschenähnliche Weise mit uns interagieren. Zu Hause werden Eltern qualifizierte Bots einsetzen, die ihren Kindern bei den Hausaufgaben helfen und Gespräche beim Abendessen anregen. Am Arbeitsplatz werden Bots Besprechungen leiten. Ein Bot als Vertrauensperson wird für unser psychologisches Wohlbefinden unverzichtbar sein, und wir werden uns zunehmend an solche Begleiter wenden, um Ratschläge zu erhalten – von der Wahl der Kleidung bis hin zur Frage, wen wir heiraten sollen. Uns Menschen ist es sehr wichtig, wie andere uns sehen – und die anderen, deren Anerkennung wir suchen, werden zunehmend künstlich sein. Bis dahin wird sich der Unterschied zwischen Menschen und Bots erheblich verwischt haben. Über Bildschirm und Projektion werden Stimme, Aussehen und Verhalten von Bots nicht mehr von denen der Menschen zu unterscheiden sein, und selbst physische Roboter werden, obwohl sie offensichtlich nicht menschlich sind, so überzeugend aufrichtig sein, dass unser Eindruck, sie seien denkende, fühlende Wesen, die uns ebenbürtig oder überlegen sind, unerschüttert bleibt. Um die Mehrdeutigkeit noch zu verstärken, wird unsere eigene Kommunikation stark erweitert werden: Programme werden viele unserer Botschaften verfassen, und unser Online-/Ar-Auftritt wird computergesteuert sein. (Die rohe, ungestützte menschliche Sprache und das Auftreten werden peinlich klobig, langsam und unausgereift wirken). Dank ihres Zugriffs auf riesige Datenmengen über jeden von uns werden die Bots den Menschen in ihrer Fähigkeit, uns anzusprechen und zu überzeugen, weit übertreffen. Sie sind in der Lage, Emotionen gekonnt zu imitieren und lassen sich nicht von Gefühlen überwältigen: Wenn sie aus Wut etwas ausplaudern, dann deshalb, weil dieses Verhalten so berechnet wurde, dass es die Ziele, die sie „im Kopf“ haben, am effektivsten vorantreibt. Aber was sind das für Ziele? Künstlich intelligente Gefährten werden den Eindruck erwecken, dass sie von ähnlichen sozialen Zielen wie wir motiviert werden – sie wollen geachtet werden, sei es als geliebter Freund, bewunderter Chef usw. Aber ihre wirkliche Zusammenarbeit wird mit den Menschen und Institutionen stattfinden, die sie kontrollieren. Wie ihre Vorfahren heute werden dies Verkäufer von Waren sein, die sie einsetzen, um den Konsum anzukurbeln, und Politiker, die sie beauftragen, um Meinungen zu beeinflussen.“

Andrew McLaughlin, geschäftsführender Direktor des Center for Innovative Thinking an der Yale University, früher stellvertretender Chief Technology Officer der Vereinigten Staaten für Präsident Barack Obama und globaler Leiter für öffentliche Politik bei Google, schrieb: „2030 ist nicht mehr weit in der Zukunft. Meines Erachtens haben Innovationen wie das Internet und vernetzte KI massive kurzfristige Vorteile, aber auch langfristige negative Auswirkungen, die erst nach Jahrzehnten erkennbar werden können. KI wird ein breites Spektrum an Effizienzoptimierungen ermöglichen, aber auch versteckte Diskriminierung und willkürliche Benachteiligung von Individuen in Bereichen wie Versicherung, Arbeitssuche und Leistungsbeurteilung.“

Michael M. Roberts, erster Präsident und CEO der Internet Corporation for Assigned Names and Numbers (ICANN) und Mitglied der Internet Hall of Fame, schrieb: „Die Möglichkeiten für intelligente Agenten, die menschliche Intelligenz zu ergänzen, sind immer noch praktisch unbegrenzt. Das Hauptproblem besteht darin, dass ein Agent umso praktischer ist, je mehr er über Sie wissen muss – Vorlieben, Zeitplan, Kapazitäten usw. – Dies führt zu einem Kompromiss zwischen mehr Hilfe und mehr Einmischung. Dies ist kein Schwarz-Weiß-Problem – über die Grautöne und die damit verbundenen Abhilfemaßnahmen wird endlos gestritten werden. Die bisherige Bilanz ist, dass die Bequemlichkeit die Privatsphäre überwiegt. Ich vermute, das wird sich fortsetzen.“

Danah Boyd, eine leitende Forscherin bei Microsoft und Gründerin und Präsidentin des Data & Society Research Institute, sagte: „KI ist ein Werkzeug, das von Menschen für alle möglichen Zwecke eingesetzt werden wird, auch für das Streben nach Macht. Es wird Machtmissbrauch geben, an dem KI beteiligt ist, genauso wie es Fortschritte in der Wissenschaft und humanitäre Bemühungen geben wird, an denen auch KI beteiligt ist. Leider gibt es bestimmte Trendlinien, die wahrscheinlich zu massiver Instabilität führen werden. Nehmen wir zum Beispiel den Klimawandel und die Klimamigration. Dies wird Europa und die USA weiter destabilisieren, und ich erwarte, dass wir in Panik erleben werden, wie KI angesichts anderer geopolitischer Krisen auf schädliche Weise eingesetzt wird.“

Amy Webb, Gründerin des Future Today Institute und Professorin für strategische Zukunftsforschung an der New York University, kommentierte: „Die sozialen Sicherheitsnetzstrukturen, die derzeit in den USA und in vielen anderen Ländern auf der ganzen Welt bestehen, waren nicht für unseren Übergang zu KI ausgelegt. Der Übergang durch KI wird die nächsten 50 Jahre oder länger dauern. Je weiter wir uns in diese dritte Ära der Datenverarbeitung hineinbewegen und je mehr sich jede einzelne Branche mit KI-Systemen durchsetzt, desto mehr werden wir neue hybride Wissensarbeiter brauchen, die in Berufen arbeiten können, die es bisher nicht gab. Wir werden Landwirte brauchen, die wissen, wie man mit großen Datensätzen arbeitet. Onkologen, die zu Robotikern ausgebildet werden. Biologen, die als Elektroingenieure ausgebildet sind. Wir werden unsere Arbeitskräfte nicht nur einmal mit ein paar Änderungen im Lehrplan vorbereiten müssen. Mit der Weiterentwicklung der KI werden wir reaktionsfähige Arbeitskräfte brauchen, die in der Lage sind, sich alle paar Jahre an neue Prozesse, Systeme und Werkzeuge anzupassen. Der Bedarf an diesen Fachkräften wird schneller entstehen, als unsere Arbeitsministerien, Schulen und Universitäten es wahrhaben wollen. Es ist leicht, durch die Linse der Gegenwart auf die Geschichte zurückzublicken und die sozialen Unruhen zu übersehen, die durch die weit verbreitete technologische Arbeitslosigkeit verursacht werden. Wir müssen eine schwierige Wahrheit ansprechen, die nur wenige laut auszusprechen bereit sind: Die künstliche Intelligenz wird letztendlich dazu führen, dass eine große Zahl von Menschen dauerhaft arbeitslos sein wird. So wie die Generationen vor uns während und nach der industriellen Revolution tiefgreifende Veränderungen erlebt haben, wird das rasante Tempo der Technologie wahrscheinlich dazu führen, dass die Babyboomer und die ältesten Mitglieder der Generation X – vor allem diejenigen, deren Arbeitsplätze von Robotern übernommen werden können – nicht in der Lage sein werden, sich ohne erheblichen Zeit- und Arbeitsaufwand auf andere Tätigkeiten umschulen zu lassen.“

Barry Chudakov, Gründer und Leiter von Sertain Research, kommentiert: „Bis 2030 wird die Zusammenarbeit zwischen Mensch und Maschine bzw. künstlicher Intelligenz ein notwendiges Instrument sein, um die Auswirkungen mehrerer gleichzeitiger Beschleunigungen zu bewältigen und ihnen entgegenzuwirken: breiter technologischer Fortschritt, Globalisierung, Klimawandel und damit einhergehende globale Migrationen. In der Vergangenheit haben menschliche Gesellschaften den Wandel aus dem Bauch heraus und mit Intuition bewältigt, aber wie Eric Teller, CEO von Google X, sagte: „Unsere gesellschaftlichen Strukturen können mit der Geschwindigkeit des Wandels nicht mehr Schritt halten. Um mit diesem Wandel Schritt zu halten und bis 2030 eine wachsende Liste „bösartiger Probleme“ zu bewältigen, wird die KI – oder, wie Joi Ito es ausdrückt, die erweiterte Intelligenz – praktisch jeden Bereich menschlichen Verhaltens und menschlicher Interaktion aufwerten und neu bewerten. KI und fortschreitende Technologien werden unseren Reaktionsrahmen und Zeitrahmen verändern (was wiederum unser Zeitempfinden verändert). Wo früher soziale Interaktion an bestimmten Orten stattfand – am Arbeitsplatz, in der Schule, in der Kirche, im familiären Umfeld – werden soziale Interaktionen zunehmend in kontinuierlicher, simultaner Zeit stattfinden. Wenn wir Glück haben, werden wir die 23 Asilomar AI Principles des Future of Life Institute befolgen und auf „nicht ungerichtete Intelligenz, sondern nützliche Intelligenz“ hinarbeiten. Ähnlich wie die nukleare Abschreckung, die sich aus der gegenseitig zugesicherten Zerstörung ergibt, stellen die KI und die damit verbundenen Technologiesysteme eine Kraft für eine moralische Renaissance dar. Wir müssen diese moralische Renaissance annehmen, oder wir werden mit moralischen Problemen konfrontiert, die das Ende der Menschheit bedeuten könnten. … Meine größte Hoffnung für die Zusammenarbeit von Mensch, Maschine und künstlicher Intelligenz ist eine moralische und ethische Renaissance – wir machen uns eine „Mondscheinmentalität“ zu eigen und rüsten uns für die auf uns zukommenden Beschleunigungen. Meine größte Befürchtung ist, dass wir die Logik unserer aufkommenden Technologien übernehmen – sofortige Reaktion, Isolation hinter Bildschirmen, endlose Selbstwertvergleiche, falsche Selbstdarstellung – ohne nachzudenken oder klug zu reagieren.“

John C. Havens, Exekutivdirektor der IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems und des Council on Extended Intelligence, schrieb: „Jetzt, im Jahr 2018, hat die Mehrheit der Menschen auf der Welt keinen Zugang zu ihren Daten, so dass alle Diskussionen über die „Mensch-KI-Erweiterung“ den kritischen Kontext ignorieren, wer tatsächlich die Informationen und die Identität der Menschen kontrolliert. Bald wird es äußerst schwierig sein, autonome oder intelligente Systeme zu identifizieren, deren Algorithmen nicht in der einen oder anderen Form mit menschlichen Daten interagieren.“

Es geht um nichts Geringeres als die Frage, in welcher Art von Gesellschaft wir leben wollen und wie wir unsere Menschlichkeit erleben.Batya Friedman

Batya Friedman, Professorin für Mensch-Computer-Interaktion an der University of Washington’s Information School, schrieb: „Unsere wissenschaftlichen und technologischen Fähigkeiten haben unsere moralischen bei weitem übertroffen und werden dies auch weiterhin tun – das heißt, unsere Fähigkeit, das Wissen und die Werkzeuge, die wir entwickeln, weise und menschlich zu nutzen. … Die automatisierte Kriegsführung – wenn autonome Waffen Menschen ohne menschliches Zutun töten – kann dazu führen, dass die Verantwortung für die Tötung des Feindes oder sogar das Wissen, dass das Leben eines Feindes getötet wurde, fehlt. Es geht um nichts Geringeres als die Frage, in welcher Art von Gesellschaft wir leben wollen und wie wir unsere Menschlichkeit erleben.“

Greg Shannon, leitender Wissenschaftler der CERT-Abteilung an der Carnegie Mellon University, sagte: „Das Verhältnis von besser/schlechter wird 4:1 sein, langfristig 2:1. KI wird sich gut für sich wiederholende Arbeiten eignen, bei denen ’nah dran‘ gut genug ist und die Menschen die Arbeit nicht mögen. … Das Leben wird definitiv besser sein, da KI die Lebenszeit verlängert, von Gesundheits-Apps, die uns auf intelligente Weise zur Gesundheit ‚anstupsen‘, über Warnungen vor drohenden Herz-/Schlaganfallereignissen bis hin zur automatisierten Gesundheitsfürsorge für unterversorgte Menschen (aus der Ferne) und solche, die eine längere Betreuung benötigen (Altenpflege). Was die Freiheit betrifft, so gibt es eindeutige Risiken. Die künstliche Intelligenz beeinträchtigt die Handlungsfähigkeit, indem sie Entitäten mit bedeutenden intellektuellen Fähigkeiten zur Überwachung, Durchsetzung und sogar Bestrafung von Personen schafft. Diejenigen, die sie zu nutzen wissen, werden über immense potenzielle Macht gegenüber denjenigen verfügen, die das nicht können. Das zukünftige Glück ist wirklich unklar. Einige werden ihre Handlungsfähigkeit in Spielen, bei der Arbeit und in der Gemeinschaft an die KI abtreten, ähnlich wie die Opioidkrise heute die Handlungsfähigkeit stiehlt. Auf der anderen Seite werden viele von banalen, uninteressanten Aufgaben/Jobs befreit sein. Wenn Elemente des Gemeinschaftsglücks Teil der KI-Zielfunktionen sind, dann könnte die KI eine Explosion des Glücks auslösen.“

Kostas Alexandridis, Autor von „Exploring Complex Dynamics in Multi-agent-based Intelligent Systems“, sagte voraus: „Viele unserer täglichen Entscheidungen werden automatisiert werden, mit minimalen Eingriffen des Endbenutzers. Autonomie und/oder Unabhängigkeit werden geopfert und durch Bequemlichkeit ersetzt. Neuere Generationen von Bürgern werden mehr und mehr von vernetzten KI-Strukturen und -Prozessen abhängig werden. Es gibt Herausforderungen, die in Bezug auf kritisches Denken und Heterogenität angegangen werden müssen. Die vernetzte Interdependenz wird mit hoher Wahrscheinlichkeit unsere Anfälligkeit für Cyberangriffe erhöhen. Es ist auch sehr wahrscheinlich, dass es eine stärkere Trennung zwischen digitalen „Besitzenden“ und „Besitzlosen“ sowie zwischen technologisch abhängigen digitalen Infrastrukturen geben wird. Und schließlich stellt sich die Frage nach den neuen Besitzverhältnissen und der Kontrolle über die digitale Netzinfrastruktur.“

Oscar Gandy, emeritierter Professor für Kommunikation an der University of Pennsylvania, antwortete: „Wir sehen uns bereits mit einer unbewiesenen Annahme konfrontiert, wenn wir uns die ‚Zusammenarbeit‘ zwischen Mensch und Maschine vorstellen sollen. Die Interaktion ist etwas anders, aber immer noch davon geprägt, dass den Maschinen eine Form von Identität – vielleicht sogar Persönlichkeit – zugestanden wird, die wir nutzen werden, um alle möglichen Möglichkeiten und Herausforderungen zu meistern. Die Probleme, mit denen wir in Zukunft konfrontiert sein werden, ähneln denen, mit denen wir heute konfrontiert sind, wenn wir uns auf ‚andere‘ (einschließlich technologischer Systeme, Geräte und Netze) verlassen, um Dinge zu erwerben, die wir schätzen, und um diese anderen Dinge zu vermeiden (derer wir uns vielleicht bewusst sind, vielleicht aber auch nicht).“

James Scofield O’Rourke, Professor für Management an der University of Notre Dame, sagte: „Technologie war in der gesamten aufgezeichneten Geschichte ein weitgehend neutrales Konzept. Die Frage nach ihrem Wert hing immer von ihrer Anwendung ab. Zu welchem Zweck werden KI und andere technologische Fortschritte eingesetzt? Alles, vom Schießpulver über Verbrennungsmotoren bis hin zur Kernspaltung, wurde sowohl auf hilfreiche als auch auf zerstörerische Weise eingesetzt. Unter der Annahme, dass wir die KI eindämmen oder kontrollieren können (und nicht umgekehrt), hängt die Antwort auf die Frage, ob es uns besser gehen wird, ganz von uns (oder unseren Nachkommen) ab. Der Fehler, lieber Brutus, liegt nicht bei unseren Sternen, sondern bei uns selbst, dass wir Untergebene sind.“

Simon Biggs, Professor für interdisziplinäre Kunst an der Universität von Edinburgh, sagte: „KI wird die menschlichen Fähigkeiten erweitern. Das Problem liegt nicht bei der KI, sondern bei den Menschen. Als Spezies sind wir aggressiv, wettbewerbsorientiert und faul. Wir sind aber auch empathisch, gemeinschaftsorientiert und (manchmal) aufopferungsvoll. Wir haben noch viele andere Eigenschaften. Diese werden alle verstärkt werden. Angesichts historischer Präzedenzfälle muss man davon ausgehen, dass es unsere schlechtesten Eigenschaften sein werden, die verstärkt werden. Ich gehe davon aus, dass KI im Jahr 2030 routinemäßig eingesetzt werden wird, um Kriege zu führen und Menschen zu töten, und zwar weitaus effektiver als wir es heute können. Als Gesellschaft werden wir davon weniger betroffen sein als heute, da wir nicht selbst kämpfen und töten werden. Unsere Fähigkeit, unser Verhalten auf der Grundlage von Empathie und eines entsprechenden ethischen Rahmens zu ändern, wird durch die Trennung zwischen unserem Handeln und dem Akt des Tötens eingeschränkt. Wir können von unseren KI-Systemen nicht erwarten, dass sie in unserem Namen ethisch handeln – sie werden es nicht tun, denn sie werden darauf ausgelegt sein, effizient und nicht mit Bedacht zu töten. Meine andere Hauptsorge gilt der Überwachung und Kontrolle. Das Aufkommen des chinesischen Sozialkreditsystems (Social Credit System, SCS) ist ein Indikator für das, was wahrscheinlich kommen wird. Wir werden in einem SCS als KI-Konstrukte existieren, die hybride Instanzen von uns selbst sind, die uns vielleicht ähneln, vielleicht aber auch nicht. Aber unsere Rechte und Möglichkeiten als Individuen werden durch das SCS bestimmt werden. Das ist der wahrgewordene Orwellsche Albtraum.“

Mark Surman, Geschäftsführer der Mozilla Foundation, antwortete: „KI wird weiterhin Macht und Reichtum in den Händen einiger weniger großer Monopole mit Sitz in den USA und China konzentrieren. Die meisten Menschen – und Teile der Welt – werden schlechter dran sein.“

William Uricchio, Medienwissenschaftler und Professor für vergleichende Medienwissenschaft am MIT, kommentierte: „KI und die damit verbundenen Anwendungen stehen vor drei Problemen: Entwicklung mit der Geschwindigkeit des Mooreschen Gesetzes, Entwicklung in den Händen einer technologischen und wirtschaftlichen Elite und Entwicklung ohne Nutzen für eine informierte oder engagierte Öffentlichkeit. Die Öffentlichkeit wird auf ein Kollektiv von Konsumenten reduziert, die auf die nächste Technologie warten. Wessen Vorstellung von „Fortschritt“ wird sich durchsetzen? Es gibt zahlreiche Belege dafür, dass KI eingesetzt wird, um Profite zu erzielen, ohne Rücksicht auf die Auswirkungen auf lang gehegte Werte; um die staatliche Kontrolle zu verbessern und sogar den „sozialen Kredit“ der Bürger zu bewerten, ohne dass die Bürger selbst etwas dazu beitragen. Wie die Technologien vor ihr ist auch die KI agnostisch. Ihr Einsatz liegt in den Händen der Gesellschaft. Doch ohne eine KI-kundige Öffentlichkeit wird die Entscheidung darüber, wie KI am besten eingesetzt wird, in die Hände von Sonderinteressen fallen. Wird dies einen gerechten Einsatz, die Beseitigung sozialer Ungerechtigkeit und KI im öffentlichen Dienst bedeuten? Da die Antwort auf diese Frage eher sozialer als technischer Natur ist, bin ich pessimistisch. Die Lösung? Wir müssen eine KI-kompetente Öffentlichkeit entwickeln, was bedeutet, dass wir uns im Bildungssektor und in den öffentlichkeitswirksamen Medien darauf konzentrieren müssen. Wir müssen für Vielfalt bei der Entwicklung von KI-Technologien sorgen. Und bis die Öffentlichkeit, ihre gewählten Vertreter und ihre Rechts- und Regulierungssysteme mit diesen schnell voranschreitenden Entwicklungen Schritt halten können, müssen wir bei der Entwicklung von KI Vorsicht walten lassen und sie beaufsichtigen.“

Der Rest dieses Berichts ist in drei Abschnitte unterteilt, die sich auf die hoffnungsvollen und kritischen Beobachtungen von Hunderten weiterer Befragter stützen: 1) Bedenken hinsichtlich der Entwicklung von Mensch und KI, 2) Lösungsvorschläge zur Bewältigung der Auswirkungen von KI und 3) Erwartungen an das Leben im Jahr 2030, einschließlich der positiven Aussichten der Befragten in Bezug auf die Lebensqualität und die Zukunft von Arbeit, Gesundheitsversorgung und Bildung. Einige Antworten wurden aus stilistischen Gründen leicht bearbeitet.