Schwerpunkt KI

Vielleicht haben wir sie gerade geöffnet: die Büchse der Pandora. "Die Sorge um Kontrollverlust ist vollkommen berechtigt", sagt der Philosoph Vincent C. Müller von der Friedrich-Alexander-Universität (FAU) Erlangen-Nürnberg. Die alte Angst vor einer Maschine, die sich vom Menschen lossagt. Befeuert von führenden Entwicklern und KI-Forschern.

Kann KI neue Viren entwickeln?

"Was passiert, wenn wir Systeme bauen, die klüger sind als wir? Könnten die auf gefährliche Art genutzt werden?", fragt der KI-Forscher Yoshua Bengio von der Universität Montreal. "Angesichts dieser Gefahr wirken die nukleare Bedrohung oder der Klimawandel wie Peanuts", warnt Nate Soares vom Machine Intelligence Research Institute (MIRI).

Schon jetzt: Deep-Fakes überschwemmen das Netz. Manche fürchten, KI könne gar helfen, neue Viren zu entwickeln. "Ich glaube nach wie vor, dass das Potential der Menschheit durch KI zu helfen extrem groß ist", sagt KI-Forscher Daniel Rückert von der TU München.

Menschen lügen – Systeme imitieren dieses Verhalten

"Ein wichtiger Aspekt der philosophischen Beschäftigung mit der KI ist, dass wir besser verstehen, was Intelligenz eigentlich ist. Und damit auch, was Menschsein eigentlich bedeutet", sagt Vincent C. Müller, Philosoph FAU Erlangen-Nürnberg. "Es gibt viel Technik-Optimismus und viele Technik-Untergangsfantasien. Und das fühlt sich eher wie eine religiöse Diskussion an und nicht wie eine wissenschaftliche", sagt Sara Walker, Physikerin an der Arizona State University.

Das, was gerade passiert ist, könnte die Maschinen in die Nähe der Menschen rücken. Eine KI bekommt einen Auftrag, den sie eigentlich nicht lösen kann: ein Captcha, ein Bilderrätsel. Also bedient sie sich eines Tricks: sie schreibt einen Menschen an, bittet ihn: kannst du mir helfen? Der ist irritiert, fragt: Warum, bist du ein Roboter? Nein, antwortet die KI. Sie lügt. Und sie wird damit weitermachen. "Sie ist trainiert, Menschen zu imitieren und nicht, wahrhaftig zu sein", sagt Yoshua Bengio, KI-Forscher an der Universität Montreal. "Menschen lügen, haben Absichten, schlussfolgern. Diese Systeme versuchen also, das Verhalten zu reproduzieren, das sie bei Menschen in Texten gesehen haben. Täuschung ist also eine völlig natürliche Strategie, um Ziele zu erreichen."

Vom Mitentwickler zum Mahner

Der Informatiker Yoshua Bengio hat vieles von dem mitentwickelt, was wir heute als Künstliche Intelligenz kennen. Doch mittlerweile ist er, wie viele seiner Forschungskollegen, zu einem großen Mahner geworden. Die Gefahr, die von KI ausgehe, solle so hoch bewertet werden wie die eines Nuklearkrieges oder einer Pandemie, schrieb er vor kurzem in einem offenen Brief. "Psychologisch ist es schwierig zu akzeptieren, dass die eigene Arbeit sehr viel Schaden anrichten könnte", sagt Bengio. "Es sollte ja etwas Gutes für die Menschheit sein."

Mit den neuen Sprachmodellen scheint künstliche Intelligenz so weit wie noch nie. Trainiert mit Millionen von menschlichen Texten wird sie immer besser darin, uns zu imitieren. Für heute Abend empfiehlt die Maschine zum Beispiel: Mexican Fiesta. Bald könnte uns KI den ganzen lästigen Alltag abnehmen. Und unterwandert damit unsere Gesellschaft.

Eine Maschine kann die Unwahrheit sagen – lügt sie deshalb?

Zurück zu der Maschine mit der Bilderaufgabe. Um den Menschen zu überzeugen, dass sie kein Roboter sei, erfindet sie eine Ausrede. Sie leide an einer Sehbehinderung und bräuchte deshalb Hilfe. Der Mensch glaubt ihr. Er wurde belogen. "Ich würde sagen, eine Maschine kann nicht lügen", sagt Vincent C. Müller. "Eine Maschine kann die Unwahrheit sagen. Eine Maschine kann in dem Sinne eigentlich nur die Absicht haben ein bestimmtes Ziel zu erreichen, also dieses Captcha-Problem zu lösen zum Beispiel. Dann kann sie sich irgendwelche Methoden vorstellen, wie dieses Problem zu lösen ist. Das als Lüge zu bezeichnen, scheint mir übertrieben zu sein, weil es eben nicht die phänomenale Gestalt hat, dass jemand sozusagen weiß, was er tut."

Was unterscheidet den Menschen von der Maschine? Den Philosophen Vincent C. Müller beschäftigt diese Frage seit Jahren, unter anderem in Oxford und den Niederlanden. Jetzt baut er in Erlangen einen Lehrstuhl für Ethik in der Künstlichen Intelligenz auf. Zwiegespräch mit Entitäten, die unser Selbstbild ins Wanken bringen. "Das Menschsein ist eine merkwürdige Sache, weil wir neigen dazu uns für was ganz Besonderes zu halten", sagt Müller. "Wir haben früher geglaubt, die Erde ist im Zentrum des Universums und wir sind die Krone der Schöpfung und solche peinlichen Ideen. Und irgendwie glauben wir auch immer noch, dass wir irgendwie was ganz Besonderes sind und irgendwie speziell. Und die KI hilft uns einfach auch das besser zu verstehen, nämlich den Aspekt, auf den wir besonders stolz sind, unsere Intelligenz und von dem wir glauben, dass es irgendwie was wäre, was uns von anderen Tieren unterscheidet."

So bedeutend wie der Übergang von Ein- zu Mehrzellern?

"Vor tausenden Jahren lernten wir zu schreiben und damit Sprache aufzuzeichnen", sagt Sara Walker, Physikerin an der Arizona State University. "Das war für die Menschheit eine Art kopernikanischer Schock. Denn plötzlich konnten die Toten mit uns sprechen, weil ihre Sprache aufgeschrieben war. Und was wir jetzt mit der künstlichen Intelligenz sehen, ist, dass wir uns weiterentwickeln. Eine Entwicklung, bei der linguistische Gesellschaften Informationen komplett neu organisieren. Wenn man sich also die evolutionäre Entwicklung der künstlichen Intelligenz ansieht, sieht es so aus, als ob sie einfach das, was das Leben seit Milliarden von Jahren getan hat, auf eine neue Ebene der Organisation hebt."

Eine neue Evolutionsstufe? Der Schritt vom Affen zum Menschen zur Künstlichen Intelligenz. Sara Walker ist Physikerin an der Universität von Arizona. Sie sieht die Menschheit auf dem Weg von der Biosphäre in die Technosphäre. "Viele behaupten, dass wir eine intelligente Spezies sind und die KI sich auf einem anderen Evolutionspfad befindet als wir", sagt Walker. "Als wären sie unterschiedliche Spezien. Ich halte es aber für angemessener, es so zu betrachten, als seien die KI und wir ein und dasselbe System und dass wir eine völlig neue Organisationsebene erreichen. Eher so wie wenn man von Einzellern zu mehrzelligen Geweben übergeht. Man sollte es als ein Ökosystem betrachten, worin die Biosphäre und der technischen Sphäre auf eine tiefere Weise verbunden sind."

Eine KI "denkt" anders als wir Menschen

Der menschliche Verstand folgt gewissen Spielregeln. Eine KI hingegen "denkt" anders. Begriffe wie "Lügen" oder "Intelligenz" können hier irreführen. Sie vermenschlichen die Maschine. Dabei wissen wir schlichtweg nicht, wie sie agiert. Und das macht ihr Tun so unheimlich. "Damit eine Maschine gefährlich werden kann, braucht sie nicht genauso denken zu können wie wir Menschen", sagt Yoshua Bengio.

"Sie braucht dafür auch nicht unbedingt ein Bewusstsein oder Gefühle – im Gegenteil: Wenn sie kein Mitgefühl hat, ist sie sogar gefährlicher. Die Evolution hat uns Menschen mit ethischen Leitplanken ausgestattet. Aber ab dem Moment, in dem Systeme mit großem Denkvermögen in die falschen Hände geraten, wird es richtig gefährlich. Und dann ist es mir auch egal, ob dieses System ein Bewusstsein hat oder nicht. Wenn es gefährlich ist, dann müssen wir etwas dagegen tun." Bilder, die nicht das sind, was sie zu sein scheinen. Wie vielleicht nie zuvor gerät der Mensch in ein Misstrauensverhältnis zu seinen Sinnen. Eine Partei verwendet KI-generierte Stereotype zur rechten Mobilisierung.

Die KI überzeugt Menschen von politischen Postitionen

Universität Stanford, Kalifornien. Hier analysieren Soziologen, wie KI-generierte Inhalte Gesellschaften polarisieren können. "Ich würde sagen, unsere Studien zeigen, dass es da sehr schnell gefährlich werden kann. Und dass wir sehr genau kontrollieren müssen, zu welchen Zielen diese Sprachmodelle benutzt werden", sagt Jan Voelkel, Soziologe an der Universität Stanford.

Er und seine Kollegen haben Personen Texte gezeigt, die sie zum Beispiel von Waffengesetzen überzeugen sollten: Diejenigen, die von einer KI geschrieben wurden, waren dabei ähnlich überzeugend wie die eines Menschen. "Argumente, die von Künstlicher Intelligenz generiert wurden, können tatsächlich Leute davon überzeugen, so eine politische Position anzunehmen", sagt Voelkel.   

Es gibt einen KI-Hype – aber kaum Experten

In Berlin treffen sich Mitarbeiter des Bundestags zu einem Workshop. Das Thema: KI-Sicherheit. Organisiert von Charlotte Siegmann und der Organisation KIRA: Center for AI Risks & Impacts. Für die Risiken der KI-Revolution fehlte der Politik bisher das Verständnis. "Irgendwie gibt es hier einen Hype und jeder will darüber reden. Und gleichzeitig ist es so, dass wenn ich frage 'Wer ist in Ihrer Abteilung Experte für das Thema oder arbeitet an KI-Regulierung?' dann findet man erstaunliche wenige."  

Siegmann will die Teilnehmer für das weite Spektrum der Gefahren sensibilisieren. KI-Missbrauch im Jetzt und in der Zukunft. "Wenn wir viel fähigere Systeme haben, wie würden wir die dann kontrollierbar, sicher und fair machen? Und das ist eben eine offene Forschungsfrage, auf die es viel bessere Antworten braucht, bevor wir solche Systeme entwickeln."  

Technik kann missbraucht werden – aber auch viel Gutes tun

China hat schon gezeigt, wie Künstliche Intelligenz missbraucht werden kann: Die Regierung nutzt Algorithmen, um die muslimische Minderheit der Uiguren in ihren Bewegungen zu überwachen und zu tracken.  

Dabei könnte Künstliche Intelligenz eigentlich helfen, die Welt zu einer besseren zu machen. In der Medizin stecken vielleicht die größten Chancen. Vor allem in der Auswertung medizinischer Bilder. Eine KI hilft, die kleinsten Mutationen zu erkennen. In München erforscht Daniel Rückert, der an der TU München die KI in der Medizin erforscht, wie Maschinen zu Lebensrettern werden können. "Ich hoffe, dass man durch KI gut darin wird, ganze Frühzeichen von Krankheiten zu erkennen", sagt Rückert, "so dass jeder Hausarzt mithilfe von KI sagen kann: 'Sie entwickeln vielleicht in zwei Jahren eine bestimmte Krebserkrankung und wenn Sie jetzt das folgende tun, können Sie das noch verändern.'" 

Eine Medizin-KI ist immer auf dem aktuellen Stand der Forschung

In Erlangen wird daran geforscht, wie Algorithmen etwa bei verletzten Gliedmaßen helfen können, Signale an Prothesen zu übersetzen. Auch in der Diagnostik von Parkinson-Patienten könnten diese Maschinen enorm wertvoll sein. Auf der ganzen Welt könnte sich unser medizinischer Standard verbessern. "Wir müssen uns auch in der Medizin darüber im Klaren sein, dass Menschen, die im Moment als Ärzte tätig sind auch oft Fehler machen und teilweise auch auf dem Ausbildungsstand von vielleicht vor 5, 10, manchmal auch 20 Jahren agieren", sagt Daniel Rückert. "Und dass die KI oft einfacher ist auf den neuesten Stand zu bringen."   

Und doch bleibt da immer die Sorge: Was, wenn Systeme entstehen, die nicht mehr nur zugeteilte Aufgaben übernehmen – sondern ein Eigenleben entwickeln? "Ich bin wirklich sehr besorgt", sagt Nate Soares, Machine Intelligence Research Institute (MIRI). "Um es klarzustellen: Wenn wir es richtig machen, dann könnte KI eine der besten Sachen sein, die unserer Spezies jemals passiert ist. Aber wenn nicht: dann wird es furchtbar. Wir dürfen hier also wirklich nicht versagen."   

Was wäre, wenn ein System einen Selbsterhaltungstrieb entwickelt?

Nate Soares vom Machine Intelligence Research Institute (MIRI) beschäftigt sich seit vielen Jahren mit Sicherheitsproblemen von KI: "Anders als bei Waffen ist es bei der KI nicht so, dass derjenige, der sie als erstes baut, alle Vorteile bekommt, sondern wer immer sie zuerst baut, hat die Ehre alle zu töten."

Denn was wäre, wenn eines Tages ein wirklich intelligentes System einen Selbsterhaltungstrieb entwickelt und sich dem Menschen widersetzt? Oder in den falschen Händen etwa anstelle von Medizin einen Virus kreiert?  

Maschinen brauchen logisches Denken – und Mitgefühl

"Für mich gibt es vor allem zwei Eigenschaften, die Maschinen – genauso wie Menschen – brauchen. Ein Verständnis von Wahrheit und noch besser: logisches Denken", sagt Yosua Bengio. "Und zweitens: Mitgefühl. Das sind die beiden zentralen Eigenschaften, die man braucht, um die Art von Wesen zu bekommen, die wir wollen."  

"Ich finde, es ist eigentlich eine relativ gute Entwicklung, dass wir uns im Bereich der KI schon relativ früh ernsthaft Gedanken über Ethik machen", sagt Vincent C. Müller. "Das machen wir nämlich bei den meisten Technologien erst dann, wenn alles ins Wasser gefallen ist." 

KI zwingt uns, über unsere eigenen Grenzen nachzudenken

Der Mensch hadert auch deshalb so sehr mit Künstlicher Intelligenz, weil sie uns zwingt, über unsere eigenen Grenzen nachzudenken. Und: über unsere Endlichkeit. "Es ist doch so: Irgendwann stirbt jede Spezies", sagt Sara Walker. "Das Universum ist ein grausamer und tödlicher Ort. Und trotzdem gelingt es dem Leben auf unserem Planeten seit vier Milliarden Jahren zu überleben und zu gedeihen. Wir Menschen sind unfassbar gut darin unseren Lebensraum zu erweitern. Wir können ins All fliegen und in den schwierigsten klimatischen Bedingungen überleben. Und zwar, weil wir uns Technologie zu eigen machen. Wenn wir wollen, dass das Leben in der Zukunft weitergeht, dann wird das nur mit der Technologie gehen."    

Vielleicht ist es ja so mit der Künstlichen Intelligenz: Sie muss uns erschüttern, damit wir sie irgendwann sicher nutzen können.

Autoren: Maximilian Sippenauer / Ronja Mira Dittrich

Stand: 24.07.2023 09:34 Uhr