Was bedeutet "KI"?

Interview mit KI-Experte Florian Röhrbein

Kriminalhauptkommissar Franz Leitmayr (Udo Wachtveitl), Kriminalhauptkommissar Ivo Batic (Miroslav Nemec), Bernd Fehling (Florian Panzner) und Anna Velot (Janina Frautz)
Auch Batic und Leitmayer tauchen im Rechenzentrum auf und wollen genau wissen, was da vor sich geht. Der Verdacht, dass "Maria" mehr über das Verschwinden von Melanie weiß, steht bald im Raum.  | Bild: Bavaria Fiction GmbH/BR / Hendrik Heiden

Was verbirgt sich eigentlich hinter dem Begriff "Künstliche Intelligenz", abgekürzt "KI"?

Der Begriff "Künstliche Intelligenz" ist nicht klar definiert. Das liegt daran, dass sich Forscher bislang noch nicht einmal darauf verständigen konnten, was "Intelligenz" ist. Man hat also eher ein intuitives Verständnis von "KI". In der Regel denkt man bei "KI" in letzter Zeit vor allem an "Deep Learning", an ein spezielles Lernverfahren für neuronale Netze. Mir ist aber wichtig, festzuhalten, dass "KI" viel mehr ist. "KI" umfasst eine ganz große Palette an unterschiedlichen Tools zur Verarbeitung von Daten und zum Umgang mit Wissen. Dazu gehört z.B. klassische Logik, Wissensrepräsentation, Problemlösung, Planen und auch verschiedene Formen des Lernens.

Manche sagen auch "KI" steht für "Kommende Informatik". Das soll heißen: Ganz viel, was in der KI-Forschung war, ist mittlerweile in Produkten des Alltags gelandet. "KI" ist quasi schon allgegenwärtig und in vielen Produkten enthalten, die wir täglich benutzen – man bezeichnet diese nur nicht mehr als "KI".

Letztlich kann man folgende kurze Definition verwenden, die auch bei Wikipedia angegeben ist: Künstliche Intelligenz (KI) ist "ein Teilgebiet der Informatik, welches sich mit der Automatisierung intelligenten Verhaltens und dem maschinellen Lernen befasst".

Haben die Autoren von "Tatort: KI" es aus Ihrer Sicht geschafft, das Thema KI und was KI heute kann oder könnte, realistisch zu erzählen?

Ich finde die Umsetzung des Themas besonders gut gelungen. Oftmals wird mit dystopischen und damit auch übertriebenen Szenarien gearbeitet. Beim "Tatort: KI" dagegen wird das Thema sehr realistisch dargestellt. Die Darstellung der Chancen und Risiken empfinde ich als sehr ausgewogen. Dazu gehört die Gefahr, dass eine KI als Person wahrgenommen werden kann, mit der man eine Beziehung aufbaut, obwohl sie letztlich doch nur Antworten wie im Rahmen einer Google-Suchanfrage liefert.

Sie haben beim "Human Brain Project" mitgearbeitet. Ist das, was die Autoren als Großprojekt "Scintillate" erzählt haben, aus Ihrer Sicht wissenschaftlich haltbar?

Ja durchaus, so in etwa könnte man sich ein Großprojekt dieser Art vorstellen.

Ist es denkbar, dass z.B. von einem wissenschaftlichen Mitarbeiter ein Klon wie MARIA von einem solchen Forschungsgroßprojekt wie EXMAP erstellt wird? Was ist daran realistisch und wo geht die Fiktion über den Realismus hinaus?

Im Prinzip ja. Als einzige Frage stellt sich, wo der Klon der KI, der ja genauso viel Rechenkapazität braucht wie die KI selbst, laufen soll. Aber das könnte auch in der Cloud stattfinden, der Punkt ist also letztlich auch realistisch.

Die junge Mitarbeiterin Anna würde die KI MARIA am liebsten unter wissenschaftlich nicht streng reglementierten Bedingungen sich weiterentwickeln lassen. Damit sie schneller lernt. Können Sie den Ehrgeiz von Anna nachvollziehen?

Ja, das kann ich. Das Datenmaterial, das sie bekommt, ist ihrer Meinung nach viel zu wenig und Anna ist zurecht der Ansicht, man könnte mehr aus dem Lernprozess machen, wenn deutlich mehr Personen unter realen Bedingungen mitmachen würden.

Anna ist noch eine junge Forscherin und in der Wissenschaft herrscht ein enormer Druck, zu publizieren und in diesem System Karriere zu machen. Auch spielt der Forschungs- und Erkenntnisdrang eine Rolle. Insofern ist es nicht unrealistisch, dass jemand auch über vorgeschriebene Grenzen geht.

Welche ethischen Fragen stellen sich aus Ihrer Sicht in der wissenschaftlichen Arbeit mit KI?

Es geht hier um den Bereich "Dual Use". Wie alles andere auch, kann KI zum Guten oder zum Schlechten angewandt werden. Bei dem Stichwort fallen einem natürlich vor allem militärische Anwendungen ein, zum einen Drohnen und andere autonome Waffensysteme. Hier muss man sicherlich eine ganz klare rote Linie ziehen. Zum anderen geht es um personenbezogene Daten, wobei hierzu in Europa glücklicherweise doch ein gemeinsames Grundverständnis herrscht.

Wenn man an den Film denkt, kommt ein weiterer Aspekt hinzu: Wenn es sich um eine KI handelt und nicht um einen Menschen, dann sollte sich das System am Anfang einer Unterhaltung auch als solche zu erkennen geben. Gerade, wenn die Systeme immer besser werden. Damit könnte man vielleicht ausschließen, dass sich jemand (wie es im "Tatort" erzählt wird) zu sehr auf das System einlässt bzw. von der KI beeinflussen lässt.

Vor über 50 Jahren hat einer der KI-Pioniere ein Programm namens "ELIZA" geschrieben. Das Programm arbeitete sehr einfach, letztlich nur mit Umkehrungen ("Ich habe ein Problem mit meiner Mutter." – "Erzähl mir mehr von Deiner Mutter!"). Das hat im Psychotherapie-Kontext so gut funktioniert, dass der KI-Pionier aber letztlich zum KI-Kritiker wurde, weil er damals schon erkannt hat, welche Gefahren von solchen Programmen ausgehen, weil es in diesem Fall doch nur ein eher dummes Programm war, in das viel zu viel hineininterpretiert wurde. Die Gefahr, technische Dinge zu anthropomorphisieren ist also nicht zu unterschätzen.

Könnte eine KI aus Ihrer Sicht Zeuge eines Verbrechens sein?

Zeugen können zunächst nur natürliche Personen sein. Die Frage, ob KIs zu juristischen Personen gemacht werden, mit allen Konsequenzen, muss diskutiert werden. Ähnliches findet ja bereits im Bereich autonomes Fahren statt.

Grundsätzlich ist zu beachten, dass es bei vielen KI-Programmen, die auf neuronalen Netzen basieren, selbst für die Entwickler des Programms schwer ist, zu sagen, was an einzelnen Stellen in diesem Programm abgespeichert ist. Sprich: Ein neuronales Netz kann eine Antwort generieren, aber es gibt nur ganz eingeschränkt Möglichkeiten, das Programm zu fragen: "Wie bist Du denn jetzt zu diesen Schlüssen gekommen?" Das ist ein Grundproblem dieser neuronalen Netze, an dem zurzeit aber intensiv gearbeitet wird.

Meiner Ansicht nach könnte man eine KI durchaus zur Aufzeichnung von möglichen Beweisen nutzen, hier allerdings weniger die KI selbst, sondern die Schicht der Informationen, die quasi unterhalb der KI liegt. Die gemachten Aufzeichnungen müssen natürlich rechtmäßig sein, um als Beweis genutzt werden zu können.

Wenn man an große Sensornetzwerke denkt, wäre zusätzlich zu klären, welche Beschränkungen es geben sollte, also welche Informationen ab welchem Zeitpunkt verwendet werden dürfen und welche nicht.

Zusätzlich müsste von der KI verlangt werden, dass der Programmcode offenliegt und dass das Programm vor Manipulation geschützt ist, etwa durch die Blockchain-Technologie. 

Wären die "Aussagen" einer KI vor Gericht haltbar?

Auch bei KIs kann man Manipulationen zwar nie ausschließen, man muss aber sehen, dass auch das menschliche Gedächtnis sehr leicht manipulierbar ist. Deshalb kann eine KI eventuell sogar zuverlässiger bezeugen als eine menschliche Person.

Dr. Florian Röhrbein ist Spezialist für Intelligente Systeme und beratender Experte bei der Entwicklung von "Tatort: KI"

4 Bewertungen
Kommentare
Bewerten

Kommentare

Kommentar hinzufügen

Bitte beachten: Kommentare erscheinen nicht sofort, sondern werden innerhalb von 24 Stunden durch die Redaktion freigeschaltet. Es dürfen keine externen Links, Adressen oder Telefonnummern veröffentlicht werden. Bitte vermeiden Sie aus Datenschutzgründen, Ihre E-Mail-Adresse anzugeben. Fragen zu den Inhalten der Sendung, zur Mediathek oder Wiederholungsterminen richten Sie bitte direkt an die Zuschauerredaktion unter info@daserste.de. Vielen Dank!

*
*

* Pflichtfeld (bitte geben Sie aus Datenschutzgründen hier nicht Ihre Mailadresse oder Ähnliches ein)

Kommentar abschicken

Ihr Kommentar konnte aus technischen Gründen leider nicht entgegengenommen werden

Kommentar erfolgreich abgegeben. Dieser wird so bald wie möglich geprüft und danach veröffentlicht. Es gelten die Nutzungsbedingungen von DasErste.de.