SENDETERMIN So, 24.09.17 | 23:10 Uhr | Das Erste

Wenn Computer Verbrechen vorhersagen! Der furchterregende Dokumentarfilm "Pre-Crime"

Wenn Computer Verbrechen vorhersagen! Der furchterregende Dokumentarfilm "Pre-Crime" | Video verfügbar bis 05.11.2017

Von wegen Science-Fiction-Szenario! Es ist längst Realität, dass mit Hilfe von Computern vorhergesagt wird, wann und wo ein Verbrechen stattfindet – und auch noch von wem. Somit werden Menschen vorab in gut und böse eingeteilt, mit zum Teil erschütternden Konsequenzen für ihr ganzes Leben. Gelebte Praxis in Chicago, London und auch in München. Die Methode nennt sich "Predictive Policing": Geheime Algorithmen errechnen nach bestimmten Mustern anhand von Metadaten ihre Prognosen. Die Filmemacher Monika Hielscher und Matthias Heeder zeigen in ihrem Dokumentarfilm "Pre-Crime" die unterschiedlichen Technologien – und wie sehr diese einst utopischen Kontrollszenarien immer mehr in unser Leben eindringen. Faszinierend und furchterregend zugleich. "ttt" fragt: Wo endet der Schutz der Bevölkerung und wo beginnt "Big Data"?

Algorithmen sollen Verbrechen verhindern

Chicago ist das Mekka für Kontrollsüchtige. Seit Jahren werden hier Algorithmen erforscht, die Verbrechen verhindern sollen. Seit 2012 hört man auf eine computergenerierte Liste. Auf ihr stehen Menschen, die angeblich am ehesten mit Gewalt in Kontakt kommen – egal ob als Täter oder Opfer. Man muss nicht gewalttätig sein, um so gebrandmarkt zu werden: Hasch, Glücksspiel, die falsche Adresse reichen.

"Es gibt keine Gesetzsprechung, es gibt kein formales Verfahren, es gibt kein Angebot, wie jemand, der auf der Liste ist, Informationen darüber erhalten kann, a) warum und b) wie komme ich da runter", erklärt Dokumentarfilmer Matthias Heeder. "Und als wir begriffen haben, was da passiert, da läuft einem schon so ein Schauer über den Rücken."

"Pre-Crime" zeigt, wie Software der Polizei funktioniert

"Pre-Crime" zeigt detailliert, wie diese neue Polizei-Software arbeitet. Die bisher harmlose Variante gibt es bereits auch in Deutschland – etwa in München. "Musterhaftes Verhalten von Tätern kann durch Algorithmen, durch Statistiken erkannt werden", sagt Heeder. "Und es ist halt so, dass in dem Gebiet, wo schon mal eingebrochen wurde, eine hohe Wahrscheinlichkeit besteht, dass wieder eingebrochen wird. Das sind einfach statistische Auswertungen."

Persönlichene Daten werden nicht ausgewertet, sondern Gebiete nach Einbruchspotential klassifiziert. Wie erfolgreich dieser Ansatz ist, darüber wird noch gestritten. Kontrolliert werden Passanten trotzdem. Nicht kontrollierbar hingegen ist die Software. Patentschutz schützt sie vor Einsicht – Polizeiarbeit nach unüberprüfbaren Regeln? Bizarr. Das steckt sogar im System: "Viele Algorithmen und Programme arbeiten inzwischen so hochkomplex und so schnell, dass die Programmer, die diese Programme entwickelt haben, nicht wissen, was tatsächlich in dieser Black Box vorgeht, auch wenn die Ergebnisse stimmen", so Heeder.

Auch soziale Medien werden durchforstet

Die USA zeigen, was passiert, wenn dazu noch Personenprofile kommen. Die eingespeisten Daten bestimmen die Bewertung der Menschen. Verdächtige werden häufiger kontrolliert – und Polizeikontakte führen zu Negativpunkten auf der Liste. Ein Teufelskreis. Dazu kommen die üblichen Vorurteile. Auch soziale Medien werden durchforstet. Eine Frau schrieb viel über ein Kartenspiel namens "Rage" – das Wort kann auch gewaltbereite Wut ausdrücken. Sie geriet in den Fokus, galt als gewaltbereit. Computerfehler, die gravierende Folgen haben.

"Es gibt Berichte über Algorithmen, die für Gerichtsurteile angewandt werden", berichtet Karen Scheley, Anwältin für Menschenrechte. "Ein Quotient sagt, ob man eine höhere Wahrscheinlichkeit hat, in der Zukunft ein Verbrechen zu begehen. Das wirkt sich auf das Strafmaß aus. Neue Untersuchungen zeigen, dass diese Algorithmen ungenau sind. Und Hautfarbe wertend einbeziehen."

Technologie, die sich demokratischer Kontrolle entzieht

Ein Teil der zweifelhaften Daten kommt von privaten Datenhändlern – Genauigkeit ist nicht ihr Geschäft. "Pre-Crime" ist eine aufrüttelnde Dokumentation über eine uneinsehbare Technologie, die sich bisher jeder demokratischen Kontrolle entzieht. Und sich den Anschein von Wissenschaft gibt. "Es gibt keinen Weg, das zu hinterfragen oder diese Ergebnisse oder diese Programme oder diese Programmer in irgendeiner Weise rechenschaftspflichtig zu machen", sagt Heeder. "Weil die Antworten, die kommen, wenn sie sich mal beschweren, lauten: Es ist nicht meine Entscheidung. Es ist die Entscheidung des Computers. Er hat mir diese Informationen  gegeben, und das ist die Basis, auf der ich urteile."

Zeit, dass wir über diese Methoden wissen und über die Technik urteilen.

(Beitrag: Thorsten Mack)

Filmtipp
"Pre-Crime"
Dokumentarfilm von Monika Hielscher und Matthias Heeder
Premiere am 8. Oktober auf dem Hamburger Filmfest
Kinostart: 12. Oktober 2017

Stand: 24.09.2017 19:13 Uhr

3 Bewertungen
Kommentare
Bewerten

Kommentare

Kommentar hinzufügen

Bitte beachten: Kommentare erscheinen nicht sofort, sondern werden innerhalb von 24 Stunden durch die Redaktion freigeschaltet. Es dürfen keine externen Links, Adressen oder Telefonnummern veröffentlicht werden. Bitte vermeiden Sie aus Datenschutzgründen, Ihre E-Mail-Adresse anzugeben. Fragen zu den Inhalten der Sendung, zur Mediathek oder Wiederholungsterminen richten Sie bitte direkt an die Zuschauerredaktion unter info@daserste.de. Vielen Dank!

*
*

* Pflichtfeld (bitte geben Sie aus Datenschutzgründen hier nicht Ihre Mailadresse oder Ähnliches ein)

Kommentar abschicken

Ihr Kommentar konnte aus technischen Gründen leider nicht entgegengenommen werden

Kommentar erfolgreich abgegeben. Dieser wird sobald wie möglich geprüft und danach veröffentlicht. Es gelten die Nutzungsbedingungen von DasErste.de.

Sendetermin

So, 24.09.17 | 23:10 Uhr
Das Erste

Produktion

Diese Sendung wurde vom
Norddeutschen Rundfunk produziert.