Steffen Voß - Technologie & Gesellschaft

Buchtipp : Wie Big-​Data Ungleichheit verstärkt und die Demokratie bedroht

Steffen Voß

Nichts weniger als die Erlösung des Menschen von Tod und Verderben werde Künstliche Intelligenz bringen, versprechen ihre größten Fans. Cathy O’Neil zeigt in „Weapons of Math Destruction”, wie Big Data heute das Leben vieler Menschen zerstört.

Beim Bankencrash 2008 war Cathy O’Neil live dabei. Als Mathematikerin hatte sie ihrem Arbeitgeber für dessen Finanzspekulationen die Algorithmen geschrieben. Viel Geld hat der damit Tag für Tag verdient. Doch plötzlich sah sie das Kartenhaus zusammenbrechen und machte sich auf die Suche nach dem, was da eigentlich schief gelaufen ist.

Big Data, Maschine Learning oder Künstliche Intelligenz – wie auch immer man die Technologie gerade nennen mag, kann eingesetzt werden, um die Welt besser zu machen. Und sie kann eingesetzt werden, um sie schlechter zu machen. Ob sie besser oder schlechter wird, ist eine Frage der Perspektive. Aus Sicht derjenigen, die sich ihre Systeme entwickeln lassen, wird die Welt besser, wenn sie mehr Geld verdienen. Aus der Sicht der Kunden und Bürger sieht das oft anders aus.

Cathy O’Neil geht einmal durch die gesamte Gesellschaft der USA und zeigt, wie falsch eingesetzt Algorithmen viel Schaden anrichten – diese Algorithmen nennt sie „Weapons of Math Destruction” – Mathematische Massenvernichtungswaffen.

Unfaire System bewerten die Leistung von Lehrerinnen und Lehrern, ranken Hochschulen und helfen mit überteuerten Angeboten, den Armen und Hilflosen das Geld aus der Tasche zu ziehen. Bei Krediten und Versicherungen zahlen sie extra. Der Computer rechnet aus, wann sie arbeiten dürfen und wann nicht – ohne Rücksicht auf Familie und Privatleben. Wenn sie kriminell werden, rechnet er aus, wie schnell sie wieder straffällig werden könnten.

Computer arbeiten mit Zahlen. Die Welt besteht aber nicht aus Zahlen. Und während sich naturwissenschaftliche Daten klar erfassen lassen, sind soziologische Daten viel schwerer festzustellen. Schon das Alter eines Menschen stellen wir nicht direkt fest, sondern berechnen es anhand der Runden, die die Erde um die Sonne gedreht hat. Was sagt diese Zahl über mich aus?

Die Leistung der Lehrern wird indirekt über die Testnoten der Schülerinnen und Schüler ermittelt. Cathy O’Neil zeigt mehrfach, was dabei alles schief gehen kann.

In den USA gibt es so eine Art Schufa, die das Kreditverhalten der Menschen erfasst – und auch nur das. Dieses System sollte ursprünglich mal dafür sorgen, dass die Menschen nicht mehr vom Banker vor Ort auf Grund ihrer Hautfarbe, Verwandten oder ihren Kirchengängen eingeschätzt werden. Das hat vielen Menschen geholfen. Inzwischen gibt es aber viele Unternehmen, die noch Daten dazu kaufen und sich damit auch wieder Vorurteile in ihre Auswertungen holen. Der Wohnort oder der Postleitzahlenbereich ist heute in den USA immer noch ein relativ sicherer Indikator dafür, ob jemand schwarz und arm ist.

An vielen Stellen im Buch habe ich gedacht: Das ist doch alles in Europa gar nicht möglich – all diese Daten, die in den USA von Firmen erhoben und weiterverkauft werden. Sie werden zusammengeführt mit anderen Datenbeständen – sogar mit öffentlich einsehbaren Gerichtsakten.

„Weapons of Math Destruction” zeigt vor allem, was in einem Land praktisch ohne Datenschutz alles möglich ist und wie das Menschen um ihre Lebenschancen bringt. „Ich hab doch nichts zu verbergen,” sagen manche – doch! Wenn Du nicht reich bist, hast Du etwas zu verbergen. All diese Dinge gehen niemanden etwas an und kein Unternehmen sollte das Recht haben, daraus irgendwelche Schlüsse zu ziehen.

Beim Datenschutz geht es nicht um Privatheit. Es geht darum, dass die Menschen den Organisationen nicht ausgeliefert sind, die mit großem Aufwand Daten über sie sammeln können. Es geht um den Ausgleich der Machtverhältnisse. Deswegen verstehe ich gar nicht, wie man bezweifeln kann, dass jeder Mensch die Möglichkeit haben muss, zu wissen, wer welche Daten über ihn hat und diese im Zweifelsfall korrigieren oder löschen zu lassen.

So schlägt Cathy O’Neil im Fazit vor, dass die USA sich den europäischen Datenschutz abgucken, damit die Daten nicht mehr unbegrenzt gesammelt, verteilt und verknüpft werden können.

Am Ende des Buches macht Cathy O’Neil ein Praktikum bei der New Yorker Verwaltung. Sie soll dort ausrechnen, welche Faktoren dafür sorgen, dass Menschen aus der Obdachlosigkeit kommen. Das Ergebnis ist einfach: Ein Wohnberechtigungsschein und eine Sozialwohnung reichen – man sieht die Leute dann nicht wieder in den Obdachlosenunterkünften. Leider passt das Ergebnis aber gerade ideologisch nicht, weil man gerade die Wohnberechtigungsscheine auf drei Jahre befristet hat, um die Menschen zu „motivieren”, sich einen Job zu suchen.

Der Intelligenz Quotient ist mal dafür erfunden worden, um diejenigen Kinder zu erkennen, die Hilfe brauchen. Da wäre es nicht schlimm, wenn man auch noch drei Kindern Nachhilfe gibt, die einfach nur einen schlechten Tag beim Test hatten. Der zweite Einsatzbereich für den IQ war dann in der Einwanderungsbehörde, die damit unter den Armen auch noch die Dummen gesucht hat, um ihnen die Einreise zu verwehren.

Big Data, Maschine Learning, Künstliche Intelligenz haben viele unstrittige, gute Anwendungsbereichen. Wenn sie aber dafür genutzt werden sollen, um Menschen einzuschätzen, sind sie nicht von Vorurteilen zu unterscheiden: „Du bist genau wie diese 1000 Leute und so behandeln wir Dich.” Das kann sogar okay sein – wenn das System dafür sorgen soll, das den Leuten geholfen wird. Denn dann hilft man im Zweifelsfall zu vielen Menschen. Das richtet keinen Schaden an.

„Weapons of Math Destruction” ist bereits 2016 erschienen, wurde aber inzwischen für die Trump-​Ära mit einem neuen Nachwort aktualisiert. Auf deutsch gibt es „Angriff der Algorithmen” für 4,50€ bei der Bundeszentrale für politische Bildung zu bestellen.

Video

The era of blind faith in big data must end | Cathy O’Neil

Hat’s Dir gefallen? Bitte teilen:



Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.