Lade Login-Box.
zum Digital-Abo
Topthemen: Urlaub daheimCoronavirusBlitzerwarnerVideosCotube

Computer

Fieser Code? Wenn Algorithmen Vorurteile ausspucken

Algorithmen und Künstliche Intelligenz sollen überlegte Entscheidungen treffen und menschliche Fehlleistungen möglichst vermeiden. Doch das geht, zum Ärger vieler, häufig schief. Schuld ist der Algorithmus - oder?



Netzwerkstecker
Künstliche Intelligenz basiert auf Algorithmen. Die Maschine soll informierte Entscheidungen treffen.   Foto: Felix Kästle

Algorithmen können Autos lenken, Verbrecher überführen, Bankgeschäfte prüfen - und manchmal ziemlich plump daher kommen. Die Geschichten dazu sind so zahlreich wie schmerzlich:

Ein Algorithmus, der Amazon bei der Bewerberauswahl unterstützen sollte, schlug vor allem Männer vor, die Google-Bilderkennung verwechselte schwarze Menschen mit Gorillas und forderte asiatisch Aussehende Menschen dazu auf, die Augen zu öffnen. Und bei Youtube wurden zum Großbrand von Notre-Dame Videos des 9/11-Terroranschlags aus New York zugeordnet. Einfach ein schlechter Algorithmus?

Die Kritik an Algorithmen haben jüngst auch die Frauen- und Gleichstellungsministerinnen der Länder aufgegriffen. Sie stören sich besonders an der Auto-Vervollständigung bei Suchmaschinen. Wer in das Suchfeld der Microsoft-Suchmaschine Bund «Frauen können» tippt, bekommt an erster Stelle vorgeschlagen, den Satz mit «nicht Auto fahren» zu ergänzen. Die Bundesregierung soll nun prüfen, ob den Algorithmen «Diskriminierungsmechanismen» zugrunde liegen.

Diesen Ansatz findet Lorena Jaume-Palasí falsch. Sie ist Gründerin der Ethical Tech Society in Berlin, die sich mit der sozialen Dimension von Technologie beschäftigt. «Die Ursache von Diskriminierung sind immer Menschen», sagt Jaume-Palasí der Deutschen Presse-Agentur. «Anstelle des Regulierens der Ursachen, die Diskriminierung verursachen, fokussiert man sich auf die Technologie, die menschliches Diskriminierungsverhalten widerspiegelt.»

Um Jaume-Palasís Kritik zu verstehen, muss man Algorithmen verstehen. Ein Algorithmus sind Anweisungen zur Lösung eines bestimmten Problems - wie ein Rezept. Er definiert, wie ein bestimmter Vorgang ausgeführt werden soll. Künstliche Intelligenz (KI) basiert auf Algorithmen. Dabei wird intelligentes Verhalten nachgebildet. Die Maschine soll informierte Entscheidungen treffen. Damit sie das kann, wird sie mit Datensätzen gefüttert. Die Technologie erkennt Zusammenhänge und kann fortan, basierend auf diesem Hintergrundwissen, zum Beispiel Entscheidungsempfehlungen geben.

Das liefert eine Erklärung für die voreingenommenen Ergebnisse, etwa bei der Suche nach geeignetem Personal: «In der Vergangenheit gab es in Unternehmen die Einstellungspraxis, dass vermehrt weiße Männer eingestellt wurden», sagt Susanne Dehmel vom Digital-Verband Bitkom.

Trainiere man den Algorithmus mit diesen historischen Daten, suche er die Kandidaten eben auch entsprechend aus. Auch bei der Gesichtserkennung, die schwarze und asiatisch aussehende Menschen diskriminierte, liegt die Vermutung nahe, dass das Problem nicht beim Algorithmus. Fragwürdig war wohl vielmehr die Auswahl der Bilder, mit der die Maschine trainiert wurde.

Dem Anspruch, Probleme wie oder besser als Menschen zu lösen, wird künstliche Intelligenz in vielen Fällen also noch nicht gerecht. Dehmel kann den Ergebnissen etwas Positives abgewinnen: Die Technologien hielten der Gesellschaft einen Spiegel vor, und zeigten, wie akut Diskriminierung noch sei. Suchmaschinenanbietern nun einen erzieherischen Auftrag zu erteilen, möglichst diskriminierungsfreie Inhalte auszuspucken, findet Dehmel falsch. Sie filterten nach Relevanz, Ergebnisse ergäben sich aus dem, was Leute anklicken. «Die Anforderung würde die Funktion überfrachten.»

Dass Google durchaus in die Präsentation der Ergebnisse eingreift, zeigen verschiedene Beispiele, etwa das der US-amerikanischen Professorin Safiya Umoja Noble. In ihrem 2018 erschienenen Buch «Algorithms of Oppression» kritisierte sie unter anderem rassistische und stereotype Vorschläge für die Autovervollständigung des englischen Satzes «Warum sind schwarze Frauen so». Wer heute den Satz in die Suchmaschine tippt, bekommt keine Ergänzungen mehr vorgeschlagen.

Große Aufmerksamkeit erfuhr in Deutschland 2015 auch der Streit zwischen Bettina Wulff und Google über die Kombination ihres Namens mit ehrabschneidenden Begriffen in der Autocomplete-Funktion. Der Konzern lenkte ein und entfernte die Ergänzungen zur Frau des damaligen Bundespräsidenten.

Unabhängig davon hat Google im Juni 2018 angekündigt, künftig ein besonderes Augenmerk darauf zu legen, dass Software keine «unfairen Vorurteile» aufweist oder nach Hautfarbe, Geschlecht, sexueller Orientierung oder Einkommen diskriminiert.

Eine, die die Dinge selbst in die Hand nehmen wollte, ist Johanna Burai. Die Designerin aus Schweden hat sich an Suchergebnissen bei der Recherche nach Fotos von Händen gestört. Burai fand bei Google hauptsächlich Bilder von weißen Händen. 2015 hat sie darum eine Kampagne mit dem Titel «World White Web» ins Leben gerufen, um gegen «die weiße Norm» im Netz vorzugehen. Auf einer Website hat sie seither zahlreiche Fotos von Händen unterschiedlichster Hautfarben hochgeladen, damit andere sie teilen können, und will so auf lange Sicht andere Bilder ins System spülen.

Doch wie kann sichergestellt werden, dass auch KI-Technologien künftig klügere und fairere Entscheidungen treffen? Rechtlichen Handlungsbedarf sieht Expertin Dehmel nicht. «Es ist ein Kompetenzproblem. Erst wenn man versteht, wie die Technologie funktioniert, kann man auch Diskriminierung sorgfältig entgegentreten», meint Dehmel. Dass es nicht ausreicht, Angaben zu Gender und Hautfarbe aus den Datensätzen zu nehmen, haben Beispiele aus der Vergangenheit gezeigt. Algorithmen fanden Stellvertreter-Variabeln in den historischen Daten und kamen so zu den gleichen diskriminierenden Ergebnissen. Dehmel schlägt darum diverse Datensätze, eine sorgfältige Konzeption der Trainings sowie Testläufe vor.

Jaume-Palasí fordert vor allem kontinuierliche Kontrolle der algorithmischen Systeme. Hinter KI müsse mehr als ein Entwickler und ein Datenwissenschaftler stehen. Für die Kontrolle «braucht man Soziologen, Anthropologen, Ethnologen, Politologen. Leute, die die Ergebnisse in dem jeweiligen Sektor, in dem die Technologie angewendet wird, besser kontextualisieren können», sagt die Datenethikerin. «Wir müssen endlich abkommen von dem Glauben, dass KI ein informatisches Thema ist. Es sind soziotechnische Systeme und die Berufsprofile, die wir da brauchen, sind wesentlich vielfältiger.»

Veröffentlicht am:
23. 06. 2019
10:04 Uhr

Für »Meine Themen« verfügbare Schlagworte

zu Meine Themen hinzufügen

Hinzufügen

Schlagwort zu
Meine Themen

zu Meine Themen hinzufügen

Hinzufügen

Sie haben bereits von 15 Themen gewählt

Bearbeiten

Sie verfolgen dieses Thema bereits

Entfernen

Für die Nutzung von "Meine Themen" ist ihr Einverständnis zur Datenspeicherung nötig.

Weiter
Algorithmen Amazon Anthropologinnen und Anthropologen Bettina Wulff Bücher Daten und Datentechnik Deutsche Presseagentur Diskriminierung Ethnologinnen und Ethnologen Google Künstliche Intelligenz Politikwissenschaftler Software Soziologinnen und Soziologen Twitter YouTube
Diesen Artikel teilen / ausdrucken


 
Mehr zum Thema
Amazon

11.06.2020

Amazon setzt Polizei-Kooperation bei Gesichtserkennung aus

Inmitten der Proteste gegen Rassismus und Polizeigewalt in den USA überdenken amerikanische Tech-Konzerne die Versorgung von Behörden mit Gesichtserkennungs-Software. Erst stieg IBM ganz aus dem Geschäft aus, jetzt macht... » mehr

Suchmaschine

10.09.2020

Google: Strengere Qualitätskontrolle für Suchergebnisse

Google will in seinem Kerngeschäft - der Suchmaschine - für Verlässlichkeit sorgen. Eine Änderung betrifft neue Vorgaben für die sogenannte Autovervollständigung. » mehr

Margrethe Vestager

18.09.2020

EU: Mit Supercomputern ins «digitale Jahrzehnt»

Europäische Cloud, europäische E-Identität, neue Supercomputer: Die EU-Kommissionschefin von der Leyen will digital hoch hinaus. Nun wird ihre Behörde konkret. » mehr

Continental AG

28.07.2020

Continental beschleunigt Entwicklung mit Supercomputer

Beim Autozulieferer Continental arbeitet ein eigener Supercomputer, der zu den 500 leistungsstärksten Maschinen der Welt gehört. Dem Computer-Konzern Nvidia könnte das helfen, einen Platz in künftigen Fahrzeugen zu siche... » mehr

Tiktok

18.09.2020

Keine Downloads von Tiktok mehr in den USA nach Sonntag

Der Deal um Tiktok war für Präsident Donald Trump doch nicht gut genug: Am Sonntag sollen Download-Plattformen die App in den USA löschen. Mitte November würde sie für alle US-Nutzer aufhören, zu funktionieren - wenn es ... » mehr

Deutscher Zukunftspreis

28.11.2019

Daten-Start-up aus Bayern mit Deutschem Zukunftspreis geehrt

Sie gründeten ihre Firma noch als Studenten: Junge Entwickler aus München sind mit der Analyse von Unternehmensdaten über Deutschland hinaus erfolgreich. Jetzt sind sie mit dem Deutschen Zukunftspreis des Bundespräsident... » mehr

Bildergalerie » zur Übersicht

Parking Day in Coburg

Parking Day in Coburg | 18.09.2020 Coburg
» 23 Bilder ansehen

Schaeffler Aktionstag in Eltmann Eltmann

Schaeffler Aktionstag in Eltmann | 16.09.2020 Eltmann
» 7 Bilder ansehen

WG: Totschlags-Prozess Coburg

Gerichtsprozess in Coburg | 14.09.2020 Coburg
» 16 Bilder ansehen

Autor

dpa

Kontakt zur Redaktion

Veröffentlicht am:
23. 06. 2019
10:04 Uhr



^