Technischer Rassismus: Twitter diskriminiert Schwarze in Bildern

Twitter diskriminiert offenbar systematisch schwarze Menschen in Bildern. Ebenso wird es beim populären Videokonferenzdienst Zoom gehandhabt. Schuld daran sind nicht etwa rassistische Mitarbeiter der Unternehmen, sondern ein rassistischer Algorithmus. Dieser deutet indes ebenfalls nicht auf einen intendierten Rassismus der verantwortlichen Programmierer hin, sondern auf ein grundlegendes Problem vieler algorithmischen Verbesserungen großer Onlinedienste.

Colin Madland staunte nicht schlecht: Er wollte einem Freund helfen, der ein Problem mit der Nutzung des Corona-Gewinners Zoom hatte. Wann immer er bei einer Videokonferenz eine der Hintergrundvorlagen verwendete, wurde sein Kopf abgeschnitten. Colin Madland begab sich auf die Suche nach dem Problem und teilte die skurrile Beobachtung auf dem Kurznachrichtendienst Twitter.

Hierbei ergab sich eine erstaunliche Entdeckung und es bestätigte sich eine Vermutung, die Madland bereits zuvor gekommen war. Er hatte angenommen, Zooms algorithmische Optimierung der Ansicht könnte das Gesicht schwarzer Menschen nicht als Gesicht erkennen.

any guesses? pic.twitter.com/9aIZY4rSCX

— Colin Madland (@colinmadland) September 19, 2020

Hierzu ist zu sagen: Maschinelles Sehen funktioniert deutlich anders als die Wahrnehmung des Menschen. Wo ein Mensch ohne Anflug von Zweifel zwischen Äpfeln, Birnen oder Ballons in allen möglichen Formen und Farben unterscheiden kann, neigt die Software oft dazu, Objekte zu verwechseln oder gar nicht zu erkennen.

Twitter und Zoom leiden an technischem Rassismus

Ein smarter Algorithmus auf Twitter, der vor einigen Jahren eingeführt wurde, soll nun die relevantesten Bereiche eines Bildes für eine Vorschau auf Smartphones erkennen und diese hervorheben. Klickt man das Bild an, bekommt man es natürlich in seiner ursprünglichen Form zu sehen, ansonsten aber in manchen Fällen nicht. Ebenso entsteht wohl die fehlerhafte Wiedergabe in einer Zoom-Konferenz.

Wenn nun in Tweets Bilder mit mehreren Personen geteilt werden, werden vorwiegend die Gesichter weißer Menschen hervorgehoben. Die Problematik dieser technischen Form von Rassismus ist nicht neu und wird schon seit Jahren diskutiert.
Sie rührt verschiedenen Überlegungen nach daher, dass die Algorithmen häufig von weißen Männern mittleren Alters programmiert werden, die wiederum zum Training ihres Codes Datenbanken mit Bildern heranziehen, in denen sie sich am besten wiederfinden.

Ob und wann Twitter und Zoom in diesem konkreten Fall nacharbeiten, bleibt abzuwarten. Bis jetzt hat sich lediglich der CTO von Twitter lobend zu den Erkenntnissen geäußert.

-----
Willst du keine News mehr verpassen? Dann folge uns auf Twitter oder werde Fan auf Facebook. Du kannst natürlich in Ergänzung unsere iPhone und iPad-App mit Push-Benachrichtigungen hier kostenlos laden.