Banner mit Symbolen: Mensch im Kreis, Kopf mit Fragezeichen und erneut Mensch im Kreis

Unbewusste Stereotype (Unconscious Bias)

In meinem eBook beschäftige ich mich mit unserer Sprache und wie wir mit scheinbar neutralen Wörtern mittelbar (indirekt) diskriminieren.

Mein Argument dabei ist, dass eine solche mittelbare sprachliche Diskriminierung sehr oft durch eine unreflektierte Nutzung von Worten passiert. Im schlimmsten Fall führt das dazu, dass wir Dinge sagen, die ein komplettes Gegenteil sind von dem, was wir kommunizieren wollen.

Ein leider ‚gelungenes‘ Beispiel habe ich meinem Blog-Artikel ‚Fremdenfeindlichkeit‘ und ‚ausländisch aussehende Menschen‘ besprochen.

In dem Beispiel entpuppt sich die ‚gutgemeinte‘ sprachliche Repräsentation eines Ereignisses bei genauerer Betrachtung als Ungleichbehandlung (Diskriminierung). Eine Diskriminierung, weil die Worte das Aussehen von Menschen mit einem Inländisch- und Ausländisch-Sein verbinden.

Worte reflektieren die Gedanken von Menschen. In dem Beispiel das unbewusste Denken der Person, die die Nachricht verfasst hat.

Woher kamen die Gedanken und damit Wörter? Wo kommt die Idee her, dass die physische Erscheinung von Menschen Rückschlüsse auf die Nationalität zulässt? Wieso verfügt ein Mensch über unbewusste Denkmuster (Aussehen = in- oder ausländisch), die der bewussten Denkweise oder einem Leitbild (à la Aussehen spielt keine Rolle) widersprechen?

Unconscious oder Implicit Bias

Eine Erklärung für das Zustandekommen einer unbewussten kausalen Verbindung von Aussehen und Nationalität bieten die Konzepte, die im Englischen als ‚unconscious bias‘, ‚implicit bias‘ oder ‚implicit stereotype‘ bezeichnet werden.

Der englische Wikipedia-Artikel zu dem Konzept ist ein guter Startpunkt:

Strategien, um unbewussten Stereotypen entgegenzuwirken, findest Du ebenfalls bei Wikipedia:

‚Unconscious bias training‘ ist Bestandteil beim Diversity Management und besonders wichtig für Personen, die im Personalwesen (HR, Human-Resources) andere Menschen beurteilen.

Wieso ein sensibler Umgang mit unbewussten Stereotypen gerade im HR-Umfeld wichtig ist, verdeutlicht ein TED-Talk von Kristen Pressner: Are you biased? I am | Kristen Pressner | TEDxBasel (youtube.com)

Und wenn Du Dich selbst mal testen möchtet auf solche unbewussten Stereotype, dann ist das Project Implicit interessant (auf Deutsch):

Banner mit Symbolen für Linktipp, Pokal und trauriges Gesicht

Die ‚goldene Kartoffel‘

Die Neuen Deutschen Medienmachenden (Medienmacher) (NdM) haben die ‚Goldene Kartoffel‘ verliehen. Dazu eine Meinung und…

Linktipp:

„Doch auch Menschen mit Migrationshintergrund müssen sich bewusst sein, dass sie gegen keine dieser Ursachen für Diskriminierung per se gefeit sind. Ein wenig Selbstkritik und Selbstreflexion ist daher angebracht.“ (Cigdem Toprak, tagesspiegel.de)

Leidet an überalterung

„Mit intellektuellem Tiefgang und sinnlichem Blick für Ästhetik befasst sich Frankfurter Allgemeine Quarterly intensiv mit den vielfältigen Möglichkeiten, die sich in unserer Welt auftun. Vieles von dem, was morgen unser tägliches Leben prägen wird, lässt sich heute schon erkennen. Wir laden Sie ein, diese Vorzeichen mit uns zu entdecken.“(fazquarterly.de)

Der Deutungsrahmen (Frame) „die auch unter der Überalterung der Gesellschaft leidet“ ist aber kein positives Vorzeichen, oder? Aus der Frankfurter Allgemeine Quaterly Ausgabe 08, Herbst 2018, Seite 009.

Foto mit Text der Seite 009 der FAQ Herbst 2018 Ausgabe 8 mit HIghlight: die auch unter der Überalterung der Gesellschaft leidet
Foto mit Text der Seite 009 der Frankfurter Allgemeine Quaterly (FAQ) Herbst 2018 Ausgabe 8. Highlight in roter Farbe von mir.

Intellektueller Tiefgang? Wer leidet hier woran? Vielleicht an unreflektierter Sprache? An negativen Deutungsrahmen?

Sexmangel oder Altersdiskriminierung, das ist eher die Frage hier.

Vieles von dem, was morgen unser tägliches Leben prägen wird, können wir schon heute durch inklusive, korrekte und positive Sprache formen. (inklusiv korrekt positiv)

Alternsdifferenz

„Welchen für die Diskussion wichtigen Informationsgehalt vermittelt Dir die Kommunikation des numerischen Alters?

Keinen. Denn Menschen altern zu unterschiedlich (Alternsdifferenz) und Lebensbiografien sind ebenfalls zu unterschiedlich.“ (inklusiv korrekt positiv: bewusst kommunizieren, Kapitel: Inklusive Sprache & personenbezogene Merkmale: Alter und Nummern)

Alternsdifferenz!?

Was ist Alternsdifferenz?

Alternsdifferenz bedeutet:

Menschen altern unterschiedlich. Wir können mithilfe von Alters-Kategorien (z.B.: alt, jung) oder Nummern (z.B.: 36-jährig, geboren 1983) keine Information über einen individuellen Menschen kommunizieren.

Die Erkenntnis, dass Menschen auf verschiedene Art älter werden, ist die Basis für ein…

„…Recht gegen jede Orientierung am biochronologischen Alter, damit also für alle, die gern nach genaueren Kriterien als dem Geburtsjahrgang beurteilt werden…“ (Susanne Baer in Chancen und Risiken Positiver Maßnahmen: Grundprobleme des Antidiskriminierungsrechts und drei Orientierungen für die Zukunft (boell.de)

Eine Referenz und Quelle, die Alternsdifferenz belegt, ist die:

„Das zentrale Ergebnis war die Bestätigung von Thomaes Hypothese, dass die Struktur und der Verlauf des Alterns weniger das Ergebnis von Alternsnormen ist als vielmehr durch eine Vielzahl von Altersformen geprägt wird.“ (wikipedia.org)

Formulae for gender neutral word embedding

Sprache & künstliche Intelligenz = Stereotype

„PS: In jetziger Zeit kommt hinzu, dass wir unsere sprachliche Unkorrektheit an künstliche Intelligenzen weitergeben! Siehe z.B. auf Englisch, sciencemag.org: Even artificial intelligence can acquire biases against race and gender“ (inklusiv korrekt positiv: bewusst kommunizieren, Kapitel Signalwörter: das generische Maskulinum)

Im eBook hat es nur für eine Fußnote gereicht. Jetzt hatte ich Zeit, mich mit diesem spannenden Thema zu beschäftigen.

Natural Language Processing (NLP)

Wie macht eine KI Sinn aus unserer Sprache?

Indem sie durch Machine Learning große Datensätze an Text (corpus) menschlicher Sprache (natural language) verarbeitet und in mathematische Modelle (vector spaces) umwandelt.

Wiederholung (co-occurence) und Kontext (word embedding) sind dabei entscheidende Kriterien, um Wörter miteinander in Verbindung zu bringen (semantic connections, associations).

Auf diese Weise nähert sich eine KI der Bedeutung eines Wortes.

Dieser Prozess wird als Natural Language Processing bezeichnet (NLP)

Auf wikipedia.org:

Zurzeit nutzt Google:

Facebook:

Von der Stanford University:

Stereotype

Die enormen Datenmengen an verarbeitetem Text reproduzieren dabei in der KI die Stereotype, die bereits in unserer Sprache vorhanden sind.

Z.B. das englische geschlechtsneutrale Wort ‚programmer‘. ‚Programmer‘ tritt sehr oft im gleichen Kontext mit ‚he‘ und ‚computer‘ auf. Wohingegen z.B. ’nurse‘ mit ’she‘ und ‚costume‘ in Verbindung steht.

Oder: Europäisch-Amerikanische Namen finden sich in einem ‚positiven‘ Deutungsraum der KI wieder (happy, gift). Wohingegen afrikanisch-amerikanische Namen in einem ’negativen‘ liegen.

„“If you didn’t believe that there was racism associated with people’s names, this shows it’s there,” said Bryson“ in einem Interview (guardian.co.uk)

Die zentrale Studie zu dem Thema ist von 2017:

Die Forschenden (Aylin Caliskan, Joanna Bryson und Arvind Narayanan) präsentieren ihre Studie ebenfalls in einem kurzen Video:

Artikel, die sich mit der Studie beschäftigen:

Bereits 2016 deuteten einige Artikel von technologyreview.com auf den Zusammenhang von Sprache, Sexismus und KIs hin:

Die Lösung?

Via:

Es gibt schon eine Lösung, zumindest für KIs, welche GloVe nutzen: Gender-Neutral GloVe, kurz: GN-GloVE

Die KI korrigiert ihre Vektoren und wird en-stereotypisiert (debiased).

Das sieht dann so aus:

Formulae for gender neutral word embedding
Screenshot aus Learning Gender-Neutral Word Embeddings, Seite 2)

<ironie>Tja, Data-Wissenschaftler und Wissenschaftlerinnen haben es einfach .-) </ironie>

Ich denke, für humane Intelligenzen, die deutsch sprechen, lässt sich ein Teil des kryptischen Screenshots sehr schnell übersetzen: vermeide das generische Maskulinum.

Mein Fazit

Die oben genannte Studie bezieht sich auf die englische Sprache.

„…but things get more gendered [in languages] such as German…“ Aylin Caliskan (popsci.com)

Sprache ist nicht neutral und war es nie. Die Studie über Sprache und KIs zeigt, dass ein Zusammenhang zwischen Sprache und menschlicher Wahrnehmung (Kognition) und menschlichem Denken (z.B. Stereotype) besteht.

„How does bias get into language, do people start making biased associations from the way they are exposed to language? Knowing that will also help us find answers to maybe a less biased future.” Aylin Caliskan (popsci.com)

Wer Differenzierung sät, wird auch Diskriminierung ernten…

„Wer Differenzierung sät, wird auch Diskriminierung ernten, und wer eine Differenzierung setzt, wird hierarchisierte Ungleichheiten erzeugen.“ (Susanne Baer, Fußnote entfernt)

Das schöne Zitat von Susanne Baer hat es nicht mehr in mein eBook geschafft. Doch es geistert viel in meinem Kopf herum und ich werde leider oft daran erinnert…

Es ist aus dem Essay:

Das Essay ist auch enthalten in dem PDF-Book Positive Maßnahmen – Von Antidiskriminierung zu Diversity; downloadbar via:

jung=technik-affin und älter=nicht technik-affin?

In einer Eröffnungsrede zu einer Veranstaltung (u.a. Thema: digitale Transformation) sagt die sprechende Person:

Ich freue mich besonders über die vielen jungen Menschen, die anwesend sind.

Dass personenbezogene Merkmal Alter über die Wörter ‚junge Menschen‘ anzusprechen, war nicht sehr diversitätssensibel und nicht inklusiv, denn es exkludierte anwesende Menschen aufgrund ihres Alters. Wenn ich den Test der negativen Differenzierung anwende, könnte das so klingen:

Ich freue mich weniger über die älteren Menschen, die anwesend sind.

Eine diversitätssensible und inklusive Ansprache, ohne Ausgrenzung und Devaluation mit Blick auf das Merkmal Alter, hätte sein können, z.B.:

Ich freue mich besonders über die Vielfalt an Menschen, die anwesend sind.

Welches war die Motivation der sprechenden Person für die unsensible Ansprache und hierarchisierende Begrüßung?

Ich denke, die Person hat das Stereotyp jung=technik-affin und älter=nicht technik-affin unbewusst zum Ausdruck gebracht!