Input Entwurf

Kernkonzepte

Die zentralen Begriffe des Inputs in Kurzform, mit Verweisen auf das Handbuch.

Diese Seite fasst die Begriffe des Inputs zusammen. Sie dient als gemeinsames Vokabular für die Gruppenarbeit. Kernwissen brauchen Sie für die Gruppenarbeit. Referenz dient der Vertiefung, zum Beispiel im Selbststudium. Die Definitionen stammen aus dem Foliendeck. Das Handbuch erklärt jeden Begriff ausführlich.

Daten sind nicht neutral

Kernwissen

Daten und Metadaten erscheinen auf den ersten Blick als objektive Repräsentationen der Wirklichkeit. Sie sind aber stets in historisch gewachsene Machtverhältnisse und normative Ordnungen eingebettet. Jede Modellierung von Daten und Metadaten beruht auf normativen Entscheidungen, die oft unsichtbar bleiben (Bowker und Star 1999).

Handbuch: Daten sind nicht neutral (Normativität)

Formen der Diskriminierung

Kernwissen: direkte, indirekte, strukturelle, institutionelle und intersektionale Diskriminierung. Referenz: statistische Diskriminierung.

Diskriminierung kann explizit oder strukturell entstehen. Das Foliendeck unterscheidet sechs Formen:

Direkte Diskriminierung
Eine Regel, Entscheidung oder Handlung behandelt Personen aufgrund eines geschützten Merkmals ungleich. Ein legitimer, verhältnismässiger Zweck deckt diese Ungleichbehandlung nicht.
Indirekte Diskriminierung
Formal neutrale Kriterien, Methoden oder Regelungen benachteiligen in ihrer Wirkung systematisch bestimmte Gruppen.
Strukturelle Diskriminierung
Benachteiligungen sind in etablierten Praktiken der Sammlung, Dokumentation, Bewahrung und Zugänglichmachung verankert.
Institutionelle Diskriminierung
Interne Ordnungen und Routinen einer Gedächtnisinstitution benachteiligen systematisch bestimmte Gruppen.
Statistische Diskriminierung
Unter unvollständiger Information beruhen Entscheidungen auf gruppenbezogenen Durchschnittswerten. Personen, die nicht dem Gruppenprofil entsprechen, werden benachteiligt.
Intersektionale Diskriminierung
Mehrere Diskriminierungsdimensionen wirken zusammen (siehe unten).

Handbuch: Diskriminierung in und durch Daten

Intersektionalität

Kernwissen

Intersektionalität ist ein Analyseansatz. Er versteht Diskriminierung nicht als isolierte Einzelphänomene, sondern als verflochtene, sich wechselseitig konstituierende Macht- und Ungleichheitsverhältnisse (Crenshaw 1989; Collins 2000). Kategorien und Datenmodelle sind oft so angelegt, dass bestimmte Gruppen weder in Kategorie A noch in Kategorie B sichtbar werden, sondern zwischen beiden verschwinden.

Intersektionalität ist eine Analyseperspektive, keine zusätzliche Metadatenkategorie. Sie stellt Anforderungen an Datenmodell, Arbeitsabläufe und Auswertung. Im Metadaten-Audit hat sie deshalb keine eigene Zeile. Sie läuft als Querschnittsfrage in den Schritten Sehen, Kontextualisieren und Entscheiden mit.

Handbuch: Intersektionalität

Verzerrung und Fehler (Bias)

Kernwissen: was Bias ist und die drei Familien. Referenz: die 19 einzelnen Formen.

Ein Bias ist eine Verzerrung: eine systematische Abweichung von einer objektiven Darstellung. Bias kann in Quellen, Datenmodellen, Erschliessung, Normdaten, Workflows und Nachnutzung entstehen. Formale Korrektheit verhindert diskriminierende Wirkungen nicht automatisch.

Das Foliendeck ordnet 19 Formen von Bias nach dem Ort, an dem sie entstehen (Mehrabi u. a. 2021):

  • Verzerrung in Daten, zum Beispiel Repräsentationsfehler oder historische Verzerrung;
  • Verzerrung durch Algorithmen, zum Beispiel algorithmischer Fehler oder Evaluationsfehler (Buolamwini und Gebru 2018);
  • Verzerrung durch Nutzerinteraktion, zum Beispiel Rangfolgenfehler oder Popularitätsfehler (Noble 2018).

Handbuch: Verzerrungen und Fehler (Bias)

Historische Begriffe

Kernwissen für die Gruppenarbeit

Historische Quellen enthalten häufig diskriminierende Begriffe und Kategorisierungen. Daraus entsteht ein Spannungsfeld: Quellentreue und historische Nachvollziehbarkeit stehen gegen den Schutz vor Verletzung und vor der Fortschreibung diskriminierender Ordnungen. Der Workshop behandelt diese Frage als Entscheidungsdilemma in der Gruppenarbeit.

Handbuch: Historische Begriffe: Bewahren oder Korrigieren?

Literatur

Bowker, Geoffrey C., und Susan Leigh Star. 1999. Sorting Things Out: Classification and Its Consequences. The MIT Press. https://doi.org/10.7551/mitpress/6352.001.0001.
Buolamwini, Joy, und Timnit Gebru. 2018. „Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification“. Proceedings of the 1st Conference on Fairness, Accountability and Transparency 81: 77–91. https://proceedings.mlr.press/v81/buolamwini18a.html.
Collins, Patricia Hill. 2000. Black Feminist Thought: Knowledge, Consciousness, and the Politics of Empowerment. 2nd ed. Routledge.
Crenshaw, Kimberlé. 1989. „Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine, Feminist Theory and Antiracist Politics“. University of Chicago Legal Forum 1989 (1): 139–67. https://chicagounbound.uchicago.edu/uclf/vol1989/iss1/8.
Mehrabi, Ninareh, Fred Morstatter, Nripsuta Saxena, Kristina Lerman, und Aram Galstyan. 2021. „A Survey on Bias and Fairness in Machine Learning“. ACM Computing Surveys 54 (6): 115:1–35. https://doi.org/10.1145/3457607.
Noble, Safiya Umoja. 2018. Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press. https://doi.org/10.2307/j.ctt1pwt9w5.
Zurück nach oben