Diskriminierungssensible Metadatenpraxis
Discrimination-Sensitive Metadata Practices
Setting the scene
Daten sind nicht neutral
Data is not neutral
Normativität
Normativity Grundlage
Daten und Metadaten erscheinen auf den ersten Blick als objektive Repräsentationen der Wirklichkeit, doch sind sie stets in historisch gewachsene Machtverhältnisse und normative Ordnungen eingebettet.
Jede Form von Daten- und Metadatenmodellierung – sei sie visuell, textuell oder strukturell – beruht auf normativen Entscheidungen, die oft unsichtbar bleiben.
«invisible hand of classification»
Bowker und Star 1999
«Technische Neutralität» Entscheidungen in Interface, Datenmodell und Standardisierung erscheinen als rein technische Notwendigkeiten, obwohl sie normative Setzungen enthalten.
Krim in Wikidata: Bezeichnungen
Krim in Wikidata: Staatszugehörigkeit
Karte der Krim auf Wikimedia Commons
commons.wikimedia.org/wiki/File:Map_of_the_Crimea.png · Karte: Maximilian Dörrbecker (Chumwa), CC BY-SA 2.0
Das Beispiel Krim
Was das Beispiel zeigt
- Wikidata führt die Krim sowohl als Teil der Ukraine (“de jure”) als auch Russlands (“de facto”).
- Viele verknüpfte Objekte wie Städte oder administrative Einheiten übernehmen diese Mehrdeutigkeit nicht konsistent oder bilden einzig die ukrainische Perspektive ab.
- Die Karte operiert mit einem klaren Framing zugunsten der ukrainischen Souveränität und blendet alternative Klassifikationsoptionen, wie etwa die Bezeichnung “Republik Krim” als Teil Russlands, weitgehend aus.
In der Umsetzung
- Transparente Dokumentation von Modellierungsentscheidungen (Schema, Version, Geltungsbereich)
- Parallele Felder für Mehrperspektivität (de jure/de facto, Selbst- und Fremdbezeichnungen)
- Überprüfbare Quellen- und Provenienzangaben
- Explizite, maschinenlesbare Markierung von Konflikten und Unsicherheiten (Status, Zeitraum, räumliche Gültigkeit)
Direkte Diskriminierung
Direct Discrimination
Direkte Diskriminierung
Direct Discrimination Diskriminierung · 1 / 6
Eine Regel, Entscheidung oder Handlung ist direkt diskriminierend, wenn sie Personen aufgrund eines geschützten Merkmals ungleich behandelt und diese Ungleichbehandlung nicht durch einen legitimen, verhältnismässigen Zweck gedeckt ist.
Kernelemente
- Unmittelbare Ungleichbehandlung: Eine Regel oder Praxis behandelt Personen explizit unterschiedlich.
- Merkmalsbezug: Die Ungleichbehandlung knüpft an ein tatsächliches oder zugeschriebenes (geschütztes) Merkmal an.
- Fehlende Rechtfertigung: Es gibt keinen legitimen, verhältnismässigen Zweck, der die Ungleichbehandlung trägt.
Staatsarchiv Basel-Stadt: BSL 1001 G 1.1.13.2
*****
*****
Staatsarchiv Basel-Stadt: BSL 1001 N 2.13
*****
*****
Indirekte Diskriminierung
Indirect Discrimination
Indirekte Diskriminierung
Indirect Discrimination Diskriminierung · 2 / 6
Indirekte Diskriminierung liegt vor, wenn formal neutrale Kriterien, Methoden oder Regelungen zur Erhebung, Auswahl, Beschreibung oder Interpretation historischer Daten in ihrer Wirkung systematisch bestimmte Gruppen benachteiligen.
Das betrifft zum Beispiel unterdokumentierte Gruppen oder Praktiken, die durch etablierte Routineprozesse weiter marginalisiert werden.
Kernelemente
- Formale Neutralität: Kriterien oder Prozesse wirken auf den ersten Blick allgemeingültig.
- Ungleichwirkung: In der Anwendung entstehen systematische Nachteile für bestimmte Gruppen (Disparate Impact).
- Alternative Gestaltung: Es gäbe weniger benachteiligende, fachlich gleichwertige Verfahren oder Ausnahmen.
Élites suisses: Index des personnes
Strukturelle Diskriminierung
Structural Discrimination
Strukturelle Diskriminierung
Structural Discrimination Diskriminierung · 3 / 6
Strukturelle Diskriminierung bezeichnet Benachteiligungen, die in etablierten Praktiken der Sammlung, Dokumentation, Bewahrung und Zugänglichmachung verankert sind.
Ordnungen des Archivierens, Katalogisierens und Kuratierens reproduzieren häufig patriarchale, koloniale und heteronormative Sichtweisen.
Kernelemente
- Einbettung in Routinen und Infrastrukturen: Benachteiligungen entstehen nicht primär durch einzelne Akte, sondern durch gewachsene Standards, Prozesse und Klassifikationen.
- Kumulativität und Pfadabhängigkeit: Viele kleine Entscheidungen verstärken sich über Zeit und werden schwer revidierbar.
- Unsichtbarkeit als Normalform: Ungleichheiten erscheinen als “Datenlage” oder “Sachzwang” und werden dadurch stabilisiert.
GND: Datenfeld Geschlecht
GND: Codes für Geschlecht
Institutionelle Diskriminierung
Institutional Discrimination
Institutionelle Diskriminierung
Institutional Discrimination Diskriminierung · 4 / 6
Institutionelle Diskriminierung entsteht, wenn interne Ordnungen und Routinen von einer spezifischen Gedächtnisinstitution systematisch bestimmte Gruppen benachteiligen.
Sie verschränkt sich oft mit struktureller Diskriminierung.
Kernelemente
- Organisationsspezifische Regeln: Benachteiligung wird durch interne Policies, Zuständigkeiten, Budgets oder Systementscheidungen erzeugt.
- Reproduzierbarkeit im Betrieb: Effekte sind wiederkehrend (nicht zufällig), weil sie in Prozessen, Rollen und Steuerung verankert sind.
- Verantwortung und Governance: Gegenmassnahmen erfordern klare Zuständigkeiten, Dokumentation und überprüfbare Entscheidungswege.
Bildindex: Genozid-Denkmal, Ejmiacin
Statistische Diskriminierung
Statistical Discrimination
Statistische Diskriminierung
Statistical Discrimination Diskriminierung · 5 / 6
Statistische Diskriminierung bezeichnet die Benachteiligung von Individuen, wenn unter unvollständiger Information Entscheidungen auf gruppenbezogenen Durchschnittswerten beruhen.
Kernelemente
- Informationsasymmetrie: Über Einzelne liegen weniger, über Gruppen mehr Information vor. Entscheidungen werden auf Gruppenstatistiken gestützt.
- Gruppenzuschreibung: Wahrscheinlichkeiten oder Durchschnitte werden auf einzelne Personen übertragen.
- Effekt: Benachteiligung von Personen, die nicht dem Gruppenprofil entsprechen.
Intersektionale Diskriminierung
Intersectional Discrimination
Intersektionalität
Intersectionality Diskriminierung · 6 / 6
Intersektionalität bezeichnet einen Analyseansatz, der Diskriminierung nicht als isolierte Einzelphänomene (zum Beispiel nur Sexismus oder nur Rassismus) versteht, sondern als verflochtene, sich wechselseitig konstituierende Macht- und Ungleichheitsverhältnisse.
Nicht additiv Es geht nicht darum, Diskriminierungen additiv zu summieren. Kategorienwahl, Modellierung und Beschreibung sind oft so angelegt, dass bestimmte Gruppen weder in der Kategorie A noch in der Kategorie B sichtbar werden, sondern zwischen beiden verschwinden (Crenshaw 1989; Collins 2000).
Intersektionalität in der Metadatenpraxis
Wo intersektionale Effekte entstehen
- Klassifikationslogik: Facetten oder Normdaten sind so strukturiert, dass „Frauen“ implizit als „weiss“ und „Schwarze Menschen“ implizit als „männlich“ gelesen werden.
- Retrieval-Logik: Such- und Filterfunktionen behandeln Kategorien als unabhängig. Eine Suche nach „Frauen“ liefert dann vor allem Datensätze, die in dominanten Kontexten bereits gut beschrieben wurden.
- Quellenlage und Erschliessung: Historische Überlieferung und institutionelle Sammelpraktiken sind ungleich verteilt.
Praktische Implikationen
- Mehrfachkategorisierung ermöglichen: Kombinationen von Kategorien nicht technisch ausschliessen.
- Schnittmengen prüfen: Qualitätskontrollen auch für Kreuzungen, zum Beispiel „Frauen + Minderheitensprache“.
- Granularität vs. Schutz: Je granularer Merkmale kombiniert werden, desto leichter kann Re-Identifikation werden.
Bias
Verzerrungen und Fehler in Daten, Algorithmen und Nutzung
Was ist Bias?
Unter einem Bias wird eine Verzerrung – eine systematische Abweichung einer objektiven Darstellung – verstanden.
Technisch entsteht ein Bias in Forschungsdaten etwa durch
- eine unausgewogene Datenauswahl,
- eine stereotypisierende Begriffsauswahl,
- algorithmische Vorannahmen.
Jede historische Darstellung ist selektiv und perspektivisch.
Unterschied zu Diskriminierung
Bias
beschreibt in erster Linie eine diagnostizierbare Verzerrung in einem technischen oder methodischen Prozess.
Diskriminierung
bezeichnet die sozial wirksame Benachteiligung von Personen und Gruppen in ungleichen Machtverhältnissen.
Ein System kann damit statistisch “fairer” werden und dennoch diskriminierend wirken, wenn es historisch belastete Kategorien fortschreibt, Ausschlüsse reproduziert oder nur dominante Nutzergruppen als implizite Norm behandelt (Buolamwini und Gebru 2018; Noble 2018).
Drei Familien von Bias
Die Taxonomie ordnet Verzerrungen nach dem Ort, an dem sie entstehen. Die Formen können unabhängig voneinander auftreten.
Taxonomie nach Mehrabi u. a. (2021)
Verzerrung in Daten
Data Bias
8 Formen
Messfehler
Measurement Bias Daten · 1 / 8
Bias, der durch fehlerhafte, unvollständige oder inadäquate Messung von Variablen entsteht.
Beispiel 1 In digitalen Editionen historischer Texte wird “Bedeutung” oft über die Häufigkeit bestimmter Begriffe erfasst, doch fehlerhafte OCR-Erkennung – etwa wenn das historische “ſ” nicht als “s” erkannt wird – oder uneinheitliches Tagging führen leicht zu systematischen Verzerrungen.
Beispiel 2 Erfassung von Geschlecht in historischen Volkszählungen: “Beruf: Haushaltsvorstand” wird in digitalen Datenbanken oft als “männlich” codiert, was weibliche Haushaltsvorstände systematisch ausschliesst.
Auslassungsfehler
Omitted Variable Bias Daten · 2 / 8
Entsteht, wenn relevante Variablen im Modell fehlen, was zu verzerrten Ergebnissen führt.
Beispiel Eine digitale Netzwerkanalyse historischer Korrespondenz lässt informelle Kommunikationswege (zum Beispiel persönliche Treffen, mündliche Überlieferung) aus, was zu verzerrten Interpretationen von Kommunikationsnetzwerken führt.
Repräsentationsfehler
Representation Bias Daten · 3 / 8
Bias durch nicht-repräsentative Stichproben, zum Beispiel geografische oder demografische Unterrepräsentation im Datensatz.
Beispiel Digitalisierte Zeitungsarchive decken meist nur bestimmte (oft bürgerliche oder urbane) Presse ab; Arbeiterzeitungen, marginalisierte Gruppen oder nicht-deutschsprachige Publikationen fehlen und werden in der Forschung unsichtbar.
Aggregationsfehler
Aggregation Bias Daten · 4 / 8
Fehlerhafte Verallgemeinerung von Gruppenergebnissen auf Individuen oder Subgruppen.
Simpson’s Paradox Aggregierte Trends können täuschen, weil sich Zusammenhänge auf Subgruppenebene ins Gegenteil verkehren. Beispiel: Eine Methode scheint insgesamt erfolgreicher, ist aber in allen Teilgruppen weniger erfolgreich, die Aggregation verschleiert dies.
Modifiable Areal Unit Problem (MAUP) Ergebnisse hängen von der gewählten räumlichen Aggregation ab. Beispiel: Zusammenfassung von unterschiedlichen Sozialstrukturen (zum Beispiel alle “Arbeiter” im 19. Jh.) überdeckt regionale Unterschiede – etwa zwischen Textilarbeiterinnen im Ruhrgebiet und Landarbeitern in Ostpreussen.
Stichprobenfehler
Sampling Bias Daten · 5 / 8
Bias durch nicht-zufällige Auswahl von Stichproben führt zu mangelnder Generalisierbarkeit.
Beispiel Oral History-Projekte, die ausschliesslich mit Zeitzeugen arbeiten, die aktiv Kontakt zu Forscher*innen aufnehmen, erfassen tendenziell eher politisch engagierte oder bildungsnahe Akteur*innen.
Längsschnittfehler
Longitudinal Data Fallacy Daten · 6 / 8
Fehlschluss durch Vermischung von Kohorten in Querschnittsdaten, anstatt echte zeitliche Entwicklung zu betrachten.
Beispiel Analyse von Wikidata-Einträgen zu historischen Persönlichkeiten über Jahrzehnte hinweg, ohne zu berücksichtigen, dass sich die Erfassungsregeln oder Community-Praktiken im Zeitverlauf ändern.
Historische Verzerrung
Historical Bias Daten · 7 / 8
Bias, der bereits in der gesellschaftlichen Realität existiert und sich in den Daten widerspiegelt, auch bei perfekter Stichprobe.
Beispiel Digitale Repositorien, die historische Demografie abbilden, spiegeln patriarchale Strukturen wider: Die geringe Zahl von “Frauen in Führungspositionen” ist kein Datenfehler, sondern gesellschaftliche Realität.
Populationsfehler
Population Bias Daten · 8 / 8
Unterschiede zwischen Nutzenden der Plattform und der Zielpopulation, zum Beispiel durch Demografie.
Beispiel Wikidata-Einträge zu Historiker*innen stammen überproportional von männlichen, westlichen Beitragenden, was sich in der Sichtbarkeit und Kategorisierung niederschlägt.
Verzerrung durch Algorithmen
Bias in Algorithms
2 Formen
Algorithmischer Fehler
Algorithmic Bias Algorithmen · 1 / 2
Bias, der durch algorithmische Designentscheidungen entsteht, unabhängig von Bias in den Daten (zum Beispiel durch Auswahl der Optimierungsfunktion).
Beispiel Topic Modeling von philosophischen Texten ergibt “Themen”, die Resultat von Wortlisten und Stoppwortdefinitionen sind, aber von Nicht-Expert*innen als inhaltlich signifikante Topoi interpretiert werden.
Evaluationsfehler
Evaluation Bias Algorithmen · 2 / 2
Verzerrung durch ungeeignete oder unausgewogene Benchmarks bei der Modellbewertung.
Beispiel Trainings- und Testsets für Named-Entity-Recognition-Modelle im Bereich Geschichte verwenden hauptsächlich Quellen des 20. Jahrhunderts. Modelle performen deshalb schlecht bei mittelalterlichen oder frühneuzeitlichen Texten.
Verzerrung durch Nutzerinteraktion
User Interaction Bias
9 Formen
Darstellungsfehler
Presentation Bias Nutzung · 1 / 9
Ungleichgewicht, das durch visuelle, typografische oder layoutbezogene Hervorhebungen entsteht. Interface-Entscheide lenken Aufmerksamkeit und Interpretationsrahmen, bevor inhaltliche Qualität bewertet wird.
Beispiel Quellen, die ohne Einschränkungen zugänglich sind, werden farblich hervorgehoben im Archivkatalog. Damit werden sie häufiger angeklickt und verdrängen die weniger zugänglichen Quellen überdurchschnittlich.
Rangfolgenfehler
Ranking Bias Nutzung · 2 / 9
Systematische Verzerrung durch Sortierlogiken, die Klicks, Zitationszahlen oder Metadatenfülle belohnen. Höhere Position führt zu mehr Aufmerksamkeit, was die ursprüngliche Rangordnung verstärkt, unabhängig von Relevanz.
Beispiel Museumsportal sortiert nach “Meist betrachtet”. Kolonialzeitliche Exponate mit früher Social-Media-Reichweite dominieren, während neu katalogisierte Objekte aus dem Globalen Süden kaum Sichtbarkeit erhalten.
Popularitätsfehler
Popularity Bias Nutzung · 3 / 9
Beliebtere Objekte werden häufiger gezeigt und verstärken dadurch ihre Popularität, unabhängig von Qualität.
Beispiel In Crowdsourcing-Projekten zu alten Handschriften dominieren wenige besonders aktive User, sodass ihre Lesarten überproportional häufig übernommen werden.
Emergenter Fehler
Emergent Bias Nutzung · 4 / 9
Bias, der erst durch langfristige Interaktion mit Nutzenden oder gesellschaftlichen Wandel entsteht.
Beispiel Ein digitales Editionsprojekt zu mittelalterlichen Urkunden wird ursprünglich als Forschungsinfrastruktur für Editionsphilologie konzipiert. Mit der Zeit beginnen jedoch genealogische Communities, die Daten für Familienforschung zu nutzen. Dadurch verschiebt sich die Nachfrage in Richtung Namens- und Ortsindexierung. Die Infrastrukturbetreiber passen ihre Metadatenstrukturen und Suchfunktionen an diese Nutzergruppen an, was wiederum philologische Tiefeninformationen (zum Beispiel Variantenkritik) systematisch marginalisiert.
Selbstselektionsverzerrung
Self-Selection Bias Nutzung · 5 / 9
Bias durch selbstselektierende Teilnehmende, zum Beispiel in Umfragen.
Beispiel Digitalisierungsprojekte zu Privatarchiven werden eher von Familien mit hohem kulturellem Kapital initiiert, während marginalisierte Familien seltener teilnehmen.
Soziale Verzerrung
Social Bias Nutzung · 6 / 9
Individuelle Entscheidungen werden durch soziale Einflüsse verzerrt.
Beispiel Bei kollaborativen Transkriptionsprojekten orientieren sich neue User*innen an den Lesegewohnheiten erfahrener Transkribierender und übernehmen deren Fehler.
Verhaltensverzerrung
Behavioral Bias Nutzung · 7 / 9
Unterschiedliches Verhalten von Nutzenden je nach Plattform, Kontext oder Zeit.
Beispiel Historiker*innen recherchieren systematischer, während Lai*innen häufig nach Familiennamen oder spektakulären Ereignissen suchen. Dies beeinflusst Zugriffszahlen.
Zeitliche Verzerrung
Temporal Bias Nutzung · 8 / 9
Verzerrungen, die sich aus zeitlichen Veränderungen in Verhalten oder Population ergeben.
Beispiel Die Häufigkeit von Suchbegriffen in Archiven schwankt mit Debatten (zum Beispiel “Pandemie” 2020/21), was langfristige Analysen verzerrt.
Inhaltsproduktionsfehler
Content Production Bias Nutzung · 9 / 9
Verzerrungen, die auf Unterschieden in Struktur, Lexik, Semantik und Syntax nutzergenerierter Inhalte beruhen.
Beispiel Digitale Foren zur Wissenschaftsgeschichte werden auf Englisch dominiert; andere Sprachen sind unterrepräsentiert.
Quellen
Moritz Mähr: Diskriminierungssensible Metadatenpraxis. Kapitel «Theorie: Schlüsselbegriffe und Konzepte», Abschnitte «Diskriminierung in und durch Daten» und «Verzerrungen und Fehler (Bias)».
https://moritz-maehr.quarto.pub/diskriminierungssensible-metadatenpraxis/#sec-theorie
Taxonomie: Mehrabi, Ninareh, Fred Morstatter, Nripsuta Saxena, Kristina Lerman und Aram Galstyan. 2021. «A Survey on Bias and Fairness in Machine Learning». ACM Computing Surveys 54 (6): 1–35. https://doi.org/10.1145/3457607
Zahlen zum Simpson-Paradox: Charig, C. R., D. R. Webb, S. R. Payne und J. E. Wickham. 1986. «Comparison of Treatment of Renal Calculi by Open Surgery, Percutaneous Nephrolithotomy, and Extracorporeal Shockwave Lithotripsy». BMJ 292 (6524): 879–82. https://doi.org/10.1136/bmj.292.6524.879
Weitere zitierte Literatur (Bowker und Star 1999; Crenshaw 1989; Collins 2000; Buolamwini und Gebru 2018; Noble 2018) im Literaturverzeichnis des Handbuchs.