Datensätze zur Identifikation und Sichtbarmachung von Ableismus in der KI-Entwicklung: Ein partizipativer Ansatz mit Menschen mit Behinderungserfahrung (DIS_ABLE)

Diskriminierung, Inklusion, Generative Sprachmodelle, Künstliche Intelligenz 

Hochschule Bielefeld

Fachbereich Wirtschaft

Interaktion 1

33619 Bielefeld

Projektbeteiligung

Aktion Mensch e. V.

wonk.ai GmbH

Projektlaufzeit

01.06.2025 – 30.06.2026

Projektförderung

HSBI -  Forschungsmittel aus dem hochschulinternen Forschungsfonds für neuberufene Professor:innen 2025

Kurzbeschreibung

Künstliche Intelligenz (KI) birgt großes Potenzial, um die Teilhabe von Menschen mit Behinderung zu verbessern. Allerdings hat sich gezeigt, dass KI-Systeme, insbesondere Sprachmodelle (Large Language Models, LLMs), diskriminierende Inhalte generieren und Vorurteile reproduzieren. Das Projekt DIS_ABLE setzt mit seiner Forschung hier an: In enger Zusammenarbeit mit Menschen mit Behinderungserfahrung werden deutschsprachige Datensätze entwickelt, die Diskriminierung in KI-generierten Inhalten aufzeigen und für das Thema Ableismus sensibilisieren. Ableismus beschreibt dabei die systematische Diskriminierung von Menschen mit Behinderungen oder chronischen Erkrankungen. Aufbauend auf vielversprechenden Ergebnissen aus Vorprojekten wird ein partizipativer Ansatz verfolgt, bei dem die Bewertung generierter Inhalte durch Menschen mit Behinderung vorgenommen wird. Dieser Einbezug ist essenziell, um die Komplexität von Diskriminierungserfahrungen adäquat abzubilden und praxisrelevante Datensätze zu schaffen. DIS_ABLE leistet somit einen wichtigen Beitrag zur Entwicklung diskriminierungssensibler KI-Systeme und trägt dazu bei, das Potenzial von KI für die Teilhabe von Menschen mit Behinderung zu erschließen und die vielfältigen Facetten von Diskriminierung in der Sprache und Wahrnehmung zu beleuchten.