Mind the Gap: KI-EntwicklerInnen und KI-NutzerInnen haben unterschiedliche Werte zu Moral und Diversität

Diejenigen, die KI-Systeme entwickeln, prägen diese Technologien auf vielfältige Weise: von der Architektur- und Datenauswahl bis hin zur Feinabstimmung. Dadurch können Einflusspfade entstehen, über die sich die Werte von EntwicklerInnen auf das Verhalten von KI-Systemen auswirken.

Unsere Forschung zeigt, dass das problematisch sein kann – denn die Präferenzen und Werte der relativ einheitlichen Gruppe von KI-EntwicklerInnen unterscheiden sich systematisch von denen der vielfältigeren Gruppe von KI-NutzerInnen. Zum Beispiel bevorzugen Personen, die intensiver mit KI arbeiten, eher eine zweckorientierte Ethik und messen verschiedenen Diversitätsaspekten (z. B. Geschlecht, Sexualität, Herkunft) weniger Bedeutung bei. Die Einsichten aus unserer Forschung erweitern den Blick auf KI-Fairness, indem sie die sozialen Dynamiken derjenigen in den Fokus rücken, die KI entwickeln und nutzen.