„Die Entwicklung neuer Technologien muss die unterschiedlichen Bedürfnisse, Wünsche und Herausforderungen verschiedener sozialer Gruppen beachten“, unterstreicht Juliane Jarke, die am BANDAS Center (Business Analytics and Data Science Center) wie auch am Institut für Soziologie lehrt und forscht. Auf keinen Fall dürfen mögliche digitale Zukünfte von einigen wenigen Akteur:innen aus der Technik dominiert werden. Denn: „Für jemanden, der einen Hammer hat, schaut jedes Problem aus wie ein Nagel“, zitiert die aus Deutschland stammende Soziologin und Informatikerin einen ihrer ehemaligen Lehrer. Ihre sozialwissenschaftliche Perspektive auf das Thema gibt sie den Studierenden weiter und bringt sie in die Forschung ein. Dort liegt ihr Fokus auf den Bereichen Bildung, alternde Gesellschaft und öffentlicher Sektor.
„Wie verändern sich soziale Praktiken und Rollen, Normen und Werte durch digitale und datenintensive Technologien? Welche sozialen Probleme und Ungleichheiten entstehen etwa durch künstliche Intelligenz oder werden durch die digitale Transformation verstärkt? Wie kann man die digitale Zukunft gemeinwohlorientiert gestalten? Das sind die Fragen, denen ich mich widme“, führt Jarke aus.
In der Bildung hinterfragt sie beispielsweise den Einsatz von Schulinformationssystemen, in denen mittels KI-basierter Verfahren Vorhersagen über Lernerfolge getroffen werden. „Wie aussagekräftig sind diese Daten? Inwieweit können sie die Komplexitäten eines Lernprozesses wirklich abbilden und unterstützen?“, ist die Forscherin skeptisch. In den USA gebe es beispielsweise ein Ranking der Lehrkräfte über deren Beitrag zum Lernerfolg der Kinder, das das soziale Umfeld komplett außer Acht lässt. Hochschulen würden Interessent:innen automatisiert nach ihrem potenziellen Studienerfolg bewerten. „Kandidat:innen aus strukturell benachteiligten Gruppen haben so kaum eine Chance, aufgenommen zu werden, weil die Vorhersage für sie deutlich schlechter ausfällt. All das verstärkt die Bildungsungerechtigkeit“, kritisiert die Expertin.
Im öffentlichen Sektor gebe es vermehrt KI-basierte Systeme, die zum Beispiel teilautomatisiert Entscheidungen über den Bezug von Sozialleistungen treffen. Diese hätten Einfluss auf Entscheidungen zu Ungunsten von ohnehin schon Benachteiligten und würden obendrein bestimmte Vorurteile über soziale Gruppen verstärken. Ähnliches gilt für datenintensive Technologien für ältere Menschen. „Viele digitale Lösungen, die für eine alternde Gesellschaft entwickelt werden, definieren Senior:innen vor allem als fragil und bedürftig“, stellt Juliane Jarke fest. Ihr ist daran gelegen, die Entwicklung solcher Technologien partizipativ zu gestalten, um nachteilige Effekte – wie steigende Altersdiskriminierung oder höhere Bildungsungleichheit – zu vermeiden. „Wir brauchen Technologien, die Menschen in ihrer Vielfalt unterstützen, begleiten und inspirieren“, ist die Forscherin überzeugt.
