Generative KI-Tools wie ChatGPT halten zunehmend Einzug in den Arbeitsalltag sozialer Einrichtungen. Sie bieten neue Möglichkeiten, bringen aber auch Herausforderungen mit sich – insbesondere dann, wenn Entscheidungen und Empfehlungen Menschen betreffen, die bereits von Benachteiligung betroffen sind. Das Projekt SocialAI unterstützt Fachkräfte der Sozialen Arbeit dabei, KI-Tools verantwortungsvoll einzusetzen und mögliche Diskriminierungsrisiken frühzeitig zu erkennen.
Ausgangssituation
Fachkräfte in der Sozialen Arbeit nutzen generative KI-Tools zunehmend in ihrer täglichen Praxis. Gleichzeitig fehlt häufig Wissen über die Funktionsweise dieser Systeme und die in ihnen enthaltenen Verzerrungen. Da KI-Modelle auf Trainingsdaten basieren, können sie bestehende Ungleichheiten und stereotype Zuschreibungen in Bezug auf Geschlecht, ethnische Zugehörigkeit oder Alter reproduzieren. Besonders im Sozialbereich kann ein unreflektierter Einsatz solcher Technologien problematische Auswirkungen auf vulnerable Zielgruppen haben.
Ziele
SocialAI schafft eine Grundlage für einen chancengerechten und ethisch verantwortungsvollen Einsatz von KI in der Sozialen Arbeit. Das Projekt untersucht Verzerrungen in generativen KI-Tools und entwickelt Ansätze, um diese in der Praxis zu erkennen, zu vermeiden oder abzuschwächen. Gleichzeitig sollen Fachkräfte dabei unterstützt werden, Kompetenzen im Umgang mit KI aufzubauen.
Geplante Ergebnisse
Im Rahmen des Projekts werden wissenschaftliche Grundlagen erarbeitet, Anwendungspotenziale analysiert und verschiedene Prompting-Methoden mit aktuellen KI-Modellen untersucht. Daraus entsteht ein strukturiertes Framework für ethisch verantwortliches und diversitätssensibles Prompt Engineering.
Zusätzlich werden Innovations- und Co-Creation-Workshops mit Praxispartner:innen durchgeführt sowie eine Online-Befragung zur aktuellen KI-Nutzung im Sozialbereich umgesetzt. Die Ergebnisse fließen in einen digitalen Orientierungsleitfaden mit Open-Source-Prompt-Bibliothek ein, der Fach- und Führungskräfte bei einem reflektierten KI-Einsatz unterstützt.
SocialAI leistet damit einen Beitrag zur nachhaltigen digitalen Transformation im Sozialsektor. Durch die Förderung von KI-Kompetenzen und einen geschlechter- und diversitätssensiblen Zugang unterstützt das Projekt Fachkräfte dabei, digitale Technologien verantwortungsvoll zu nutzen und digitale Teilhabe zu stärken.
Projektpartner:innen
- Digital Humanities Craft OG
- Jugend am Werk Steiermark GmbH
- Research Institute AG & Co KG
- SOS-Kinderdorf