Aufgrund der hohen gesellschaftlichen Relevanz der Digitalisierung wird ihre Beziehung zur Sozialen Arbeit in den letzten Jahren intensiv diskutiert (z.B. Kutscher u.a. 2020, Stüwe & Ermel 2019; Kreidenweis 2018). Soziale Arbeit beschäftigt sich als Wissenschaft und Profession mit sozialen Problemen, einerseits im Hinblick auf individuelle Problemlagen, deren Bewältigung auch in der Verantwortung der Gesellschaft liegt, andererseits im Hinblick auf gesellschaftlich verursachte Probleme, die einzelne Personen betreffen (Deller/Brake 2014; Erath/Balkow 2017). Fragen der Nutzung digitaler Technologien werden dabei entweder aus einer Perspektive zur Unterstützung von Arbeitsprozessen (Kreidenweis 2011) oder als (medien-)pädagogische Aufgabe in der Kinder- und Jugendarbeit diskutiert (Bauer u. a. 2010).

Der digitale Wandel in Handlungsfeldern der Sozialen Arbeit wurde dabei lange Zeit nur als „Austausch der analogen gegen digitale Werkzeuge interpretiert, der diese Vorgänge lediglich schneller oder komfortabler macht, darüber hinaus jedoch keine nennenswerten Wirkungen zeitigt“ (Kreidenweis 2018, 10). Bereits die Implementierung der „klassischen IT“ hat die Frage nach dem Einfluss von softwarebasierten Arbeitsweisen auf das professionelle Handeln und deren Akzeptanz in der Praxis aufgeworfen.

Das Feld der Sozialen Arbeit insgesamt betrachtend, erscheint eine digitale Unterstützung vor allem dann sinnvoll, wenn soziale Konflikte hoch komplex und konfliktiv sind und Existenzen gefährdet sind. Im Feld des Kinderschutzes ist beides gegeben: Denn Entscheidungen, ob in die Privatsphäre einer Familie eingegriffen werden darf, wenn das Wohl eines Kindes gefährdet ist, sind alles andere als unumstritten. Und es geht um nichts weniger als das Wohl des Kindes. Daher ist es wichtig, die Entscheidungen möglichst objektiv fundiert und nachvollziehbar zu treffen, etwa durch Stützung auf sozialwissenschaftliche und medizinische Erkenntnisse. Subjektive bzw. intransparente Faktoren in der Entscheidungsfindung können dabei problematisch werden, weil sie diesen Anforderungen nicht genügen und unklar bleibt, welche Standards und Prozesse durchlaufen wurden.

Die Entscheidungen um das Kindeswohl werden nämlich von unterschiedlichen Faktoren bedingt: Sie entstehen einerseits aus der Anwendung rechtlicher Vorgaben, die den Handlungsspielraum abstecken sowie andererseits aus den praktischen Rahmenbedingungen, wie etwa unklarem Informationsstand oder Zeitdruck, unter dem Fachkräfte in dieser Situation entscheiden müssen. In einer arbeitsteiligen Verantwortungsgemeinschaft mit den Familiengerichten obliegt schlussendlich dem Jugendamt als öffentlichem Träger der Kinder- und Jugendhilfe die Aufgabe, (drohende) Kindeswohlgefährdungen zu erkennen, qualifiziert einzuschätzen und ggf. Maßnahmen zur Abwendung der Gefährdung zu ergreifen, die von unterstützenden Beratungsangeboten bis zur Herausnahme des Kindes aus der Familie reichen können.

In ethischer Hinsicht lässt sich der Konflikt um das Kindeswohl folgendermaßen fassen: Es kollidieren der Schutz des Kindeswohls mit dem Elternrecht auf Erziehung. In liberalen Rechtsstaaten wie Deutschland kommt den Eltern bzw. den Sorgeberechtigten grundsätzlich die Freiheit und das Recht zu, ihr Kinder im Rahmen einer privaten Sphäre nach ihren Vorstellungen zu erziehen, ohne, dass der Staat eingreift. Es handelt sich dabei also um ein klassisches negatives Recht bzw. ein Abwehrrecht gegen den Staat (Archard 2014; Brighouse/Swift 2014). Der Staat darf nur in diese Freiheitssphäre eingreifen, wenn ein Kind in seinem körperlichen, geistigen oder seelischen Wohl nachhaltig gefährdet ist und die Eltern nicht (mehr) gewillt und in der Lage sind, dieser Gefährdung entgegenzuwirken. Aus moralisch-ethischer Sicht stellt sich dabei die weitere Frage, welche Rechte die Kinder selbst gemäß Artikel 16 der UN-Kinderrechtskonvention auf ein Privatleben in ihrer Familie haben, und inwiefern dieses Recht mit ihrem Anspruch auf Schutz in Konflikt stehen kann (Bundesministerin für Familie, Senioren, Frauen und Jugend 2010). Kurz gesagt: Es besteht ein moralischer Konflikt zwischen Rechten der Eltern und Kindern auf Privatheit dem Anspruch von Kindern auf Schutz, innerhalb dessen Fachkräfte entscheiden müssen.

Vor diesem Hintergrund stellt sich nun die Frage, ob und inwieweit digitale Technologien die Arbeit der Sozialen Arbeit in diesem Feld unterstützen können. Diese Frage impliziert unterschiedliche Fragerichtungen: Liegen beispielsweise ausreichend Daten vor, mit denen digitale Unterstützungssysteme die Arbeit der Fachkräfte unterstützen können? Wie können solche Technologien in die sozialarbeiterische Praxis eingebettet werden? Kann die Erfahrung, das Wissen und das Fingerspitzengefühl der Fachkraft durch eine digitale Logik unterstützt werden? Und können moralische Konflikte überhaupt in Algorithmen übersetzt werden? Denn die Informatik braucht eine formalisierbare Definition von normativen Begriffen, um diese in einen Code umsetzen zu können. Das scheint von der Realität des Konfliktgeschehens oft weit entfernt.

Der vorliegende Beitrag will sich genau diesen Fragen widmen und damit einen Beitrag zur transformativen Digitalisierung der Sozialen Arbeit leisten. Die Überlegungen basieren auf dem vom bidt[1] finanzierten Forschungsprojekt „Kann ein Algorithmus im Konflikt moralisch kalkulieren?“, das seit 2021 an der Schnittstelle von Philosophie, Informatik und Sozialer Arbeit angesiedelt ist. Das Projekt ist eine Kooperation der Hochschule für Philosophie in München, der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt und der Technischen Hochschule Nürnberg Georg Simon Ohm.

Im Sinne einer transformativen Digitalisierung fragt das Projekt, wie digitale Technologien in dieses konkrete Arbeitsfeld der Sozialen Arbeit implementiert werden können und welche ethischen, sozialarbeiterischen und technischen Probleme damit verbunden sind. Ziel ist es, ein ethisch begründetes, digitales Verfahren zu entwickeln, um die Entscheidungsgrundlagen zur Intervention durch Jugendämter zu unterstützen, was zu einer deutlichen Entlastung der Fachkräfte führen könnte. Eine algorithmische Entscheidungshilfe könnte den Prozess durch eine datenbasierte Ebene ergänzen. Die eingesetzten Technologien müssen allerdings aufgrund des hochsensiblen Handlungsfeldes dabei einem wesentlich strengeren ethischen und sozialen Anspruch gerecht werden als in anderen Bereichen.

Im Folgenden werden einige Forschungsergebnisse dieses Projektes vorgestellt, um zu verstehen, welche Auswirkungen die Digitalisierung auf die Soziale Arbeit haben kann, welche Potenziale, aber auch welche Probleme mit ihr verbunden sind. In einem ersten Schritt wird die technologische Ausgangslage beschrieben, bevor in einem zweiten Schritt die sozialarbeiterischen Implikationen des Themas analysiert werden. Dabei werden auch die ethischen Aspekte des Themas diskutiert. In einem dritten Schritt werden dann einige ausgewählte Ergebnisse für die Entwicklung eines digitalen Assistenzsystems vorgestellt, um konkret auszuloten, wie eine transformative Digitalisierung der Sozialen Arbeit in diesem Feld aussehen könnte. Ein knapper Ausblick beendet den Beitrag.

Um zu verstehen, vor welchen Herausforderungen die Digitalisierung der Sozialen Arbeit insgesamt steht, ist es wichtig, sich einige technologische Grundlagen vor Augen zu führen. Unumstritten ist dabei sicherlich, dass die Digitalisierung von Lebens- und Arbeitswelten in hoher Geschwindigkeit voranschreitet. Neue Technologien insbesondere im Bereich der Big Data Analytics und der Künstlichen Intelligenz bzw. des maschinellen Lernens eröffnen neue Möglichkeiten in der automatisierten Auswertung großer Datenmengen, auf deren Basis Prognosen getroffen werden können. „In automatisierten Prozessen kann somit Wissen generiert werden, welches dem Menschen grundsätzlich nicht mehr zugänglich ist“ (Pietsch/Wernecke 2017, 17).

Unter Big Data versteht man Datensätze, die nicht nur groß, sondern auch sehr vielfältig und schnelllebig sind, so dass sie mit herkömmlichen Tools und Techniken nur schwer zu verarbeiten sind. Verschiedene Schwierigkeiten können unter anderem mit der Erfassung, Speicherung, Suche, Freigabe, Analyse und Visualisierung von Daten zusammenhängen. Den Ausführungen von Elgendy u. a. (2014) zufolge beschreibt Big Data Analytics die Tätigkeit, in Big Data Datensätzen trotz dieser Herausforderungen wertvolle Informationen zu identifizieren und sie sinnvoll zu extrahieren. Im vorliegenden Fall beispielsweise die Bezüge zu den Risikobewertungsbögen aus der sozialarbeiterischen Praxis.

Das gesellschaftliche Interesse an Big Data wurzelt in der Überlappung sich ergänzender langjähriger Trends: Zum einen sinken die Kosten für die Speicherung von Daten etwa alle 18 Monate um 50% (Dutta/Hasan 2013). In Kombination mit Cloud-Computing sind damit große Datenmengen orts- und zeitunabhängig sowie in praktisch beliebigem Umfang verarbeitbar (El-Seoud u. a. 2017). Zum anderen ist mit der zunehmenden Globalisierung der Marktwirtschaft die Koordinierung von Vorgängen an verschiedenen Standorten komplizierter, aber auch wichtiger geworden. Pence (2014) konstatiert, dass durch die Analyse von Big Data eine genauere Identifizierung von Verbrauchermerkmalen und -verhalten möglich ist, um so einen Wettbewerbsvorteil zu erreichen. Langfristig ist abzusehen, dass durch die weiter stark steigende Menge an generierten Daten in allen Lebensbereichen auch deren effiziente und effektive Analyse mehr Bedeutung erlangt (Alyass u. a. 2015).

Mit dem Begriff Künstliche Intelligenz (KI) werden Systeme beschrieben, die Merkmale aufweisen, die im Allgemeinen als menschliche Intelligenz bezeichnet werden. Bartneck u. a. (2021) verweisen diesbezüglich beispielhaft auf Wahrnehmung, Verarbeitung natürlicher Sprache, Problemlösung und Planung, Lernen und Anpassung sowie Einwirkungen auf die Umwelt. Die wissenschaftliche Beschäftigung mit KI soll zu einem besseren Verständnis der Prinzipien führen, die intelligentes Verhalten bei Menschen, Tieren und künstlichen Agenten ermöglichen. Ein solches besseres Verständnis der grundlegenden Prinzipien kann dann zu einer Entwicklung intelligenter Agenten, einer Formalisierung von Wissen und zu einer Entwicklung von Mensch-Maschine-Systemen führen, welche die Komplementarität des menschlichen und automatisierten Denkens nutzen kann (Tecuci 2012). Häufig werden im Feld der KI-Entwicklung die Begriffe maschinelles Lernen, Mustererkennung oder Neuronales Netz verwendet, um Datenverarbeitungsverfahren zu beschreiben, die als Fundament für KI-Anwendungsfälle dienen. Auf hochleistungsfähigen Hard- und Software-Plattformen sind sie das Instrumentarium, mit dem aus großen Datenmengen komplexe Zusammenhänge erlernt und in Entscheidungen und Handlungen umgesetzt werden (Hecker u. a. 2017). Hier schließt sich der Kreis zu den erörterten Grundlagen der Big Data.

Eine zentrale Herausforderung bei der Konzeption eines Algorithmus, der – wie im Falle der Kindeswohlgefährdung – gegebene Werte berücksichtigt, besteht in der Übersetzung einer, aus mathematischer Perspektive, skalaren Problemstellung mit multiplen Perspektiven in einen durch Null und Eins definierten Output. Nach Bittmann (2014) bietet sich in diesem Spannungsfeld einer menschlichen und der durch einen Algorithmus repräsentierten Entität die Bezeichnung eines Agenten an, da dieser selbstständig Entscheidungen trifft und im Sinne von Handlungsempfehlungen ausspricht.

3.1 Eine kurze Geschichte der Digitalisierung Sozialer Arbeit

Historisch betrachtet standen zu Beginn der digitalen Transformation im Bereich der Sozialen Arbeit vor allem Unterstützungsprozesse wie Dokumentations- und Abrechnungssysteme im Vordergrund. Damit sollten auch ihre Auswertungsmöglichkeiten optimiert, „die Personalplanung schneller und transparenter, die Arbeitsabläufe nachvollziehbarer und messbarer werden“ (Schöttler 2018, 152). Die Digitalisierung wurde dabei häufig mit einer „Ökonomisierung des Sozialbereichs“ assoziiert und entsprechend kritisch diskutiert (Bertsche/Como-Zipfel 2017; Kreidenweis/Dilger 2012).

Mit zunehmender Einführung von digitalen Unterstützungssystemen, die die Kernprozesse der Sozialen Arbeit berührten, wurde der Diskurs um Chancen und Risiken digitaler Assistenzsysteme deutlich verschärft. Die Risiken werden insbesondere im Sinne einer De-Professionalisierung, etwa durch Einschränkungen von Handlungs- und Gestaltungspielräumen und verzerrenden Einflüsse auf Urteilsbildungen von Fachkräften aufgezeigt (Schierz 2020; Kutscher 2020; Schneider & Seelmeyer 2018). Im Diskurs spiegeln sich zudem Ängste der Akteure wider, die deutlich über die erwartbaren Konsequenzen des Technologieeinsatzes hinausgehen. So zeigt beispielsweise eine empirische Untersuchung, die über einen Zeitraum von fast zwei Jahren die Entwicklung assistiver Technologien in einem Sozialunternehmen begleitet hat, die Sorge von Fachkräften, dass der Mensch durch kalte Technik ersetzt werden soll. Die Ängste beziehen sich dabei nicht nur auf einen möglichen Bedeutungsverlust des eigenen Berufsbildes, sondern auch auf mögliche Beeinträchtigungen der klassisch von einer menschlichen Nähe und Empathie gekennzeichneten Beziehungsgestaltung mit Adressat*innen der Sozialen Arbeit (Schöttler 2018). Gerade im Bereich Kinderschutz bestehen Bedenken, inwiefern eine solche Entscheidung, die sich auf Einfühlung in die kindliche bzw. familiäre Situation stützt, teilweise oder gar weitgehend digitalisiert werden könnte.

Themen der KI werden explizit erst in jüngeren Publikationen aufgenommen. Dabei wird diese spezifische Form der Digitalisierung als neue Herausforderung für die Soziale Arbeit wahrgenommen (Beranek 2021). Im Hinblick auf den Einsatz neuer Technologien der künstlichen Intelligenz werden jedoch auch neue Chancen im Sinne einer evidenzbasierten Qualitätssteigerung und einer auf die mediatisierten Lebenswelten ausgerichtete Neukonzeptionierung von Angeboten gesehen (Burghardt/Lehmann 2021). Im Sinne eines risikoorientierten Fallmanagements sind die neuen Technologien insbesondere im Bereich der Risikodiagnostik von besonderer Bedeutung. Des Weiteren könnten KI-gestützte Chatbots zur Unterstützung der fachlichen Reflexion und des Wissensmanagements im Prozess der Entscheidungsfindung eingesetzt werden.

3.2 Digitalisierung und Kindeswohlgefährdung: Der aktuelle Stand der Praxis

Die bislang implementierten digitalen Verfahren zur Risikoprognostik im Kinderschutz basieren in der Regel auf statistischen Prognoseverfahren, d.h. auf Instrumenten (z.B. Checklisten), die sich auf empirische Erkenntnisse bestimmter Merkmale und Verhaltensweisen stützen, die spezifisch für die Zielgruppe gefährdeter Kinder und Jugendliche gelten. Der Vorteil dieser Prognoseverfahren ist die leichte Handhabbarkeit und die transparente und überprüfbare Gewichtung und Einflussnahme bestimmter Merkmale auf das Ergebnis der Risikoprognosen. Obwohl inzwischen Metastudien belegen, dass statistische Verfahren eine deutlich höhere Vorhersagequalität aufweisen als beispielsweise hermeneutische Verfahren (van der Put u. a. 2017; Johnson u. a. 2015), wird in der Fachdiskussion die Grundannahme, dass statistische Parameter, die für eine Personengruppe empirisch erfasst werden konnten, zur Prognose für den Einzelfall herangezogen werden können, weiterhin kritisch diskutiert (Schrödter u. a. 2020). Aber auch die mittels Big Data Analytics neu entwickelten Instrumente belegen sowohl in allgemeinen Fragen (Grove u. a. 2000; Søbjerg u. a. 2021) als auch im Bereich des Kinderschutzes weiterhin die Überlegenheit solcher Prognoseverfahren (Bastian 2012). In vergleichenden Studien – z.B. Panelstudien mit unterschiedlichen Messzeitpunkten innerhalb der einzelnen (Kontroll-)Gruppen – konnte aufgezeigt werden, dass statistische Verfahren mit einer höheren Interrater-Reliabilität künftige Entwicklungen vorhersagen konnten als konsensbasierte oder klinische Verfahren (z.B. Baird & Wagner 2000).

So sind international auch bereits Umsetzungen aus den USA (La Valle u. a. 2016), Großbritannien (Broadhurst u. a. 2015) oder Neuseeland (Gillingham 2017) bekannt. Auch wenn diese mustererkennend-statistischen Prognoseverfahren in ihrer Prognosequalität den Einschätzungen qualifizierter Fachkräfte grundsätzlich noch nicht überlegen sind, deuten die Potentiale dieser Technologie darauf hin, dass in naher Zukunft die Treffsicherheit von Vorhersagen in einem so hohen Maße erhöht werden kann, dass künftig „computergestützte Prognosen treffsicherer sind als Prognosen, die von Fachkräften ohne die Unterstützung von Computern generiert werden“ (Schrödter u. a. 2020, 255). Der Einsatz digitaler Systeme in den Handlungsfeldern der Sozialen Arbeit auch in Deutschland ist damit nicht mehr eine Frage nach dem Ob, sondern nach dem Wie geworden (Ebd.; Beranek 2021; Niño u. a. 2017). Dennoch bieten diese Verfahren keinen perfekten Blick in die Zukunft und müssen zwingend in professionelle Handlungsbezüge eingebettet werden (Rettenberger 2018).

Um besser einschätzen zu können, wie stark in der Praxis die Entscheidungen der Jugendämter von digitalen Technologien unterstützt werden, wurde innerhalb des Forschungsprojektes vor dem Hintergrund der Literatur eine Marktanalyse in zwei Phasen zur Software im Kinderschutz durchgeführt. Die erste Phase bestand aus einem initialen Screening der angebotenen Softwareprodukte und einer Beurteilung der gefundenen Anwendungen nach den Attributen Herkunftsland, Kostenlos/ Kostenpflichtig, Art der Anwendung (Standardsoftware, Individualsoftware, SaaS, etc.) und Zielgruppe (Privatperson, Einrichtung der Sozialen Arbeit, Medizin, etc.). Als Datenquelle dienten Internetrecherchen und die im Rahmen Projekts durchgeführten Hospitationen in Jugendämtern, bei denen die begutachteten Softwareprodukte im direkten Einsatz durch Endanwender*innen beobachtet und initial evaluiert werden konnten. Von den in dieser ersten Phase erhobenen 34 Anwendungen, wurden zwölf für eine detaillierte Auswertung in der zweiten Phase herangezogen. Die Auswahl erfolgte dabei basierend auf der Menge der zur jeweiligen Anwendung verfügbaren Informationen und deren zeitlicher Aktualität.

Tabelle 1: Evaluierte Anwendungen

Tabelle 1 zeigt eine Aufstellung der in der zweiten Erhebungsphase evaluierten Anwendungen und Services. Es fällt auf, dass bei vielen Anwendungen eine fallorientierte Management- und Verwaltungsfunktion im Fokus liegt. Der zentrale Unterschied zwischen den Anwendungen besteht in deren Ausrichtung auf das Anwendungsfeld. So fokussieren sich die in der sozialarbeiterischen Praxis etablierten Standardsoftwares wie OK.JUS hauptsächlich an der gängigen, prozessorientierten Arbeit, zum Beispiel in Jugendämtern. Die Beispiele SENSO und cFIVE Supervisor zielen dagegen darauf ab, eine generische Software-Komplettlösung für alle sozialen Dienstleister bereitzustellen.

Bei den Anwendungen Hans&Gretel und Capticase zeigt sich wiederum ein Fokus auf die Vernetzung und Einbindung von weiteren Stakeholdern. Hans&Gretel dient als Kommunikationsmedium zwischen Kinderärztinnen, die bei Patientinnen Verletzungen feststellen, die auf eine Kindeswohlgefährdung hinweisen könnten und den im jeweiligen Fall zuständigen sozialarbeiterischen Behörden, die den Fall aufnehmen und weiterverarbeiten. Der Anwendungsfall von Capticase findet sich am anderen Ende der Prozesskette Kindeswohlgefährdung: Mit dieser Software soll die Etablierung und Aufrechterhaltung von Hilfemaßnahmen durch eine enge Vernetzung der Fallbearbeiterinnen und Hilfeempfängerinnen sichergestellt und unterstützt werden.

In der hier aufbereiteten Marktanalyse konnte Privalino als einzige deutschsprachige Anwendung mit Fokus auf den Einsatz moderner Datenverarbeitungsmethoden identifiziert werden. Eine durch maschinelles Lernen unterstützte Textauswertung soll hier in Chatverläufen von Kindern und Jugendlichen Hinweise auf eine Gefährdung durch Cyber Grooming, Sextortion, Cyber Mobbing oder Radikalisierung erkennen und die Eltern oder das zuständige Jugendamt warnen.

Ein zusätzlicher Vergleich der Anwendungen nach Herkunftsland zeigt merkliche Unterschiede hinsichtlich der einbezogenen Datenquellen und dem Einsatz von modernen Datenverarbeitungs- und Analyseverfahren: In den Werbetexten englischsprachiger Anwendungen aus den USA finden sich häufig Begriffe wie artificial intelligence, machine learning oder AI learning. Als zusätzliche Informationsquellen dienen hier teilweise Personendaten aus anderen Bereichen wie zum Beispiel Strafverfolgung, Drogenaufsicht, Medizin oder Finanzwesen. Deutschsprachige Anwendungen zeigen sich sehr viel konservativer, was mutmaßlich an den rechtlich und kulturell unterschiedlichen Auffassungen zum Schutz personenbezogener Daten festzumachen ist (vgl. Bellman u. a. 2004, Heales u. a. 2017, Trepte u. a. 2017). Deutschsprachige Softwarelösungen im Bereich Kinderschutz zielen mehrheitlich auf die Prozessabbildung und die digitale Verwaltung von Fallakten und sind dabei nicht bis minimal mit amts-externen Datenquellen verknüpft.

Als Fazit lässt sich festhalten: Chancen und Risiken der Anwendung von KI gestützten Technologien in der sozialen Arbeit werden hierzulande zwar akademisch diskutiert (Schneider/Seelmeyer 2018; Schrödter u. a. 2020; Schierz 2020), gegenwärtig finden sich jedoch keine verbreiteten Ansätze zu deren Umsetzung in der sozialarbeiterischen Alltagspraxis. Entsprechend wird auch im Forschungsprojekt nicht auf eine bestehende Software zurückgegriffen, sondern mit Prototypen eine erste Einschätzung der praktischen Möglichkeiten auf Laborniveau durchgeführt.

3.3 Ethische Aspekte bei der (digitalen) Entscheidung um Kindeswohlgefährdung

Die Urteilsbildung und institutionelle Entscheidungsfindung im Kinderschutz beinhalten bereits unabhängig vom Einsatz digitaler Technologien ethisches Konfliktpotential. So entscheiden Fachkräfte innerhalb eines moralischen Konflikts zwischen Elternrecht bzw. Kinderecht auf Privatheit und Anspruch von Kindern auf Schutz. Der Konflikt besteht darin, dass der Staat eine Verpflichtung hat, Kinder zu schützen, wenn ihr Wohl gefährdet ist und diese Gefährdung durch die Eltern nicht abgewendet werden kann, sie dazu nicht willens sind bzw. diese sogar verursachen. Zwischen diesen Gütern muss abgewogen und eine Entscheidung getroffen werden. In beiden Fällen ist eine Urteilsbildung nötig, es gibt keine Möglichkeit, die Entscheidung nicht zu fällen bzw. sie zu verschieben. Dieser Konflikt wird häufig in der Praxis durch weitere Umstände wie etwa Zeitdruck oder Informationsmangel verschärft, so dass sich eine herausfordernde Gemengelage für die Entscheidungsfindung ergibt, welche die Entscheidung unsicher und nicht-ideal machen. Neue Informationen können die Sachlage darüber hinaus stark verändern. Zudem handelt es sich immer auch um eine prognostische Entscheidung: man geht davon aus, dass sich die Situation bessert, nachdem eingegriffen wurde (oder nicht), aber dafür gibt es keine Garantie. Aus diesen Gründen kann keine ideal rationale Entscheidung getroffen werden, die z. B. auf Basis vollständiger Information, mit ausreichend Zeit und mit unbeschränkten kognitiven Kompetenzen quasi auf einer rein theoretisch-rationalen Ebene getroffen wird. Obwohl die Wertehierarchie in vielen Fällen klar ist und für Sozialarbeiter*innen der Schutz des Kindeswohls selbstverständlich leitend ist, ist die Einschätzung der Situation bzw. Entscheidung in der Praxis durch zahlreiche Beschränkungen und Unbekannte erschwert. Vielmehr muss davon ausgegangen werden, dass eine Entscheidung im Kinderschutz immer in einem komparativen Sinne besser oder schlechter sein kann, aber man sich nie sicher sein kann, inwiefern die Prognose, die man trifft, zu einem wünschenswerten Ergebnis führt, da es sich eben um eine Entscheidung für die Zukunft handelt, deren Ergebnis wiederum von zahlreichen Einflussfaktoren und Beschränkungen abhängt.

Wenn nun digitale Technologien die sozialarbeiterische Praxis unterstützen sollen, um die Entscheidungen „besser zu machen“, stellen sich in ethischer Hinsicht drei Fragekomplexe. Erstens gilt es bei der Entwicklung neuer digitaler Assistenzsysteme v.a. darauf zu achten, inwieweit ethische Abwägungen in dem skizzierten Sinne in die Logik von Algorithmen übersetzt werden können. Ziel bei der Entwicklung neuer Technologien sollte sein, die normativen Kriterien der Abwägung in ein möglichst eindeutiges Verhältnis zueinander zu setzen, um eine rationale und nachvollziehbare Entscheidung zu ermöglichen. Dabei gilt es auch darauf zu achten, die grundlegenden Annahmen der sozialarbeiterischen Praxis (z.B. was ist überhaupt eine Familie? Wer ist besonders vulnerabel? Wer wird zu wenig gehört, z.B. Kinder?) zu hinterfragen. Hier braucht es innovative digitale Modelle, die stärker im Sinne von Reflexionsfragen als von eindeutigen Entscheidungen operieren und damit die konkrete Entscheidung noch einmal umfassend flankieren können. Zweitens geht es häufig um die Umstände, in die eine Entscheidung eingebettet ist, z.B. den Informationsstand, den zeitlichen Rahmen, die Zusammenarbeit mit anderen Institutionen etc. Aus pragmatistischer Sicht gehören diese Faktoren bspw. zu einer Entscheidungspraxis und sind damit für den Konflikt bzw. dessen Behandlung ebenfalls besonders relevant. An diesen Stellen gilt es weiter zu untersuchen, ob eine neue Technologie bei diesen Faktoren ansetzen kann, um die Entscheidungspraxis z.B. durch eine Verbreiterung der Informationsbasis oder deren bessere Aufbereitung zu verbessern.

Drittens wirken sich auch epistemische und psychosoziale Faktoren auf das Entscheidungsverhalten aus, etwa verschiedene Formen der Stereotypisierung, des Bias oder der persönlichen Geschichte der Entscheider*in (Kahneman u. a. 2018). Diese Faktoren sind bei jeder menschlichen Entscheidung involviert, können aber in einer konfliktbeladenen Lage wie im Kinderschutz problematisch werden, wenn sie nicht explizit sind oder sich sogar verstärken. Digitale Assistenzsysteme können nun entweder helfen, diesen Bias abzubauen oder sie können ihn auch verstärken. Letzteres kann geschehen, wenn digitale Instrumente und Algorithmen so eingesetzt werden, dass ethisch problematische Vorurteile reproduziert werden, was häufig nicht explizit sichtbar ist. Ähnlich wie bei predictive policing, ist hier der Umgang mit diskriminierenden Effekten bzw. Stereotypen in den Blick zu nehmen so wie die Frage, ob es nicht allein durch den Einsatz von Technik zu einer zu starken Reduktion der Komplexität der Entscheidung kommt. Ebenso kann es zu einer sog. automation bias kommen, d.h. dass Menschen einer Maschine eine stärkere Autorität und Objektivität zuschreiben, weil sie als zuverlässiger und fehlerfreier als menschliche Entscheider*innen gelten (Safdar u. a. 2020). Das kann dazu führen, eigene kritische Gedanken oder ungewöhnliche Fälle, die nicht ins Schema passen, zu ignorieren und sich auf die Maschine zu verlassen. Dieses Argument macht noch einmal deutlich, dass es v.a. auch um eine überzeugende Einbettung digitaler Technologien in sozialarbeiterische Praktiken geht.

Die vorangegangenen Analysen haben einige Chancen, aber auch Probleme hinsichtlich digitaler Assistenzsysteme im Kinderschutz aufgezeigt und diskutiert. Abschließend sollen einige Überlegungen für die Entwicklung eines neuen Assistenzsystems vorgestellt werden.

Im Vorfeld der Entwicklung solcher digitalen Assistenzsysteme zur Unterstützung von Fachkräften bei der Gefährdungseinschätzung und Entscheidungsfindung wurden die wissenschaftlichen Erkenntnisse im Rahmen von Hospitationen in zwei bayerischen Jugendämtern vertieft und reflektiert. Die Vertiefung erfolgte dabei sowohl in Form von direkten Gesprächen mit Fach- und Führungskräften, in der Sichtung von Aktenmaterial als auch der Beobachtung der Vorgehensweise von Fach- und Führungskräften bei der Aufnahme von Gefährdungsmeldungen und anschließenden Fallbearbeitungen.

• Mit Blick auf die technischen Entwicklungen wurden in den Hospitationen folgende Optimierungspotenziale identifiziert: Erhebung und systematische Auswertung von Informationen: Wie bereits in verschiedenen Studien aufgezeigt (Cook 2017; Kettle 2017; Saltiel 2016; Smith 2014), konnte auch in den Felderhebungen die Schwierigkeit festgestellt werden, ausreichende und aussagekräftige Informationen zu erheben und systematisch und evidenzbasiert auszuwerten. Selbst in den Praxisfeldern, in denen von der Organisation fachliche Instrumente zur systematischen Risikoeinschätzung zur Verfügung gestellt wurden, konnte teils beobachtet werden, dass diese von den Fachkräften kaum oder nur zur anschließenden Dokumentation bereits erfolgter Urteilsbildungen und entsprechendem Handeln verwendet wurden.
• Kollegiale Beratung und Entscheidungsverantwortung: Ein besonderes Spannungsverhältnis wurde in der abschließenden Urteilsbildung festgestellt. Da Fachkräfte gemäß den rechtlichen Vorgaben immer die Entscheidung zusammen mit anderen Beteiligten fällen müssen, ist die Durchführung von kollegialen Beratungen bzw. Einberufung von Fachteams zur abschließenden Entscheidungsfindung erforderlich. Die Beratungen basieren dabei in der Regel auf mündlichen Fallschilderungen oder schriftlichen Fallbeschreibungen der verantwortlichen Fachkräfte. In den Hospitationen wurde deutlich, dass die anderen teilnehmenden Fachkräfte oftmals keinen Zugang zu den „Rohdaten” haben, sondern auf die Interpretation und Aufbereitung der fallschildernden Fachkräfte angewiesen sind. Damit besteht das Risiko subjektiver Verzerrungen durch individuelle Deutungsmuster. Ein besonderes Spannungsverhältnis ist v.a. dann zu beobachten, wenn die abschließende Entscheidungsverantwortung strukturell an Personen gebunden ist (z.B. Führungskräfte), die selbst nicht in der Informationserhebungen eingebunden waren (z.B. Teilnahme an Hausbesuchen oder Gesprächen mit den beteiligten Akteur*innen). Die Beratungen erwecken deshalb oftmals den Eindruck in erster Linie der Absicherung bereits getroffener Urteilsbildungen und Entscheidungen zu dienen. Eine systematische und reflexive Begutachtung der vorliegenden Informationen scheint kaum möglich (Marks/Sehmer 2017; Retkowski 2012).

Unter Berücksichtigung dieser Erkenntnisse und auch der formulierten Wünsche von Fach- und Führungskräften wurde ein erstes prototypische Modell für ein System zur Unterstützung der Entscheidungsfindung im Kontext des Kindeswohls entwickelt. Dieses besteht aus den folgenden Elementen:

Wie bereits deutlich wurde, stellen hochwertige, authentische Trainingsdaten die entscheidende Grundlage für alle KI-Anwendungen dar. Daher findet auch in diesem Kontext zunächst eine Sammlung und Kategorisierung von Trainingsdaten statt. Es bietet sich hier zunächst an, bestehendes Aktenmaterial zu verwenden (Lehmann/Klug 2019; Lehmann u. a. 2014). Da jedoch angenommen werden muss, dass dieses Material Muster struktureller Ungleichheiten und ggf. diskriminierende Stereotypen beinhaltet, die dann auch vom System als relevante Muster aufgefasst und in der Entscheidungsfindung zu Grunde gelegt werden könnten, soll ausgewähltes Aktenmaterial nach wissenschaftlicher Bearbeitung für das Training maschineller Lernverfahren verwendet werden. Perspektivisch soll der Pool an Trainingsdaten zudem um weitere Text-, Audio- und Bildmaterialien erweitert werden.

Als erste Grundlage für das Training wird das Material zunächst von einem Team aus Wissenschaftler:innen generiert. Dazu werden relevante Textstellen in möglichst authentischem Rohmaterial mittels der sozialwissenschaftlichen Methode der qualitativen Inhaltsanalyse nach Mayring (Mayring/Fenzl 2019) identifiziert und analysiert. So soll ein Trainingsdatensatz entstehen, mit dessen Hilfe in Texten von Fachkräften Aussagen zu den verschiedenen Problembereichen des Kinderschutzes identifiziert werden können. So könnte eine KI später in die Lage versetzt werden, gesprochenen oder geschriebenen Texten der Fachkräfte auf Aussagen zu relevanten Themenbereichen zu analysieren. Weitergehende Entwicklungen könnten direkt Primärdaten klassifizieren, z.B. Bild- und Tondaten aus dem direkten Kontakt mit Klient:innen. Hier sind jedoch (datenschutz-)rechtliche Fragen und die allgemeine Akzeptanz bei der Zielgruppe zu bedenken.

Das System zur Unterstützung der Entscheidungsfindung soll dann Falldaten von der bearbeitenden Fachkraft einholen. Bei unklaren oder lückenhaften Angaben versucht das System, durch Rückfragen Ergänzungen zu den Daten einzuholen. Die Falldaten werden anschließend mit den vorverarbeiteten Trainingsdaten verglichen. Dabei werden die Daten basierend auf den Lernergebnissen aus dem Training analysiert und bewertet.

Darüberhinausgehend soll die Kompetenz der Philosophie, die für eine reflektierte Entscheidungsfindung von besonderer Bedeutung ist, ebenfalls in einer digitalen Lösung abgebildet werden. Diese soll Fachkräfte, die ihre Urteilsbildung auf Grundlage der digitalen und visuellen systematischen Aufbereitung des Rohmaterials treffen, durch ein reflexives Assistenzsystems unterstützen. Dabei wird untersucht, inwiefern die Methode des sokratischen Fragens (Birnbacher 2012) und die damit verbundene Mäeutik („Hebammenkunst“) in ein digitales Assistenzsystem übersetzt werden und damit einen Mehrwert in der Entscheidungsfindung darstellen kann. Auf dieser Basis sollen unter anderem explikative oder normative Fragen gestellt werden, um es den Entscheidenden zu ermöglichen durch Unterstützung einer „Hebamme“, eine bessere bzw. reflektierte Entscheidung treffen zu können. Damit soll, so die These, auch gewährleistet werden, dass die Entscheidung von den Entscheidenden selbst besser getragen und vertreten werden kann (Heckmann 1993).

Im Rahmen einer empirischen Vergleichsevaluation soll anschließend die Wirksamkeit der verschiedenen Elemente des Assistenzsystems überprüft werden. Angestrebt wird dabei zunächst ein Vergleich der Treffsicherheit und Prognosequalität von:

• den Fachkräften, die ihre Urteilsbildung auf Grundlage der digitalen und visuellen systematischen Aufbereitung des Rohmaterials treffen;
• den Fachkräften, die ihre Urteilsbildung auf Grundlage der digitalen und visuellen systematischen Aufbereitung des Rohmaterials treffen und dabei durch ein reflexives Assistenzsystem unterstützt werden.

Künstliche Intelligenz wird in der Sozialarbeitswissenschaft im Kontext der Risikoeinschätzung sehr kritisch diskutiert. Das Projekt KAIMo bietet die Möglichkeit, bei jedem Entwicklungsschritt eines Unterstützungssystems zur Risikoeinschätzung die Fachlichkeit der Sozialen Arbeit einfließen zu lassen. Die enge Kooperation mit der Informatik macht es möglich, in einer idealen Laborsituation die Möglichkeiten und Grenzen dieser neuen Technologie für die Soziale Arbeit zu erforschen. Durch die enge Zusammenarbeit mit der Philosophie besteht die Möglichkeit, systematisiertes Wissen in der Reflexion konflikthafter Entscheidungen für den sozialarbeiterischen Fachdiskurs nutzbar zu machen und gleichzeitig zu klären, ob durch die Digitalisierung diese intellektuelle Hebammenkunst auch für die breite Praxis „synthetisierbar“ ist. Damit kann in einem guten Sinne die Tradition der Sozialarbeitswissenschaft als transdisziplinäre Handlungswissenschaft (Staub-Bernasconi 2018) fortgesetzt werden und das Wissen aus verschiedenen Bezugsdisziplinen zur Lösung sozialer Probleme nutzbar gemacht werden. Gerade das exemplarische Handlungsfeld des Kinderschutzes macht deutlich, wie dringend die Soziale Arbeit zum Wohle der Klient*innen verpflichtet ist, alles relevante Wissen und alle möglichen Technologien auf ihre Eignung für eine verbesserte Problemlösung zu prüfen