Jugendschutz per KI

Forscher des Massachusetts Institute of Technology (MIT) unterstützen Kinderschutzbehörden in den USA, die zunehmend auf KI-basierte Software und maschinelles Lernen setzen, um Fälle von Kindesmissbrauch oder Vernachlässigung so schnell wie möglich zu beurteilen und festzulegen, welche genauer unter die Lupe zu nehmen sind.

In dem MIT-Forschungsprojekt geht es vor allem um die Verbesserung der Benutzerfreundlichkeit der Beurteilungs-Software. Zusammen mit einer Kinderschutzbehörde im US-Bundesstaat Colorado untersuchen die Forscher, wie Fälle mit und ohne Hilfe von Vorhersagen des Programms bewertet werden.

Ergebnis: Sachbearbeiter sind mehr daran interessiert zu sehen, wie die einzelnen Faktoren, zu denen auch das Alter des Kindes zählt, eine Prognose beeinflussen, anstatt die Berechnungsgrundlage der Software zu verstehen. Ihre Ergebnisse zeigen auch, dass selbst ein einfaches Modell Verwirrung stiften kann, wenn seine Merkmale nicht in einer einfachen Sprache beschrieben werden.

Die Forscher haben die Studie vor mehr als zwei Jahren begonnen, indem sie sieben Faktoren identifizierten, die das Vertrauen in die Prognose-Software beeinträchtigen, darunter mangelndes Vertrauen in die maschinelle Vorhersage und Meinungsverschiedenheiten zwischen Sachbearbeitern und dem Output des Modells.

Mit den genannten Faktoren im Hinterkopf flogen MIT-Doktorandin Alexandra Zytek und -Postdoc Dongyu Liu im Winter 2019 nach Colorado, um aus erster Hand von Sachbearbeitern in einer Kinderschutzabteilung zu lernen. Diese Abteilung nutzt ein von Rhema Vaithianathan, Direktorin des Center for Social Data Analytics an der Auckland University of Technology, entwickeltes maschinelles Lernsystem.

Dieses generiert für jeden Fall eine Risikobewertung und prognostiziert die Wahrscheinlichkeit, dass das betreffende Kind aus seiner Umgebung herausgelöst werden muss. Der so ermittelte Wert basiert auf mehr als 100 demografischen und historischen Faktoren, wie dem Alter der Eltern und deren Auffälligkeit bei Straftaten.

Die Wissenschaftler haben beobachtet, wie Teams von Sachbearbeitern die meiste Zeit damit verbrachten, die mit dem jeweiligen Fall verbundenen Risikofaktoren zu diskutieren. Das inspirierte die Forscher, eine fallspezifische Detailschnittstelle zu entwickeln, die zeigt, wie jeder Faktor den Gesamtrisikowert beeinflusst hat, indem sie farbcodierte, horizontale Balkendiagramme einführten, die die Wichtung jedes Faktors in positiver oder negativer Richtung anzeigen.

Basierend auf Beobachtungen und detaillierten Interviews bauten die Forscher vier zusätzliche Schnittstellen ein, die Erklärungen des Modells liefern, darunter eine, die einen aktuellen Fall mit früheren Fällen mit ähnlichen Risiken vergleicht. Befragungen haben ergeben, dass über 90 Prozent der Sachbearbeiter die fallspezifische Detailschnittstelle als nützlich empfanden und sich ihr Vertrauen in die Vorhersagen des Modells verbesserte.

Auf der anderen Seite mochten die Sachbearbeiter die Fallvergleichsschnittstelle nicht. Sie waren besorgt, dass sie zu Entscheidungen führen könnte, die auf früheren Fällen und nicht auf dem aktuellen basieren. Ehe das Programm zur breiten Nutzung empfohlen wird, wollen die Forscher noch einige Verfeinerungen anbringen.

Ihre Meinung dazu? Schreiben Sie hier!

#KI #AI #Jugendschutz

Newsticker per eMail oder RSS/Feed!

Auch interessant!
Kindesmissbrauch und Psyche
Als Kind erlebter Missbrauch oder Vernachlässigung kann zu mannigfaltigen Problemen bei der psychischen G...

Gewohnheiten aus dem Social Web
Anstelle der Problematik des traditionellen Rauchens tritt bei Kanadas Jugend das Vaping sowie der Konsum...

Anforderungen an Arbeitgeber
Anlässlich des 'World Skill Days' am 15. Juli hat das Beratungsunternehmen PricewaterhouseCoopers (PwC) w...

Eltern gegen Social Media
Die psychische Gesundheit von Kindern verbessert sich, wenn sie weniger Zeit mit sozialen Medien verbring...

Haustiere im Social Web
Gut jeder dritte Hunde- oder Katzenbesitzer hat für seine vierbeinigen Lieblinge Konten in den sozialen M...

Mehr KI im Alltag
Die Skepsis gegenüber dem Einsatz Künstlicher Intelligenz (KI) nimmt in der Bevölkerung ab....

Dating und Scheidungen
Umfrage hat erkannt: Ehepaare, die sich über Dating-Apps kennengelernt haben, lassen sich eher scheiden....

Jugendschutz in Snapchat
Minderjährige User des Instant-Messaging-Dienstes Snapchat sollen künftig besser geschützt werden, wie Ev...

Deutsche Länder wollen wieder filtern
Zwangsfilter 'für den Jugendschutz' sollen Deutschland drohen, wenn es nach dem Willen der Länder geht. E...

Youtube wird wieder erwachsener
Googles Videoplattform YouTube wird Content-Produzenten künftig die Verbreitung von Inhalten erlauben, di...

Google Jugendschutzfilter
Mit Google Family Link will Google die Smartphones kindgerecht machen. Der Dienst kommt nun auch in den d...

Regierung plant Zensur und Überwachung
Im Ministerrat wurde bestätigt, was der digitale Plan von Schwarz/Blau in Österreich ist. Wie planlos ist...