KI versus IS

Dem Konzern nach werden 99 Prozent der Postings, die mit Terrorgruppen wie dem Islamischen Staat (IS) oder Al-Qaida in Verbindung stehen, mithilfe von automatischen Technologien aufgespürt und gelöscht, noch bevor sie von Usern überhaupt gemeldet werden. Die neue Methode soll nicht nur bei Texten funktionieren, sondern auch bei Bildern und Videos.

'Unsere Bemühungen, gegen extremistische Inhalte auf unserer Website vorzugehen, laufen nun wesentlich systematischer ab als in der Vergangenheit. Wir arbeiten hierfür mit verschiedenen Partnern zusammen und nutzen intern unterschiedliche Techníken', zitiert 'BBC News' aus einem Facebook-Statement. Prinzipiell setze man zwar weiterhin auf einen Mix aus menschlichen Prüfern und Software. 'Die primäre Kontrolle übernehmen aber zunehmend automatische Systeme', heißt es von Facebook.

Diese greifen dem Online-Netzwerk zufolge auf spezielle KI-Algorithmen zurück, um ungewolltes Propagandamaterial aufzuspüren. 'Wir verwenden textbasiertes maschinelles Lernen, bei dem Software über Zeit beigebracht wird, selbst herauszufinden, ob bestimmte Postings ein Problem sein könnten oder nicht.' Ähnlich funktioniere das auch mit Bild- und Videomaterial. Jedes Foto oder Video verfügt nämlich über einen eindeutigen 'ditigalen Fingerabdruck', der, wenn er einmal als problematisch eingestuft wurde, sofort wiedererkannt werden kann. 'So lassen sich betreffende Inhalte rasch löschen', betont Facebook.

Facebooks KI-Sytem arbeitet aber noch nicht fehlerfrei. 'Es braucht noch viele Jahre Entwicklungszeit, um diese automatische Kontrolle zu perfektionieren', räumt Monika Bickert, Facebooks Global Policy Chief, ein. Zum Beispiel konzentriert sich die Software derzeit nur auf den IS und Al-Qaida. 'Wir haben diese Gruppen ausgewählt, weil sie global gesehen die größte Gefahr darstellen. Wenn wir auch andere Terrorgruppen miteinbeziehen wollen, ist das gar nicht so leicht, weil es sehr große sprachliche und stilistische Unterschiede in deren Propaganda geben kann', erläutert Bickert.

In Zukunft soll es dann mittels KI-Technik auch möglich sein, nicht nur Content auf der Seite zu kontrollieren, sondern auch das Verhalten zu analysieren und einzustufen, was hinter einzelnen Accounts steht. 'Wir wissen aber, dass es ein Katz-und-Maus-Spiel ist. Diejenigen, die einen Vorteil aus der enormen Reichweite von Social-Media-Seiten ziehen wollen, werden alles dafür tun, um auch automatische Kontrollen zu umgehen', so die Facebook-Expertin abschließend.

Ihre Meinung dazu? Schreiben Sie hier!

#Facebook #KI #Terror #Zensur

Newsticker per eMail oder RSS/Feed!

Auch interessant!
Hamas auf Telegram
Die palästinensische Terrororganisation Hamas verzeichnet trotz des Verbots auf den meisten Social-Media-...

Jihadismus und Terrorismus
Der Mörder von Wien wurde vom *isten bis hin zu wienerischen Schimpfwort-Varianten alles Mögliche genannt...

Extreme in Social Media gefunden
Gefährliche Extremisten im Web ausmachen, bevor sie zu posten beginnen, soll nun möglich werden. Ob ein s...

KI: Evorus wird selbstständig
Smarte Assistenten wie Siri und Alexa sind grundsätzlich hilfreich, aber meist überfordert, wenn Nutzer s...

Posten vor Sprechen
Gut drei von vier Social-Media-Nutzern veröffentlichen Meilensteine, wie etwa eine neue Beziehung, die Ge...

Instagram mit Influencer-Funktionen
Das neueste Update der Instagram-App löst ein Versprechen des Facebook-Konzerns ein, dass werbliche Inhal...

Medizin und Werbung in Facebook
Social-Media-Riese Facebook hat britische Mediziner verärgert, die ihren Workshop rund um das Thema Menop...

Gratis-Internet als Datensammler
Facebooks App 'Free Basics', mit dem der Konzern Nutzern in 63 Ländern in Afrika, Asien und Lateinamerika...

Facebook und die Drogen
Immer mehr können die Datensammler der digitalen Welt aus ihren Informationen herauslesen. Nun erkennt Fa...