Trends Grundlagen News

iStock.com/RichVintage

Forschungsprojekt: Mit KI Hasskriminalität im Netz aufdecken

Der Bundestag hat erst Mitte des Jahres ein Gesetzespaket zur Bekämpfung von Hasskriminalität im Internet verabschiedet. Darin enthalten sind etwa härtere Strafen für Hetzer. Zudem besteht eine Verpflichtung, den Justizbehörden strafbare Inhalte zu melden. Prof. Dr. Elisa Hoven, Strafrechtlerin an der Universität Leipzig, untersuchte das Phänomen Hate Speech im Rahmen einer Studie. Demnach waren 18 Prozent aller Befragten schon einmal davon betroffen waren, unter den 16- bis 30-Jährigen sogar 37 Prozent. 79 Prozent aller Studienteilnehmer nahmen demzufolge eine Zunahme der Aggressivität bei Online-Kommentaren wahr – und das ungeachtet der eigenen Erfahrung mit Hate Speech.

Doch was hilft gegen die allgemeine Verrohung im Netz? Um gegen Hasskriminalität im Internet strafrechtlich besser vorzugehen, startete jetzt das Forschungsprojekt „KISTRA – Einsatz von Künstlicher Intelligenz (KI) zur Früherkennung von Straften“. Das Ziel des Projektes sei „die Erforschung der Möglichkeiten und Rahmenbedingungen für den ethisch und rechtlich vertretbaren Einsatz von KI durch Ermittlungsbehörden zur Erkennung, Vorbeugung und Verfolgung von politisch motivierten Straftaten mit Internetbezug.“ An KISTRA sei auch das Zentrum Technik und Gesellschaft (ZTG) der TU Berlin beteiligt, teilte die Hochschule mit.

Was sind die Anforderungen der Ermittler an ein KI-System?

Der Leiter des Projekts Dr. Robert Pelzer erklärte. „Wir wollen zum einen analysieren und verstehen, mit welchen Herausforderungen die Sicherheitsbehörden im Umgang mit Hass-Postings in sozialen Medien konfrontiert sind und welche Anforderungen die Ermittler an ein KI-System stellen, mit dem ihre Arbeit unterstützt werden soll. Und zum anderen werden wir die Folgen und Risiken eines solchen Systems für den Ermittlungsprozess analysieren, um mit den Ermittlern gemeinsam zu überlegen, wie unsere Befunde in die Praxis einfließen können.“ Darüber hinaus untersucht das Forscherteam den Angaben zufolge, wie die KI-Tools aus Sicht der Praktiker in den Justizbehörden bewertet würden sowie die Erwartungen und Bedenken, die durch ein solches Vorgehen in unterschiedlichen Bevölkerungsgruppen entstehen könnten. 
 
Gegenwärtig werde im Bundeskriminalamt (BKA) eine Zentralstelle zur Verfolgung von Hasskriminalität im Internet eingerichtet. Ziel sei es, die Ergebnisse des dreijährigen KISTRA-Projektes direkt in der Arbeit dieser Zentralstelle anzuwenden. (ud)

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge