Strategien und Werkzeuge gegen Cybermobbing und Hassbotschaften (CYLENCE)

Hintergrund:

In den letzten 20 Jahren haben sich soziale Medien nicht nur als fester Bestandteil des gesellschaftlichen Alltags etabliert, sondern auch als Austauschplattform und Informationsquelle, die aus dem realen oder virtuellen Raum entspringen. Trotz dieser Potenziale entspringen auch zunehmend Missbrauchsphänomene aus dem digitalen Raum, darunter Cybermobbing und Hassbotschaften. Während sich Cybermobbing meistens gegen einzelne Personen richtet, beziehen sich Hassreden in der Regel auf Personengruppen. Vor dem Hintergrund eines immer komplexer werdenden Informationsraumes entstehen besondere Rahmenbedingungen in Bezug auf die zivile Sicherheit. Obwohl das Internet mittlerweile eine Vielzahl von Kampagnen zur Aufklärung, Meldung und Prävention von Cybermissbrauch für Endnutzer*innen hervorgebracht hat, sind diese Informationen nicht in alltägliche Anwendungen und Technologien integriert, die als Multiplikatoren für die Reichweite der Informationen in Frage kommen.

Zentrale Forschungsfragen:

• Entwicklung von Strategien und Werkzeugen zur medienübergreifenden Meldung, Erkennung und Behandlung von Cybermobbing und Hassbotschaften.
• Strategien und Werkzeuge zur Erfassung und Analyse (teil-)öffentlicher, sozialer Datenquellen (z.B. Facebook, Telegram, Twitter) auf Basis eines partizipativen Entwicklungsprozesses Ermittlungs- und Strafverfolgungsbehörden (ESBs) zur verbesserten Früherkennung und Behandlung von Cybermissbrauchsfällen befähigen.
• Werkzeuge zur Erkennung und Meldung von Cyber-Missbrauch für Bürger*innen durch ein Browser-Plugin und die Erweiterung der Smartphone-App hessenWARN zur Verfügung gestellt und evaluiert.

Forschungsziel:

Das Ziel von CYLENCE ist die Entwicklung von Strategien und Werkzeugen zur medienübergreifenden Meldung, Erkennung und Behandlung von Cybermobbing und Hassbotschaften. Dazu sollen organisationale Strategien und Werkzeuge zur Erfassung und Analyse (teil-)öffentlicher, sozialer Datenquellen (z.B. Facebook, Telegram, Twitter) auf Basis eines partizipativen Entwicklungsprozesses Ermittlungs- und Strafverfolgungsbehörden (ESBs) zur verbesserten Früherkennung und Behandlung von Cybermissbrauchsfällen befähigen. Eine darauf ausgerichtete Schulungsstrategie wird durch interaktives Tutorial für die Aneignung der entwickelten Werkzeuge ergänzt, die mithilfe von Künstlicher Intelligenz (KI) und Visual Analytics (VA) die anpassbare, faire und nachvollziehbare KI-Detektion und echtzeitbasierte Dashboard-Aufbereitung von Cybermissbrauchsinhalten unterstützen. Zur Erhöhung der zivilen Sicherheit sollen weiter die Erkennung und Meldung von Cybermobbing und Hassbotschaften in der Bevölkerung gestärkt werden. Dies umfasst eine Strategie zur Verbesserung der Kommunikation zwischen Bürger*innen, Betroffenen und ESBs, welche durch empirische Feldforschung (z.B. repräsentative Befragungen) unterstützt und im Rahmen der Kampagne Hessen gegen Hetze erprobt wird. Dazu werden Werkzeuge zur Erkennung und Meldung von Cyber-Missbrauch für Bürger*innen durch ein Browser-Plugin und die Erweiterung der Smartphone-App hessenWARN zur Verfügung gestellt und evaluiert.