Extremistische Inhalte in sozialen Medien

Bei vielen Anschlägen der letzten Jahre spielte der digitale Raum bei der Radikalisierung der Täter eine zentrale Rolle: Extremisten wie Anis Amri (Berlin, Deutsch­land), Brenton Tarrant (Christchurch, Neusee­land) und Stephan Balliet (Halle, Deutsch­land) nutzten Social Media-Platt­formen, um Infor­mationen zu sammeln und zu ver­breiten, um sich zu ver­netzen und zu inszenieren. Sie tauschten sich außerdem mit Gleich­gesinnten aus und verbreiteten die Anschläge teilweise live sogar live vor einem großen Publikum. Gerade durch die Kom­munikation radikaler oder extremis­tischer Akteure lässt sich viel über Radikalisierungs­prozesse lernen, die in der vir­tuellen Welt statt­finden. Der Inhalt und seine Dar­stellung sowie die Art und Weise, wie die Akteure kom­munizieren, sind dabei von zentraler Bedeutung und können als Ausgangs­punkt dienen, um die am besten geeigneten Präventions- und Demobilisierungs­maßnahmen zu entwickeln.

Im Rahmen dieses Forschungs­feldes haben Daten, die in sozialen Medien gesammelt werden, zunehmend an Bedeutung gewonnen – das zeigen zahl­reiche wissen­schaftliche Pub­likationen, die auf Daten aus sozialen Medien basieren, bspw. von Facebook, Twitter, YouTube und Instagram. Dabei kann ein extrem großer Daten­pool genutzt werden, um Hypo­thesen zu entwickeln und zu testen. Es gibt aber auch Ein­schränkungen und Fall­stricke: Dies betrifft mögliche ethische und daten­schutz­rechtliche An­forderungen, die Forschende zwar vor Heraus­forderungen stellen, aber auch viele Chancen bieten. Während Trans­parenz und die Leitlinie "Maximierung des Nutzens und Minimierung des Schadens" während des gesamten Forschungs­prozesses un­erlässlich sind, gibt es weitere Prinzipien und Richt­linien, die berück­sichtigt werden müssen.

In ihrem neuen Bericht fassen Manjana Sold und Julian Junk zunächst einige wichtige ethische Über­legungen zusammen, die im Forschungs­prozess berücksichtigt werden sollten. Außerdem geben sie Ein­blicke in die wichtigsten Daten­schutz­prinzipien, die beachtet werden müssen. Anschließend beleuchten sie die Möglich­keiten und Ab­wägungen, die den Forschenden in diesem Zusammen­hang ab­verlangt werden. Im dritten Ab­schnitt diskutieren sie das Zusammen­spiel zwischen For­schenden, Daten­quellen und Richt­linien von Platt­formen und geben dazu Empfehlungen.

Download – GNET Report

Sold, Manjana/Junk, Julian (2021): Researching Extremist Content on Social Media Platforms: Data Protection and Research Ethics Challenges and Opportunities, London, UK: Global Network on Extremism and Technology (GNET).

Über GNET

Die HSFK ist der zent­rale europäische Partner des Global Network on Extremism and Technology (GNET), dem akademischen Forschungs­zweig des Global Internet Forum to Counter Terrorism (GIFCT). GNET nahm im Sommer 2020 seine Arbeit auf und zielt darauf ab, besser zu verstehen, wie Extremistinnen und Extremisten verschiedene Technologien einsetzen.

Das Netzwerk fördert Forschung, deren Ergebnisse für die Politik relevant sind und zur Abwehr von realen extremistischen Gefahren beitragen. Die Initiative mit ihrem inter­nationalen Netzwerk von Expert­innen und Experten, wurde vom International Centre for the Study of Radicalisation (ICSR), das am King's College London angesiedelt ist, ins Leben gerufen. Neben dem ICSR und der HSFK sind die zentralen Mitglieder von GNET das Program on Extremism (PoE; George Washington University, Washington, D.C., USA), das Centre of Excellence for National Security (CENS; S. Rajaratnam School of Inter­national Studies, Singapur) und das Lowy Institute (LI; Sydney, Australien).

Weitere Infor­mationen zu GNET finden sich hier.