Rechtsextremismus und Abzocke auf TikTok auf der Tagesordnung

Wir hatten in den letzten Monaten schon TikTok analysiert und hierzu verschiedene Usernamen dort angemeldet. Hierzu wurden unterschiedliche IP und unterschiedliche Geräte genutzt.

Was wir dabei herausgefunden haben, ist nicht nur deckungsgleich mit der Amadeu-Antonio-Stiftung, sondern auch höchst gefährlich.

Dort gibt es nicht nur fortlaufend AfD und Rechtsextreme Artikel.

Auch der Geliebtentrick (ähnlich wie der Enkeltrick) ist dort weit verbreitet.

Dabei wird über „Singlefrauen“, die über TikTok männliche User zu finden und nie im gleichen Ort wie der User wohnen.

Im Laufe der Chats will man sich dann treffen, hat aber kein Geld für die Bahnfahrt. Dann soll man Geld überweisen (Über ein Online TransferTicket). Die Frau sieht der User natürlich nie.

Oder die Frau wohnt im Ausland und braucht etwas Geld zum chatten…

Oder, was uns auch aufgefallen ist: Junge Frauen mischen erotische Aufnahmen mit AfD -Filmen.

Besonders auffällig ist auch, wie die AfD junge Menschen versucht von der AfD zu gewinnen. Da werden Profile genutzt, die nicht einmal echt sind.

Wir vermuten, dass ein Teil dieser Profile über russische Trolls gesteuert werden. Zumindest würde uns dies nicht wundern, denn führende Persönlichkeiten der AfD waren schon öfters in Russland.

Über geheime Treffen zwischen der AfD und russischen Persönlichkeiten haben unterschiedliche Medien berichtet

– —> Geheimdienstdokumente zeigen Kreml-Plan einer Allianz aus AfD und Sahra Wagenknecht —>

https://www.derstandard.de/story/2000145740523/geheimdienstdokumente-zeigen-kreml-plan-einer-allianz-aus-afd-und-sahra

– —> Ist die AfD der „verlängerte Arm Russlands“? —> https://www.zeit.de/politik/2023-08/spionage-russland-afd-innere-sicherheit-nachrichtenpodcast?utm_referrer=https%3A%2F%2Fwww.google.de%2F

– —> Spionagefall bei Bundeswehr löst Debatte über innere Sicherheit und AfD aus —> https://www.rnd.de/politik/spionage-fuer-russland-debatte-ueber-innere-sicherheit-und-afd-HNBJ57L7WZCBZFSLZNKKNHPWFQ.html?outputType=valid_amp

Wie rechtsextreme Ideologie auf TikTok zum Erfolg wird

—> https://www.amadeu-antonio-stiftung.de/wie-rechtsextreme-ideologie-auf-tiktok-zum-erfolg-wird-100351/

Der Artikel von der Amadeu-Antonio-Stiftung unterstreicht unsere Analyse.

Zitat:

„

Was ist eigentlich Algospeak und warum ist TikTok viel wichtiger als wir alle ahnen? Auf der Berliner re.publica wird jedes Jahr drei Tage lang über die Zukunft des Internets, sozialer Medien und allem drumherum diskutiert. In diesem Jahr stehen auch Theresa Lehmann und Una Titz vom Projekt pre:bunk der Amadeu Antonio Stiftung auf der Bühne und klären die Internetgemeinde über Algospeak und Umwegkommunikation auf. Wir haben mit den beiden über TikTok, Desinformation und rechtsextreme Gartenzwerge gesprochen.

Belltower.News: Was ist Algospeak überhaupt?
Una Titz: Algospeak ist eine Abkürzung für algorithmusbasierte Sprache. Es ist eine kommunikative Strategie, die mit Chiffren oder Umschreibungen arbeitet, um Plattformrestriktionen zu umgehen. Das findet auf TikTok statt, aber auch auf anderen Plattformen wie YouTube, Instagram oder Facebook. Der Begriff wurde 2022 das erste Mal von Taylor Lawrence in einem Artikel für die Washington Post geprägt. Wir bauen eine weitere Dimension ein, indem wir von Umwegkommunikation, einem Begriff aus der Antisemitismuforschung sprechen. Antisemitismus zeigt sich in Deutschland seit dem Ende des NS-Regimes nicht mehr so häufig offen, sondern wird stattdessen über Umwege kommuniziert. Zum Beispiel: Statt Juden als Kindermörder zu bezeichnen, wird der israelischen Armee vorgeworfen, palästinensische Kinder umzubringen. Das dahinterliegende Narrativ bleibt gleich.

Theresa Lehmann: Wenn wir von Umwegkommunikation sprechen, dann meinen wir damit explizit menschenfeindliche Ideologien, die via Sound, geänderten Worten, zum Beispiel mit Leetspeak oder mit Hilfe von Emojis transportiert werden. Dadurch wird auch die Zugänglichkeit erschwert. Das kann bei Algospeak genauso sein. Ein Beispiel dafür ist Queerness. Social Media sollte dazu dienen, dass gerade auch junge Menschen einfachen Zugang zu Themen wie zum Beispiel LGBTQ* oder Geschlechtsidentitäten bekommen. Stattdessen wird das komplizierter, weil man muss erstmal ganz neue Begriffe und Wörter lernen. Auf TikTok – einer Plattform, die gern queeren Content einschränkt –  ist der Begriff “le Dollar bean”, nach dem Hashtag “Le$bean” enstanden, ein Wort, das für “lesbian”, als lesbisch steht. Wiederum ein Wort, dass auf TikTok zum Shadowban führen kann, also dazu, dass Videos eine geringere Reichweite erhalten.

So entsteht also auch eine neue Form von Jugendsprache und Distinktionsmerkmal. Es ist eine Art Soziolekt, der aus der Plattformkultur hervorgeht. Aber es ist eben sehr viel mehr als das, weil die Rahmenbedingungen dazu führen, dass die Creator*innen sich bemüht fühlen, um den heißen Brei herumzureden, wenn sie keine Reichweite einbüßen wollen. Gerade bei Themen, zu denen es Aufklärung braucht, wo Stigmata abgebaut werden sollen, ist das fatal, wenn man dann wieder chiffrieren muss. Das kann eben zu einer Retabuisierung führen.

Das heißt einerseits wird Algospeak genutzt, um mehr oder weniger emanzipatorische Themen zu pushen, die von den Plattformen, in dem Fall TikTok, eingeschränkt und sozusagen “verschwiegen” werden. Andererseits benutzen auch antidemokratische Akteure die gleichen Tools, um ihre Ideologie zu verbreiten?
Una Titz: Bei Umwegkommunikation ist die Zielrichtung eine andere, weil da geht es nicht nur darum, dass Videos Reichweite bekommen, sondern das strategische Ziel ist es möglichst unbemerkt Reichweite zu bekommen und Nutzer*innen zu erreichen, die noch gar nicht mit diesen menschenfeindlichen Ideologien in Berührung gekommen sind. Umwegkommunikation ist der Versuch, mittels Chiffren das Meinungsklima und Restriktionen zu umschiffen. Es ist eine antidemokratische Strategie. Wir wenden den Begriff auf Algospeak an, um zu schauen: Was passiert genau auf TikTok? Wie versuchen Antidemokrat*innen, unter anderem Rechtsextreme, den Diskurs zu kapern und wie versuchen sie mittels komplexer Metaphoriken, die mit Bildern oder Sounds arbeiten, unsagbare oder undenkbare Diskurse zu normalisieren.

Theresa Lehmann: So oder so ist es komplex, denn gerade bei TikTok spielt Jugendschutz eine sehr viel größere Rolle als bei anderen Plattformen. Beim Thema LGBTQ* ist es eindeutig: Das sollte zugänglich sein für alle. Es gibt aber auch Algospeak zum Thema Drogen, worüber junge Nutzer*innen auch auf TikTok sprechen, da macht es unter Umständen durchaus Sinn, dass diese Themen nicht so frei zugänglich sind, weil dies möglicherweise problematische Effekte haben kann.

Das Thema hat internationale Dimensionen, wenn es um Länder geht, in denen keine Demokratie herrscht und soziale Medien zur Vernetzung genutzt werden, obwohl die Plattformbetreiber versuchen, das zu verhindern.
Theresa Lehmann: Soziale Medien und eben Algospeak sind ein total wichtiges Mittel, um sich zu vernetzen und über Demokratie und Freiheit aufzuklären. Eines der bekanntesten Beispiele ist die Milktea-Alliance in der sich demokratische Gruppierungen aus Hongkong, Taiwan und Thailand zusammengetan haben, und sich über das unverfängliche Emoji für Bubble Tea vernetzt haben, um sich solidarisch miteinander zu zeigen oder der gelbe Schirm für die Proteste in Hongkong. Algospeak kann Repression umgehen, die in dem Fall vom Staat ausgeht. Wir kritisieren aber im demokratischen Kontext, dass die Plattformen mit ihren Communityguidelines sich an die Stelle des Staates platzieren und vorgeben, über welche Inhalte offen geredet werden kann und über welche nicht. Das schlimmste daran ist die Intransparenz. Algospeak wird in vorauseilendem Gehorsam genutzt, weil niemand wirklich weiß, wann die Moderation bzw. der Algorithmus anspringt. Dementsprechend ist es unklar, was zu einem Shadowban führt, also dazu, dass Videos nicht mehr auf der “For You Page” ausgespielt werden.

Una Titz: So entsteht auf den Plattformen eine Sprache und ein Handeln, aus der Angst heraus, dass die Plattform sperrt oder einschränkt, ohne zu wissen ob das der Fall ist oder nicht.

Wie benutzen Rechtsextreme Algospeak oder Umwegkommunikation?
Una Titz: Ein Beispiel ist Gnomecore oder der Gnompilz-Trend, ein rechtsextremer Trend auf TikTok, der auf einer ganzen Serie von Memes über Gartenzwerge basiert. Gartenzwerge als mythische Wesen – und ich weiß es klingt zunächst skurril – werden zur antisemitischen Chiffre. Die Mützen erinnern an den mittelalterlichen Judenhut. Aber solche Memes haben unterschiedliche Ebenen, die man immer erst entschlüsseln muss, denn gleichzeitig steht der Gartenzwerg für eine “arische” Lebensart in Zusammenhang mit “Hyperborea”, einer Art mystischen, rechtsextremen Fantasiewelt. Je mehr man in das Meme einsteigt, desto tiefer gehts, bis man dann tatsächlich am Ende zum Vernichtungswunsch gelangt.

Kann man gruppenbezogene Menschenfeindlichkeit auf TikTok überhaupt quantifizieren?
Theresa Lehmann: Die Nutzungserfahrung auf TikTok ist sehr individualisiert, deswegen lässt es sich ganz schwer beziffern, wie viel dieser Inhalte für die durchschnittliche Nutzer*in ausgespielt werden. Aber wir wissen – auch aus eigener Erfahrung – dass rechtsextremer Content immer wieder durchrutscht. Meistens liegt es dann daran, dass der Algorithmus daran scheitert zu erkennen, ob etwas gerade affirmativ gemeint ist oder kritisch. Erst seit kurzem können Forscher*innen bei TikTok Anfragen stellen, um Daten für ihre Forschungszwecke zu erhaltenn. Bisher stochern wir daher noch im Dunkeln, aber wir wissen, dass diese menschenfeindlichen Inhalte da sind und verbreitet werden, teilweise mit großen Reichweiten

Wer sind die Akteure? Also wer aus dem verschwörungsideologischen oder rechtsextremen Umfeld ist denn schon auf TikTok angekommen?
Una Titz: Praktisch alle. Das antidemokratische Milieu, aber auch das verschwörungsideologische ist sehr gut vertreten: von der Identitäten Bewegung über die “Junge Tat”. Selbst kleinere rechte Frauenkollektive wie Lukreta sind da. Darüber hinaus gibt es reaktionär libertäre Accounts, die problematisch sind. Und: Die AfD hat TikTok im Sturm erobert. Von allen Parteien aus Deutschland ist sie am stärksten auf TikTok präsent. Darüber hinaus polarisieren auch Rechtsaußen-Kampfsportler*innen. TikTok verschafft Reichsbürger*innen, wie zum Beispiel Thomas Hornauer mit seinem “Telemedialkanal” sehr viel Reichweite. Nicht umsonst war Hornauer bei den “Online-Marketing-Rockstars” in Hamburg, einer riesigen und sehr kommerziellen Social-Media-Marketing-Messe. Er wurde offenbar als Influencer eingeladen, weil er über 300.000 Follower*innen hatte und durfte dort posieren und hat sich dann mit jungen Creator*innen vernetzt, die eigentlich nicht politisiert sind.

Das heißt Projekte wie pre:bunk sind immens wichtig, um aufzuzeigen, wie sich diese Ideologien auf TikTok verbreiten können.
Die Abwehr sich mit TikTokt zu beschäftigen ist immer noch viel zu groß. Einerseits weil viele ältere Personen Berührungsängste haben, weil alles auf der Plattform sehr schnelllebig ist. Damit muss man sich auseinandersetzen, bis man ein Gefühl dafür bekommt. Aber gleichzeitig ist es so wichtig, mit jungen Leuten darüber ins Gespräch zu kommen, was da passiert, welche Inhalte sie sehen. Als letztes Jahr der Krieg gegen die Ukraine losging, wurden auf TikTok sehr verstörende Inhalte ausgespielt und es waren unglaublich viele Desinformationen im Umlauf. Wir wünschen uns von Eltern und pädagogischen Multiplikator*innen mehr Offenheit und ein offenes Ohr statt direkt in die Abwehr gehen: Ach, da wird ja eh nur getanzt. Man kann auf TikTok auch viel lernen und sich kreativ ausprobieren.“