50.000 russische Troll-User-Konten bei X waren wohl erst der Anfang
Ein Beitrag von Werner Hoffmann
Dass bei X plötzlich unbemerkt über 50.000 Userkonten neu eingerichtet werden können, ist höchst gefährlich.
Und dies war sicherlich erst der Anfang.
Aus meiner Sicht besteht die große Gefahr, dass ab Mai dieses Jahres erst eine richtige Flut an neuen Userkonten bei
– „#X“,
– #Facebook,
– #LinkedIn,
– #Xing,
– #YouTube,
– #TikTok
– und bis dahin auch dem #SocialMediaSender der #AfD
eine Flut an Falschinformationen verbreitet.
Und dies mit #KI!
Und diese Welle wird dann bis zur nächsten Bundestagswahl stattfinden.
Und dies werden nicht nur
– #russische #Trolls, sondern auch
– #Querdenker,
– #Rechtsextremisten,
– #Reichsbürger,
– #AfD‘ler,
– #Aluhutträger
etc. sein.
Ich habe die Befürchtung, dass unsere #Demokratie in den kommenden zwei Jahren auf eine harte Probe gestellt wird. Dies nicht nur in Deutschland, sondern auch in den USA.
———
———
Ein Kommentar von Oliver Hess
„Es ist ein Trommelfeuer der Lügen: Spezialisten des Auswärtigen Amts haben auf der Kurznachrichtenplattform X eine systematische russische Kampagne ausgemacht. In der Bundesregierung wächst die Sorge vor Wahlbeeinflussung.
Im September verbreitete sich auf dem Kurznachrichtendienst X eine erstaunliche Prophezeiung der deutschen Außenministerin: »Der Krieg in der Ukraine wird in 3 Monaten vorbei sein« – so lautete die Botschaft von Annalena Baerbock. Angeblich.
Auf den ersten Blick wirkte alles echt: das Profilfoto der Ministerin, die Zahl der Follower, ihr bekanntes Nutzerkonto unter @ABaerbock. 389 Nutzern gefiel die Nachricht, 45 verbreiteten sie weiter, 261 andere Nutzerinnen und Nutzer antworteten auf die Botschaft, die vermeintlich nahelegte, dass Deutschlands Unterstützung für die Ukraine bröckele. Doch es handelte sich um eine gefälschte Nachricht.“
Verwundert mich gar nicht – auch bei LI fallen mir da einige Accounts ein, die munter Falschnachrichten verbreiten! Querdenker, Impfverweigerer und AfD- sowie Putin Trolle!
———
„Dem SPIEGEL liegt die vertrauliche Analyse in Auszügen vor. Die Experten haben im Auftrag des Referats 607 für Strategische Kommunikation im Auswärtigen Amt vom 20. Dezember bis 20. Januar mit einer speziellen Software Elons Musks Kurznachrichtendienst X ausgewertet – mit erschreckenden Ergebnissen.
In den vier Wochen rund um den Jahreswechsel identifizierten sie mehr als 50.000 gefälschte Nutzerkonten, die in deutscher Sprache offenbar koordiniert Stimmungsmache betrieben, mit insgesamt mehr als einer Million deutschsprachiger Tweets. An manchen Tagen registrierten die Experten des Auswärtigen Amts 200.000 dieser Kurznachrichten. Das entspricht ungefähr zwei Mitteilungen pro Sekunde – ein digitales Trommelfeuer, um die Öffentlichkeit zu manipulieren.“
Den Angreifern geht es offenbar darum, an Stimmungen in der Bevölkerung anzuknüpfen, sie zu verbreiten und zu befördern, sie größer erscheinen zu lassen, als sie sind. Das Ziel der gesteuerten Informationsoperation: Wut zu schüren, Stimmung zu machen, das Vertrauen in Regierung, Demokratie und Medien zu untergraben. Einer der Hauptangriffspunkte ist jedwede deutsche Hilfe für die Ukraine.
Die Strategie ist alt, Geheimdienste haben sie seit jeher angewandt. Doch nie waren die technischen Voraussetzungen dafür besser als heute. Ein Knopfdruck, und gefälschte Nachrichten sind überall auf der Welt zu lesen.“
——-
X ist wie ein riesiger Rechter-Telegram-Channel. Bin seit 2009 bei damals noch Twitter und hab jetzt alle Aktivitäten dort eingestellt – alle Follower raus geworfen und alle denen ich gefolgt bin entfernt. Den Account hab ich noch, aber geh nicht mehr rein. Die Stimmung ist nur noch rechts, man sieht nur noch rechte Posts und auf Gegenposts reagiert plötzlich keiner mehr – nicht mal mehr die Rechten. Ich arbeite auch seit 2009 in der IT und weiß, dass das Algorithmen sind, die Musk rein gebracht hat. Hat mich nur noch runter gezogen. Wer Bock hat auf Propaganda, Fake-News und Desinformation, der geht da hin. Schlimm genug, dass noch irgendwelche Medien da Infos rausziehen und sagen „Wie er/sie auf X veröffentlicht hat…“ – ist für mich das Gleiche wie „Wie im Telegram Channel Odins Wölfe berichtet wird…“
Rechtsextremismus und Abzocke auf TikTok auf der Tagesordnung
Wir hatten in den letzten Monaten schon TikTok analysiert und hierzu verschiedene Usernamen dort angemeldet. Hierzu wurden unterschiedliche IP und unterschiedliche Geräte genutzt.
Was wir dabei herausgefunden haben, ist nicht nur deckungsgleich mit der Amadeu-Antonio-Stiftung, sondern auch höchst gefährlich.
Dort gibt es nicht nur fortlaufend AfD und Rechtsextreme Artikel.
Auch der Geliebtentrick (ähnlich wie der Enkeltrick) ist dort weit verbreitet.
Dabei wird über „Singlefrauen“, die über TikTok männliche User zu finden und nie im gleichen Ort wie der User wohnen.
Im Laufe der Chats will man sich dann treffen, hat aber kein Geld für die Bahnfahrt. Dann soll man Geld überweisen (Über ein Online TransferTicket). Die Frau sieht der User natürlich nie.
Oder die Frau wohnt im Ausland und braucht etwas Geld zum chatten…
Oder, was uns auch aufgefallen ist: Junge Frauen mischen erotische Aufnahmen mit AfD -Filmen.
Besonders auffällig ist auch, wie die AfD junge Menschen versucht von der AfD zu gewinnen. Da werden Profile genutzt, die nicht einmal echt sind.
Wir vermuten, dass ein Teil dieser Profile über russische Trolls gesteuert werden. Zumindest würde uns dies nicht wundern, denn führende Persönlichkeiten der AfD waren schon öfters in Russland.
Über geheime Treffen zwischen der AfD und russischen Persönlichkeiten haben unterschiedliche Medien berichtet
– —> Geheimdienstdokumente zeigen Kreml-Plan einer Allianz aus AfD und Sahra Wagenknecht —>
Der Artikel von der Amadeu-Antonio-Stiftung unterstreicht unsere Analyse.
Zitat:
„
Was ist eigentlich Algospeak und warum ist TikTok viel wichtiger als wir alle ahnen? Auf der Berliner re.publica wird jedes Jahr drei Tage lang über die Zukunft des Internets, sozialer Medien und allem drumherum diskutiert. In diesem Jahr stehen auch Theresa Lehmann und Una Titz vom Projekt pre:bunk der Amadeu Antonio Stiftung auf der Bühne und klären die Internetgemeinde über Algospeak und Umwegkommunikation auf. Wir haben mit den beiden über TikTok, Desinformation und rechtsextreme Gartenzwerge gesprochen.
Belltower.News: Was ist Algospeak überhaupt? Una Titz: Algospeak ist eine Abkürzung für algorithmusbasierte Sprache. Es ist eine kommunikative Strategie, die mit Chiffren oder Umschreibungen arbeitet, um Plattformrestriktionen zu umgehen. Das findet auf TikTok statt, aber auch auf anderen Plattformen wie YouTube, Instagram oder Facebook. Der Begriff wurde 2022 das erste Mal von Taylor Lawrence in einem Artikel für die Washington Post geprägt. Wir bauen eine weitere Dimension ein, indem wir von Umwegkommunikation, einem Begriff aus der Antisemitismuforschung sprechen. Antisemitismus zeigt sich in Deutschland seit dem Ende des NS-Regimes nicht mehr so häufig offen, sondern wird stattdessen über Umwege kommuniziert. Zum Beispiel: Statt Juden als Kindermörder zu bezeichnen, wird der israelischen Armee vorgeworfen, palästinensische Kinder umzubringen. Das dahinterliegende Narrativ bleibt gleich.
Theresa Lehmann: Wenn wir von Umwegkommunikation sprechen, dann meinen wir damit explizit menschenfeindliche Ideologien, die via Sound, geänderten Worten, zum Beispiel mit Leetspeak oder mit Hilfe von Emojis transportiert werden. Dadurch wird auch die Zugänglichkeit erschwert. Das kann bei Algospeak genauso sein. Ein Beispiel dafür ist Queerness. Social Media sollte dazu dienen, dass gerade auch junge Menschen einfachen Zugang zu Themen wie zum Beispiel LGBTQ* oder Geschlechtsidentitäten bekommen. Stattdessen wird das komplizierter, weil man muss erstmal ganz neue Begriffe und Wörter lernen. Auf TikTok – einer Plattform, die gern queeren Content einschränkt – ist der Begriff “le Dollar bean”, nach dem Hashtag “Le$bean” enstanden, ein Wort, das für “lesbian”, als lesbisch steht. Wiederum ein Wort, dass auf TikTok zum Shadowban führen kann, also dazu, dass Videos eine geringere Reichweite erhalten.
So entsteht also auch eine neue Form von Jugendsprache und Distinktionsmerkmal. Es ist eine Art Soziolekt, der aus der Plattformkultur hervorgeht. Aber es ist eben sehr viel mehr als das, weil die Rahmenbedingungen dazu führen, dass die Creator*innen sich bemüht fühlen, um den heißen Brei herumzureden, wenn sie keine Reichweite einbüßen wollen. Gerade bei Themen, zu denen es Aufklärung braucht, wo Stigmata abgebaut werden sollen, ist das fatal, wenn man dann wieder chiffrieren muss. Das kann eben zu einer Retabuisierung führen.
Das heißt einerseits wird Algospeak genutzt, um mehr oder weniger emanzipatorische Themen zu pushen, die von den Plattformen, in dem Fall TikTok, eingeschränkt und sozusagen “verschwiegen” werden. Andererseits benutzen auch antidemokratische Akteure die gleichen Tools, um ihre Ideologie zu verbreiten? Una Titz: Bei Umwegkommunikation ist die Zielrichtung eine andere, weil da geht es nicht nur darum, dass Videos Reichweite bekommen, sondern das strategische Ziel ist es möglichst unbemerkt Reichweite zu bekommen und Nutzer*innen zu erreichen, die noch gar nicht mit diesen menschenfeindlichen Ideologien in Berührung gekommen sind. Umwegkommunikation ist der Versuch, mittels Chiffren das Meinungsklima und Restriktionen zu umschiffen. Es ist eine antidemokratische Strategie. Wir wenden den Begriff auf Algospeak an, um zu schauen: Was passiert genau auf TikTok? Wie versuchen Antidemokrat*innen, unter anderem Rechtsextreme, den Diskurs zu kapern und wie versuchen sie mittels komplexer Metaphoriken, die mit Bildern oder Sounds arbeiten, unsagbare oder undenkbare Diskurse zu normalisieren.
Theresa Lehmann: So oder so ist es komplex, denn gerade bei TikTok spielt Jugendschutz eine sehr viel größere Rolle als bei anderen Plattformen. Beim Thema LGBTQ* ist es eindeutig: Das sollte zugänglich sein für alle. Es gibt aber auch Algospeak zum Thema Drogen, worüber junge Nutzer*innen auch auf TikTok sprechen, da macht es unter Umständen durchaus Sinn, dass diese Themen nicht so frei zugänglich sind, weil dies möglicherweise problematische Effekte haben kann.
Das Thema hat internationale Dimensionen, wenn es um Länder geht, in denen keine Demokratie herrscht und soziale Medien zur Vernetzung genutzt werden, obwohl die Plattformbetreiber versuchen, das zu verhindern. Theresa Lehmann: Soziale Medien und eben Algospeak sind ein total wichtiges Mittel, um sich zu vernetzen und über Demokratie und Freiheit aufzuklären. Eines der bekanntesten Beispiele ist die Milktea-Alliance in der sich demokratische Gruppierungen aus Hongkong, Taiwan und Thailand zusammengetan haben, und sich über das unverfängliche Emoji für Bubble Tea vernetzt haben, um sich solidarisch miteinander zu zeigen oder der gelbe Schirm für die Proteste in Hongkong. Algospeak kann Repression umgehen, die in dem Fall vom Staat ausgeht. Wir kritisieren aber im demokratischen Kontext, dass die Plattformen mit ihren Communityguidelines sich an die Stelle des Staates platzieren und vorgeben, über welche Inhalte offen geredet werden kann und über welche nicht. Das schlimmste daran ist die Intransparenz. Algospeak wird in vorauseilendem Gehorsam genutzt, weil niemand wirklich weiß, wann die Moderation bzw. der Algorithmus anspringt. Dementsprechend ist es unklar, was zu einem Shadowban führt, also dazu, dass Videos nicht mehr auf der “For You Page” ausgespielt werden.
Una Titz: So entsteht auf den Plattformen eine Sprache und ein Handeln, aus der Angst heraus, dass die Plattform sperrt oder einschränkt, ohne zu wissen ob das der Fall ist oder nicht.
Wie benutzen Rechtsextreme Algospeak oder Umwegkommunikation? Una Titz: Ein Beispiel ist Gnomecore oder der Gnompilz-Trend, ein rechtsextremer Trend auf TikTok, der auf einer ganzen Serie von Memes über Gartenzwerge basiert. Gartenzwerge als mythische Wesen – und ich weiß es klingt zunächst skurril – werden zur antisemitischen Chiffre. Die Mützen erinnern an den mittelalterlichen Judenhut. Aber solche Memes haben unterschiedliche Ebenen, die man immer erst entschlüsseln muss, denn gleichzeitig steht der Gartenzwerg für eine “arische” Lebensart in Zusammenhang mit “Hyperborea”, einer Art mystischen, rechtsextremen Fantasiewelt. Je mehr man in das Meme einsteigt, desto tiefer gehts, bis man dann tatsächlich am Ende zum Vernichtungswunsch gelangt.
Kann man gruppenbezogene Menschenfeindlichkeit auf TikTok überhaupt quantifizieren? Theresa Lehmann: Die Nutzungserfahrung auf TikTok ist sehr individualisiert, deswegen lässt es sich ganz schwer beziffern, wie viel dieser Inhalte für die durchschnittliche Nutzer*in ausgespielt werden. Aber wir wissen – auch aus eigener Erfahrung – dass rechtsextremer Content immer wieder durchrutscht. Meistens liegt es dann daran, dass der Algorithmus daran scheitert zu erkennen, ob etwas gerade affirmativ gemeint ist oder kritisch. Erst seit kurzem können Forscher*innen bei TikTok Anfragen stellen, um Daten für ihre Forschungszwecke zu erhaltenn. Bisher stochern wir daher noch im Dunkeln, aber wir wissen, dass diese menschenfeindlichen Inhalte da sind und verbreitet werden, teilweise mit großen Reichweiten
Wer sind die Akteure? Also wer aus dem verschwörungsideologischen oder rechtsextremen Umfeld ist denn schon auf TikTok angekommen? Una Titz: Praktisch alle. Das antidemokratische Milieu, aber auch das verschwörungsideologische ist sehr gut vertreten: von der Identitäten Bewegung über die “Junge Tat”. Selbst kleinere rechte Frauenkollektive wie Lukreta sind da. Darüber hinaus gibt es reaktionär libertäre Accounts, die problematisch sind. Und: Die AfD hat TikTok im Sturm erobert. Von allen Parteien aus Deutschland ist sie am stärksten auf TikTok präsent. Darüber hinaus polarisieren auch Rechtsaußen-Kampfsportler*innen. TikTok verschafft Reichsbürger*innen, wie zum Beispiel Thomas Hornauer mit seinem “Telemedialkanal” sehr viel Reichweite. Nicht umsonst war Hornauer bei den “Online-Marketing-Rockstars” in Hamburg, einer riesigen und sehr kommerziellen Social-Media-Marketing-Messe. Er wurde offenbar als Influencer eingeladen, weil er über 300.000 Follower*innen hatte und durfte dort posieren und hat sich dann mit jungen Creator*innen vernetzt, die eigentlich nicht politisiert sind.
Das heißt Projekte wie pre:bunk sind immens wichtig, um aufzuzeigen, wie sich diese Ideologien auf TikTok verbreiten können. Die Abwehr sich mit TikTokt zu beschäftigen ist immer noch viel zu groß. Einerseits weil viele ältere Personen Berührungsängste haben, weil alles auf der Plattform sehr schnelllebig ist. Damit muss man sich auseinandersetzen, bis man ein Gefühl dafür bekommt. Aber gleichzeitig ist es so wichtig, mit jungen Leuten darüber ins Gespräch zu kommen, was da passiert, welche Inhalte sie sehen. Als letztes Jahr der Krieg gegen die Ukraine losging, wurden auf TikTok sehr verstörende Inhalte ausgespielt und es waren unglaublich viele Desinformationen im Umlauf. Wir wünschen uns von Eltern und pädagogischen Multiplikator*innen mehr Offenheit und ein offenes Ohr statt direkt in die Abwehr gehen: Ach, da wird ja eh nur getanzt. Man kann auf TikTok auch viel lernen und sich kreativ ausprobieren.“
