So erkennen Sie, ob Sie mit einem Bot sprechen

Twitter hat kürzlich drastische Maßnahmen ergriffen, um die Verbreitung von Fehlinformationen über seine Plattform zu verlangsamen, und mehr als zwei Millionen automatisierte Konten oder Bots geschlossen.

Aber Twitter hat nur die ungeheuerlichsten und offensichtlichsten Straftäter geschlossen. Sie können davon ausgehen, dass die Trickster ihr Spiel verbessern, wenn es darum geht, gefälschte Benutzer als echte zu tarnen.



Es ist wichtig, sich nicht von gefälschten Konten beeinflussen zu lassen oder Ihre Zeit damit zu verschwenden, mit ihnen zu streiten, und das Identifizieren von Bots in einem Twitter-Thread ist zu einer seltsamen Version des Turing-Tests geworden. Plakate zu beschuldigen, Bots zu sein, ist sogar zu einer seltsam befriedigenden Art geworden, ihre Intelligenz zu beleidigen.

Fortschritte beim maschinellen Lernen deuten darauf hin, wie Bots menschlicher werden könnten. IBM-Forscher haben kürzlich ein System demonstriert, das in der Lage ist, durch das Durchsuchen von Text ein einigermaßen kohärentes Argument hervorzuzaubern. Und Googles Duplex-Software zeigt auch, wie KI-Systeme lernen können, die Nuancen menschlicher Gespräche nachzuahmen.

Aber auch die Technik könnte eine Lösung bieten. Im Jahr 2015 lief die Defense Advanced Research Projects Agency ein Wettbewerb zur Erkennung von Twitter-Bots . Die Teilnehmer trainierten ihre Systeme, um gefälschte Konten anhand von fünf Schlüsseldatenpunkten zu identifizieren. Die resultierenden Systeme sind alles andere als perfekt (die besten funktionierten etwa 40 Prozent der Zeit), aber die Bemühungen zeigen, wie man einen Bot auf Twitter am besten erkennt. Wir werden uns möglicherweise viel mehr auf diese Signale verlassen.

  1. Benutzerprofil
    Die häufigste Methode, um festzustellen, ob ein Konto gefälscht ist, besteht darin, das Profil zu überprüfen. Den rudimentärsten Bots fehlt ein Foto, ein Link oder eine Biografie. Anspruchsvollere verwenden möglicherweise ein aus dem Internet gestohlenes Foto oder einen automatisch generierten Kontonamen.
  2. Tweet-Syntax
    Die Verwendung menschlicher Sprache ist für Maschinen immer noch unglaublich schwierig. Die Tweets eines Bots können seine algorithmische Logik offenbaren: Sie können formelhaft oder repetitiv sein oder Antworten verwenden, die in Chatbot-Programmen üblich sind. Einen offensichtlichen Witz zu übersehen und schnell das Thema zu wechseln, sind weitere verräterische Merkmale (leider sind sie auch unter menschlichen Twitter-Nutzern recht verbreitet).
  3. Tweet-Semantik
    Bots werden normalerweise mit einem bestimmten Zweck erstellt, sodass sie möglicherweise übermäßig von einem bestimmten Thema besessen sind, möglicherweise den gleichen Link immer wieder neu posten oder über wenig anderes twittern.
  4. Zeitliches Verhalten
    Auch die Betrachtung von Tweets im Zeitverlauf kann aufschlussreich sein. Wenn ein Konto mit einer unmöglichen Rate, zu unwahrscheinlichen Zeiten oder sogar zu regelmäßig twittert, kann dies ein gutes Zeichen dafür sein, dass es sich um eine Fälschung handelt. Die Forscher fanden auch heraus, dass gefälschte Konten im Laufe der Zeit oft eine inkonsistente Einstellung zu Themen verraten.
  5. Netzwerkfunktionen
    Netzwerkdynamiken sind für die meisten Benutzer nicht sichtbar, können aber viel über ein Konto verraten. Bots können nur wenigen Konten folgen oder von vielen anderen Bots verfolgt werden. Der Ton der Tweets eines Bots kann auch nicht mit denen seiner Verbindungen übereinstimmen, was auf das Fehlen einer echten sozialen Interaktion hindeutet.
  6. <
verbergen