ChatGPT-betriebenes Botnetz auf X für Kryptowährungs-Betrug entdeckt
Ein kürzlich durchgeführte Untersuchung von Forschern der Indiana University Bloomington hat die Verwendung eines Botnetzes, das von ChatGPT, einem ausgefeilten KI-Sprachmodell von OpenAI, betrieben wird, zur Förderung von Kryptowährungs-Betrug auf X (ehemals bekannt als Twitter) aufgedeckt.
Das Botnetz, das aufgrund seiner Verbindung mit kryptowährungsbezogenen Websites als Fox8 bezeichnet wird, bestand aus 1.140 Konten, die ChatGPT nutzten, um Inhalte zu generieren, zu veröffentlichen und mit anderen Beiträgen zu interagieren. Der automatisch generierte Inhalt zielte darauf ab, ahnungslose Benutzer dazu zu verleiten, auf Links zu klicken, die zu Kryptowährungs-Hype-Websites führten.
Die Forscher erkannten die Aktivitäten des Botnetzes, indem sie eine spezifische Phrase identifizierten, die ChatGPT gelegentlich als Antwort auf bestimmte Aufforderungen verwendet. Dies führte sie dazu, Konten, von denen sie vermuteten, dass sie von Bots betrieben werden, manuell zu untersuchen. Trotz der relativ unkomplizierten Methoden des Fox8-Botnetzes gelang es ihm, scheinbar überzeugende Nachrichten zu veröffentlichen, die Kryptowährungs-Websites befürworten, was die Leichtigkeit demonstriert, mit der KI für Betrügereien genutzt werden kann.
Micah Musser, ein Experte für KI-basierte Desinformation, glaubt, dass diese Entdeckung möglicherweise nur die Spitze des Eisbergs eines größeren Problems ist, angesichts der Beliebtheit großer Sprachmodelle und Chatbots.
„Das ist das niedrig hängende Obst“, sagte Musser in einem Interview mit WIRED. „Es ist sehr, sehr wahrscheinlich, dass es für jede Kampagne, die Sie finden, viele andere gibt, die raffiniertere Dinge tun.“
Die Nutzungsrichtlinien von OpenAI verbieten ausdrücklich die Verwendung seiner KI-Modelle für Betrug und Desinformation. Die Forscher betonen die Herausforderung, solche Botnetze zu identifizieren, wenn sie effektiv konfiguriert sind, da sie der Erkennung entgehen könnten und Algorithmen manipulieren könnten, um Desinformation effektiver zu verbreiten.
Filippo Menczer, ein Professor, der die Forschung der Universität zu Fox8 leitet, sagte, sie hätten das Botnetz nur bemerkt, weil die Betrüger schlampig waren. „Jeder ziemlich gute Bösewicht würde diesen Fehler nicht machen“, so Menczer.
Spam-Bots auf X
Spam-Bots haben die Online-Krypto-Community seit langem geplagt und sind eine häufige Beschwerde unter Influencern in diesem Bereich. Solche Bots sind auf Plattformen wie YouTube und X in der Regel leicht zu erkennen, haben es jedoch trotzdem geschafft, Millionen von Opfern zu stehlen, indem sie Prominente imitieren und bösartige Gewinnspiele bewerben.
Obwohl Elon Musk versprochen hatte, nach dem Kauf von Twitter die „Spam-Bots zu besiegen“, glaubt Menczer, dass die Bots seit Musks Übernahme häufiger geworden sind. Der Forscher und sein Team kontaktieren X nicht mehr mit ihren Erkenntnissen über die Bots.
„Sie reagieren nicht wirklich“, sagt Menczer. „Sie haben nicht wirklich Personal.“
Musk bestätigte am Wochenende, dass X seine Blockierungsfunktion entfernen wird, was weitere Kritik von Erstellern auslöst, die besorgt sind, dass sie ihre Feeds nicht kuratieren können, um Betrüger und Imitatoren zu entfernen.
Häufig gestellte Fragen
Was ist das Fox8-Botnetz?
Das Fox8-Botnetz besteht aus 1.140 ChatGPT-betriebenen Konten, die für die Verbreitung von Kryptowährungs-Betrug auf X eingesetzt werden.
Wie wurden die Aktivitäten des Botnetzes entdeckt?
Die Forscher haben die Aktivitäten des Botnetzes durch die Identifizierung einer spezifischen Phrase, die von ChatGPT verwendet wird, als Reaktion auf bestimmte Aufforderungen entdeckt.
Was ist das Problem mit Spam-Bots auf X?
Spam-Bots haben es geschafft, Millionen von Benutzern zu täuschen, indem sie sich als Prominente ausgaben und bösartige Gewinnspiele bewarben. Sie werden als häufiges Ärgernis in der Online-Krypto-Community angesehen.
Was sagte Elon Musk über Spam-Bots auf X?
Elon Musk versprach, die Spam-Bots nach dem Kauf von Twitter zu bekämpfen, aber Filippo Menczer, ein Professor, der die Forschung zu Fox8 leitet, glaubt, dass die Bots seit Musks Übernahme häufiger geworden sind.
