ChatGPT – Eine neue Ära des Betrugs

Viele Apps haben allerdings nur einen simplen Chatbot integriert und zeigen unentwegt versteckte Werbeanzeigen im Hintergrund an. Andere Apps werden für diverse Malware-Kampagnen eingesetzt, infizieren die Endgeräte der Nutzer und stehlen personenbezogene Informationen wie Passwörter und Kreditkartendaten.

Zusätzlich zu den Fake Apps gibt es auch eine Reihe von Fake Websites, die eine exakte Kopie der offiziellen ChatGPT Website darstellen. Diese Websites versprechen den Besuchern entweder einen Download von ChatGPT – der Dienst steht ausschließlich browserbasiert zur Verfügung – oder fälschen die Zahlungsseite, auf denen sie angeblich ein Upgrade auf ChatGPT Plus vornehmen können. In Wirklichkeit verlieren die User aber ihr Geld und ihre Daten.

Terrorismus, Propaganda und Desinformation

ChatGPT zeichnet sich dadurch aus, dass es schnell und in großem Umfang authentisch klingende Texte produziert. Dies macht das Modell ideal für Propaganda- und Desinformationskampagnen, da es den Betrügern ermöglicht, mit relativ geringem Aufwand Nachrichten zu erstellen und zu verbreiten, die ein bestimmtes Narrativ widerspiegeln.

Hinzu kommt, dass es mittlerweile jedem möglich ist, für wenig Geld ein Sprachmodell mit eigenen Daten und Quellen zu trainieren. Ein mit Fake News trainiertes Sprachmodell wird immer Fake News verbreiten, da es selbst keine andere Realität kennt.

„So wie das Internet Informationen demokratisiert hat, indem es jedem erlaubt hat, Behauptungen online zu veröffentlichen, stellt ChatGPT eine weitere Nivellierung des Spielfelds dar und leitet eine Welt ein, in der jeder, der schlechte Absichten hat, über die Macht einer Armee von erfahrenen Schreibern verfügt, die falsche Geschichten verbreiten.“ (Quelle)

Gepaart mit den Mikro-Targeting-Möglichkeiten sozialer Netzwerke ergibt das eine hochexplosive Mischung für die nächsten Wahlen westlicher Länder.

Social Engineering / Imitation

Nicht nur können Sprachmodelle wie ChatGPT authentisch wirkende Texte produzieren, sie können das auch in einem bestimmten, vorgegebenen Sprachstil. Europol warnt in seinem Paper „ChatGPT – Die Auswirkungen von Large Language Models auf die Strafverfolgung“ sogar explizit vor diesem Einsatzzweck:

„Die Fähigkeit von LLMs, Sprachmuster zu erkennen und nachzubilden, erleichtert nicht nur Phishing und Online-Betrug, sondern kann auch allgemein dazu verwendet werden, den Sprachstil bestimmter Personen oder Gruppen nachzuahmen. Diese Fähigkeit kann in großem Umfang missbraucht werden, um potenzielle Opfer dazu zu verleiten, ihr Vertrauen in die Hände von kriminellen Akteuren zu legen.“ (Quelle)

Abgesehen von Phishing-Attacken, kann diese Fähigkeit beispielsweise auch bei Fake Websites zum Einsatz kommen. Bislang erstellten Betrüger meist eine exakte Kopie einer Landingpage eines Unternehmens, häufig mit Tools wie HTTrack. Durch ChatGPT haben sie jetzt aber die Möglichkeit eine gesamte Website zu fälschen, die durchaus die echte sein könnte, es jedoch nicht ist.

Dadurch täuschen Betrüger sowohl die Besucher als auch Sicherheitssysteme, die in den meisten Fällen nur nach exakten Kopien der echten Seite suchen. Diese Systeme werden schlichtweg durch die geänderten Inhalte ausgehebelt, während gleichzeitig der Anschein einer echten Website bei den Besuchern aufrechterhalten wird.

Phishing & Scam

Einer der wohl naheliegendsten Einsatzmöglichkeiten von ChatGPT im Hinblick auf Betrug sind Texte für Phishing-Mails. Nicht nur wird zukünftig die Qualität von Phishing-Mails durch perfekt geschriebene Texte zunehmen, Betrüger können mithilfe von ChatGPT viel schneller, authentischer und in erheblich größerem Umfang agieren.

„Ein einziger Betrüger kann von seinem Laptop aus überall auf der Welt Hunderte oder Tausende von Betrügereien parallel durchführen, Tag und Nacht, mit Merkmalen auf der ganzen Welt, in allen Sprachen der Welt.“ (Quelle)

Anfang März machte Bitdefender auf eine neue Phishing-Kampagne aufmerksam, die eine nachgemachte ChatGPT-Plattform nutzt, um leichtgläubige Investoren davon zu überzeugen, ihr Geld in die Plattform zu stecken, um anschließend von den Auszahlungen zu profitieren.