Wer sich im Internet aufhält, muss sich früher oder später mit Online-Betrug auseinandersetzen. Der kommt in vielen verschiedenen Formen daher, wobei gefälschte E-Mails besonders weit verbreitet sind. Diese sind in vielen Fällen eigentlich schnell durchschaut und auch Filterprogramme von Anbietern arbeiten zumeist zuverlässig. Das könnte sich nun aber ändern, denn jeder technische Fortschritt kann leider auch in die falschen Hände geraten.

Online-Betrug: Cyberkriminelle nutzen eigene KI

Im Digitalbereich ist gegenwärtig überall die Rede von künstlicher Intelligenz. Textbasierte Programme wie ChatGPT haben in den vergangenen Monaten massive Verbreitung bei Privatpersonen wie Unternehmen gefunden und scheinen auch nicht mehr verschwinden zu wollen. Doch der Missbrauch für Online-Betrug hat nicht lange auf sich warten lassen.

Zunächst nutzten Kriminelle öffentlich zugängliche KIs wie die von OpenAI, wo sie allerdings auf Gegenmaßnahmen stießen. Doch wie SlashNext berichtet, haben sie jetzt eine starke Alternative: Sie haben sich einfach eine eigene KI entwickelt. Diese hört auf die Bezeichnung WormGPT und soll in der Lage sein, „strategisch gerissene“ falsche E-Mails zu erstellen.

Auch interessant: Zu künstlicher Intelligenz halten sich einige falsche Vorstellungen immer noch hartnäckig. Wir nennen dir fünf KI-Mythen und lösen diese auf.

„Signifikante Bedrohung“

WormGPT basiert dem Bericht zufolge auf einem zwei Jahre alten GPT-J-Sprachmodell, das spezielle Code-Formatierungen bietet und mit einer unbegrenzten Zeichenunterstützung daherkommt. Ethische Einschränkungen und Grenzen gibt es natürlich keine und trainiert wurde sie an Daten von Schadsoftwares.

Der SlashNext-Autor Daniel Kelley konnte WormGPT ausprobieren und ließ sich von der KI eine Phishing-Mail generieren, die zum Ziel haben sollte, dass das Opfer eine falsche Rechnung bezahlt. Das Ergebnis soll „bemerkenswert überzeugend“ und deshalb „beunruhigend“ gewesen sein. Die Grammatik, oftmals ein erster klarer Hinweis auf Online-Betrug, sei fehlerfrei und sorgt so für eine höhere Wahrscheinlichkeit, Zielpersonen erfolgreich reinzulegen. WormGPT ist außerdem sehr einfach zu bedienen und wird bereits in bestimmten Kreisen aktiv beworben. Die künstliche Intelligenz stelle damit eine „signifikante Bedrohung“ dar.

Es sei von daher wichtiger denn je, dass Unternehmen ihr Personal zu möglichem Online-Betrug schulen – schließlich kann Phishing sogar Ministerien hinters Licht führen. Zudem müssten Sicherheitsmechanismen bei E-Mail-Anbietern verbessert werden.

Quelle: SlashNext

Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.