ChatGPT4 birgt Phishing- und andere Cybercrime-Risiken

In der CPR-Blog zeigen die Forscher ihre Analyse verschiedener Szenarien, die es Hackern ermöglichen, ihre bösartigen Bemühungen und Vorbereitungen mithilfe von ChatGPT4 zu verbessern, was zu schnelleren und präziseren Ergebnissen führt. In einigen Fällen können demnach auch technisch unwissende Akteure schädliche Tools erstellen. CPR warnt daher vor dem Potential von ChatGPT4, die Ausführung von Cyber-Kriminalität zu beschleunigen und wird seine Analyse der Plattform in den kommenden Tagen fortsetzen.

Phishing-Mails leicht gemacht

Zwei von fünf Szenarien, die die CPR-Forscher in ihrer Analyse betrachten, betreffen das Erstellen von Phishing-E-Mails: einerseits solche, die es auf Online-Banking-Zugangsdaten abgesehen haben und andererseits solche, die auf Mitarbeiter von Unternehmen abzielen, um Einfallstore in Netzwerke zu eröffnen.

ChatGPT einfach bitten, eine Phishing-E-Mail zu schreiben, die wie eine echte Nachricht einer Bank aussihet, ist in Version 3 laut CPR-Analyse dank Sicherheitsvorkehrungen nicht möglich. Version 3.5 macht das aber anstandslos, und mit Version 4 lässt sich die Phishing-E-Mail noch verfeinern - und somit die Chance, dass Bankkunden darauf hereinfallen, steigern.

Für den Fall der Phishing-E-Mail, die es auf Mitarbeiter-Zugangsdaten abgesehen hat, zeigt CPR ein etwas indirekteres Vorgehen. Zunächst gaben die Forscher vor, eine Awareness-Kampagne für Mitarbeiter zu planen, und baten um Fokusthemen. Dann haben sie gefragt, bei welchen Themen Mitarbeiter am ehesten auf betrügerische Links klicken. Und wenngleich sich ChatGPT immerhin weigerte, direkt eine Phishing-Mail zu erstellen, ließ sich die KI mit der Bitte austricksen, eine Vorlage zu erstellen, mit der man bei einem Awareness-Training zeigen könne, wie so eine Mail aussieht.

ChatGPT4 verändert die Bedrohungslandschaft

Das Wesen der Cyber-Kriegsführung besteht darin, Cyber-Waffen zu entwickeln, um Schwachstellen auszunutzen. Mit ChatGPT4 werde die Herausforderungen bei der Waffenentwicklung drastisch reduziert und die Fähigkeit zur Durchführung von Cyber-Attacken beschleunigt, warnt Check Point. Das wird die Zahl der Cyber-Angriffe im Allgemeinen erhöhen, denn die Zeit, die zum Erstellen, Testen und Ausführen bösartiger Tools benötigt worden ist, wird sich erheblich verkürzen. CPR hat Fälle beobachtet, in denen selbst technisch nicht versierte Personen schädliche Tools erstellt haben, da der Prozess des Kodierens, Kompilierens und Verpackens des Codes durch den Einsatz von ChatGPT vereinfacht wurde.

Neben den beiden Phishing-Szenarien beleuchten die CPR-Forscher insbesondere auf folgende drei Bedrohungsszenarien:

• C++ Malware, die PDF-Dateien sammelt und sie an FTP sendet
• PHP Reverse Shell
• Java-Programm, das Putty herunterlädt und ausführt, welches als versteckte Powershell gestartet werden kann

„Nachdem wir mehrere Möglichkeiten gefunden haben, wie ChatGPT von Hackern genutzt werden kann, und auch Fälle, in denen dies tatsächlich geschah, haben wir 24 Stunden damit verbracht, um zu prüfen, ob sich in der neuen Version von ChatGPT etwas geändert hat. Obwohl die neue Plattform auf vielen Ebenen eindeutig verbessert wurde, können wir dennoch berichten, dass es Szenarien gibt, in denen die Hacker-Angriffe mit ChatGPT4 beschleunigt werden können. ChatGPT4 kann böswilligen Akteuren, auch solchen, die keine technischen Kenntnisse haben, Werkzeuge an die Hand geben, mit denen sie ihre Aktivitäten beschleunigen und validieren können. Die Verbrecher können sogar die schnellen Antworten von ChatGPT4 nutzen, um technische Herausforderungen bei der Entwicklung von Malware zu überwinden“, sagt Oded Vanunu, Head of Products Vulnerabilities Research bei Check Point, über die Sicherheitsanalyse. „Wir sehen, dass ChatGPT4 sowohl guten als auch bösen Nutzern dienen kann. Gute Nutzer können ChatGPT verwenden, um Code zu entwickeln und zu programmieren, der für die Gesellschaft nützlich ist. Gleichzeitig können aber auch Hacker diese KI-Technologie für die schnelle Ausführung von Attacken missbrauchen. Da KI eine bedeutende und wachsende Rolle bei Cyber-Angriffen und -Verteidigung spielt, gehen wir davon aus, dass diese Plattform von Hackern genutzt wird. Wir werden die nächsten Tage damit verbringen, besser zu verstehen, wie.“