Voll automatisierte Vishing-Angriffe durch KI-Phishing Tools
Dr. Martin J. Krämer, CISO Advisor bei KnowBe4
Sicherheitsforscher von Group IB sind auf neue Entwicklungen im Bereich des Voice-Phishings (Vishing) gestoßen. Die in die Phishing-as-a-Service-(PhaaS-) Plattform „Balonx“ integrierte Anwendung „CallFlow“ kann mithilfe von mehreren KI-Systemen Phishing-Anrufe ohne menschliche Beteiligung führen. Dies könnte die Anzahl um ein Vielfaches erhöhen. Momentan konzentrieren sich die durch CallFlow operierten Vishing-Angriffe vor allem auf Mexiko, eine weltweite Nachahmung erscheint aber wahrscheinlich.
PhaaS wie der aktuell vorwiegend in Mexiko aktive Anbieter Balonx, stellen ihren Kunden vorgefertigte Phishing-Seiten und weitere entsprechende Dienstleistungen bereit. Dabei haben sich diese Angebote mittlerweile so weit professionalisiert, dass sie auf den ersten Blick leicht mit legitimen Software-as-a-Service-(SaaS-) Anbietern verwechselt werden können. Die Services werden über Facebookgruppen beworben, die Namen wie „Base de Datos“ („Datenbasis“) oder „Bases de datos Negocios Serios“ („Datenbasis Seriöse Unternehmen“) tragen. Diese Gruppen dienen als illegale Handelsplattformen für gestohlene Daten. Balonx wirbt mit Beiträgen, die Interessierte an Telegram weiterleiten sowie mit Videos, die die Echtzeit-Qualitäten des Services demonstrieren. Der Anbieter ist dabei nicht auf eine singuläre Domain angewiesen, sondern rotiert Domains kontinuierlich, was die Eindämmung des Dienstes trotz Sperrung einzelner Domains erheblich erschwert.
Eine der zentralen Erkenntnisse der Untersuchung ist die Identifikation des unabhängigen Moduls CallFlow. Dieses ermöglicht eine weitgehende Automatisierung der bislang durch menschliche Call-Operatoren ausgeführten Anrufe. Es transformiert Phishing-as-a-Service damit von einem personalintensiven Angriffsmodell hin zu einer weitgehend automatisierten, KI-gestützten Phishing-Infrastruktur. CallFlow nutzt dafür vier unterschiedliche KI-Systeme: GPT-4o-mini, ElevenLabs mit „Carolina“, OpenAI Voice sowie OpenAI Whisper.
Die vier KIs kreieren dabei in Echtzeit eine personalisierte Konversation: Die KIs kommunizieren dabei mithilfe der künstlich erzeugten Stimme „Carolina“ von ElevenLabs. Die Antwort des Opfers wird mit OpenAI Whisper transkribiert und an GPT-4o-mini gefüttert, das wiederum passenden Dialog in Echtzeit generiert. OpenAI Voice agiert als Backup für stimmliche Prozesse. Die KIs bilden dadurch eine kontinuierliche Konversationsschleife mit dem Opfer, die keine menschliche Involvierung benötigt.
Diese Entwicklung ermöglicht Vishing-Angriffe in deutlich größerem Umfang. Über die Benutzeroberfläche von CallFlow lassen sich unter anderem aktive Anrufe, Erfolgsquoten und die durchschnittliche Gesprächsdauer überwachen. Ein einzelner Operator kann so hunderte betrügerische Anrufe gleichzeitig koordinieren und nur bei Problemen der KI in die Gespräche eingreifen. Dadurch sinken der personelle Aufwand sowie die Kosten für Kriminelle erheblich. Vishing wird damit skalierbarer, automatisierter und ausgefeilter.
Die Untersuchung der Plattform offenbarte zudem gezielte Kampagnen gegen mehrere Banken sowie eine Datenbank mit Telefonnummern, die mit einer bestimmten Bank in Verbindung standen. Dies deutet darauf hin, dass die Datenbank als zentrale Anrufliste für das automatisierte Vishing-System genutzt wird.
Ein KI gestütztes Security Awareness Training kann dabei helfen, das Misstrauen von Mitarbeitenden zu schulen und sie so vor solchen Vishing-Angriffen zu schützen. Durch den Einsatz von KI ist es möglich, jedem Mitarbeitenden personalisiert und automatisiert das Training zukommen zu lassen, das jeweils benötigt wird. Weitere Informationen entnehmen Sie dem Beitrag: https://www.group-ib.com/blog/balonx-sistema-mexico-phaas/
Voll automatisierte Vishing-Angriffe durch KI-Phishing Tools
Dr. Martin J. Krämer, CISO Advisor bei KnowBe4
Sicherheitsforscher von Group IB sind auf neue Entwicklungen im Bereich des Voice-Phishings (Vishing) gestoßen. Die in die Phishing-as-a-Service-(PhaaS-) Plattform „Balonx“ integrierte Anwendung „CallFlow“ kann mithilfe von mehreren KI-Systemen Phishing-Anrufe ohne menschliche Beteiligung führen. Dies könnte die Anzahl um ein Vielfaches erhöhen. Momentan konzentrieren sich die durch CallFlow operierten Vishing-Angriffe vor allem auf Mexiko, eine weltweite Nachahmung erscheint aber wahrscheinlich.
PhaaS wie der aktuell vorwiegend in Mexiko aktive Anbieter Balonx, stellen ihren Kunden vorgefertigte Phishing-Seiten und weitere entsprechende Dienstleistungen bereit. Dabei haben sich diese Angebote mittlerweile so weit professionalisiert, dass sie auf den ersten Blick leicht mit legitimen Software-as-a-Service-(SaaS-) Anbietern verwechselt werden können. Die Services werden über Facebookgruppen beworben, die Namen wie „Base de Datos“ („Datenbasis“) oder „Bases de datos Negocios Serios“ („Datenbasis Seriöse Unternehmen“) tragen. Diese Gruppen dienen als illegale Handelsplattformen für gestohlene Daten. Balonx wirbt mit Beiträgen, die Interessierte an Telegram weiterleiten sowie mit Videos, die die Echtzeit-Qualitäten des Services demonstrieren. Der Anbieter ist dabei nicht auf eine singuläre Domain angewiesen, sondern rotiert Domains kontinuierlich, was die Eindämmung des Dienstes trotz Sperrung einzelner Domains erheblich erschwert.
Eine der zentralen Erkenntnisse der Untersuchung ist die Identifikation des unabhängigen Moduls CallFlow. Dieses ermöglicht eine weitgehende Automatisierung der bislang durch menschliche Call-Operatoren ausgeführten Anrufe. Es transformiert Phishing-as-a-Service damit von einem personalintensiven Angriffsmodell hin zu einer weitgehend automatisierten, KI-gestützten Phishing-Infrastruktur. CallFlow nutzt dafür vier unterschiedliche KI-Systeme: GPT-4o-mini, ElevenLabs mit „Carolina“, OpenAI Voice sowie OpenAI Whisper.
Die vier KIs kreieren dabei in Echtzeit eine personalisierte Konversation: Die KIs kommunizieren dabei mithilfe der künstlich erzeugten Stimme „Carolina“ von ElevenLabs. Die Antwort des Opfers wird mit OpenAI Whisper transkribiert und an GPT-4o-mini gefüttert, das wiederum passenden Dialog in Echtzeit generiert. OpenAI Voice agiert als Backup für stimmliche Prozesse. Die KIs bilden dadurch eine kontinuierliche Konversationsschleife mit dem Opfer, die keine menschliche Involvierung benötigt.
Diese Entwicklung ermöglicht Vishing-Angriffe in deutlich größerem Umfang. Über die Benutzeroberfläche von CallFlow lassen sich unter anderem aktive Anrufe, Erfolgsquoten und die durchschnittliche Gesprächsdauer überwachen. Ein einzelner Operator kann so hunderte betrügerische Anrufe gleichzeitig koordinieren und nur bei Problemen der KI in die Gespräche eingreifen. Dadurch sinken der personelle Aufwand sowie die Kosten für Kriminelle erheblich. Vishing wird damit skalierbarer, automatisierter und ausgefeilter.
Die Untersuchung der Plattform offenbarte zudem gezielte Kampagnen gegen mehrere Banken sowie eine Datenbank mit Telefonnummern, die mit einer bestimmten Bank in Verbindung standen. Dies deutet darauf hin, dass die Datenbank als zentrale Anrufliste für das automatisierte Vishing-System genutzt wird.
Ein KI gestütztes Security Awareness Training kann dabei helfen, das Misstrauen von Mitarbeitenden zu schulen und sie so vor solchen Vishing-Angriffen zu schützen. Durch den Einsatz von KI ist es möglich, jedem Mitarbeitenden personalisiert und automatisiert das Training zukommen zu lassen, das jeweils benötigt wird. Weitere Informationen entnehmen Sie dem Beitrag: https://www.group-ib.com/blog/balonx-sistema-mexico-phaas/