Social Engineering war schon immer die effektivste Angriffsmethode im Cyberraum. Statt technische Schwachstellen auszunutzen, manipulieren Angreifer gezielt Menschen. Über Vertrauen, Zeitdruck oder Neugier. Mit dem Aufkommen generativer künstlicher Intelligenz hat diese Bedrohung jedoch eine neue Dimension erreicht.
Bereits im April 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) in seinem Papier „Einfluss von KI auf die Cyberbedrohungslandschaft“ deutlich gemacht, wie fundamental sich die Lage verändert hat.
Das BSI stellt darin fest:
Generative KI (besonders LLMs) steigert bereits Qualität und Quantität von Social-Engineering-Angriffen. LLMs ermöglichen überzeugende Phishing-Mails auch ohne Fremdsprachenkenntnisse. Die Kombination mit Deepfakes (Bild/Audio) erlaubt Angriffe „von noch nie dagewesener Qualität“. Klassische Erkennungsmethoden (Rechtschreibfehler etc.) greifen nicht mehr.
Diese Einschätzung war 2024 noch eine Prognose. Heute, Mitte 2026, ist sie bittere Realität.
Warum klassische Schutzmechanismen versagen
Früher konnte man Phishing-Mails relativ zuverlässig an groben Fehlern erkennen: schlechte Grammatik, seltsame Formulierungen, generische Anreden oder ungewöhnliche Absenderadressen. Diese „Tell-tales“ existieren praktisch nicht mehr.
Große Sprachmodelle erzeugen Texte, die stilistisch und inhaltlich kaum noch von echten Nachrichten zu unterscheiden sind. Ein Angreifer mit geringen oder gar keinen Deutschkenntnissen kann innerhalb von Sekunden eine perfekt formulierte E-Mail im Stil der internen Unternehmenskommunikation erzeugen. Die KI analysiert öffentlich verfügbare Informationen (LinkedIn, Website, Pressemitteilungen) und personalisiert die Nachricht so stark, dass sie glaubwürdig wirkt.
Noch gefährlicher wird es, wenn generative KI mit Deepfake-Technologien kombiniert wird. Stimmen können mit wenigen Sekunden Audio-Material geklont, Videos in Echtzeit manipuliert werden. Das Ergebnis sind überzeugende CEO-Fraud-Anrufe, gefälschte Videokonferenzen oder vermeintliche Support-Gespräche über Messenger – alles in einer Qualität, die das menschliche Auge und Ohr kaum noch erkennen kann.
Die neue Realität der Angriffe
Was früher mühsame Handarbeit war, läuft heute weitgehend automatisiert:
- Tausende individualisierte Phishing-Mails in Minuten
- Voice-Cloning für gezielte Anrufe
- Deepfake-Videos für Online-Meetings
- Automatisierte OSINT-Aufklärung als Grundlage für hochgradig personalisierte Angriffe
Das BSI hatte genau diese Entwicklung bereits 2024 vorhergesehen und vor einer „noch nie dagewesenen Qualität“ der Angriffe gewarnt. Die klassische Faustregel „Schau auf Rechtschreibfehler“ ist damit weitgehend obsolet geworden.
Was Unternehmen jetzt tun können
Eine besonders praxisnahe Möglichkeit, sich auf diese neuen Bedrohungen vorzubereiten, bietet das Fokusprojekt BISAM. Speziell für kleine und mittlere Unternehmen entwickelt, können Mitarbeitende und Führungskräfte dort KI-gestützte Angriffe auf den menschlichen Faktor, etwa hochpersonalisierte Phishing-Mails oder komplexe multimodale Social-Engineering-Szenarien, realistisch und interaktiv erleben. An Erlebnisstationen lassen sich typische Sprachmodell-Angriffe selbst durchspielen. Anschließend analysieren die Teilnehmenden, wie der Angriff technisch und psychologisch funktioniert hat, und leiten daraus konkrete, alltagstaugliche Schutzmaßnahmen ab. Das Angebot ist bewusst niedrigschwellig, kostenfrei und ohne Fachjargon gestaltet.
Zu den kommmenden Veranstaltungen
Quelle: Bundesamt für Sicherheit in der Informationstechnik (BSI): Einfluss von KI auf die Cyberbedrohungslandschaft, April 2024. PDF-Download
Schreibe einen Kommentar