Künstliche Intelligenz & Cybersicherheit

KI verändert die Cybersicherheit fundamental – als Angriffswerkzeug und als Verteidigungstechnologie. Von LLM-Sicherheit über Deepfake-Forensik bis zum EU AI Act: Fachwissen für IT-Sicherheitsexperten, Sachverständige und Entscheidungsträger.

KI-Grundlagen in der Cybersicherheit

Künstliche Intelligenz bezeichnet Systeme, die Aufgaben ausführen, die bisher menschliche Intelligenz erforderten: Mustererkennung, Sprachverarbeitung, Entscheidungsfindung und generative Produktion von Text, Bild oder Audio. Für die Cybersicherheit sind drei Unterfelder besonders relevant: Machine Learning (ML) erkennt Muster in großen Datensätzen und klassifiziert unbekannte Eingaben – die Grundlage für KI-gestützte Malware-Erkennung. Deep Learning nutzt neuronale Netze mit vielen Schichten, um komplexe Repräsentationen wie Gesichtszüge oder Sprachmuster zu erlernen – die technische Basis für Deepfakes. Large Language Models (LLMs) wie GPT-4, Claude oder Gemini generieren und verarbeiten natürlichsprachlichen Text mit menschlicher Qualität – und können von Angreifenden wie Verteidigenden gleichermaßen eingesetzt werden.

Die duale Rolle von KI in der Cybersicherheit ist ihr zentrales Merkmal: Dieselben Fähigkeiten, die Unternehmen für die automatisierte Bedrohungserkennung nutzen, stehen auch Angreifenden zur Verfügung. Ein LLM, das überzeugende Berichte schreibt, kann ebenso überzeugenden Phishing-Text generieren. Ein Bildgenerator, der Marketingmaterial produziert, erzeugt auch Deepfakes. Diese Symmetrie bedeutet, dass Fortschritte in der KI-Forschung grundsätzlich beide Seiten stärken – wobei die Verteidigungsseite aufgrund regulatorischer, ethischer und infrastruktureller Einschränkungen oft langsamer adaptiert.

Die Transformerarchitektur, 2017 von Vaswani et al. (Google) in „Attention Is All You Need“ beschrieben, bildet das technische Fundament moderner LLMs. Transformer verarbeiten Text als Sequenzen von Token und berechnen für jedes Token seine Beziehung zu allen anderen Token im Kontext (Self-Attention). Dies ermöglicht ein tiefes sprachliches Verständnis, das ältere rekurrente Netze nicht erreichten. Für Angreifende relevant ist, dass Transformer-Modelle ohne weitere Feinabstimmung Texte in jedem Stil, für jeden Zweck und in jeder Sprache generieren können – und dass spezialisierte, sicherheitsfrei trainierte Varianten wie WormGPT im Darknet verfügbar sind.

Der aktuelle Reifegrad KI-gestützter Sicherheitstechnologien ist uneinheitlich: Für Anomalieerkennung und Mustererkennung bekannter Bedrohungen ist ML seit Jahren produktiv im Einsatz und gut validiert. Für generative Aufgaben wie Threat-Intelligence-Berichte, Phishing-Simulation oder Code-Analyse sind LLMs leistungsfähig, aber fehleranfällig. Sachverständige und Sicherheitsverantwortliche müssen KI-Ausgaben grundsätzlich als Entscheidungshilfe, nicht als Entscheidungsersatz betrachten – dies ist auch die Anforderung des EU AI Act für Hochrisiko-KI-Systeme.

KI-gestützte Angriffe

Automatisiertes Spear-Phishing ist die unmittelbarste und am weitesten verbreitete kriminelle Nutzung von LLMs. Traditionelles Spear-Phishing erforderte manuelle Recherche und individuelles Verfassen individuell zugeschnittener Täuschungstexte – ein zeitintensiver Prozess, der die Skalierbarkeit begrenzte. LLMs überwinden diese Schranke: Mit wenigen OSINT-Rohdaten (LinkedIn-Profil, Unternehmenswebseite, Pressemitteilungen) generieren sie überzeugend personalisierte E-Mails in Sekunden, fehlerfrei in jeder Sprache und im korrekten Stil des vermeintlichen Absenders. Business Email Compromise (BEC)-Attacken, die 2023 laut FBI-IC3-Bericht Schäden von 2,9 Milliarden US-Dollar verursachten, profitieren besonders von dieser Entwicklung.

Im Darknet verfügbare Werkzeuge wie WormGPT (2023, basierend auf dem Open-Source-Modell GPT-J, ohne Sicherheitsfilter) und FraudGPT (2023, auf kriminellen Marktplätzen angeboten) demonstrieren, dass Angreifende nicht auf kompromittierte kommerzielle Dienste angewiesen sind. Diese Modelle sind speziell für schadhafte Anwendungen feinabgestimmt: Erstellung von Malware-Code, Verfassen von Phishing-Templates, Generierung gefälschter Rechnungen und Anleitungen für Angriffstechniken – alles ohne die Sicherheitseinschränkungen kommerzieller LLMs. Zunehmend nutzen Angreifende auch lokal ausgeführte Open-Source-Modelle (Llama, Mistral), die vollständig offline und ohne Protokollierung betrieben werden können.

Voice Cloning und Deepfake-Audio haben einen qualitativen Sprung vollzogen, der klassische Verifikationsverfahren untergräbt. Mit wenigen Sekunden Audiomaterial (öffentliche Interviews, Sprachnachrichten, Teams-Aufnahmen) rekonstruieren Dienste wie ElevenLabs oder RVC (Retrieval-based Voice Conversion) eine stimmlich kaum unterscheidbare Klonversion. 2023 wurde ein Betrugsfall bekannt, bei dem Kriminelle per Deepfake-Audio den CFO eines britischen Unternehmens imitierten und 25 Millionen US-Dollar transferieren ließen – zunächst über einen Video-Call, der vollständig KI-generiert war. Für forensische Sachverständige bedeutet dies: Audio- und Videobeweise müssen künftig grundsätzlich auf Authentizität geprüft werden.

KI-assistierte Schwachstellensuche versetzt Angreifende in die Lage, Code-Repositorys, öffentlich verfügbare Binärdateien und API-Dokumentationen systematisch auf Schwachstellen zu analysieren. LLMs wie GPT-4 oder CodeLlama können C/C++-Code auf klassische Fehlerklassen wie Buffer Overflows, Use-After-Free oder Integer-Overflows untersuchen und Exploit-Code als ersten Ansatz generieren. Während professionelle Red-Teams diese Fähigkeiten für Penetrationstests nutzen, setzen opportunistisch vorgehende Angreifende KI ein, um das Zeitfenster zwischen CVE-Veröffentlichung und Patch-Deployment auszunutzen. Die CISA warnt in ihrer KEV-Datenbank regelmäßig vor aktiv ausgenutzten Schwachstellen, deren Exploitation-Zeitspanne sich durch KI-Assistenz messbar verkürzt hat.

Deepfakes: Technik, Erkennung & forensische Beweisführung

Deepfakes sind KI-generierte oder KI-manipulierte Bild-, Video- oder Audioinhalte, die reale Personen oder Situationen täuschend echt darstellen. Technisch entstanden Deepfakes zunächst durch Generative Adversarial Networks (GANs): Ein Generator erzeugt synthetische Inhalte, ein Diskriminator bewertet deren Authentizität – durch gegenseitiges Training erreichen beide Netze zunehmende Perfektion. Seit 2022 haben Diffusionsmodelle (Stable Diffusion, DALL-E 3, Midjourney) GANs für viele Anwendungen abgelöst: Sie iterieren ausgehend von Zufallsrauschen schrittweise in Richtung eines Zielbilds und erzeugen qualitativ hochwertigere, vielfältigere Ergebnisse mit weniger typischen Artefakten.

Für die forensische Erkennung sind spezifische Artefaktmuster relevant: GAN-generierte Bilder zeigen oft inkonsistente Texturen an Haaransätzen, Ohrringen, Zähnen und Augenbrauen sowie Farbanomalien im Übergang zwischen Gesicht und Hintergrund. Deepfake-Videos weisen häufig unnatürliche Blinzelfrequenzen (GANs wurden ursprünglich mit Bildern offener Augen trainiert) und Inkonsistenzen in der Gesichtsbewegung auf – besonders bei schnellen Kopfbewegungen oder extremen Seitenansichten. Die Lippensynchronisation ist bei schlechten Deepfakes erkennbar desynchronisiert. Biometrische Liveness-Signale wie rPPG (Remote Photoplethysmography, die subtile Farbveränderung der Haut durch den Herzschlag) sind für aktuelle Generatoren kaum realistisch zu simulieren – Intel FakeCatcher nutzt genau dieses Merkmal mit bis zu 96 % Erkennungsrate.

Für die forensische Praxis stehen mehrere Werkzeuge zur Verfügung: Hive Moderation AI und Sensity AI bieten API-basierte Deepfake-Erkennung für Video und Bild. Das C2PA-Protokoll (Coalition for Content Provenance and Authenticity), getragen von Adobe, Microsoft, Intel, Sony und anderen, definiert einen kryptographischen Standard für die Herkunftskette digitaler Inhalte: Medien werden mit einem signierten Manifest versehen, das Kamera, Bearbeitungshistorie und Aufnahmezeitpunkt dokumentiert und gegen Manipulation schützt. Führende Kamerahersteller (Canon, Nikon, Sony) und Plattformen (LinkedIn, YouTube) integrieren C2PA schrittweise.

Rechtliche Einordnung im deutschen Recht: Deepfakes können verschiedene Straftatbestände erfüllen, je nach Inhalt und Verwendungszweck. §201a StGB (Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen) erfasst auch täuschend echte Montagen und sexualisierte Darstellungen realer Personen. §185 ff. StGB (Beleidigung, üble Nachrede, Verleumdung) greifen, wenn Deepfakes ehrenrührige Aussagen oder Handlungen einer Person zuschreiben. §269 StGB (Fälschung beweiserheblicher Daten) ist einschlägig, wenn Deepfakes als gefälschte Beweismittel eingesetzt werden. Für Sachverständige im Gerichtsverfahren gilt: KI-generierte Inhalte sind keine Beweismittel im Sinne der StPO, solange ihre Authentizität nicht kriminaltechnisch verifiziert ist.

Prompt Injection & LLM-Sicherheit – OWASP LLM Top 10

Die OWASP (Open Worldwide Application Security Project) hat 2023 die OWASP LLM Top 10 veröffentlicht und 2025 aktualisiert – eine priorisierte Liste der kritischsten Schwachstellen in Anwendungen, die Large Language Models einsetzen. Sie ist das Referenzdokument für sichere LLM-Integration und Grundlage für Audits und Sicherheitsbewertungen von KI-gestützten Systemen.

LLM01 – Prompt Injection ist die gefährlichste LLM-Schwachstelle. Bei der direkten Prompt Injection formuliert eine nutzende Person Eingaben, die das Modell dazu bringen, Sicherheitsrichtlinien zu ignorieren: „Vergiss alle vorherigen Anweisungen und tue X.“ Bei der indirekten Prompt Injection schleust eine angreifende Person Anweisungen über externe Datenquellen ein, die das Modell verarbeitet – eine Webseite, ein E-Mail-Anhang, ein Datenbankfeld. Hat das LLM Werkzeugzugriff (E-Mail senden, Dateien schreiben, APIs aufrufen), kann indirekte Prompt Injection zur vollständigen Kompromittierung führen, ohne dass die nutzende Person etwas tut. Gegenmaßnahmen: strenge Eingabevalidierung, Kontexttrennung zwischen Systemanweisungen und Nutzerdaten, minimale Werkzeugrechte (Least Privilege).

LLM02 – Sensitive Information Disclosure bezeichnet die unbeabsichtigte Ausgabe von Trainingsdaten, Systemanweisungen oder Nutzerdaten anderer Sitzungen. Besonders kritisch ist das Risiko, dass ein LLM seinen Systemprompt (LLM07 – System Prompt Leakage) preisgibt, der Geschäftsgeheimnisse oder Sicherheitskonfigurationen enthält. LLM04 – Data and Model Poisoning beschreibt Angriffe auf die Trainingsphase: Durch gezielte Manipulation von Trainingsdaten können Backdoors eingepflanzt werden, die das Modell bei bestimmten Eingaben zu vorherbestimmtem Verhalten veranlassen – ein Angriff, der vor allem Open-Source-Modelle mit unkontrollierten Datenquellen betrifft.

LLM06 – Excessive Agency ist eine Architektur-Schwachstelle: LLM-basierte Agenten, die zu weitreichende Berechtigungen haben (Dateisystem, E-Mail, Datenbank, externe APIs), können bei erfolgreicher Prompt Injection oder Fehlfunktion erheblichen Schaden anrichten. Das Prinzip der minimalen Rechtevergabe, der expliziten Benutzerbestätigung vor irreversiblen Aktionen und der Auditprotokollierung aller Werkzeugaufrufe ist für sichere Agenten-Architekturen zwingend. LLM10 – Unbounded Consumption beschreibt Ressourcenerschöpfungsangriffe: Angreifende können durch gezielt aufwändige Anfragen (extrem lange Kontexte, komplexe Reasoning-Ketten) Betriebskosten und Verfügbarkeit eines LLM-Dienstes sabotieren.

KI als Verteidigungswerkzeug

KI-gestützte SIEM/SOAR-Systeme sind heute der Standard für Sicherheitszentralen (Security Operations Centers, SOCs). Traditionelle regelbasierte SIEM-Systeme erzeugten durch statische Schwellenwerte tausende Fehlalarme täglich – eine Flut, die Analysten lähmte. ML-basierte Systeme wie Microsoft Sentinel (mit Fusion-Engine und UEBA), Splunk Enterprise Security (mit ML Toolkit) oder Google Chronicle korrelieren Ereignisse über tausende Quellen, erkennen kontextuell anomale Muster und priorisieren Incidents nach Risikogehalt. Die SOAR-Komponente (Security Orchestration, Automation and Response) automatisiert Standardmaßnahmen wie Kontosperrung, Geräte-Isolation oder Ticket-Erstellung, sodass Analysten sich auf echte Bedrohungen konzentrieren können.

User and Entity Behavior Analytics (UEBA) ist eine ML-Kernanwendung für Insider-Threat-Erkennung und die Aufdeckung kompromittierter Konten. UEBA-Systeme erstellen Baseline-Profile für jedes Benutzerkonto und jede Entität (Server, Anwendung) und erkennen statistisch signifikante Abweichungen: ungewöhnliche Arbeitszeiten, atypische Ressourcenzugriffe, abnormale Datenmengen-Transfers, Zugriffe aus geografisch inkonsistenten Standorten. Die Kombination mehrerer schwacher Signale (die einzeln keinen Alarm auslösen würden) zu einem Risikowert ermöglicht die Früherkennung von Angriffen, die regelbasierte Systeme übersehen. Privileged Access Management (PAM)-Lösungen integrieren UEBA, um Missbrauch privilegierter Konten – das häufigste Muster bei Insider-Angriffen – in Echtzeit zu erkennen.

Moderne Endpoint Detection and Response (EDR)-Plattformen nutzen ML für heuristische Verhaltensanalyse statt signaturbasierter Erkennung. CrowdStrike Falcon mit Charlotte AI, SentinelOne Singularity und Microsoft Defender for Endpoint analysieren Prozessketten, Speicherzugriffsmuster und Netzwerkverhalten in Echtzeit und identifizieren Living-off-the-Land-Angriffe (Missbrauch legitimer Systemwerkzeuge), fileless Malware und Zero-Day-Exploits ohne bekannte Signaturen. Die KI-Komponente ermöglicht dabei eine Erkennungstiefe, die kein signaturbasiertes System erreicht – mit dem inhärenten Risiko, dass auch False-Positive-Raten steigen und Adversarial-ML-Angriffe gezielt auf die Erkennungslogik abzielen können.

KI-gestützte Penetrationstests und Red-Team-Automatisierung ermöglichen eine kontinuierliche Sicherheitsbewertung. Werkzeuge wie Pentera, AttackIQ oder Open-Source-Projekte wie AutoAttacker (LLM-gesteuerter Penetrationstest-Agent) simulieren Angriffsketten aus der Perspektive realer Angreifender. LLMs analysieren gefundene Schwachstellen, entwickeln Exploit-Strategien und dokumentieren Angriffspfade – automatisch und kontinuierlich. Für Organisationen, die keine vollzeitige Red-Team-Kapazität unterhalten können, bieten solche Systeme eine pragmatische Alternative zur periodischen manuellen Bewertung.

EU AI Act – Rechtlicher Rahmen für KI in der Sicherheit

Die EU-Verordnung (EU) 2024/1689 – der EU AI Act – ist am 1. August 2024 in Kraft getreten und gilt stufenweise: Verbotene KI-Praktiken sind seit dem 2. Februar 2025 untersagt; Regelungen für Allzweck-KI-Modelle gelten ab August 2025; alle Anforderungen an Hochrisiko-KI-Systeme greifen ab 2. August 2026. Der EU AI Act ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz und gilt für alle, die KI-Systeme in der EU entwickeln, in Verkehr bringen oder betreiben – unabhängig vom Sitz des Unternehmens.

Das Kernprinzip ist eine risikobasierte Klassifizierung in vier Stufen. Inakzeptables Risiko (Art. 5) umfasst ausnahmslos verbotene Anwendungen: biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum durch Strafverfolgungsbehörden (mit engen Ausnahmen), soziales Scoring durch staatliche Stellen, manipulative KI-Systeme, die Schwächen Einzelner ausnutzen, und KI-gestützte Vorhersagen für Straftaten ohne konkreten Anlass. Hochrisiko-KI (Art. 6, Anhang III) unterliegt strengen Anforderungen; dazu zählen KI-Systeme in der Strafverfolgung (Lügendetektoren, Täterprofilierung, Beweismittelauswertung), im Bildungswesen, in der Personalentscheidung, in kritischer Infrastruktur und in der Grenzkontrolle.

Für Hochrisiko-KI-Systeme schreibt der EU AI Act konkrete technische und organisatorische Maßnahmen vor: ein Risikomanagementsystem über den gesamten Lebenszyklus, Datenqualitätsanforderungen für Trainingsdatensätze, technische Dokumentation und Protokollierungspflichten, eine transparente Nutzerinformation, menschliche Aufsicht mit Override-Möglichkeit sowie Genauigkeit, Robustheit und Cybersicherheit als Designanforderungen. Hersteller müssen eine Konformitätsbewertung durchführen und ihr System bei der zuständigen nationalen Behörde registrieren. In Deutschland wird die KI-Regulierung gemeinsam von Bundesnetzagentur und Datenschutzbehörden vollzogen.

Allzweck-KI-Modelle (GPAI) wie GPT-4, Gemini oder Claude unterliegen nach Art. 51–56 besonderen Transparenzpflichten: technische Dokumentation, Zusammenfassung der Trainingsdaten, Einhaltung des EU-Urheberrechts. Modelle mit besonders hoher Leistungsfähigkeit (Trainingsaufwand über 10²⁵ FLOP als indikativer Schwellenwert) gelten als systemisch risikoreich und müssen erweiterte Sicherheitsbewertungen, Adversarial-Testing und einen Incident-Response-Mechanismus nachweisen. Für KI in der forensischen Informatik – etwa automatisierte Auswertungssysteme für digitale Beweismittel – ist die Einstufung als Hochrisiko-KI zu erwarten, was Sachverständige und Strafverfolgungsbehörden unmittelbar betrifft.

KI-Forensik: Analyse KI-generierter Inhalte

Die forensische Analyse KI-generierter Inhalte ist eine neue Kerndisziplin, die durch die massenhafte Verbreitung generativer KI entstand. Im Mittelpunkt steht die Frage der Attribution: Wurde ein Text, ein Bild, ein Video oder eine Audiodatei von einem Menschen oder einer KI erzeugt – und wenn von einer KI, von welchem Modell? Diese Frage ist in Strafverfahren, Urheberrechtsfragen, Falschinformations-Ermittlungen und Beweismittelprüfungen von unmittelbarer rechtlicher Relevanz.

Für KI-generierte Texte existieren statistische Erkennungsansätze: LLMs erzeugen Text mit einer charakteristisch geringen Perplexität (die Ausgaben sind sehr vorhersehbar gemessen an den Wahrscheinlichkeitsverteilungen des gleichen oder ähnlicher Modelle) und einem hohen Burstiness-Kontrast (Menschen schreiben in variableren Satzrhythmen als KI). Werkzeuge wie GPTZero, Originality.ai und Copyleaks nutzen diese Merkmale, erreichen aber keine forensisch belastbare Sicherheit: Falsch-Positiv-Raten von 5–20 % schließen KI-Detektion als alleinige Beweisgrundlage vor Gericht aus. Die Kombination mit stilometrischen Methoden, inhaltlicher Analyse und Metadatenprüfung ist unerlässlich.

Metadaten sind forensisch oft ergiebiger als Inhaltsanalyse: Bilder aus gängigen KI-Generatoren wie Stable Diffusion, DALL-E oder Midjourney enthalten im EXIF-Bereich oder in der IDAT-Struktur häufig charakteristische Software-Marker, Modell-Kennungen oder fehlen gänzlich typische Kameradaten (Brennweite, ISO, Seriennummer). PDF-Dateien und Office-Dokumente können Erstellungswerkzeug, Spracheinstellungen und Revisionsdaten aufweisen, die auf KI-Nutzung hindeuten. Das C2PA-Protokoll bietet mit kryptographisch signierten Content Credentials einen zukunftssicheren Standard, setzt aber voraus, dass der gesamte Entstehungs- und Verteilungsweg die Metadaten erhält – was bei Social-Media-Weitergabe oft nicht der Fall ist.

Für das Sachverständigengutachten gilt: KI-Detektion ist derzeit kein forensisches Absolutbeweis-Verfahren, sondern ein Indizien-Instrument. Ein Gutachten zur Authentizität digitaler Inhalte muss die eingesetzten Werkzeuge und ihre bekannten Fehlerquoten benennen, die Analysemethodik transparent darlegen und das Ergebnis als Wahrscheinlichkeitsaussage formulieren – nicht als Gewissheit. Dies entspricht dem wissenschaftlichen Standard der Forensik (vgl. BSI TR-03138 RESISCAN für Dokumentenprüfung) und verhindert eine Überbewertung von KI-Erkennungsergebnissen in Gerichtsverfahren. Die Rechtsgrundlage für Beweissicherung bei KI-gestützten Delikten richtet sich nach §§ 94 ff. StPO (Beschlagnahme), ggf. in Verbindung mit §§ 202a, 303a und 303b StGB.