KI verwandelt das Internet
in einen Dunklen Wald

Der erste Frontier-AI-Trends-Report des britischen AI Security Institute dokumentiert eine rasche Beschleunigung der KI-Fähigkeiten im Cyberbereich: die besten Modelle lösen Cyberangriffsaufgaben auf Lehrlingsniveau heute in 50 % der Fälle — gegenüber unter 9 % Ende 2023. 2025 testete das AISI das erste Modell, das Angriffsaufgaben auf Expertenniveau bewältigt, für die Menschen typischerweise mehr als zehn Jahre Erfahrung benötigen. Die Dauer der Cyberangriffsaufgaben, die KI ohne menschliche Hilfe bewältigen kann, verdoppelt sich etwa alle acht Monate — von unter zehn Minuten Anfang 2023 auf über eine Stunde Mitte 2025.

Claude Code Security von Anthropic — angetrieben von Opus 4.6 — liest und analysiert Codebasen wie ein erfahrener Sicherheitsforscher: Es verfolgt Datenflüsse, versteht Komponenteninteraktionen und deckt komplexe Logiklücken auf, die Mustererkennung vollständig übersieht. In internen Tests an Open-Source-Software, die in Unternehmensumgebungen und kritischer Infrastruktur läuft, fand es Schwachstellen, die jahrzehntelang unentdeckt geblieben waren. Die Märkte reagierten sofort: CrowdStrike −8 %, Cloudflare −8,1 %, Zscaler −5,5 %, Okta −9,2 %.

Der ARTEMIS-KI-Agent von Stanford übertraf in einer realen Unternehmensumgebung 9 von 10 professionellen Penetrationstestern und deckte Schwachstellen mit 82 % Trefferquote auf. Mit 18 USD/Stunde gegenüber 60 USD/Stunde für Menschen sind KI-Hacker nun „gefährlich nah" daran, menschliche Fähigkeiten zu erreichen — und zu übertreffen.

KI-Systeme können für neu veröffentlichte CVEs in nur 10–15 Minuten und zu rund 1 USD pro Exploit automatisch funktionierende Exploits erzeugen und komprimieren damit das klassische Patch-Fenster von Wochen auf Minuten. Alle erzeugten Exploits sind in ihrer Forschungsdatenbank öffentlich verfügbar.

Der Sicherheitsforscher Sean Heelan entdeckte mit dem o3-Modell von OpenAI die Schwachstelle CVE-2025-37899 — eine remote ausnutzbare Use-after-free-Zero-Day-Lücke in der SMB-Implementierung des Linux-Kernels (ksmbd) — ohne Gerüste, ohne Agenten-Framework, nur mit der o3-API.

Zum ersten Mal seit zehn Jahren hat der automatisierte Datenverkehr die menschliche Aktivität übertroffen (51 % vs. 49 %). Bösartige Bots machen inzwischen 37 % des gesamten Internetverkehrs aus, gegenüber 32 % im Vorjahr. KI senkt die Einstiegshürde — einfache Bot-Angriffe sind von 40 % auf 45 % gestiegen, während 44 % des fortgeschrittenen Bot-Verkehrs auf APIs abzielt. Kontoübernahmen nahmen um 40 % zu, und KI-gestützte Bots werden ausweichender und intelligenter als je zuvor.

Die Zusammenarbeit zwischen Googles Project Zero und DeepMind entdeckte mithilfe eines KI-Agenten die erste real ausnutzbare Schwachstelle (Stack-Buffer-Underflow in SQLite) — noch bevor sie in einer offiziellen Version auftauchte.

Forschungsergebnisse der UIUC zeigen, dass GPT-4 bei gegebenen CVE-Beschreibungen 87 % der realen One-Day-Schwachstellen autonom ausnutzen kann — gegenüber 0 % bei anderen Modellen und Open-Source-Scannern wie ZAP und Metasploit.

Cloudflare beschuldigte Perplexity AI, Techniken des „Stealth Crawling" zu nutzen, um robots.txt-Anweisungen zu umgehen und auf Inhalte von Websites zuzugreifen, die KI-Scraping ausdrücklich untersagen.

Reddit reichte eine Klage gegen Anthropic ein und behauptete, das Unternehmen habe automatisierte Bots eingesetzt, um Reddit-Nutzerdaten ohne Zustimmung zu sammeln und damit Claude zu trainieren – unter Verletzung der Nutzungsbedingungen und der Privatsphäre der Nutzer.

Untersuchungen ergaben, dass OpenAIs Modelle während des Trainings urheberrechtlich geschützte Inhalte „memoriert" haben könnten – was ernste rechtliche und ethische Fragen zu den Quellen und zur Einwilligung bei KI-Trainingsdaten aufwirft.