Sicher vor und durch KI
KI-Systeme sind inzwischen so leistungsfähig, dass sie IT-Systeme eigenständig angreifen und infiltrieren können. Was bisher Expertenwissen und viel Handarbeit erforderte, übernehmen heute Agenten, die selbstständig Schwachstellen finden und Angriffsketten durchspielen. Diese Fähigkeit ist eine Bedrohung und eine Chance zugleich, je nachdem, wer sie zuerst einsetzt.
Gefahren durch KI
Modernste LLMs können durch riesige Kontextfenster inzwischen Stunden bis Tage vollautonom arbeiten. Ausgeklügelte Orchestratoren erlauben es den KI-Agenten, zu planen, Hypothesen aufzustellen, und parallel verschiedenste Wege auszuprobieren. Dabei interagieren die KIs nicht wie gewohnt, mit einem Menschen durch ein Chatinterface, sondern via Tool-Calling mit digitalen Werkzeugen, schreiben Code und erhalten Feedback durch die angeschlossenen Systeme. Zudem steigen die Fähigkeiten der KI-Systeme gerade im IT und Cybersecurity-Bereich sehr stark, sodass sie inzwischen in der Lage sind, lange Angriffsketten auszuführen und sogar neue Schwachstellen zu identifizieren.
Sicherheit durch KI
Angriffe auf IT-Infrastrukturen sind kein neues Risiko. Da mit genügend Zeit und Ressourcen dieselben Angriffsmethoden von Menschen durchgeführt werden, müssen alle kritischen IT-Systeme regelmäßig geprüft werden. Penetrationstests sind eines der wirksamsten Mittel der Sicherheitsbeurteilung, dabei werden IT-Systeme testweise angegriffen, um Schwachstellen aufzudecken. Allerdings sind diese zeitintensiv, expertenabhängig und schlecht skalierbar. Die neuen Fähigkeiten der LLMs erlauben es aber nun, solche Sicherheitstests zu großen Teilen automatisiert durchzuführen, und sich so gegen maschinelle wie menschliche Angreifer zu schützen.
Hand in Hand
Wir glauben: KI beschleunigt das Testen, ersetzt aber nicht das Urteilsvermögen erfahrener Fachleute. Die beste Lösung ist eine Kooperation mit einem Human-in-the-Loop: Die KI übernimmt die (Massen-)Ausführung, Menschen kontrollieren Scope, Strategie und die Behebung jedes Befunds.
Was nun?
Auch wenn IT-Angriffe nicht neu sind, durch KI werden sie einfacher und günstiger. Die Frage ist, wer die KI zuerst auf ein System ansetzt: Angreifer oder Verteidigerin. Wer eigene Systeme selbst mit KI-gestützten Pentests prüft, schließt Lücken, bevor jemand sie ausnutzt. Und weil sich die KI-Welt rasend weiterentwickelt, reicht ein einmaliger Test nicht. Was heute sicher ist, kann es morgen nicht mehr sein, wenn neue Modelle und Angriffstechniken entstehen. Nur wer regelmäßig testet, bleibt sicher.
Wir testen IT- und KI-Systeme, bevor Angreifer es tun. Unsere Expert:innen kombinieren menschliches Urteilsvermögen mit autonomen KI-Agenten und decken so gezielt die Schwachstellen auf, die durch KI-gestützte Angriffe besonders gefährlich werden.
Wir setzen auf eine breite Auswahl führender KI-Modelle und wählen jeweils das leistungsstärkste Werkzeug für die jeweilige Aufgabe. Statt punktueller Einzelprüfungen setzen wir auf regelmäßige, automatisierte Tests.
Dabei arbeiten wir selbstverständlich ausschließlich mit europäischer Infrastruktur und sind vollständig DSGVO-konform.
Leistungen
- LLM-Pentesting von IT-Infrastruktur
- Schwachstellenanalyse von Programmcode mit KI
- KI-basiertes Security-Monitoring
- Awareness-Schulungen
- EU-AI-Act-Schulungen
