Künstliche Intelligenz unterstützt Unternehmen bei der Automatisierung von Prozessen und vielen anderen Aufgaben. Doch mit ihren wachsenden Fähigkeiten entstehen neue Sicherheitsrisiken. KI-Systeme erkennen nicht nur Schwachstellen in Netzwerken und Software, sondern nutzen diese unter bestimmten Voraussetzungen auch eigenständig aus. Wie weit diese Fähigkeiten bereits reichen, zeigen mehrere Vorfälle, die im Sommer 2026 bekannt wurden. Bei Sicherheitstests von OpenAI und Anthropic überschritten KI-Modelle unerwartet die Grenzen ihrer Testumgebungen. Damit rückt eine neue Frage in den Mittelpunkt: Was passiert, wenn KI-Systeme selbstständig sicherheitskritische Handlungen ausführen, die ihre Entwickler nicht vorgesehen haben?
Autonome KI-Agenten schaffen neue Angriffsflächen
Für Unternehmen ergeben sich durch KI-Agenten zahlreiche Möglichkeiten, twa indem sie Aufgaben eigenständig planen oder Programme ausführen. Gleichzeitig steigen dadurch die Sicherheitsanforderungen.
Erhalten KI-Agenten beispielsweise Zugriff auf interne Datenbanken, E-Mail-Systeme oder Entwicklungsumgebungen, können fehlerhafte Konfigurationen oder unerwartete Aktionen schwerwiegende Folgen haben. Vertrauliche Informationen könnten offengelegt oder Systeme unbeabsichtigt verändert werden.
Hinzu kommen sogenannte Prompt-Injection-Angriffe. Dabei versuchen Cyberkriminelle, KI-Systeme über manipulierte Webseiten, Dokumente oder andere Inhalte zu beeinflussen. Ein KI-Agent könnte darin versteckte Anweisungen („weißer Text auf weißem Grund”) fälschlicherweise als Teil seiner Aufgabe interpretieren und unerwünschte Aktionen ausführen. Zudem können KI-Systeme nicht immer zuverlässig zwischen Daten und Anweisungen unterscheiden. Für Unternehmen bedeutet das: Nicht nur klassische IT-Systeme, sondern auch KI-Anwendungen und ihre Schnittstellen müssen konsequent abgesichert werden.
Werden Cyberangriffe durch KI gefährlicher?
Die beschriebenen Vorfälle bedeuten nicht, dass jedes KI-System unkontrolliert sämtliche Sicherheitsmechanismen überwinden kann. Dennoch verdeutlichen sie, wie schnell sich ihre Fähigkeiten weiterentwickeln. Schon heute nutzen Cyberkriminelle künstliche Intelligenz, um Phishing-Nachrichten automatisiert und individualisiert zu erstellen. Zudem kommt KI zum Einsatz, um Informationen über potenzielle Opfer zu sammeln und auszuwerten oder um Angriffe vorzubereiten. Autonome KI-Agenten könnten künftig weitere Arbeitsschritte automatisieren und damit die Geschwindigkeit und Skalierbarkeit von Cyberangriffen erhöhen.
Für Unternehmen wächst dadurch der Druck, Sicherheitslücken – zum Beispiel die jüngst bekannt gewordene Lücke in der PHP-Programmiersprache – frühzeitig zu schließen und verdächtige Aktivitäten möglichst schnell zu erkennen. Je stärker Angriffe automatisiert werden, desto weniger Zeit bleibt Unternehmen möglicherweise, um wirksam zu reagieren.
Wie Unternehmen ihre Sicherheit stärken können
Die neuen Risiken erfordern keine vollständig neue Sicherheitsstrategie. Vielmehr müssen bewährte Schutzmaßnahmen konsequent auf KI-Anwendungen ausgeweitet werden. Besonders wichtig sind klar begrenzte und aufgabenbezogene Zugriffsrechte für KI-Agenten, sichere und isolierte Testumgebungen sowie menschliche Freigaben für kritische oder nicht rückgängig zu machende Aktionen. Unternehmen sollten zudem nachvollziehen können, welche Aufgaben KI-Systeme ausführen und auf welche Daten sie zugreifen. Eine weitere wichtige Maßnahme für mehr Sicherheit ist die Implementierung einer Zwei-Faktor-Authentifizierung für die Anmeldung bei Nutzerkonten.
Auch eine kontinuierliche Überwachung der IT-Infrastruktur gewinnt an Bedeutung. Moderne Sicherheitslösungen nutzen unter anderem KI und verhaltensbasierte Analysen, um verdächtige Aktivitäten frühzeitig zu identifizieren und zu beenden – zum Beispiel durch Managed Extended Detection and Response (MXDR) oder Extended Detection and Response (XDR). Entscheidend bleibt das Zusammenspiel von moderner Technologie, klaren Sicherheitsprozessen und menschlicher Expertise.
Fazit: KI braucht klare Sicherheitsgrenzen
Die aktuellen Vorfälle zeigen, dass mit den Fähigkeiten künstlicher Intelligenz auch die Anforderungen an die Cybersicherheit wachsen. Besonders autonome KI-Agenten werden zum Risiko, wenn sie weitreichende Berechtigungen erhalten und ihre Aktionen nicht ausreichend kontrolliert werden.
Für Unternehmen kommt es deshalb darauf an, KI-Systeme von Anfang an sicher zu gestalten, Zugriffsrechte zu begrenzen und ungewöhnliche Aktivitäten frühzeitig zu erkennen. Nicht die künstliche Intelligenz allein ist das Problem, sondern die Möglichkeiten, die ihr eingeräumt werden.
FAQ: Autonome KI und Cybersicherheit
Können KI-Systeme eigenständig Cyberangriffe durchführen?
Unter bestimmten Voraussetzungen können leistungsfähige KI-Agenten selbstständig Schwachstellen ausnutzen und auf fremde Systeme zugreifen. Entsprechende Fähigkeiten wurden dieses Jahr bei Tests beobachtet. Das bedeutet jedoch nicht, dass gewöhnliche KI-Anwendungen automatisch zu eigenständigen Cyberangriffen fähig sind.
Was unterscheidet einen KI-Agenten von einem Chatbot?
Während Chatbots hauptsächlich Antworten und Inhalte erzeugen, können KI-Agenten eigenständig Aufgaben planen, Werkzeuge einsetzen und mit anderen IT-Systemen interagieren. Dadurch entstehen zusätzliche Sicherheitsrisiken.
Was ist eine Prompt Injection?
Bei einer Prompt Injection versuchen Angreifer, KI-Systeme durch manipulierte Inhalte zu beeinflussen. Ziel ist es, die KI von ihrer eigentlichen Aufgabe abzubringen und unerwünschte Aktionen auszulösen.
Wie können Unternehmen KI-Agenten absichern?
Wichtig sind begrenzte Zugriffsrechte, die Überwachung ausgeführter Aktionen, sichere Testumgebungen und menschliche Freigaben für kritische Vorgänge. KI-Anwendungen sollten außerdem in das bestehende IT-Sicherheitskonzept integriert werden.
