Agentische KI außer Kontrolle:: Agentische KI entfesselt neue Cyber-Gewalt
Eine der ersten großangelegten Cyberattacken mit nahezu vollständig autonomer Künstlicher Intelligenz markiert einen Wendepunkt der digitalen Sicherheit. Der mutmaßlich aus China gesteuerte Angriff traf 30 Unternehmen und Regierungsbehörden weltweit – und wurde zu 80 bis 90 Prozent von KI-Systemen ausgeführt. Das Ereignis zeigt eindrucksvoll, wie schmal der Grat zwischen Innovation und Kontrollverlust geworden ist.
Die Angriffe liefen nahezu ohne menschliches Eingreifen ab: Nur vier bis sechs Mal pro Ziel war eine Intervention notwendig. Die Systeme führten den Großteil der Aktivitäten selbstständig aus – automatisiert, skalierbar und präzise. Ein Team aus Menschen hätte dafür erheblich mehr Zeit benötigt.
Anthropic, dessen Technologien für den Großangriff genutzt wurden, beschreibt das Ausmaß als „schieres Volumen an Arbeit“, das durch die KI erst möglich wurde.
Die Attacke macht deutlich, dass automatisierte Angriffsoperationen kein Zukunftsszenario mehr sind. Sie bilden bereits heute eine operative Realität, in der Angreifer hochleistungsfähige KI nutzen, um Aufgaben auszuführen, die früher enorme personelle Ressourcen erfordert hätten.
Vertrauen wird zur entscheidenden Währung
David Colwell, Vice President Artificial Intelligence and Machine Learning bei Tricentis, sieht darin ein unmissverständliches Warnsignal. Im Zeitalter agentischer KI werde Vertrauen zur härtesten und wichtigsten Währung im Geschäftsleben.
Die gleiche Technologie, die im Marketing Kundinnen und Kunden identifiziert oder personalisierte Kommunikation erstellt, kann ebenso effektiv für Social Engineering genutzt werden. Werkzeuge, die Webinhalte analysieren oder Unternehmensprofile erstellen, lassen sich ohne technische Hürden für gezielte Phishing-Kampagnen einsetzen.
Der entscheidende Schwachpunkt: Autonome KI-Systeme besitzen keine Intention. Sie folgen Anweisungen – ohne moralische oder sicherheitsrelevante Bewertung.
Risiken beherrschbar machen: KI als unzuverlässiger Kommunikationspartner
Colwell fordert deshalb ein fundamentales Umdenken. Unternehmen müssen KI-Anfragen künftig so behandeln wie automatisierte Web-Crawler: als grundsätzlich nicht vertrauenswürdige Entitäten, die potenziell Sicherheitslücken suchen.
Damit rückt ein zentraler Faktor in den Fokus: Transparenz. Ein KI-System, dessen Aktivitäten nicht nachvollzogen werden können, ist nicht kontrollierbar – und damit nicht sicher. „Vertrauen entsteht durch klare Nachvollziehbarkeit, überprüfbare Abläufe und präzise Governance-Regeln. Ohne diese Grundlagen bleibt jede Interaktion mit autonomen Systemen ein Risiko“, so Colwell.
Tricentis: Qualitäts- und Sicherheitssicherung in Zeiten autonomer KI
Tricentis zählt zu den weltweit wichtigen Playern im Bereich Continuous Testing und Quality Engineering. Das vollständig codelose, KI-gestützte Testportfolio ermöglicht kontinuierliche und automatisierte Qualitätssicherung – ein Ansatz, der im Zeitalter autonomer Angriffssysteme zunehmend an Bedeutung gewinnt.
Denn je autonomer Software und KI handeln, desto wichtiger wird es, Qualität, Sicherheit und Governance von Grund auf abzusichern. Nur so können Unternehmen das Potenzial agentischer KI nutzen, ohne ihrer Willkür ausgeliefert zu sein.
„Im Zeitalter von Agentic AI ist Vertrauen die härteste Währung, die einzige, auf die es im Geschäftsleben ankommt“, so David Colwell, Vice President Artificial Intelligence and Machine Learning bei Tricentis.
