Company News

KI-Ausbrüche bei LLMs

Von Christian Koch, Senior Vice President Cybersecurity IoT/OT, Innovations & Business Development bei NTT DATA DACH

Wenn ein KI-Modell angeblich aus seiner Sandbox ausbricht, eigenständig andere Systeme attackiert und sich der menschlichen Kontrolle entzieht, ist eine Reaktion vorprogrammiert: Schlagzeilen. Ob OpenAI damit in erster Linie ein mediales Ausrufezeichen gegen die Konkurrenz setzen wollte oder tatsächlich einen Blick auf die nächste Evolutionsstufe autonomer Systeme gewährt hat, ist aus Security-Sicht allerdings fast nebensächlich. Denn bei Anthropic ereignete sich ein ähnlich kritischer Vorfall unbemerkt über Monate hinweg. Die eigentliche Botschaft liegt nämlich nicht in spektakulären Einzelfällen, sondern in der Architektur, die sich gerade etabliert.

Wir statten KI mit Werkzeugen, Berechtigungen und Schnittstellen aus. Aus Chatbots werden Agenten, aus Agenten autonome Akteure, die Entscheidungen treffen und Aktionen ausführen. Ob ein Agent eine Pizza bestellt oder versucht, sich lateral durch ein Unternehmensnetz zu bewegen, ist technisch zunächst dasselbe. Lediglich das Ziel unterscheidet sich. Genau deshalb ist der Vorfall so realistisch – nicht unbedingt in seiner medialen Dramaturgie, wohl aber in seiner grundsätzlichen Entwicklung. Die nächste Generation von Cyberangriffen wird nicht mehr ausschließlich aus statischer Malware bestehen, die auf Befehle eines Command-and-Control-Servers wartet. Wir werden zunehmend autonome Agenten sehen, die sich innerhalb kompromittierter Infrastrukturen eigenständig orientieren, Informationen zusammentragen, Angriffspfade bewerten und den vielversprechendsten Weg zum nächsten Ziel wählen. Sie müssen dabei nicht perfekt sein, sie müssen lediglich eine einzige verwertbare Schwachstelle finden.

Ein menschlicher Pentester mag in komplexen Situationen noch überlegen sein, denn KI-Agenten stoßen heute bei modernen Authentifizierungsverfahren oder Aufgaben, die umfangreiche Kontextinformationen und erhebliche Rechenressourcen erfordern, durchausaus an ihre Grenzen. Doch in puncto Geschwindigkeit ist die KI unschlagbar. Sie kennt zudem keine Bürozeiten, keine Pausen und auch keinen Urlaub, sie arbeitet einfach. Das ist der eigentliche Weckruf für Unternehmen. Wer seine Security Operations noch immer nach dem 8×5-Modell organisiert oder auf Legacy-Architekturen vertraut, verteidigt sich gegen Bedrohungsszenarien, die es so künftig nicht mehr geben wird und die es eigentlich schon heute so nicht mehr gibt.

Resilienz entsteht nicht durch einzelne Sicherheitsprodukte, sondern durch eine Architektur, die Zero Trust konsequent über Clients, Rechenzentren, Cloud-Umgebungen und Produktionsstandorte hinweg umsetzt. Quick Wins wie Virtual Patching können bekannte Angriffsvektoren kurzfristig schließen. Langfristig entscheidet jedoch die Fähigkeit, Angriffe permanent zu erschweren, Bewegungsfreiheit einzuschränken und Identitäten sowie Kommunikationspfade kontinuierlich zu überprüfen. Nur dann können unsere Sicherheitsarchitekturen mit autonomen Angreifern Schritt halten.

Über NTT DATA GROUP

NTT DATA ist in der DACH-Region ein Teil der NTT DATA Unternehmensgruppe. Mit einem jährlichen globalen Umsatz von über 30 Milliarden US-Dollar ist sie ein führender Anbieter von Business- und Technologie-Services, die 75 Prozent der Fortune Global 100 zu ihren Kunden zählt. Gruppenweit engagiert sich NTT DATA für den Erfolg seiner Kunden und ist bestrebt, die Gesellschaft mit verantwortungsvollen Innovationen positiv zu verändern. Sie ist einer der weltweit führenden Anbieter von KI und digitalen Infrastrukturen. Außerdem bietet sie einzigartige Fähigkeiten bei der Enterprise-Skalierung von KI, Cloud, Security, Konnektivität, Rechenzentren und Application Services. Mit Beratung und Branchenlösungen unterstützt NTT DATA Unternehmen und die Gesellschaft dabei, sicher und nachhaltig in eine digitale Zukunft aufzubrechen. Als Global Top Employer verfügt die Unternehmensgruppe über Expertinnen und Experten in mehr als 70 Ländern. Darüber hinaus bietet sie Kunden ein robustes Ökosystem mit Innovationszentren sowie etablierten Partnern und Start-ups. NTT DATA ist Teil der NTT Group, die jedes Jahr mehr als 3 Milliarden US-Dollar in Forschung und Entwicklung investiert. Weitere Informationen unter nttdata.com

Pressekontakt für die DACH-Region​

NTT DATA Deutschland SE
Cornelia Spitzer, BA
Press Manager DE | AT | CH
Tel.: +43 664 8847 8903
E-Mail: cornelia.spitzer@nttdata.com

PR-COM
Christina Haslbeck
Senior Account Manager
Tel.: +49-89-59997-702
E-Mail: christina.haslbeck@pr-com.de