Sicherheit für KI: Ein strategisches Framework zur Schließung der KI-Exposure-Lücke

Mit zunehmender KI-Nutzung stehen CISOs vor einer doppelten Herausforderung: Es gilt, Innovationen voranzutreiben und parallel dazu die Risiken einer rasant wachsenden Angriffsfläche einzudämmen. Das fünfstufige Framework von Tenable zur Absicherung von künstlicher Intelligenz bietet einen systematischen Ansatz, der KI-Sicherheitsrisiken reduziert, während Ihr Unternehmen im Eiltempo darauf hinarbeitet, die mit KI verbundenen Produktivitätsvorteile zu realisieren. 

Im Zuge der Transformation von Unternehmen durch künstliche Intelligenz setzen sich Sicherheitsverantwortliche (zu denen ich auch zähle) mit der Frage auseinander, wie die daraus entstehenden Sicherheitsrisiken möglichst effektiv gemanagt werden können.

Die Herausforderung besteht darin, dass KI inzwischen praktisch überall in Unternehmen eingebettet ist – in Produktivitätstools von Mitarbeitern, SaaS-Plattformen, Entwicklerbibliotheken, Cloud-Services, APIs und Web-Apps. Das Ergebnis: Teams sehen sich mit einer immer größeren KI-Exposure-Lücke konfrontiert; eine riesige und weitgehend unsichtbare Angriffsfläche, zu deren Überwachung herkömmliche Sicherheitstools nicht konzipiert wurden. 

Erschwerend kommt hinzu, dass sich KI-Risiken häufig nicht isoliert auf ein einzelnes Asset beschränken lassen. Vielmehr gehen diese Risiken aus einer Reihe von miteinander vernetzten Elementen hervor (z. B. Anwendungen, Infrastruktur, Identitäten und Daten), aus denen im Verbund Sicherheitslücken – sogenannte Exposures – entstehen. Ein Beispiel zur Veranschaulichung:

Angenommen, ein Mitarbeiter nutzt einen genehmigten KI-Chatbot zur Bearbeitung von technischen Support-Anfragen, der sich auf Amazon Bedrock-Agents stützt. Diese Agents verfügen über erhöhte Berechtigungen für den Zugriff auf sensible interne Systeme wie ERP- oder CRM-Tools. Verschafft sich ein Bedrohungsakteur über eine ungepatchte Schwachstelle auf dem Mitarbeiter-Laptop Zugriff auf den Agent, kann er diesen zur Kompromittierung von sensiblen Daten nutzen – und schon entpuppt sich die scheinbar sichere Nutzung eines genehmigten KI-Tools als folgenschwere Exposure.

Datenschutz erweist sich in den KI-unterstützten Arbeitsumgebungen der heutigen Zeit als immer schwierigere Aufgabe, da jede der unzähligen Interaktionen mit KI-Assets (z. B. sämtliche Prompts, Datei-Uploads, generierten Antworten, Integrationen und Konfigurationen) geistiges Eigentum, Kundendaten und vertrauliche Pläne in Gefahr bringen kann.

Wie also lässt sich diese komplexe neue Angriffsfläche unter Kontrolle bringen, die bei zunehmender KI-Nutzung in Unternehmen ungehindert wächst? Hier ist ein strategisches Framework, das ich zur Steuerung, Erfassung und Absicherung von KI implementiert habe – wo auch immer diese in Erscheinung tritt und Risiken für Unternehmen hervorruft: 

Strategisches Framework: 5 Schritte zur Absicherung von KI in Unternehmen

1. Ausschuss für KI-Governance, KI-Framework und Richtlinie zur akzeptablen KI-Nutzung festlegen

Zur Absicherung von KI müssen zunächst klare Erwartungen festgelegt werden, was die akzeptable Nutzung durch Mitarbeiter betrifft. Legen Sie eine Richtlinie zur akzeptablen KI-Nutzung fest, die:

• eine Liste genehmigter und nicht genehmigter KI-Tools enthält
• angemessene und unangemessene geschäftliche Anwendungsfälle definiert
• darlegt, welche Arten von Daten mit LLMs geteilt und nicht geteilt werden dürfen
• Regeln für den Umgang mit Daten vorschreibt
• Urheberrechtsgesetzen Rechnung trägt
• Konsequenzen bei Richtlinienverstößen darlegt

Basierend auf der Richtlinie zur akzeptablen KI-Nutzung Ihres Unternehmens können Sie Kontrollen implementieren, um deren Einhaltung durchzusetzen und zu überwachen.

2. KI auf der gesamten Angriffsfläche erfassen

Bei Gesprächen über die Absicherung von KI schildern mir andere CISOs häufig, dass Erkennung und Erfassung von KI zu ihren größten Herausforderungen zählen. Und ich kann das verstehen: KI ist überall, lässt sich aber oft nur sehr schwer finden – zum Teil deshalb, weil die Präsenz von KI weit über zentral verwaltete, deutlich sichtbare Systeme hinausgeht. 

Als Sicherheitsverantwortliche dürfen wir die folgenden Aspekte nicht außer Acht lassen:

• KI-Assets, Agents, Plugins, Browsererweiterungen und Workloads – und zwar unabhängig davon, ob sie...
  • in der Cloud oder On-Prem ausgeführt werden
  • intern oder extern zugänglich sind
  • genehmigt oder nicht genehmigt wurden
• In Vergessenheit geratene KI-Testbereitstellungen
• In Endgeräte und Anwendungen eingebettete KI-Tools
• Sämtliche KI-Software, Bibliotheken, Modelle und Services
• Öffentlich zugängliche KI-Services, LLM-APIs (Large Language Model) sowie KI-Chatbots auf Endgeräten und in Cloud-Anwendungen

Ihre vorhandenen Lösungen für Data Loss Prevention (DLP), Cloud Access Security Broker (CASB) und Cloud Security Posture Management (CSPM) können als guter erster Ausgangspunkt zur Erfassung von KI-Assets dienen. Doch eine ganzheitliche Erfassung erfordert spezialisierte Discovery-Tools, denn aufgrund ihrer nichtdeterministischen Beschaffenheit hebelt künstliche Intelligenz regelbasierte Sicherheitsvorkehrungen aus. Darüber hinaus sind individuelle Erkennungsfunktionen erforderlich, um eingebettete KI-Tools und KI-Bibliotheken zu identifizieren und zu verstehen, wie KI-Systeme zusammenwirken, um Sicherheitslücken zu verursachen.

Mit einem kontinuierlichen und vollständigen Einblick in die KI-Nutzung in Ihrem Unternehmen wissen Sie ganz genau, welche Workloads und Infrastrukturen abgesichert werden müssen, und können damit beginnen, die gesamte KI-Exposure Ihres Unternehmens zu bewerten und spezifische Behebungsmaßnahmen entsprechend zu priorisieren.

3. KI-Workloads und KI-Agents absichern

KI-Workloads sind engmaschig miteinander vernetzt und oftmals in hohem Maße fehlkonfiguriert oder mit zu weitreichenden Berechtigungen versehen. Daher geht es in diesem Schritt um die proaktive Absicherung der KI-Infrastruktur sowie die Härtung von KI-Workloads, bevor Angreifer sie ausnutzen können. Wenn Entwickler in Ihrem Unternehmen beispielsweise KI-fähige Anwendungen in der Cloud erstellen, sollten Sie sicherstellen, dass diese Cloud-Infrastruktur auch abgesichert ist. 

Effektive Schutzvorkehrungen erfordern Fähigkeiten, um:

• Fehlkonfigurationen und riskante Konfigurationen in cloudbasierten KI-Workloads zu identifizieren
• Schwachstellen zu erkennen, die Modelle, Agents, Daten oder APIs möglicherweise unbefugten Zugriffen aussetzen
• eine identitätsbasierte Exposure-Reduzierung zu implementieren, da KI stark auf nicht-menschlichen Identitäten basiert
• überprivilegierte Dienstkonten, Rollen und Maschinenidentitäten zu identifizieren, die von KI-Workflows genutzt werden, und Least-Privilege-Zugriff streng durchzusetzen
• potenziellen Angriffspfaden zwischen KI-Assets und KI-Workloads auf den Grund zu gehen, die unter Umständen geschäftskritische Systeme beeinträchtigen oder zu sensiblen Daten führen
• unberechenbare oder kompromittierte KI-Agents schnell in kontrollierten Umgebungen zu isolieren, um die potenziellen Auswirkungen etwaiger Sicherheitsverletzungen zu minimieren

Auf dieses spezifische Thema – Absicherung von KI-Workloads und KI-Agents – werde ich in einem bereits geplanten Blogbeitrag noch näher eingehen. In der Zwischenzeit können Sie sich ein Bild davon machen, wie Identitätsschwächen und Infrastrukturmängeln zusammenwirken, um kritische Sicherheitslücken hervorzurufen, indem Sie eine tiefgreifende Risikoanalyse Ihres KI-Stacks durchführen. Basierend auf diesen Erkenntnissen können Sie Ihren Sicherheitsteams dann handlungsorientierte Playbooks zur Verfügung stellen, die Umgebungen stärker absichern und sicherstellen, dass Services auf sicheren, resilienten und validierten Architekturen ausgeführt werden.

4. KI-Nutzung und KI-Interaktionen bewerten

Dieser Schritt erfordert ein genaues Verständnis der Art und Weise, wie Mitarbeiter mit generativen KI-Tools und autonomen Agents interagieren, um sicherzustellen, dass sie nicht gegen die Richtlinie zur akzeptablen KI-Nutzung Ihres Unternehmens verstoßen. Es ist von entscheidender Bedeutung zu verstehen, wie Daten durch alle KI-Anwendungen fließen, und festzustellen, wo Sicherheitsrisiken entstehen. 

Hierzu ist ein detaillierter Einblick in folgende Fragestellungen und Aspekte erforderlich:

• Wer nutzt KI?
• Zu welchem Zweck wird KI genutzt?
• Wo haben riskantes Verhalten und Missbrauch ihren Ausgangspunkt?
• Welche Daten geben Mitarbeiter durch Prompts, Uploads oder automatisierte Maßnahmen an Dritte weiter?
• Versuche, die darauf abzielen, genehmigte KI-Tools per Jailbreak zu kompromittieren und bösartige Prompts einzubringen

Sichtbarkeit auf Prompt-Ebene in die KI-Nutzung der Mitarbeiter ermöglicht es Ihrem Sicherheitsteam, Richtlinienverstöße zu erkennen und sicheres KI-Verhalten zu stärken. Zudem versetzt sie Ihr Sicherheitsteam in die Lage, sensible Daten, einschließlich geistigen Eigentums und PII, zu identifizieren, die Mitarbeiter oder Agents über Prompts, Uploads und automatisierte Interaktionen mit KI-Tools teilen und die durch ein versehentliches Datenleck eine Gefährdung erzeugen könnten. Und nicht zuletzt kann Ihr Sicherheitsteam dank dieser Sich neue KI-spezifische Bedrohungen sowie Missbrauch erkennen und entsprechend darauf reagieren. Hierzu zählen beispielsweise Prompt-Injection-Versuche und weitere bösartige Anweisungen, die auf eine Manipulation von KI-Systemen ausgelegt sind. 

Ob es sich nun um die Erkennung eines bösartigen Tools handelt, das mit einem Microsoft Copilot-Agent verbunden ist, oder um einen Mitarbeiter, der KI für unangemessene Zwecke missbraucht, für die das Tool nicht vorgesehen ist (z. B. interne Personalentscheidungen) – Sie müssen schnell reagieren, um die Gefährdung zu beseitigen und eine sichere Nutzung zu gewährleisten.

5. KI-Sicherheitsrisiken im Kontext weiterer Sicherheitslücken analysieren

Zur Eindämmung von KI-Sicherheitsrisiken reicht es nicht aus, ungepatchte Schwachstellen in KI-Software, sicherheitsschwache Konfigurationen von KI-Systemen und überprivilegierte Agents in Isolation zu erkennen. Schließlich wird KI immer stärker in alle unsere Apps, Daten und Geschäftsprozesse integriert.

Die Eindämmung von KI-Sicherheitsrisiken erfordert einen einheitlichen, automatisierten Ansatz, mit dem kontextreiche KI-Sicherheitsdaten gesammelt und zusammen mit weiteren Exposure-Daten korreliert und analysiert werden – beispielsweise mit Daten zu öffentlich zugänglichen S3-Buckets, anfälligen Laptops oder verwaisten Konten mit Admin-Berechtigungen. Dieser Ansatz wird bei Tenable als „Exposure Management“ bezeichnet und ist innerhalb der Branche rapide auf dem Vormarsch. Mithilfe von Exposure Management können Sie proaktiv erkennen, wie Sicherheitsschwächen in Ihrer gesamten Umgebung zusammenwirken, um neue Angriffsflächen zu schaffen: hochriskante Angriffspfade, die zu den sensibelsten Systemen und Daten Ihres Unternehmens führen. 

Exposure Management zeigt Risiken darüber hinaus mit präzisem Kontext auf, einschließlich der spezifischen KI-Engine sowie der jeweiligen Benutzer und Sitzungen, um ein hochpräzises Problemmanagement und schnelle Reaktionsmaßnahmen zu ermöglichen. Hier geht darum zu verstehen, wie toxische Kombinationen von Risiken zusammenwirken, um unternehmerische Risiken zu schaffen. Eine Fehlkonfiguration von mittlerer Kritikalität in Amazon Bedrock könnte mit einem nicht abgesicherten LLM verbunden sein, das Agents übermäßige Zugriffsberechtigungen bereitstellt. Exposure Management erfordert dieses lückenlose Verständnis der gesamten Umgebung und Angriffsfläche.

KI-Innovation: Ein sicherer Weg in die Zukunft

Durch die rasche Integration von KI im gesamten Unternehmen ist eine komplexe, verflochtene Angriffsfläche entstanden, die sich mittels herkömmlicher Sicherheitskontrollen einfach nicht bewältigen lässt. Sicherheitsverantwortliche müssen von einem reaktiven, Tool-orientierten Ansatz zu einer proaktiven, einheitlichen Strategie übergehen, um die KI-Exposure-Lücke zu schließen.

Durch die Implementierung dieses fünfstufigen Frameworks können Sie eine resiliente Sicherheitslage schaffen, die sich im Gleichschritt mit KI-Technologie weiterentwickelt. Letzten Endes geht es bei effektivem Exposure Management nicht darum, Innovationen auszubremsen. Vielmehr müssen die notwendigen Leitplanken bereitgestellt werden, um zu gewährleisten, dass Ihr Unternehmen die Leistungsstärke von künstlicher Intelligenz auf sichere und zuverlässige Weise nutzen kann.