Sicherheit in Zeiten von KI: Was anders ist, und wie Sie sicher beginnen

Wo wir heute stehen

KI ist in den Unternehmen angekommen, oft schneller als die Regeln dafür. Im Allianz Risk Barometer 2026 erscheinen KI-Risiken in der Schweiz erstmals im Ranking und gleich auf Platz 2, direkt nach Cyberangriffen. Die Zahlen aus der Praxis zeigen, warum:

• 86 Prozent der Unternehmen weltweit hatten im letzten Jahr einen sicherheitsrelevanten Vorfall mit KI-Bezug. Nur 4 Prozent gelten als wirklich gut vorbereitet (Cisco, 2025).
• 13 Prozent der von IBM untersuchten Unternehmen hatten einen Sicherheitsvorfall an eigenen KI-Modellen oder -Anwendungen. 97 Prozent davon fehlten grundlegende Zugriffskontrollen für KI.
• Jeder fünfte Datenvorfall ging auf Schatten-KI zurück, also auf Werkzeuge ohne Freigabe. Solche Vorfälle kosteten im Schnitt rund 670’000 US-Dollar mehr (IBM, 2025).

Privat möchte kaum jemand mehr auf KI verzichten, und am Arbeitsplatz auch nicht. Wo ein Werkzeug spürbar hilft, wird Vorsicht schnell vergessen.

Warum KI andere Sicherheitsmassnahmen braucht

Klassische Software folgt festen Regeln. KI verhält sich grundlegend anders:

Klassische Software	KI
Folgt vordefinierten Regeln	Lernt aus Daten und entscheidet teilweise selbstständig
Verarbeitet strukturierte Daten	Verarbeitet Texte, Bilder und Dokumente aller Art
Liefert bei gleicher Eingabe dasselbe Ergebnis	Arbeitet mit Wahrscheinlichkeiten, Ergebnisse können variieren
Bleibt ohne Update unverändert	Verändert sich mit neuen Daten und Modellen
Versteht Kontext nur, wenn er programmiert ist	Versteht Sprache und Zusammenhänge, auch versteckte Anweisungen

KI verhält sich wie ein kenntnisreicher, aber unerfahrener Mitarbeiter. Sie braucht klare Regeln, begrenzte Befugnisse und Aufsicht.

Wo die Schwachstellen liegen

Die meisten Lücken sind organisatorisch, nicht technisch.

In der Führung: Niemand ist klar für KI-Risiken verantwortlich. Tempo geht vor Kontrolle. Budgets und Nutzen sind unklar, rechtliche Unsicherheit und uneinheitliche Standards bremsen. Oft fehlt das Know-how, und die Abhängigkeit von Anbietern wird unterschätzt. Nicht selten überlässt die Geschäftsleitung das Thema den Mitarbeitenden oder schiebt es auf.

Bei den Mitarbeitenden: Schatten-KI, also private oder nicht freigegebene Werkzeuge mit Firmendaten. Wenig Wissen über KI-spezifische Risiken. Keine Richtlinie und keine Schulung, an der man sich orientieren könnte.

Die Risiken heute und in drei bis fünf Jahren

Heute	In drei bis fünf Jahren
KI-gestütztes Phishing und Deepfake-Betrug	Koordinierte Angriffe durch autonome KI-Agenten
Prompt Injection: versteckte Anweisungen in Dokumenten, E-Mails oder Webseiten manipulieren Chatbots und Assistenten	Deepfake-Betrug in grossem Massstab
Datenabfluss über KI-Wissensdatenbanken	Angriffe auf physische Systeme mit KI (Roboter, IoT)
Zu weit berechtigte KI-Werkzeuge und -Agenten	Unüberwachte interne Modelle und Agenten
Gestohlene API-Schlüssel und kompromittierte Lieferketten	Manipulierte Open-Source-Modelle
Manipulierte Trainings- oder Wissensdaten	Verstösse gegen neue KI-Regulierung

Wie real Deepfakes bereits sind, zeigt der Fall des Ingenieurunternehmens Arup: 2024 überwies ein Mitarbeiter in Hongkong rund 25 Millionen US-Dollar, nachdem er in einer Videokonferenz mit vermeintlichem Finanzchef und Kollegen sass. Alle Teilnehmenden waren mit KI erzeugt.

Auch die Fachwelt sieht die Schwerpunkte so: In den Top 10 der Sicherheitsrisiken für Sprachmodell-Anwendungen von OWASP stehen Prompt Injection und die Preisgabe sensibler Informationen auf den Plätzen 1 und 2, zu weit gehende Befugnisse von KI-Systemen auf Platz 6.

Nicht nur Daten schützen, auch die Ergebnisse

Viele Unternehmen sichern den Zugriff auf Daten, aber nicht, was die KI daraus macht. Dafür gibt es inzwischen erprobte Schutzschichten, sogenannte Guardrails:

• Inhaltsfilter, die schädliche oder unzulässige Antworten erkennen
• Erkennung von Prompt Injection und Manipulationsversuchen
• Prüfung der Quellenbindung, damit Antworten auf freigegebenen Dokumenten beruhen
• Regeln für den gesamten Ablauf, von der Eingabe über den Datenabruf bis zur Ausgabe

Die grossen Anbieter und Open-Source-Projekte stellen solche Bausteine bereit. Wichtig ist, sie bewusst einzuplanen, statt sie nachträglich anzuhängen.

Die Bausteine einer sicheren KI-Nutzung

Bereich	Ziel	Wichtigste Massnahmen
Governance	Klare Verantwortung und Grenzen	Verantwortliche Person, KI-Richtlinie, Risikoregister
Sichere Architektur	Missbrauch und Abfluss verhindern	Minimale Berechtigungen, Trennung von Daten und Modellen
Datenschutz	Sensible Informationen schützen	Daten klassifizieren und verschlüsseln, vor der Eingabe bereinigen
Menschen und Kultur	Nutzer zur Verteidigungslinie machen	Schulung, klare Do’s und Don’ts, Alternativen zu Schatten-KI
Anbieter und Werkzeuge	Vertrauenswürdiges Umfeld	Anbieter prüfen, KI-Klauseln in Verträgen
Überwachung und Tests	Probleme früh erkennen	Nutzung protokollieren, regelmässig testen, Notfallabläufe
Zukunftsfähigkeit	Vorbereitet auf das, was kommt	Regulierung verfolgen, regelmässig prüfen

Fünf erste Schritte

1. Verantwortung festlegen. Eine Person ist für KI-Risiken verantwortlich, unterstützt von einem kleinen Team aus IT, Fachbereich und Datenschutz.
2. Grundregeln verabschieden. Eine kurze KI-Richtlinie legt fest, welche Werkzeuge erlaubt sind und wofür.
3. Daten schützen. Bestimmen Sie, welche Daten sensibel sind, und was nie in ein KI-Werkzeug gehört.
4. Vertrauenswürdige Werkzeuge wählen. Unternehmensversionen mit klaren Vertragsbedingungen zur Datennutzung statt privater Konten.
5. Schulen und überwachen. Mitarbeitende kennen die Risiken, die Nutzung wird protokolliert, Auffälligkeiten werden früh erkannt.

Und wenn Sie externe Fachleute für KI-Vorhaben beiziehen: Achten Sie darauf, dass sie Sicherheit von Anfang an ansprechen und Ihr bestehendes Sicherheitskonzept um die KI-spezifischen Punkte erweitern können. Sicherheit muss eingebaut sein, nicht aufgesetzt.