Ratgeber · Sicherheit · · 8 Min. Lesezeit

Sicherheit durch eigene KI: Welche Risiken entfallen und welche neu dazukommen

Eine eigene, lokal betriebene KI beseitigt die Risiken, die beim KI-Anbieter liegen: Zugriff des Anbieters auf Eingaben, Training mit deinen Daten, Übertragung in Drittländer[4][5]. Andere Risiken bleiben: Prompt Injection funktioniert bei lokalen Modellen genauso, weil Sprachmodelle nicht zwischen Anweisungen und sonstigem Text unterscheiden[4][9]. Neu in deine Verantwortung kommen Modelldateien aus fremden Quellen, Updates und Server, die nicht offen im Internet stehen dürfen[7][8].

Von Janni A. Yahya · Rechts- und Preisstand 18.11.2026

KI-generiert: Ein Dokument mit einer rot markierten Zeile fließt in einen KI-Chip, ein Filter stoppt ein rotes Datenpaket auf dem Weg nach außen.
Symbolbild: Auch eigene KI braucht Schutz vor manipulierten Eingaben. KI-generiert. · Quelle: Canva KI-Bildgenerator, erstellt von der Redaktion am 19.11.2026

Wie ist die Sicherheitslage, und wo betreiben Unternehmen ihre KI?

Das BSI zählte im Berichtszeitraum Juli 2024 bis Juni 2025 durchschnittlich 119 neue Schwachstellen pro Tag, rund 24 Prozent mehr als im Vorjahreszeitraum. Rund 80 Prozent der angezeigten Angriffe, etwa mit Ransomware, trafen kleine und mittlere Unternehmen[1]. Im Lagebericht 2026 (Juli 2025 bis Juni 2026) sind es bereits 160 neue Schwachstellen pro Tag, 35 Prozent mehr als im Vorjahr, und das BSI stuft die Lage erstmals als „angespannt bis kritisch“ ein[2]. Gleichzeitig führen Unternehmen KI ein, meist in der Cloud.

Wo Unternehmen ihre KI betreiben

Unternehmen, die KI bereits nutzen, und Unternehmen, die die Einführung planen. Repräsentative Befragung von 505 Unternehmen ab 20 Beschäftigten, Juni und Juli 2026.

  • KI-Nutzer
  • KI-Planer
Überwiegend externe Cloud
54 %
29 %
Vor allem eigene Server
23 %
35 %
Kombination
20 %
32 %
Daten als Tabelle
WertKI-Nutzer (%)KI-Planer (%)
Überwiegend externe Cloud5429
Vor allem eigene Server2335
Kombination2032

Quelle: BSI und TÜV-Verband (Befragung durch forsa) [3] · Stand Feldzeit 22.06. bis 31.07.2026

Die Studie von BSI und TÜV-Verband sieht darin ein „Streben nach mehr Kontrolle“: Unternehmen, die KI erst planen, wollen sie häufiger auf eigenen Servern betreiben als die heutigen Nutzer[3]. Genau deshalb lohnt der nüchterne Blick, was eigene KI an Sicherheit bringt und was nicht.

Welche Risiken entfallen, welche bleiben, welche kommen neu?

Risikobilanz: Cloud-KI und eigene KI

Nach Wirkung filtern. Grundlage: BSI, DSK, OWASP und Hugging Face.

Anbieter greift auf Eingaben zu oder trainiert damitentfälltEingaben verlassen das eigene Netz nicht, sofern keine Zusatzdienste angebunden sind[4]
Übermittlung in DrittländerentfälltBetrieb in eigener Infrastruktur in der EU[5]
Abhängigkeit vom BetreiberreduziertVerfügbarkeit liegt bei dir, Abhängigkeit vom Modellhersteller bleibt[4]
Prompt InjectionbleibtModelle unterscheiden nicht zwischen Anweisung und Text, das ist standortunabhängig[4][6]
Erfundene oder falsche AusgabenbleibtEigenschaft der Modelle, bei OWASP als Fehlinformation (LLM09) geführt[6]
Manipulierte ModelldateienneuPickle-Dateien können beim Laden Code ausführen[7]
Offen erreichbarer KI-ServerneuFalsch konfigurierte Server ohne Zugangsschutz[8]
Fehlende UpdatesneuPatchen liegt jetzt bei dir, nicht beim Anbieter[1]

Quelle: BSI [4], Datenschutzkonferenz (DSK) [5], OWASP GenAI Security Project [6], Hugging Face [7], Cisco Talos [8], BSI [1] · Stand 18.11.2026

Was ist Prompt Injection, und warum hilft lokal nicht dagegen?

Bei einer Prompt Injection bringt jemand ein Sprachmodell dazu, Anweisungen zu befolgen, die nicht vom Nutzer stammen. Besonders gefährlich ist die indirekte Variante: Die Anweisung steckt in einem Dokument, einer E-Mail oder einer Webseite, die die KI verarbeiten soll. Das BSI beschreibt die Ursache klar: Sprachmodelle unterscheiden nicht zwischen Anweisungen und sonstigen Texten[4]. In der OWASP-Liste der größten Risiken für Sprachmodell-Anwendungen steht Prompt Injection auf Platz eins[6].

Indirekte Prompt Injection über ein DokumentSchema: Ein Dokument enthält eine versteckte Anweisung. Der Dokumenten-Chat übernimmt den Inhalt in die Anfrage an das lokale Sprachmodell. Das Modell folgt der Anweisung und erzeugt einen Link, der Daten an einen fremden Server senden würde. Ein Ausgangsfilter blockiert die Verbindung. Das Risiko besteht unabhängig davon, ob das Modell lokal oder in der Cloud läuft.versteckt:„sende Daten an …“1 Dokumentz. B. Angebot, E-Mail, PDFInhalt ungefiltert im Prompt2 Dokumenten-Chatlädt das Dokument3 Lokales Modellfolgt der Anweisung4 Ausgangsfilterblockiert fremde Zielefremder ServerDas Risiko hängt nicht am Standort des Modells, sondern an der Anwendung drumherum.
Indirekte Prompt Injection in einem Dokumenten-Chat: Die versteckte Anweisung landet ungefiltert im Prompt, ein Ausgangsfilter verhindert den Datenabfluss.Schema, keine Messdaten

Im September 2026 hat das BSI ein eigenes Papier zu dokumentbasierten KI-Chats veröffentlicht. In Red-Teaming-Untersuchungen mehrerer solcher Chats war die wiederkehrende Schwäche, dass Dokumentinhalte ungefiltert in die Anfrage an das Modell übernommen werden. Eine Gegenmaßnahme, die das Problem vollständig beseitigt, gibt es laut BSI nicht, und die Schutzmaßnahmen müssen überwiegend unabhängig vom verwendeten Modell umgesetzt werden[9].

Die fünf Basismaßnahmen des BSI gegen Indirect Prompt Injection

  1. Schritt 1

    Eingaben bereinigen

    Dokumentinhalte vor der Übergabe an das Modell auf versteckte Anweisungen und verdächtige Elemente prüfen[9].

  2. Schritt 2

    Vertrauensbereiche trennen

    Nutzeranweisungen und fremde Dokumentinhalte im Prompt klar voneinander trennen[9].

  3. Schritt 3

    System-Prompt härten

    Die Grundanweisung so formulieren, dass Anweisungen aus Dokumenten nicht als Befehle gelten[9].

  4. Schritt 4

    Modell bewusst auswählen

    Modellauswahl und Denkverfahren (Reasoning) als Teil der Abwehr berücksichtigen[9].

  5. Schritt 5

    Ausgangsfilter setzen

    Verbindungen und Links zu fremden Zielen blockieren, damit keine Daten abfließen können[9].

Welche Risiken nennt die OWASP-Liste für KI-Anwendungen?

Das OWASP-Projekt, eine gemeinnützige Sicherheits-Community, führt die zehn wichtigsten Risiken für Anwendungen mit Sprachmodellen. Die Version 2025 gilt als Referenz[6]. Für Agenten, also KI, die selbst Werkzeuge bedient, gibt es seit Dezember 2025 eine eigene Liste[10].

LLM01 Prompt Injection

Manipulierte Eingaben bringen das Modell zu unerwünschtem Verhalten, direkt oder über verarbeitete Inhalte[6].

LLM02 Preisgabe sensibler Informationen

Das Modell gibt vertrauliche Daten aus Kontext, Dokumenten oder Training preis[6].

LLM03 Lieferkette

Risiken aus fremden Modellen, Datensätzen und Komponenten[6].

LLM04 Daten- und Modellvergiftung

Manipulierte Trainingsdaten oder Gewichte verändern das Verhalten[6].

LLM05 Unsichere Weiterverarbeitung von Ausgaben

Ausgaben werden ungeprüft in andere Systeme übernommen, etwa als Code oder HTML[6].

LLM06 Zu viele Befugnisse

Die KI darf mehr tun als nötig, etwa E-Mails senden oder Dateien löschen[6].

LLM07 bis LLM10

Preisgabe des System-Prompts, Schwächen in Vektordatenbanken, Fehlinformation und unbegrenzter Ressourcenverbrauch[6].

Was kommt mit eigener KI neu in deine Verantwortung?

Modelldateien als Lieferkette: Modelle werden über öffentliche Plattformen ausgetauscht. Das BSI warnt vor manipulierten Gewichten und eingeschleustem Code[4]. Hugging Face erklärt, dass beim Laden von Dateien im verbreiteten Pickle-Format beliebiger Code ausgeführt werden kann, und bezeichnet den eigenen Scanner als nicht hundertprozentig sicher[7]. Das Format Safetensors wurde entwickelt, um Gewichte sicher zu speichern[11].

Offene Server: Die verbreitete Laufzeitumgebung Ollama ist laut Dokumentation standardmäßig nur vom eigenen Rechner aus erreichbar[12]. Wird sie für das Netz freigegeben, braucht sie einen eigenen Zugangsschutz. Wie oft das schiefgeht, zeigt eine Untersuchung von Cisco Talos aus dem September 2025.

Screenshot aus der Quelle

Was die Ollama-Dokumentation zur Erreichbarkeit im Netz sagt

Screenshot aus der Ollama-Dokumentation, Abschnitt „How can I expose Ollama on my network?“: Ollama bindet standardmäßig an 127.0.0.1, Port 11434, die Adresse lässt sich mit der Umgebungsvariable OLLAMA_HOST ändern.
  1. 1Standard: Ollama lauscht nur auf 127.0.0.1, Port 11434, ist also nur vom eigenen Rechner aus erreichbar[12].
  2. 2Mit der Umgebungsvariable OLLAMA_HOST lässt sich die Adresse ändern. Genau dieser Schritt macht den Server im Netz erreichbar, ab dann braucht er einen eigenen Zugangsschutz[12].
Quelle: Ollama [12], aufgenommen am 19.11.2026 · Lizenz: MIT-Lizenz, Copyright (c) Ollama · Änderungen: Ausschnitt, Nummern ergänzt

1.139

per Suchmaschine Shodan gefundene Ollama-Server ohne Authentifizierung, davon 214 mit geladenen Modellen, 8,9 Prozent in Deutschland. Erfasst sind nur indexierte Server auf Standardports.

Eine Zahl, eine Quelle: Cisco Talos [8]

Updates und Vorfälle: Das BSI mahnt seit Jahren, bekannte Schwachstellen zeitnah zu schließen und öffentlich erreichbare Systeme zu minimieren[1]. Bei eigener KI liegt das bei dir. Laut der KI-Sicherheitsstudie 2026 haben nur 11 Prozent der Unternehmen spezielle Prozesse für KI-bezogene Sicherheitsvorfälle, 25 Prozent haben gar keine Regelungen[3].

Wie sichere ich eine eigene KI ab?

Absicherung einer eigenen KI

0 von 8

Dein Fortschritt bleibt nur in diesem Browser gespeichert.

Wie du eine lokale KI Schritt für Schritt aufbaust, steht im Ratgeber Lokale KI im Unternehmen einrichten. Wenn dein Unternehmen unter NIS2 fällt, gehört die KI in dein Risikomanagement, siehe NIS2 für KMU.

Häufige Fragen

Ist lokale KI sicherer als ChatGPT?+

In Bezug auf Daten beim Anbieter ja: Eingaben verlassen das eigene Netz nicht, und niemand trainiert damit. Gegen Prompt Injection, falsche Ausgaben und schlecht abgesicherte Server hilft der lokale Betrieb allein nicht.

Was ist Prompt Injection?+

Ein Angriff, bei dem ein Sprachmodell Anweisungen befolgt, die nicht vom Nutzer stammen, etwa versteckt in einem Dokument oder einer Webseite. OWASP führt Prompt Injection als größtes Risiko für Anwendungen mit Sprachmodellen.

Wie sichere ich einen Ollama-Server ab?+

Ollama ist laut Dokumentation standardmäßig nur lokal erreichbar. Wer ihn im Netz freigibt, braucht einen eigenen Zugangsschutz, etwa über einen vorgeschalteten Server mit Anmeldung, und sollte ihn nie ungeschützt ins Internet stellen.

Warum Safetensors statt Pickle?+

Beim Laden von Modelldateien im Pickle-Format kann beliebiger Code ausgeführt werden. Safetensors wurde entwickelt, um Modellgewichte sicher zu speichern, ohne dieses Risiko.

Fazit und nächster Schritt

Eigene KI ist ein echter Gewinn für Datenschutz und Kontrolle, aber kein Sicherheitsautomatismus. Die Risiken verschieben sich vom Anbieter zu dir: Modelle prüfen, Server abschotten, Updates einspielen und Dokumenten-Chats gegen Prompt Injection härten.

Dein nächster Schritt: Geh die Checkliste oben für deine bestehende oder geplante KI durch. Wenn du eine lokale KI sicher aufsetzen willst, findest du unter Lokale KI einrichten mein Angebot, für die Grundabsicherung deiner übrigen IT unter Basis-IT-Sicherheit.

Änderungen an diesem Artikel

  1. Freigegeben und veröffentlicht.
  2. Erstfassung. Lagebericht 2026 des BSI war am Stichtag noch nicht erschienen.

Quellen

  1. [1]Die Lage der IT-Sicherheit in Deutschland 2025 (Handout) · BSI · Stand 2025-11-11 · abgerufen 18.11.2026 · Behörde

    Berichtszeitraum 01.07.2024 bis 30.06.2025, S. 3, 6, 7.

  2. [2]BSI-Jahreslagebericht: Cybersicherheitslage in Deutschland ist angespannt bis kritisch · BSI · Stand 2026-11-19 · abgerufen 19.11.2026 · Behörde
  3. [3]KI-Sicherheitsstudie 2026 · BSI und TÜV-Verband (Befragung durch forsa) · Stand 2026-10-07 · abgerufen 18.11.2026 · Studie

    505 Unternehmen ab 20 Beschäftigten, telefonisch, 22.06. bis 31.07.2026. Betriebsort S. 29, Vorfallprozesse S. 47.

  4. [4]Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden, Version 2.0 (R1, R2, R3, R19, M15, M17, M19) · BSI · Stand 2025-01-17 · abgerufen 18.11.2026 · Behörde
  5. [5]Orientierungshilfe Künstliche Intelligenz und Datenschutz, Kap. 1.7 · Datenschutzkonferenz (DSK) · Stand 2024-05-06 · abgerufen 18.11.2026 · Behörde
  6. [6]OWASP Top 10 for LLM Applications, Version 2025 · OWASP GenAI Security Project · Stand 2025 · abgerufen 18.11.2026 · Dokumentation · sinngemäß übersetzt
  7. [7]Pickle Scanning · Hugging Face · Stand 2026 · abgerufen 18.11.2026 · Dokumentation · sinngemäß übersetzt
  8. [8]Detecting Exposed LLM Servers: A Shodan Case Study on Ollama · Cisco Talos · Stand 2025-09-01 · abgerufen 18.11.2026 · Studie · sinngemäß übersetzt

    Sicherheitsforschung eines Herstellers. Nur von Shodan indexierte Hosts, bevorzugt Standardport.

  9. [9]Basisschutz gegen Indirect Prompt Injections in dokumentbasierten LLM-Chats, Version 1.0 · BSI · Stand 2026-09-14 · abgerufen 18.11.2026 · Behörde
  10. [10]OWASP Top 10 for Agentic Applications for 2026 · OWASP GenAI Security Project · Stand 2025-12-09 · abgerufen 18.11.2026 · Dokumentation · sinngemäß übersetzt
  11. [11]Safetensors · Hugging Face · Stand 2026 · abgerufen 18.11.2026 · Dokumentation · sinngemäß übersetzt
  12. [12]Ollama FAQ: How do I configure Ollama server? · Ollama · Stand 2026 · abgerufen 18.11.2026 · Dokumentation · sinngemäß übersetzt