// KI-Sicherheitscheck

KI-Sicherheitscheck für Chatbots & KI-Assistenten

Chatbots und KI-Assistenten beantworten Kundenanfragen, durchsuchen interne Dokumente und lösen Aktionen aus. Dadurch entsteht eine neue Angriffsfläche, die sich anders verhält als klassische Webanwendungen. Wir prüfen diese Angriffsfläche strukturiert — ausschließlich in einem klar freigegebenen Prüfbereich.

Was ist die KI-Angriffsfläche?

Ein KI-Assistent folgt natürlicher Sprache. Eingaben von Nutzern oder Inhalte aus Dokumenten und Webseiten können Anweisungen enthalten, die das System nicht von legitimen Befehlen unterscheidet. So lassen sich Schutzregeln umgehen, interne Vorgaben offenlegen oder unbeabsichtigt Daten preisgeben — ohne klassische Lücke im Code.

Was wir prüfen

Prompt-Injection und Umgehung der vorgesehenen Schutzregeln
Unbeabsichtigte Preisgabe von Daten oder Kontextinhalten
Offenlegung interner System-Anweisungen (System-Prompt)
Missbrauch angebundener Funktionen, Tools und Schnittstellen
Robustheit gegenüber irreführenden oder schädlichen Eingaben
Unsichere Verarbeitung von Ausgaben (aktive Inhalte wie HTML oder Skript in Antworten)
Erfundene oder falsche Angaben (Halluzinationen / Fehlinformation)

Geprüft wird mit mehreren unabhängigen Testverfahren; auffällige Befunde werden mehrstufig plausibilisiert, um Fehlalarme zu reduzieren. Befunde werden entlang OWASP LLM Top 10 und etablierter KI-Bedrohungsmodelle eingeordnet.

Unsere Grenzen

Aktive Tests nur mit klarer, schriftlicher Freigabe
Nur im vereinbarten Prüfbereich — keine Tests an fremden Systemen
Datenschutzbewusst und nachvollziehbar dokumentiert
Keine Erfolgs- oder Sicherheitsgarantie, keine Zertifizierung

Was Sie erhalten

Nachvollziehbarer Bericht mit Befunden und Schweregrad
Konkrete, priorisierte Empfehlungen zur Absicherung
Einordnung entlang der OWASP LLM Top 10
Auf Wunsch vertrauliche Besprechung der Ergebnisse
Auf Wunsch: Governance-Bewertung der Modell- und Datenintegrität (Herkunft, Nachweise, Artefaktprüfung) sowie Einordnung entlang relevanter EU-Anforderungen (EU AI Act, DSGVO)

Vertraulich anfragen

Beschreiben Sie kurz Ihren Chatbot oder Assistenten. Umfang und Freigabe klären wir gemeinsam — diskret und unverbindlich.

Kontakt aufnehmen

Orientiert an OWASP LLM Top 10. Aktive Prüfungen erfolgen ausschließlich im autorisierten Prüfbereich.