Deep Dive: KI, die weiß, was sie wem verraten darf – sichere Sprachmodelle für das Unternehmenswissen
Worum geht's?
Der Beitrag stellt das Forschungsprojekt SISWIS vor. Ziel ist ein Sprachmodell, das internes Unternehmenswissen nutzbar macht und gleichzeitig berücksichtigt, welche Informationen eine Person aufgrund ihrer Rolle und ihres Nutzungskontexts tatsächlich sehen darf.
Was bringt es?
Unternehmen können internes Wissen über natürliche Sprache zugänglich machen, ohne Zugriffsgrenzen und sensible Informationen aus dem Blick zu verlieren. Dadurch werden Wissenssuche und Assistenzsysteme auch für Bereiche interessant, in denen Geschäftsgeheimnisse, personenbezogene Daten oder unterschiedliche Rollenrechte eine große Rolle spielen.
Was haben wir gelernt?
- Zugriffsschutz darf nicht nur über einen Prompt geregelt werden. Schutzregeln müssen technisch durchgesetzt und gegen Umgehungsversuche wie indirekte Fragen oder Codierungen getestet werden.
- Vor der Einführung müssen Datenquellen, Rollen, Prozesse und Schutzbedarfe geklärt werden. Ein Sprachmodell kann unklare Zuständigkeiten oder widersprüchliche Informationsregeln nicht zuverlässig kompensieren.
- Nicht jedes Unternehmenswissen ist bereits KI-fähig. Erfahrungswissen in den Köpfen von Beschäftigten ist anders zu behandeln als verifizierte Dokumente und Datenbanken.
Wo kann man es einsetzen?
Mögliche Einsatzfelder sind interne Wissensassistenten für Einkauf, Forschung, Vertrieb oder Kundenservice. Besonders geeignet sind Anwendungsfälle mit klaren Datenquellen, nachvollziehbaren Rollen und fachlich überprüfbaren Antworten.
Was braucht es dafür?
Verifizierte interne Datenquellen, ein Rollen- und Berechtigungsmodell, eine Klassifikation sensibler Informationen, technische Zugriffskontrollen und Domänenexperten für die fachliche Prüfung. Zusätzlich sollten Tests gegen Prompt Injection und andere Umgehungsversuche vorgesehen werden.
Der nächste Schritt
Einen begrenzten internen Wissensfall auswählen und für diesen dokumentieren: Welche Quelle darf genutzt werden, welche Rollen stellen Fragen, welche Details sind erlaubt und welche Informationen müssen geschützt bleiben? Erst danach sollte ein Prototyp mit gezielten Missbrauchstests erprobt werden.
Take-away
Sichere Sprachmodelle müssen Wissen kontext- und rollenabhängig bereitstellen. Entscheidend ist nicht nur, ob ein Modell Unternehmenswissen kennt, sondern ob es erkennt, welche Informationen eine Person aufgrund ihrer Rolle und ihres Nutzungskontexts sehen darf.
Zugriffsschutz darf nicht allein über Prompts erfolgen. Berechtigungen und Schutzregeln müssen technisch durchgesetzt und gezielt gegen Umgehungsversuche wie Prompt Injection, indirekte Fragen oder Codierungen getestet werden.
Die Grundlage sind klare Datenquellen, Rollen und Schutzbedarfe. Unternehmen sollten zunächst einen begrenzten Wissensanwendungsfall definieren, erlaubte und geschützte Informationen festlegen und erst danach einen Prototyp inklusive Missbrauchstests erproben.