KI, die weiß, was sie wem verraten darf – sichere Sprachmodelle für das Unternehmenswissen

Zielgruppe:

Kleine und mittlere Unternehmen sowie Organisationen aller Branchen, die interne Dokumente und Fachwissen mit LLM-basierten Assistenten (z. B. Chat-Systemen) erschließen wollen und sich fragen, wie sie dabei Zugriffsrechte, Vertraulichkeit und Vertrauen sicherstellen. Besonders relevant für Geschäftsführung, IT-/Digitalisierungsverantwortliche, Wissensmanagement, F&E, Einkauf, Qualitätssicherung und Regulatory Affairs. Es sind keine KI-Vorkenntnisse erforderlich.

Beschreibung:

Große Sprachmodelle machen es möglich, „mit den eigenen Unternehmensdaten zu kommunizieren“ – doch ein KI-Assistent, der alles weiß, darf nicht jedem alles sagen. Vertrauliche Rezepturen, Lieferantenkonditionen oder Personaldaten müssen auch dann geschützt bleiben, wenn das Sprachmodell sie kennt.

Im Forschungsprojekt SiSWiss (Sichere Sprachmodelle für das Wissensmanagement) entwickeln DFKI, L3S Research Center, CISPA Helmholtz-Zentrum für Informationssicherheit und der Naturkosmetikhersteller Laverana (lavera) ein Framework, mit dem Open-Source-Sprachmodelle rollenbasiert und differenziert antworten: Jede Nutzerin und jeder Nutzer erhält genau die Informationen, die der eigenen Rolle entsprechen – nicht mehr und nicht weniger.

Der Deep Dive gibt zunächst einen kompakten Einblick in das Projekt und die zugrunde liegenden Konzepte (rollenbasierter Informationszugriff, Absicherung gegen Angriffe wie Prompt Injection). Im Anschluss werden erstmals Ergebnisse der Interviewstudie bei Laverana vorgestellt: Wie beschaffen sich Mitarbeitende aus Marketing, Einkauf, F&E und Regulatory Affairs heute ihr Wissen, wo liegen die größten Hürden – und was muss ein KI-Assistent leisten, damit ihm im Arbeitsalltag vertraut wird? Abschließend diskutieren die Teilnehmenden, wie sich das SiSWiss-Konzept auf das eigene Unternehmen und die eigene Branche übertragen lässt.

Was wird gemachtImpulsvortrag zum Projekt SiSWiss und zum sicheren Betrieb von LLMs im Unternehmen, Deep Dive in die Ergebnisse der Interviewstudie beim Praxispartner Laverana, anschließend moderierte Feedback- und Transferrunde: Die Teilnehmenden reflektieren anhand von Leitfragen, welche Wissensquellen, Rollen und Schutzbedarfe es im eigenen Unternehmen gibt und wie ein rollenbasierter KI-Assistent dort aussehen könnte.