Warum AI Governance wichtig ist
Ohne Kontrollstruktur kann eine KI Unternehmensdaten unkontrolliert an beliebige Modelle oder Anbieter senden und unklare Handlungen ausführen. KAI trennt das strukturell in drei Fragen: Wer darf worauf zugreifen? Wohin dürfen welche Daten überhaupt fließen? Und welche Aktionen dürfen ohne bzw. nur mit Freigabe ausgeführt werden?
Daten- und Zugriffskontrolle
Wissen kann Abteilungen zugeordnet werden, jeder Mandant ist strikt getrennt, und Rollen- bzw. Abteilungsrechte bestimmen, welche Dokumente und Antworten eine Person überhaupt zu sehen bekommt.
Modell- und Provider-Governance
Pro Mandant lässt sich festlegen, welche KI-Modelle überhaupt aktiv genutzt werden dürfen und welcher externe bzw. cloud-basierte Anbieter Anfragen verarbeitet – statt fest an einen einzelnen Anbieter gebunden zu sein.
Datenklassifizierung und Zielsysteme
Regeln verknüpfen eine Datenklassifizierung mit einem Zielsystem – etwa einem bestimmten Anbieter, Modell, einer Abteilung oder Ausführungsquelle – und legen fest, was in diesem Fall passiert. Diese Regeln werden nach Priorität ausgewertet, bevor eine Anfrage ihr Ziel erreicht.
Die Anfrage darf das Ziel wie vorgesehen erreichen.
Die Anfrage wird für dieses Ziel blockiert, statt stillschweigend weiterverarbeitet zu werden.
Die Anfrage darf nur lokal bzw. innerhalb der eigenen Infrastruktur verarbeitet werden.
Capabilities und Aktionsrechte
Unabhängig vom allgemeinen Wissenszugriff legt ein separates Regelwerk fest, welche konkreten Aktionen ein KI-Agent überhaupt vorschlagen darf. Diese Aktionsrechte lassen sich pro Mandant und Agent konfigurieren und können jederzeit nur enger gefasst, nie über die Grundrechte eines Agenten hinaus erweitert werden.
Human Approval
Als riskant eingestufte Aktionen werden nie direkt von einer KI ausgeführt. Sie müssen von einer anderen, separat berechtigten Person geprüft und freigegeben werden – eine Selbstfreigabe durch dieselbe Person ist ausgeschlossen.
Audit und Nachvollziehbarkeit
Eine Governance-Übersicht mit Zeitraum-Filtern sowie eine Aktivitätsprotokollierung für Agentenausführungen machen Entscheidungen und Aktionen nachvollziehbar – einschließlich des jeweiligen Entscheidungsgrunds, statt einer Blackbox.
Governance für AI Agents
Dieselbe Struktur – Zugriffsrechte, Aktionsrechte, Freigaben und Protokollierung – gilt für jeden KI-Agenten. Details zu Rollen, Werkzeugen und dem Freigabeprozess finden Sie auf der KI-Agenten-Seite.
Private AI und Governance
Die "nur lokal verarbeiten"-Entscheidung aus der Datenklassifizierung ist die konkrete Verbindung zwischen Governance und Private AI bei KAI: Governance-Regeln können erzwingen, dass bestimmte Daten nie an einen externen Anbieter gehen.
AI Governance bei KAI im Detail.
Was versteht KAI unter AI Governance?
Drei getrennt kontrollierte Fragen: Wer darf auf welches Wissen zugreifen, an welche Modelle/Anbieter dürfen welche Daten gehen, und welche Aktionen dürfen ohne oder nur mit Freigabe ausgeführt werden – mit nachvollziehbarer Protokollierung.
Können bestimmte Modelle oder Provider eingeschränkt werden?
Ja. Pro Mandant lässt sich festlegen, welche Anbieter und Modelle aktiv nutzbar sind, und Regeln können vorschreiben, dass bestimmte Daten nur an bestimmte Modelle, Anbieter oder ausschließlich lokal verarbeitet werden.
Können sensible Daten für bestimmte Ziele blockiert werden?
Ja. Regeln verknüpfen eine Datenklassifizierung mit einem Zielsystem und einer Entscheidung – erlauben, verweigern oder ausschließlich lokal verarbeiten – ausgewertet nach Priorität, bevor eine Anfrage ihr Ziel erreicht.
Können KI-Aktionen eine Freigabe benötigen?
Ja. Riskante Aktionen können eine Freigabe durch eine andere, separat berechtigte Person erfordern, bevor etwas ausgeführt wird. Eine Selbstfreigabe ist ausgeschlossen.
Werden KI-Aktionen protokolliert?
Ja. Eine Governance-Übersicht und eine Aktivitätsprotokollierung für Agentenausführungen machen Entscheidungen und Aktionen nachvollziehbar.
Sprechen Sie mit uns über Ihre Governance-Anforderungen.
Wir zeigen Ihnen, welche Zugriffs-, Modell- und Freigaberegeln zu Ihrer Organisation passen.