AI Governance Leitfaden
EU AI Act
Klarer Orientierungs- und Umsetzungsrahmen für Geschäftsleitung, Verwaltungsrat, Aufsichtsrat, Beirat, Compliance, Recht, IT und Fachbereiche.
Profitabilitäts- und Produktivitätspartner für Bauindustrie und Industrie
pankaj@synnexus.ch
www.synnexus.ch
Rechtsstand und Executive Summary
Verbote & AI Literacy
Verbotene Praktiken sowie die Pflicht, ein angemessenes Niveau an KI-Kompetenz sicherzustellen, sind bereits relevant.
Breite Anwendbarkeit
Transparenzpflichten, Aufsicht und weitere allgemeine Regelungen greifen. GPAI-Vollzugskompetenzen der Kommission werden wirksam.
Hochrisiko-Regime
Die umfassenden Pflichten werden nach aktueller EU-Gesetzgebung zeitlich gestaffelt später anwendbar.
Management-Kernaussage
Der EU AI Act ist kein reines IT-Thema. Er verlangt ein belastbares Zusammenspiel aus Inventar, Klassifikation, Verantwortlichkeit, Dokumentation, menschlicher Aufsicht, Daten- und Modellkontrollen, Lieferantensteuerung sowie laufendem Monitoring. Das Betriebsmodell – On Premise, Hybrid oder Cloud – ändert die Risikoklasse nicht automatisch, beeinflusst aber die Kontrollarchitektur wesentlich.
Geltungsbereich: Wann ist ein Unternehmen betroffen?
Territorialer Anwendungsbereich
- Anbieter, die KI-Systeme oder GPAI-Modelle in der EU in Verkehr bringen oder in Betrieb nehmen.
- Betreiber mit Sitz oder Niederlassung in der EU.
- Anbieter und Betreiber ausserhalb der EU, wenn der von einem KI-System erzeugte Output in der EU verwendet wird.
- Importeure, Händler und Produkthersteller in der EU-Wertschöpfungskette.
Praktische Relevanz für Schweizer Firmen
- EU-Kunden, EU-Projekte, EU-Niederlassungen oder EU-Arbeitskräfte können den Bezug herstellen.
- Ein Schweizer Anbieter kann regulatorisch zum „Provider“ werden, obwohl er die Basismodelle nicht selbst entwickelt.
- Eine wesentliche Änderung, ein Rebranding oder eine Zweckänderung kann Rollen und Pflichten verschieben.
Abgrenzung: Nicht jede Automatisierung ist ein KI-System
Konventionelle, deterministische Regelautomatisierung ohne inferenzbasierte Funktionsweise kann ausserhalb der AI-Act-Definition liegen. Bei kombinierten Lösungen ist jedoch die KI-Komponente separat zu beurteilen. Entscheidend sind technische Funktionsweise, Autonomiegrad, Anpassungsfähigkeit, Zielsetzung und die Fähigkeit, Outputs wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu erzeugen.
Zusammenspiel mit weiteren Rechtsgebieten
| Regelwerk | Typischer Berührungspunkt |
|---|---|
| DSGVO / Schweizer DSG | Personendaten, Profiling, automatisierte Einzelentscheidungen, Datenschutz-Folgenabschätzung, Auftragsbearbeitung. |
| Produktsicherheitsrecht | KI als Sicherheitskomponente von Maschinen, Aufzügen, Bauprodukten, Robotik oder anderen regulierten Produkten. |
| Arbeitsrecht / Mitbestimmung | Mitarbeiterüberwachung, Leistungsbewertung, Einsatzplanung, Recruiting und Personalentscheidungen. |
| Cybersecurity / NIS2 / CRA | Zugriffsschutz, Resilienz, Incident Management, Software-Lieferkette. |
| Vertrags- und Haftungsrecht | Leistungsbeschreibung, Fehlerfolgen, Freigaben, Gewährleistung, Regress, Audit- und Informationsrechte. |
Regulatorische Rollen und Verantwortungszuordnung
Wann kann ein Kunde zum Anbieter werden?
- Eigenes Branding oder Weitervertrieb
- Wesentliche Änderung
- Änderung des vorgesehenen Verwendungszwecks
- Integration in ein eigenes Produkt
- RACI vor Projektstart festlegen
- Vertragliche Rollen konsistent definieren
- Technische Dokumentation und Logs sichern
- Änderungsmanagement formalisieren
Die vier Risikostufen des EU AI Act
| Stufe | Charakter | Beispiele | Konsequenz |
|---|---|---|---|
| Unzulässig | Klare Bedrohung für Sicherheit, Lebensgrundlagen oder Grundrechte. | Schädliche Manipulation; Social Scoring; bestimmte biometrische Kategorisierung; ungezieltes Scraping für Gesichtsdatenbanken; Emotionserkennung am Arbeitsplatz ausser engen Ausnahmen. | Verbot. Nicht implementieren oder betreiben. |
| Hochrisiko | Erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte. | Sicherheitskomponenten regulierter Produkte; bestimmte Anwendungen in kritischer Infrastruktur, Beschäftigung, Bildung, wesentlichen privaten/öffentlichen Leistungen, Strafverfolgung, Migration und Justiz. | Umfassendes Risikomanagement, Daten-Governance, technische Dokumentation, Logging, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersecurity und Konformität. |
| Transparenzrisiko | Interaktion oder Inhalte können für Menschen irreführend sein. | Chatbots; synthetische Inhalte; Deepfakes; bestimmte Emotionserkennungs- oder biometrische Kategorisierungssysteme. | Klare Information, Kennzeichnung oder maschinenlesbare Markierung nach Art. 50, soweit anwendbar. |
| Minimal / kein | Keine der besonderen Hochrisiko- oder Transparenzkonstellationen. | Interne Dokumentensuche, Assistenz bei Berichten, Prognosen ohne rechtlich relevante Individualentscheidung, administrative Automatisierung. | Keine systemspezifischen Zusatzpflichten des Risikoregimes; allgemeine Pflichten, insbesondere AI Literacy, bleiben relevant. |
Hochrisiko-Prüfung in drei Schritten
Prüfung Art. 6 Abs. 1 in Verbindung mit Anhang I und dem jeweiligen Produkterecht.
Zum Beispiel Beschäftigung, kritische Infrastruktur oder Zugang zu wesentlichen Leistungen.
Nur bei dokumentierter Begründung; Profiling natürlicher Personen bleibt besonders kritisch.
Pflichten nach Risikoklasse
Für alle professionellen Anbieter und Betreiber
AI Literacy
Rollen- und risikogerechte Schulung der Mitarbeitenden; reine Bedienungsanleitungen reichen häufig nicht.
Inventar & Zweck
Systeme, Modelle, Schnittstellen, Daten, Verantwortliche, Verwendungszweck und Betroffenengruppen dokumentieren.
Kontrollierte Nutzung
Zugriffe, Freigaben, Datenschutz, Security, Lieferantensteuerung und Änderungsprozesse etablieren.
Zusätzliche Anforderungen für Hochrisiko-Systeme
| Kontrollfeld | Kernanforderung | Typischer Nachweis |
|---|---|---|
| Risikomanagement | Kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus. | Risk Register, Tests, Massnahmen, Residualrisiko-Freigabe. |
| Daten-Governance | Geeignete, hinreichend repräsentative und fehlerarme Daten; Bias-Kontrollen. | Data Sheets, Herkunft, Qualität, Versionierung, Prüfprotokolle. |
| Technische Dokumentation | Nachweis der Konformität und verständliche Systembeschreibung. | Systemakte, Architektur, Modell-/Prompt-Version, Grenzen. |
| Logging | Automatische Aufzeichnungen zur Nachvollziehbarkeit. | Audit Trail, Input-/Output-Metadaten, Freigabe- und Eskalationslogs. |
| Transparenz | Klare Gebrauchsanweisung, Leistungsgrenzen und vorgesehener Zweck. | User Guide, Model Card, Known Limitations. |
| Menschliche Aufsicht | Kompetente Personen können überwachen, interpretieren, eingreifen und stoppen. | Vier-Augen-Prinzip, Stop-Funktion, Eskalationsmatrix. |
| Genauigkeit & Robustheit | Angemessene Leistungswerte, Fehlertoleranz und Cybersecurity. | Abnahmetests, Red Teaming, Security Controls, Monitoring. |
| Konformität & Betrieb | Konformitätsbewertung, Registrierung, Post-Market Monitoring und Incident Reporting. | EU-Konformitätserklärung, CE soweit einschlägig, Monitoring-Plan. |
Pflichten des Betreibers eines Hochrisiko-Systems
- Nutzung gemäss Gebrauchsanweisung und organisatorische Verankerung menschlicher Aufsicht.
- Relevanz und Eignung der Eingabedaten sicherstellen, soweit sie unter eigener Kontrolle liegen.
- Logs aufbewahren, soweit verfügbar; Betrieb überwachen und Risiken bzw. schwere Vorfälle melden.
- Beschäftigte und gegebenenfalls Arbeitnehmervertretungen vor Einsatz am Arbeitsplatz informieren.
- Betroffene Personen informieren, wenn Entscheidungen über natürliche Personen unterstützt werden.
- Je nach öffentlichem oder besonders grundrechtsrelevantem Einsatz eine Grundrechte-Folgenabschätzung durchführen.
Sanktionen und wirtschaftliches Risiko
| Verstosskategorie | Maximale Geldbusse | Für Unternehmen |
|---|---|---|
| Verbotene KI-Praktiken oder Verstoss gegen bestimmte Datenanforderungen | bis € 35 Mio. | Bis 7 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres; grundsätzlich gilt der höhere Betrag, bei KMU der niedrigere. |
| Andere Verstösse gegen Pflichten des AI Act | bis € 15 Mio. | Bis 3 % des weltweiten Jahresumsatzes; gleiche KMU-Systematik. |
| Unrichtige, unvollständige oder irreführende Angaben gegenüber Behörden | bis € 7,5 Mio. | Bis 1 % des weltweiten Jahresumsatzes; gleiche KMU-Systematik. |
| GPAI-Anbieter | bis € 15 Mio. | Bis 3 % des weltweiten Jahresumsatzes. |
Neben der Geldbusse relevant
Untersagung, Rückruf, Einschränkung oder Nachbesserung eines Systems.
Gewährleistung, Schadenersatz, Projektverzug, Regress und Ausschluss aus Vergaben.
Vertrauensverlust bei Kunden, Mitarbeitenden, Behörden, Investoren und Versicherern.
Verantwortung von Geschäftsführung und Aufsichtsorganen
Geschäftsführung / Vorstand
- AI-Governance-System beschliessen, Ressourcen bereitstellen und Verantwortlichkeiten festlegen.
- Risikoappetit, verbotene Anwendungen und Freigabeschwellen definieren.
- AI-Inventar, Klassifikation, Compliance-Nachweise und Incident-Prozess sicherstellen.
- Bei wesentlichen Risiken oder Hochrisiko-Systemen informierte Managemententscheide dokumentieren.
Verwaltungsrat / Aufsichtsrat
- Angemessene Aufsicht über Strategie, wesentliche KI-Risiken und interne Kontrollsysteme.
- Regelmässiges Reporting zu Systembestand, Risikoklassen, Vorfällen, Ausnahmen und Audit-Feststellungen.
- Nachfragen zur Wirksamkeit von Datenschutz, Cybersecurity, menschlicher Aufsicht und Lieferantenkontrolle.
- Bei materiellen Abweichungen Massnahmen, Fristen und Verantwortliche verlangen.
Beirat
Ein Beirat hat nur die rechtlichen Befugnisse und Pflichten, die sich aus Satzung, Vertrag und nationalem Recht ergeben. Als beratendes Gremium kann er fachlich unterstützen, ersetzt aber weder die Geschäftsführungsverantwortung noch die gesetzliche Aufsicht eines Verwaltungs- oder Aufsichtsrats.
Empfohlenes Quartalsreporting
| KPI | Inhalt |
|---|---|
| AI Inventory Coverage | Anteil vollständig erfasster Systeme und Use Cases. |
| Classification Coverage | Anteil mit dokumentierter Rollen- und Risikoklassifikation. |
| Control Effectiveness | Offene Kontrolldefizite, überfällige Massnahmen, Ausnahmegenehmigungen. |
| Incident & Override | Fehlentscheidungen, manuelle Übersteuerungen, Beschwerden, schwere Vorfälle. |
| Supplier Assurance | Verträge, Nachweise, Modelländerungen und Audit-Ergebnisse kritischer Anbieter. |
| AI Literacy | Schulungsquote nach Rolle und Risikoprofil. |
Synnexus AI Governance Framework
Systeme, Modelle, Schatten-KI, Anbieter, Daten, Schnittstellen, Nutzergruppen und Entscheidungen erfassen.
AI-System-Definition, Provider/Deployer-Rolle, verbotene Praxis, Hochrisiko, Transparenzpflicht und weitere Rechtsgebiete prüfen.
Human Oversight, Freigaben, Zugriff, Datenschutz, Security, Logging, Qualität, Lieferanten- und Änderungsmanagement festlegen.
System Card, Risk Assessment, Datenblatt, Testnachweise, Entscheidungen, Versionen, Verträge und Schulungen revisionssicher dokumentieren.
Leistung, Drift, Fehler, Beschwerden, Overrides, Vorfälle und regulatorische Änderungen überwachen.
Kontrolltests, interne Reviews, unabhängige Assessments und Management-Reporting durchführen.
Minimaler Dokumentensatz je Use Case
Vorläufige Klassifikation der Synnexus-Leistungen
| Synnexus-Modul / Tätigkeit | Typische Einstufung | Wann höhere Einstufung droht | Governance-Standard |
|---|---|---|---|
| Dokumenten-, Plan- und Vertragsintelligenz | Minimal | Automatisierte Entscheidungen über natürliche Personen oder sicherheitskritische Freigaben. | Quellenbezug, Confidence, Review, Versionierung, Datenschutz. |
| Nachtrags- und Rechnungsprüfung | Minimal | Automatisierte rechtliche Bindungswirkung ohne menschliche Freigabe; personenbezogenes Profiling. | Vier-Augen-Freigabe, Prüfregeln, Audit Trail, Ausnahmeprozess. |
| Meeting & Decision Intelligence | Minimal / Transparenz | Verdeckte Aufzeichnung, biometrische Auswertung oder Emotionserkennung. | Teilnehmerinformation, Einwilligungs-/Rechtsgrundlage, Freigabe des Protokolls. |
| Executive Cost Intelligence / Cockpit | Minimal | Entscheidungen über Einzelpersonen oder Zugang zu wesentlichen Leistungen. | Datenqualität, Erklärbarkeit, Schwellenwerte, Managementfreigabe. |
| Contractor & Planner Intelligence | Minimal | Bewertung natürlicher Personen im Beschäftigungs- oder Zugangsprozess; umfassendes personenbezogenes Profiling. | Bewertung juristischer Personen bevorzugen, Kriterien offenlegen, Einspruchs- und Reviewprozess. |
| AI-automatisierte Mängelerfassung | Minimal | KI steuert unmittelbar eine sicherheitskritische Anlagenfunktion oder ersetzt zwingende Fachprüfung. | Foto-/Datenrechte, menschliche Validierung, Beweiskette, Eskalationslogik. |
| Kalkulations-, Schema- und Komponentenassistenz | Minimal | Direkte Sicherheitsauslegung regulierter Produkte oder kritischer Infrastruktur ohne qualifizierte Prüfung. | Technische Freigabe durch Fachperson, Normenbezug, Versions- und Änderungsnachweis. |
| Baustellensteuerung, Logistik und Ressourcen | Minimal | Personaleinsatz- oder Leistungsbewertung mit erheblicher Wirkung; KI als Sicherheitskomponente von Maschinen. | Trennung Betriebsoptimierung/Personalentscheidung, Sicherheits- und Override-Konzept. |
| HR-, Recruiting- oder Mitarbeiter-Scoring | Potenziell hoch | Bereits bei Auswahl, Zuweisung, Beförderung, Kündigung, Leistungs- oder Verhaltensbewertung natürlicher Personen. | Nur nach vertiefter Rechtsprüfung und vollständigem Hochrisiko-Programm. |
| Generative Kunden- oder Mitarbeiter-Chatbots | Transparenz | Zusätzliche Hochrisiko-Nutzung im Hintergrund oder Erstellung kennzeichnungspflichtiger Inhalte. | KI-Hinweis, Eskalation zu Menschen, Content- und Datenschutzkontrollen. |
On Premise, Hybrid und Cloud richtig einordnen
| Betriebsmodell | Stärken | Governance-Schwerpunkte | Geeignet für |
|---|---|---|---|
| On Premise | Hohe Datenkontrolle, direkte Integration, abgeschottete Umgebungen. | Patch- und Modellmanagement, lokale Security, Rollenrechte, interne Betriebsverantwortung, Hardware-/Kapazitätsplanung. | Besonders sensible Unternehmensdaten, kritische Integrationen, strenge Datenresidenz. |
| Hybrid | Balance aus Kontrolle, Skalierung und spezialisierten Cloud-Modellen. | Klare Datenflüsse, Klassifikation vor Übertragung, Gateway-/DLP-Kontrollen, getrennte Logs, Verantwortungs- und Subprozessorenkette. | Unternehmen mit lokalen Kernsystemen und selektiver Cloud-Nutzung. |
| Cloud / SaaS | Schnelle Skalierung, laufende Modellverbesserung, geringere Infrastrukturbelastung. | Datenstandort, Auftragsverarbeitung, Unterauftragnehmer, Training mit Kundendaten, Exit, Modelländerungen, Verfügbarkeit, Audit- und Informationsrechte. | Standardisierte Use Cases mit beherrschbarem Schutzbedarf und guter Anbieter-Governance. |
Architektur-Entscheid in fünf Fragen
- Welche Datenkategorien und Geschäftsgeheimnisse werden verarbeitet?
- Wer ist Provider, Deployer, Modellanbieter und Auftragsverarbeiter?
- Werden Inputs oder Outputs zum Training oder zur Produktverbesserung verwendet?
- Wie werden Versionen, Prompts, Zugriffe, Ausgaben und menschliche Freigaben protokolliert?
- Wie kann der Kunde Anbieter wechseln, Daten exportieren und den Betrieb kontrolliert beenden?
90-Tage-Umsetzungsplan
Entscheidungsvorlage für Geschäftsleitung / Verwaltungsrat
| Entscheid | Erwartetes Ergebnis |
|---|---|
| Governance Owner benennen | Eine verantwortliche Stelle mit klaren Eskalationswegen. |
| AI Policy und Verbotsliste freigeben | Verbindliche Leitplanken für alle Bereiche und Lieferanten. |
| Inventar- und Klassifikationspflicht beschliessen | Keine produktive Nutzung ohne registrierten Use Case. |
| Freigabeschwellen definieren | Erhöhte Prüfung für personenbezogene, sicherheitskritische oder hochwirksame Anwendungen. |
| Reporting-Zyklus festlegen | Quartalsweise Steuerung wesentlicher Risiken und Massnahmen. |
Synnexus Leistungsbausteine
AI Governance Assessment
Inventar, Rollen, Risikoklassen, Gap Assessment und Executive Decision Paper.
Governance by Design
Kontrollen, Architektur, Human Oversight, Dokumentation und Lieferantenanforderungen im Projekt.
Operational Assurance
Monitoring, Audit Readiness, Schulung, Managementreporting und kontinuierliche Verbesserung.
Executive AI Governance Assessment
Ist Ihr Unternehmen für den EU AI Act vorbereitet?
Synnexus bewertet die bestehende AI-Landschaft, priorisiert Handlungsfelder und entwickelt einen pragmatischen Governance- und Umsetzungsrahmen für Geschäftsleitung, Verwaltungsrat und operative Verantwortliche.
- AI-Inventar und Rollenklärung
- Risikoklassifikation und Gap Assessment
- Human Oversight, Kontrollen und Dokumentation
- Deployment- und Lieferanten-Governance
- Executive Decision Paper und 90-Tage-Roadmap
Executive Assessment anfragen
Synnexus GmbH
AI Governance · Autonomous Operations · Executive Intelligence
hubert@synnexus.ch
pankaj@synnexus.ch
www.synnexus.ch
+41 79 522 53 06
Rechtshinweis und Primärquellen
Primärquellen und offizieller Umsetzungsstand
EUR-Lex, verbindlicher Ausgangstext
Risikostufen, Verbote, Zeitplan, Compliance und Vollzug
Neue Fristen für Hochrisiko-Systeme, 29. Juni 2026
Praxisorientierte Auslegung von Art. 4
Art. 50 und Kennzeichnung KI-generierter Inhalte
Pflichten und Vollzug für General-Purpose-AI-Modelle
Grundlage dieses Manuals
Das frühere Synnexus White Paper wurde als inhaltliche Ausgangsbasis verwendet und zu einem kompakten, regulatorisch präzisierten Governance-Leitfaden weiterentwickelt. Übernommen wurden insbesondere die Business-first-Positionierung, Governance by Design, Human-in-the-loop, Auditierbarkeit sowie die Architekturperspektive auf TruGenie und Automation Anywhere AA360.