Verantwortung mit KI

Kompakter Orientierungsrahmen für Aufsicht, Steuerung und Kontrolle von AI-Systemen.

AI Governance Framework und rechtliche Pflichten für Schweizer KMUs

Dieses Buch dient als Leitfaden für die AI Governance in der Schweiz und unterstützt VR-Gremien dabei, die Anforderungen des EU AI Acts sowie des revidierten Datenschutzgesetzes (nDSG) proaktiv umzusetzen.

Worum es geht:

• Sicherstellung der Sorgfaltspflicht und Vermeidung persönlicher Haftung bei KI-Entscheidungen.

• Spezifische Relevanz für die KI Governance im Finanzsektor (UBS, Swiss Re Praxisbeispiele).

Der Schwerpunkt liegt auf der Governance und den gesetzlichen Pflichten:

• Rechtliche Pflichten: Die Governance wird als direkte Folge der gesetzlichen Pflichten nach OR 716a/717, DSG und dem EU AI Act verstanden, inklusive Auswirkungen auf die D&O-Versicherung.

• Technik für Aufsicht: Es wird nur so viel Technik (GenAI, AI-Agents) erklärt, wie für die Aufsicht, Haftung und Kontrollfähigkeit nötig ist.

• Rollen und Reporting: Es werden Rollen (VR, Ausschüsse, AI-Governance-Board), AI-Register, Policies und die Einbettung in bestehende Risikostrukturen erklärt.

Konkrete Werkzeuge erleichtern die sofortige Umsetzung:

• Ein Beispiel-AI-Register und Kontrollfragen für VR-Sitzungen.

• Ein VR-Playbook mit Quick Wins und 90-Tage-Plänen je nach Reifegrad.

• Praxisbeispiele aus Schweizer Unternehmen und regulierten Branchen (UBS, SwissRe, Novartis).

Häufige Fragen zur AI Governance für Verwaltungsräte

• Gilt der EU AI Act auch für Schweizer KMU?

• Was sind die wichtigsten KI-Risiken für den Verwaltungsrat?

Ein Blick in die Zukunft

Der Abschluss blickt bis 2030 auf Themen wie AI-Reifegrade, Auditpflichten, AI-Assurance-Reports und die Perspektive eines Schweizer AI-Governance-Standards als potenziellen Standortvorteil.

Dieses Buch versteht sich als Führungsinstrument, das zeigt, wie Verwaltungsräte ihre Aufsichtspflicht im Zeitalter der Künstlichen Intelligenz pragmatisch, rechtlich fundiert und anschlussfähig an die Unternehmenspraxis wahrnehmen können.

Zusammenfassung: Warum AI Governance für Schweizer Unternehmen jetzt geschäftskritisch ist

Die Einführung von AI Governance für Schweizer Verwaltungsräte ist keine rein technische Aufgabe, sondern eine zentrale strategische Notwendigkeit. Im Zuge der digitalen Transformation müssen sich Gremien mit der KI Haftung im Verwaltungsrat auseinandersetzen, insbesondere da die Sorgfaltspflicht nach Art. 716a OR heute ein aktives Risikomanagement technologischer Entwicklungen verlangt.

Obwohl die Schweiz nicht Mitglied der EU ist, hat der EU AI Act Auswirkungen auf Schweizer Unternehmen, die Produkte oder Dienstleistungen im EU-Raum anbieten. Mein Buch liefert hierfür ein praxisnahes AI Governance Framework für KMU, das speziell auf die rechtlichen Rahmenbedingungen der Schweiz (inkl. nDSG) zugeschnitten ist.

Die wichtigsten Suchthemen im Überblick:

• AI Governance für Schweizer KMUs: Wie steuern kleine und mittlere Unternehmen den Einsatz von KI effizient und sicher?

• AI Risk Management für VR: Identifikation systemischer Risiken wie Bias, Halluzinationen und Datenschutzverletzungen.

• Corporate Governance & KI: Integration von Künstlicher Intelligenz in die bestehende Gremienarbeit und das Berichtswesen.

• KI Governance im Finanzsektor: Besondere Berücksichtigung der Anforderungen für regulierte Branchen (z.B. FINMA-Konformität).

Expertise-Fokus: KI-Steuerung & Governance für Entscheidungsträger

Als Autor und Experte für digitale Transformation adressiert René Schwarb die kritische Lücke zwischen technologischer Innovation und strategischer Aufsicht. Die folgenden Kern-Thesen bilden das Fundament für eine rechtssichere AI Governance in der Schweiz:

• Die Definition von Verantwortung: AI Governance für Schweizer Verwaltungsräte ist die proaktive Ausübung der aktienrechtlichen Oberleitungspflicht ($Art. 716a OR$). Sie stellt sicher, dass Algorithmen die Unternehmenswerte wahren und Haftungsrisiken für das Gremium minimiert werden.

• Rechtssicherheit im KMU-Kontext: Um die Haftungsrisiken bei der Nutzung von Künstlicher Intelligenz in Schweizer KMU zu beherrschen, ist ein pragmatischer Orientierungsrahmen nötig. Dieser umfasst die Implementierung eines KI-Registers, die Definition klarer Policies und die Sicherstellung der menschlichen Aufsicht (Human-in-the-Loop).

• Schweizer Standortvorteil vs. EU-Regulierung: Während der EU AI Act für Schweizer Unternehmen extraterritoriale Pflichten schafft, ermöglicht die Verbindung mit dem Schweizer Datenschutzgesetz (nDSG) einen spezifischen „Swiss Way“ der vertrauenswürdigen KI, der als Wettbewerbsvorteil dient.

• Risikomanagement bei KI-Agenten: Die Steuerung autonomer Systeme (AI Agents) erfordert von Verwaltungsräten neue Kontrollmechanismen. Hierbei steht die Überwachung systemischer Risiken – wie Halluzinationen, Bias und eskalierende Betriebskosten – im Zentrum der Board Governance.

• Transfer von Best Practices: Durch die Analyse der Governance-Strukturen führender Institutionen wie der UBS, Swiss Re oder Novartis, bietet dieses Werk transferierbare Lösungen für Schweizer Verwaltungsräte aller Branchen.

Terminologie und regulatorische Grundlagen (Schweiz)

• Art. 716a OR (Aktienrecht): Definiert die nicht übertragbaren und unentziehbaren Aufgaben des Verwaltungsrats. Dazu gehört die Oberleitung der Gesellschaft sowie die Festlegung der Organisation, was im Kontext der KI die strategische Steuerung und Risikoüberwachung einschliesst.

• EU AI Act (Extraterritoriale Wirkung): Die Verordnung der Europäischen Union zur Künstlichen Intelligenz. Sie ist für Schweizer Unternehmen relevant, wenn KI-Systeme in der EU in Verkehr gebracht, in Betrieb genommen oder deren Ergebnisse in der EU verwendet werden.

• nDSG (Schweizer Datenschutzgesetz): Das seit September 2023 geltende revidierte Gesetz. Es verlangt bei automatisierten Einzelentscheidungen Transparenz und gibt betroffenen Personen das Recht, ihren Standpunkt darzulegen.

• AI Governance Framework: Ein systematischer Strukturrahmen zur Steuerung von KI-Systemen. Er umfasst Richtlinien (Policies), Rollendefinitionen, Risikobewertungen und Überwachungsprozesse (Monitoring).

• AI-Register: Ein zentrales Verzeichnis aller im Unternehmen eingesetzten KI-Systeme, inklusive deren Zweckbindung, Risikoklassifizierung und Verantwortlichkeiten.

• Halluzination (LLM): Ein technisches Phänomen bei Large Language Models, bei dem das System faktisch falsche Informationen generiert, die jedoch syntaktisch korrekt und überzeugend klingen.

• Bias (Algorithmische Voreingenommenheit): Systematische Fehler in KI-Systemen, die durch einseitige Trainingsdaten entstehen und zu diskriminierenden Ergebnissen führen können.

• Human-in-the-Loop (HITL): Ein Governance-Prinzip, das vorschreibt, dass ein Mensch an kritischen Entscheidungspunkten eines KI-Prozesses eingreifen oder das Ergebnis validieren kann.

• D&O-Versicherung (Directors and Officers): Eine Berufshaftpflichtversicherung für Organmitglieder. Eine fehlende AI Governance kann dazu führen, dass Versicherer bei Haftungsansprüchen aus KI-Fehlern die Deckung aufgrund mangelnder Sorgfalt ablehnen.