KI-Ethik

KI-Ethik fragt, wie KI-Systeme fair, nachvollziehbar, umweltverträglich und rechtskonform entwickelt und eingesetzt werden. Die wichtigsten Themen sind algorithmische Fairness (Bias), Erklärbarkeit, der Verbrauch von Energie und Wasser sowie Datenschutz, Urheberrecht, KI-Gesetze und Haftung. Sie gehören schon an den Anfang jedes Projekts.

Rahmen

Das Buch stützt sich auf die fünf Prinzipien von Luciano Floridi et al. (2018): Wohltätigkeit (Wohlbefinden, Würde, Planet), Nicht-Schaden (Privatsphäre, Sicherheit), Autonomie (ausgewogene Entscheidungsgewalt Mensch–KI), Gerechtigkeit (keine Diskriminierung) und Erklärbarkeit, die die anderen erst ermöglicht (Quelle - Neuronale Netze programmieren mit Python, S. 313–314). Recht und Ethik sind nicht dasselbe: Ethik hängt von Zeit und Ort ab (S. 314). Im Prozessmodell CRISP-DM gehören diese Fragen in die erste Phase, das Geschäftsverständnis (siehe Feature Engineering).

Algorithmische Fairness und Bias

Bekannte Fehlleistungen: Chatbots mit rassistischen Aussagen, Bilderkennung, die schwarze Menschen falsch klassifiziert, Rekrutierungssysteme, die Männer bevorzugen, Werkzeuge der US-Justiz, die weisse Angeklagte besser beurteilen (S. 314–315). Ursachen sind verschiedene Formen von Bias (Verzerrung):

• Selektionsbias: Die Stichprobe ist nicht repräsentativ.
• Historischer Bias: Die Daten spiegeln echte Ungerechtigkeit, etwa Lohnunterschiede zwischen Frauen und Männern. Das Modell lernt und verstärkt sie.
• Algorithmischer Bias: Das Verfahren kommt mit bestimmten Daten schlechter zurecht.

Eingreifen kann man an drei Stellen: Trainingsdaten, Lernverfahren oder Ausgaben ändern. Offen bleibt, was fair heisst: gleiche Chancen oder gleiches Ergebnis, Fairness für welche Gruppen, und Gruppen- gegen Individualfairness (S. 315–317).

Beispiel Boston-Housing-Datensatz: Jahrzehntelang als Lehrbeispiel verwendet, enthält er ein Merkmal, das auf der Annahme beruht, ethnische Trennung erhöhe Hauspreise. scikit-learn hat ihn mit Version 1.2 entfernt und empfiehlt ihn nur noch, um über Ethik zu diskutieren (S. 330).

Erklärbarkeit und Interpretierbarkeit

Regelbasierte KI (Expertensysteme) liefert mit der Regelkette gleich die Begründung. Neuronale Netze lernen ihre „Regeln“ selbst und intransparent (S. 317). Ein Patient mit einer Krebsdiagnose will aber wissen, warum.

• Interpretierbare Modelle wie der Entscheidungsbaum: Beim Iris-Datensatz entscheiden drei Fragen nach den Blütenblatt-Massen (S. 317–320).
• Interpretationsmethoden für Blackbox-Modelle: modellspezifisch (z.B. Pixel-Attributionskarten, die zeigen, welche Pixel eine „3“ zur 3 machen) oder modellagnostisch (Eingaben leicht verändern und die Ausgabe beobachten), jeweils lokal für einen Fall oder global für den ganzen Datensatz (S. 320–321). Standardwerk: Christoph Molnar, „Interpretable Machine Learning“.

Ökologische Aspekte

Das Training grosser Modelle verbraucht so viel Energie wie mehrere Haushalte in einem Jahr, dazu seltene Rohstoffe für GPUs, Elektroschrott und viel Kühlwasser in Rechenzentren. Gegenmittel: effizientere Algorithmen, Modellkompression, sparsame Hardware, Rechenzentren an Orten mit sauberem Strom und genug Wasser, grüne KI mit offengelegtem Verbrauch (S. 321–322).

Recht

• Datenschutz: In der EU die DSGVO mit Transparenzpflicht, Anonymisierung und Pseudonymisierung (S. 323).
• Urheberrecht: Wem gehört, was ein Netz erzeugt: Entwickler, Nutzer oder Urheber der Trainingsdaten? Vielerorts ungeregelt (S. 323).
• KI-Gesetze: Die EU-KI-Verordnung mit strengen Pflichten für Hochrisiko-Systeme (Transparenz, menschliche Aufsicht, Rechenschaft), Rahmenwerke von OECD und UNESCO. USA und China regulieren weniger streng (S. 323).
• Haftung bei Schäden durch autonome Systeme ist noch ungeklärt (S. 324).

Verwandt

• Datenschutz Schweiz – DSG, E-ID und das Schweizer Gegenstück zur DSGVO
• Maschinelles Lernen – woher der Bias kommt
• Feature Engineering – CRISP-DM, Daten als Quelle von Verzerrung
• Künstliches neuronales Netz – die Blackbox und ihre Rückwärtsabfrage
• Wissensbasierte Bildanalyse – regelbasierte KI mit eingebauter Erklärung
• Informationssicherheit – Schutzziele und Verantwortlichkeit
• Datenhoheit – wer über die eigenen Daten bestimmt