Ethische KI: Grundsätze, Risiken und wie man sie anwendet

Ethische KI bedeutet, KI so zu entwickeln und einzusetzen, dass sie die Rechte der Menschen achtet, sie fair behandelt, erklärbar ist und Verantwortlichkeit gewährleistet. Dieser Leitfaden behandelt die drei Referenzrahmen, die die meisten Organisationen nutzen, wie das Recht nachzieht und eine praktische Checkliste, um die Grundsätze in die Tat umzusetzen.

Was ist ethische KI?

Es gibt keine einheitliche rechtliche Definition, aber über die Kernideen besteht grosse Einigkeit: Achtung der Menschenrechte, Fairness, Transparenz, Sicherheit, Datenschutz, menschliche Aufsicht und Verantwortlichkeit. Die folgenden Abschnitte zeigen, wo diese Einigkeit niedergeschrieben ist.

Das Wichtigste in Kürze

• Drei weit verbreitete Referenzen sind die Empfehlung der UNESCO, die OECD-KI-Grundsätze und das NIST AI Risk Management Framework.
• Sie stimmen in den wesentlichen Punkten überein: Menschenrechte, Fairness, Transparenz, Sicherheit, Datenschutz und Verantwortlichkeit.
• Verbindliche Regeln kommen, etwa der EU AI Act, und Aufsichtsbehörden wenden bestehendes Datenschutzrecht bereits auf KI an.
• Ethik wird konkret durch Zuständigkeiten, Risikobewertung, Tests, menschliche Aufsicht und Überwachung.
• Generative KI bringt besondere Risiken mit sich, etwa Konfabulation, die eigene Kontrollen erfordern.

Was sagen die wichtigsten Rahmenwerke?

UNESCO-Empfehlung zur Ethik der KI

Sie wurde im November 2021 von den 193 Mitgliedstaaten der UNESCO angenommen und gilt als der erste globale Standard für KI-Ethik. Sie beruht auf vier Werten: die Menschenwürde und die Menschenrechte achten und fördern; gerechte, friedliche und vernetzte Gesellschaften fördern; Vielfalt und Inklusivität sicherstellen; und das Gedeihen der Umwelt und der Ökosysteme unterstützen. Zu ihren Grundsätzen zählen Verhältnismässigkeit und Schadensvermeidung, Transparenz und Erklärbarkeit, menschliche Aufsicht, Fairness und Nichtdiskriminierung, Sicherheit und Schutz, Schutz der Privatsphäre, Verantwortlichkeit, Nachhaltigkeit und Bewusstsein. Zur Aufsicht heisst es, KI-Systeme «verdrängen nicht die letztendliche menschliche Verantwortung und Rechenschaftspflicht».

OECD-KI-Grundsätze

Sie wurden 2019 angenommen und im Mai 2024 aktualisiert und gelten als der erste zwischenstaatliche Standard für KI, mit 47 Unterstützern. Die fünf wertebasierten Grundsätze sind: inklusives Wachstum, nachhaltige Entwicklung und Wohlergehen; Menschenrechte und demokratische Werte, einschliesslich Fairness und Datenschutz; Transparenz und Erklärbarkeit; Robustheit, Sicherheit und Schutz; sowie Verantwortlichkeit.

NIST AI Risk Management Framework

AI RMF 1.0, veröffentlicht am 26. Januar 2023, ist «für die freiwillige Nutzung gedacht», um die Fähigkeit zu verbessern, Vertrauenswürdigkeit in Entwurf, Entwicklung, Nutzung und Bewertung von KI einzubauen. Sein Kern sind vier Funktionen: Govern, Map, Measure und Manage. Für generative KI veröffentlichte das NIST im Juli 2024 ein ergänzendes Profil (siehe Was ist generative KI?).

Was sagt das Recht?

Der EU AI Act ist das prominenteste verbindliche Regelwerk. Eine veröffentlichte Zusammenfassung seines Zeitplans (aktualisiert am 31. August 2026, und nicht der offizielle EU-Text) nennt den 1. August 2024 für das Inkrafttreten, den 2. Februar 2025 für Verbote und KI-Kompetenz, den 2. August 2025 für Pflichten für KI mit allgemeinem Verwendungszweck, den 2. Dezember 2027 für die Hochrisiko-Anforderungen nach Anhang III und den 2. August 2028 für Anhang I. Prüfen Sie den offiziellen Text, bevor Sie sich auf ein Datum verlassen. Aufsichtsbehörden wenden auch bestehendes Recht auf KI an. Unsere regionalen Leitfäden behandeln, was einzelne Behörden dazu sagen:

• KI im britischen Gesundheitswesen und generative KI an britischen Schulen
• KI-Infrastruktur in Kanada
• Data Engineering in Australien
• Unternehmenssoftware in den Niederlanden
• KI in der Schweiz und KI in Deutschland (auf Deutsch)

Wie setzen Sie ethische KI in die Praxis um?

• Benennen Sie eine verantwortliche Person für jedes KI-System, mit der Befugnis, es zu stoppen.
• Bewerten Sie den Anwendungsfall: Wer könnte zu Schaden kommen, wie schwer, und wie wahrscheinlich ist das?
• Prüfen Sie die Daten: woher sie stammen, ob Sie sie nutzen dürfen und wer in ihnen fehlt.
• Testen Sie auf Fehler und Verzerrungen an realistischen Fällen vor dem Start, und testen Sie danach weiter.
• Seien Sie transparent: Sagen Sie den Menschen, wann KI beteiligt ist und wie sich eine Entscheidung hinterfragen lässt.
• Binden Sie Menschen ein (Human in the Loop), wo Entscheidungen die Rechte oder Chancen von Menschen berühren.
• Überwachen und protokollieren Sie: auf Drift achten, festhalten, was das System getan hat, und einen Prozess für Vorfälle haben.
• Dokumentieren Sie: Zweck, Grenzen, Daten, Tests und Entscheidungen, in einer Form, die jemand anderes prüfen kann.

Welche besonderen Risiken birgt generative KI?

Das Profil des NIST zur generativen KI hebt unter anderem Konfabulation («selbstsicher vorgetragene, aber fehlerhafte oder falsche Inhalte»), Datenschutz, schädliche Verzerrung oder Homogenisierung, Informationsintegrität, geistiges Eigentum, Mensch-KI-Konfiguration, Umweltauswirkungen und Risiken in der Wertschöpfungskette hervor. Jedes erfordert eine Kontrolle, etwa Verankerung (Grounding), Prüfung, Zugriffsbeschränkungen oder Sorgfaltsprüfung von Lieferanten.

Was sollten Sie einen KI-Lieferanten fragen?

• Welchen Rahmenwerken oder Standards folgt Ihr Ansatz, und können Sie zeigen, wie?
• Wer ist auf Ihrer und auf unserer Seite für das System verantwortlich?
• Wie testen Sie auf Fehler und Verzerrungen, und können wir die Ergebnisse einsehen?
• Wohin gehen unsere Daten, und wer kann darauf zugreifen?
• Wie kann eine Person ein Ergebnis anfechten oder übersteuern?

Wo Zunkiree Labs steht

Zunkiree Labs entwickelt individuelle KI-Systeme (darunter RAG-Pipelines, LLM-Integration und intelligente Automatisierung), Datensysteme, individuelle Software sowie Web- und Mobilanwendungen. Alles in diesem Leitfaden gilt auch für unsere eigene Arbeit, und wir ermutigen Käuferinnen und Käufer, uns die obigen Lieferantenfragen schriftlich zu stellen. Wir behaupten auf dieser Seite keine Zertifizierung. Siehe die Leistungsseite.

Weiterlesen

• Was ist maschinelles Lernen? – die Grundlage: wie Systeme aus Daten lernen, mit Erklärungen zu NLP, neuronalen Netzen und LLMs
• Was ist Deep Learning? – wie neuronale Netze lernen und wann sie das richtige Werkzeug sind
• Was ist generative KI? – wie sie funktioniert, wo sie hilft und wo sie versagt
• Was ist KI? – der breitere Überblick

Quellen

• UNESCO: Recommendation on the Ethics of Artificial Intelligence (angenommen im November 2021)
• OECD: AI Principles (angenommen 2019, aktualisiert im Mai 2024)
• NIST: AI Risk Management Framework (AI RMF 1.0 veröffentlicht am 26. Januar 2023)
• NIST AI 600-1: Artificial Intelligence Risk Management Framework, Generative AI Profile (Juli 2024)
• AI Act implementation timeline (Seite aktualisiert am 31. August 2026; nicht der offizielle EU-Text)