Ethische AI: principes, risico's en toepassing in organisaties

Ethische AI betekent AI zo bouwen en gebruiken dat zij de rechten van mensen respecteert, hen eerlijk behandelt, uitlegbaar is en verantwoording aflegt. Deze gids behandelt de drie referentiekaders die de meeste organisaties gebruiken, hoe de wetgeving bijtrekt en een praktische checklist om de principes in de praktijk te brengen.

Wat is ethische AI?

Er is geen enkele juridische definitie, maar er is brede overeenstemming over de kernideeën: respect voor mensenrechten, eerlijkheid, transparantie, veiligheid, privacy, menselijk toezicht en verantwoordingsplicht. De onderstaande secties laten zien waar die overeenstemming is vastgelegd.

Belangrijkste punten

• Drie veelgebruikte referenties zijn de Aanbeveling van UNESCO, de OESO-AI-principes en het NIST AI Risk Management Framework.
• Ze zijn het eens over de essentie: mensenrechten, eerlijkheid, transparantie, veiligheid, privacy en verantwoordingsplicht.
• Bindende regels komen eraan, zoals de EU AI Act, en toezichthouders passen bestaande wetgeving voor gegevensbescherming al toe op AI.
• Ethiek wordt concreet door eigenaarschap, risicobeoordeling, testen, menselijk toezicht en monitoring.
• Generatieve AI brengt specifieke risico's mee, zoals confabulatie, waarvoor eigen beheersmaatregelen nodig zijn.

Wat zeggen de belangrijkste kaders?

UNESCO-aanbeveling over de ethiek van AI

Aangenomen in november 2021 door de 193 lidstaten van UNESCO, wordt zij beschreven als de eerste wereldwijde standaard voor AI-ethiek. Ze rust op vier waarden: de menselijke waardigheid en de mensenrechten respecteren en bevorderen; rechtvaardige, vreedzame en onderling verbonden samenlevingen bevorderen; diversiteit en inclusiviteit waarborgen; en het gedijen van het milieu en de ecosystemen ondersteunen. Tot de principes behoren proportionaliteit en geen schade toebrengen, transparantie en uitlegbaarheid, menselijk toezicht, eerlijkheid en non-discriminatie, veiligheid en beveiliging, bescherming van de privacy, verantwoordingsplicht, duurzaamheid en bewustzijn. Over toezicht zegt ze dat AI-systemen "de uiteindelijke menselijke verantwoordelijkheid en verantwoordingsplicht niet verdringen."

OESO-AI-principes

Aangenomen in 2019 en bijgewerkt in mei 2024, worden ze beschreven als de eerste intergouvernementele standaard voor AI, met 47 aangeslotenen. De vijf op waarden gebaseerde principes zijn inclusieve groei, duurzame ontwikkeling en welzijn; mensenrechten en democratische waarden, waaronder eerlijkheid en privacy; transparantie en uitlegbaarheid; robuustheid, beveiliging en veiligheid; en verantwoordingsplicht.

NIST AI Risk Management Framework

AI RMF 1.0, uitgebracht op 26 januari 2023, is "bedoeld voor vrijwillig gebruik" om het vermogen te verbeteren betrouwbaarheid in te bouwen in het ontwerp, de ontwikkeling, het gebruik en de evaluatie van AI. De kern bestaat uit vier functies: Govern, Map, Measure en Manage. Voor generatieve AI publiceerde NIST in juli 2024 een aanvullend profiel (zie Wat is generatieve AI?).

Wat zegt de wet?

De EU AI Act is het meest prominente bindende regime. Een gepubliceerd overzicht van het tijdschema (bijgewerkt op 31 augustus 2026, en niet de officiële EU-tekst) noemt 1 augustus 2024 voor de inwerkingtreding, 2 februari 2025 voor verboden en AI-geletterdheid, 2 augustus 2025 voor verplichtingen voor AI voor algemeen gebruik, 2 december 2027 voor de hoogrisicovereisten van bijlage III en 2 augustus 2028 voor bijlage I. Controleer de officiële tekst voordat u op een datum vertrouwt. Toezichthouders passen ook bestaande wetgeving toe op AI. Onze regionale gidsen behandelen wat specifieke autoriteiten zeggen:

• AI in de Britse gezondheidszorg en generatieve AI op Britse scholen
• AI-infrastructuur in Canada
• data engineering in Australië
• bedrijfssoftware in Nederland
• KI in der Schweiz en KI in Deutschland (in het Duits)

Hoe brengt u ethische AI in de praktijk?

• Benoem een eigenaar voor elk AI-systeem, met de bevoegdheid het stop te zetten.
• Beoordeel de toepassing: wie kan er schade lijden, hoe ernstig en hoe waarschijnlijk is dat?
• Controleer de data: waar ze vandaan komt, of u ze mag gebruiken en wie erin ontbreekt.
• Test op fouten en bias bij realistische gevallen vóór de lancering, en blijf daarna testen.
• Wees transparant: vertel mensen wanneer AI erbij betrokken is en hoe een beslissing kan worden betwist.
• Houd mensen erbij betrokken (human in the loop) waar beslissingen de rechten of kansen van mensen raken.
• Monitor en log: let op drift, leg vast wat het systeem deed en zorg voor een incidentenproces.
• Documenteer: doel, grenzen, data, tests en beslissingen, in een vorm die iemand anders kan controleren.

Wat zijn de specifieke risico's van generatieve AI?

Het profiel van NIST voor generatieve AI belicht onder meer confabulatie ("zelfverzekerd gepresenteerde maar onjuiste of valse content"), gegevensprivacy, schadelijke bias of homogenisering, informatie-integriteit, intellectueel eigendom, mens-AI-configuratie, milieueffecten en risico's in de waardeketen. Elk daarvan vraagt om een beheersmaatregel, zoals grounding, beoordeling, toegangsbeperkingen of een zorgvuldigheidsonderzoek bij leveranciers.

Wat vraagt u een AI-leverancier?

• Welke kaders of standaarden volgt uw aanpak, en kunt u laten zien hoe?
• Wie is aan uw kant en aan onze kant verantwoordelijk voor het systeem?
• Hoe test u op fouten en bias, en kunnen wij de resultaten zien?
• Waar gaat onze data naartoe, en wie heeft er toegang toe?
• Hoe kan een persoon een uitkomst betwisten of terzijde schuiven?

Waar Zunkiree Labs past

Zunkiree Labs bouwt maatwerk-AI-systemen (waaronder RAG-pipelines, LLM-integratie en intelligente automatisering), datasystemen, maatwerksoftware en web- en mobiele applicaties. Alles in deze gids geldt voor ons eigen werk, en we moedigen kopers aan de bovenstaande leveranciersvragen schriftelijk aan ons voor te leggen. Op deze pagina claimen we geen certificering. Zie de dienstenpagina.

Verder lezen

• Wat is machine learning? — het fundament: hoe systemen van data leren, met uitleg over NLP, neurale netwerken en LLM's
• Wat is deep learning? — hoe neurale netwerken leren en wanneer ze het juiste gereedschap zijn
• Wat is generatieve AI? — hoe het werkt, waar het helpt en waar het faalt
• Wat is AI? — het bredere overzicht

Bronnen

• UNESCO: Recommendation on the Ethics of Artificial Intelligence (aangenomen in november 2021)
• OECD: AI Principles (aangenomen in 2019, bijgewerkt in mei 2024)
• NIST: AI Risk Management Framework (AI RMF 1.0 uitgebracht op 26 januari 2023)
• NIST AI 600-1: Artificial Intelligence Risk Management Framework, Generative AI Profile (juli 2024)
• AI Act implementation timeline (pagina bijgewerkt op 31 augustus 2026; niet de officiële EU-tekst)