De AI-verordening gaat in

De AI-verordening is op 1 augustus 2024 in werking getreden. Die geldt voor de gehele Europese Unie, dus ook in Nederland. De komende tijd gaan de verschillende eisen die deze wet stelt aan ontwikkelaars en gebruikers van kunstmatige intelligentie (AI) stap voor stap gelden. De eerste eisen gelden vanaf februari 2025. Deze AI Act is de eerste uitgebreide wetgeving ter wereld die specifiek gericht is op het reguleren van kunstmatige intelligentie (AI). Met deze verordening wil de Europese Unie de balans vinden tussen innovatie en het waarborgen van de veiligheid en fundamentele rechten van haar burgers.

Wat houdt de AI-Verordening in?

De AI-Verordening introduceert een risico gebaseerde benadering voor het gebruik van AI-systemen. Deze aanpak verdeelt AI-toepassingen in verschillende risicocategorieën, elk met specifieke regels en verplichtingen. We onderscheiden:

Verboden AI-systemen

AI-toepassingen die een onaanvaardbaar risico vormen voor de fundamentele rechten van mensen worden verboden. Dit omvat bijvoorbeeld AI-systemen die subliminale technieken gebruiken om gedrag te manipuleren of systemen die sociale scores toekennen aan burgers, zoals bekend uit China.

Hoogrisico AI-systemen

AI-toepassingen die een hoog risico vormen, zoals in de gezondheidszorg, rechtshandhaving of onderwijs, worden onderworpen aan strikte controles en toezicht. Deze systemen moeten voldoen aan specifieke vereisten op het gebied van transparantie, veiligheid en toezicht, voordat ze op de markt kunnen worden gebracht.

Beperkt Risico AI-systemen

AI-toepassingen met een beperkt risico, zoals chatbots, moeten aan bepaalde transparantieverplichtingen voldoen. Gebruikers moeten bijvoorbeeld worden geïnformeerd wanneer ze met een AI-systeem communiceren.

Minimaal Risico AI-systemen

AI-toepassingen die weinig of geen risico vormen, zoals de meeste AI-gestuurde apps en games, zijn vrijgesteld van strenge regelgeving, maar moeten nog steeds voldoen aan de algemene regels van de EU voor gegevensbescherming en consumentenrechten.

Rol OR

De ondernemingsraad (OR) doet er goed aan om de ontwikkelingen op het gebied van AI in de gaten te houden. De nieuwe wetgeving kan een goed moment zijn om het gebruik van AI op de werkvloer te bespreken. AI zal ook op op het werk een steeds grotere rol spelen. Het gaat om een belangrijke technologische voorziening die vaak ook om een belangrijke investering vraagt. Daarom moet de bestuurder zo’n voorgenomen besluit vooraf aan de OR voorleggen voor advies (artikel 25, lid 1k en h WOR). Er kan ook sprake zijn van een systeem dat persoonsgegevens van de achterban verwerkt. Daarbij heeft de OR instemmingsrecht (artikel 27, lid 1k WOR).

Bedenk ook dat AI inbreuk kan maken op de privacy van werknemers. Omdat privacy een belangrijk onderwerp is voor de OR, moet de ondernemingsraad bij het instemmingsverzoek goed checken of de privacy voldoende beschermd is.

Wilt u zich meer verdiepen in de privacywetgeving? Volg dan de cursus OR en AI.