De AI regelgeving komt er aan!

Waar staan we nu (begin 2024)?

Recentelijk heeft de EU een voorlopig politiek akkoord bereikt over het wetsvoorstel (de AI Act) die zal leiden tot de AI Regulation. De verwachting is dat deze wet in 2026 in werking gaat. Dit betekent dat de EU de eerste in de wereld zal zijn die een wetgeving heeft specifiek over AI. Maar wat betekent de nieuwe AI act voor de gemiddelde MKB’er? Of stel je voor, je gebruikt ChatGPT om snelle samenvattingen te maken om op de hoogte te blijven van nieuwe ontwikkelingen in jouw vakgebied. Moeten we nu meer betalen om AI systemen te gebruiken of zullen ze totaal verboden worden?

De vier AI risicogroepen binnen de AI Act

De AI act is eigenlijk een raamwerk met een aantal eisen voor verschillende AI systemen. De EU heeft gekozen voor een ‘’risk-based approach’’. Dit houdt in dat alle AI systemen worden geclassificeerd in 4 verschillende categorieën.

1.  ‘’Unacceptable Risk AI systems’’
   • AI systemen die verboden zullen zijn in de EU
     • hierbij kun je denken aan een sociaal scoring systeem dat mensen bepaalde scores toekent gebaseerd op absurde criteria.
2. ‘’Generative Risk AI systems’’
   • AI systemen die zich voordoen als een persoon. Het populairste systeem waar iedereen wel bekend mee is, is ChatGPT van OpenAI. Dit zijn AI systemen die gebruik maken van LLMs of ‘’large language models’’.
     • De regels die verbonden zijn aan Generative Risk AI systems zijn zogenaamde ‘’Transparancy requirements’’. Zoals het vermelden van het feit dat de content is gegenereerd door AI.
     • Zowel het gebruik als de ontwikkeling van dit soort systemen is toegestaan in de EU mits ze voldoen aan deze transparancy requirements. Dus je hoeft niet bang te zijn dat ChatGPT verboden zal worden in de EU.
3. ‘’Minimal Risk AI systems’’
   • AI systemen die bedoeld zijn om mensen te helpen met hun besluitvorming. Het is toegestaan om zowel te ontwikkelen aan deze systemen als ze te gebruiken in de EU.
     • Een interessant voorbeeld genoemd in de wetgeving zelf zijn AI systemen die deepfakes produceren. De reden waarom deze systemen geplaatst zijn in de categorie met het minste risico is dat deze systemen verplicht zijn om te vermelden dat het gemaakt is door AI. Hierdoor is er geen sprake meer van verwarring.
4. ‘’High risk AI systems’’
   • AI systemen die een negatief effect hebben op de veiligheid of rechten van mensen. Momenteel worden in de wetgeving 26 specifieke scenario’s benoemd wanneer je AI systeem wordt beschouwd als ‘’High risk AI systems’’.
     • Een voorbeeld hiervan is als jouw AI systeem betrokken is bij de veiligheid van vliegtuigen. Als je zulke systemen wilt ontwikkelen en op de markt wilt brengen in de EU is dit niet verboden, maar er zijn wel strenge eisen verbonden aan deze systemen die niet alleen gelden voor de ontwikkelaars maar ook voor de gebruikers.

Is de AI act alleen bedoeld om ontwikkelingen rondom AI in te perken?

Nu lijkt het alsof de EU alleen maar extra regels heeft bedacht voor het ontwikkelen en gebruik van AI. Echter dit is het tegenovergestelde van wat de EU wil, want de EU wil namelijk juist de ontwikkeling en innovatie op het gebied van AI verhogen in de EU zodat de EU een leiderschapspositie behoudt.  Dit verwacht de EU te bereiken door meer duidelijkheid te bieden aan  ontwikkelaars en onzekerheden weg te nemen met behulp van de eisen die worden gesteld aan AI systemen. Daarnaast biedt men ook zogenaamde regulatory AI sandboxes aan waarin ontwikkelaars hun AI systemen kunnen ontwikkelen zonder bang te zijn om niet te voldoen aan de AI Act.

Tot slot

Wil je meer weten of een keertje sparren over de AI act of andere zaken op het gebied van AI? Neem dan contact op, dan maken we een afspraak.

Check ook onze special AI pagina <klik hier>