Balans tussen bescherming en innovatie

De wet bepaalt in welke omstandigheden AI wel of niet gebruikt mag worden. Hiervoor wordt gewerkt met risicocategorieën waaraan een aantal voorwaarden gekoppeld worden. De mate waarin de gebruikte AI de rechten van burgers in gevaar kan brengen, is leidend om te bepalen in welke categorie deze valt.

Er komen 4 risicocategorieën met specifiek te volgen regels:

1. Minimaal risico: bijvoorbeeld een spamfilter
2. Beperkt risico: bijvoorbeeld chatbots o.b.v. AI
3. Hoog risico: bijvoorbeeld zelfrijdende auto’s
4. Onaanvaardbaar risico: bijvoorbeeld emotieherkenning op de werkvloer

Systemen die een onaanvaardbaar risico vormen, worden verboden. Verder zijn er meer en striktere regels al naargelang de grootte van het risco. Zo kan realtime gezichtsherkenning wel nog onder strikte voorwaarden en met toestemming van een rechter (bijvoorbeeld om aanslagen te voorkomen), maar is emotieherkenning in een school verboden.

Hierbij enkele concrete voorbeelden uit deze nieuwe wet:

• Meer openheid over AI-systemen: In de toekomst komt er meer duidelijkheid over welke systemen gebruikmaken van AI, hoe ze functioneren en welke gegevens ze gebruiken voor hun training.
• Duidelijkheid rond AI-gebruik: Het wordt verplicht voor chatbots en andere AI-toepassingen (zoals deepfakes) om duidelijk aan te geven dat ze AI gebruiken.
• Watermerken voor door AI gegenereerde content: Content die volledig is gemaakt door AI (vb. teksten, afbeeldingen en video’s), moet worden voorzien van een soort watermerk zodat deze content met behulp van speciale tools herkend kan worden.