Artikel 16 april 2021

Nieuwe ai-wet moet EU-burger meer bescherming bieden

De EU gaat ai strenger reguleren. Er komt een lijst met verboden toepassingen en veel nu al ingezette ai-oplossingen krijgen een hoog-risicoclassificering. Omdat producten op tal van punten toetsing nodig hebben, zijn de gevolgen voor ontwikkelaars en gebruikers van ai-toepassingen groot.

Dat blijkt uit de concepttekst van regelgeving die 21 april door de Europese Commissie wordt behandeld. Het gaat om overkoepelende wetgeving over ai en machine learning.

De kern van die nieuwe ai-verordening is dat veel ai-systemen een hoog-risicoclassificering krijgen. Ze moeten daarmee voldoen aan specifieke EU-regels over productveiligheid. Het gaat bijvoorbeeld over ai-toepassingen voor luchtvaartapparatuur, speelgoed, radioapparatuur en medische apparatuur. Ook worden specifieke toepassingen van ai als een hoog risico beschouwd. Bijvoorbeeld biometrie, identificatie, kredietscore, hr-analyse en risicobeoordeling.

Voordat aanbieders van ai-toepassingen met een hoog-risicoprofiel een product op de markt brengen, moeten ze een conformiteitsbeoordeling doen. Daarin worden eisen gesteld aan trainingsdata, documentatie en administratie. Ook zaken als menselijk toezicht, robuustheid, nauwkeurigheid, veiligheid en transparantie naar gebruikers worden vastgelegd. De Commissie kan de lijst van risicovolle systemen gaandeweg bijwerken. Bijvoorbeeld bij letsel, nadelige gevolgen voor de samenleving of als deze in strijd zijn met mensenrechten. Uiteindelijk moet er een database ontstaan waarin ‘goedgekeurde’ ai-toepassingen staan.

Lees het volledige artikel op computable.nl

Ook interessant