Bestaande systemen voor artificial intelligence (ai) zijn uitgezonderd van de nieuwe ai-verordening waar de EU aan werkt. De wettelijke eisen zullen alleen van toepassing zijn als die systemen beduidend worden aangepast.
Ontwikkelaars van ai-producten kunnen immers niet voorzien welke regels straks van toepassing zijn voor hun producten. Als de ai-verordening met terugwerkende kracht zou gelden, dan remt dat de ontwikkeling.
Dit betekent niet dat veel ai-systemen hierdoor buiten schot blijven. Want van veel ai die gebruikt gaat worden voor toepassingen met een hoog risico, zullen regelmatig nieuwe versies met significante aanpassingen verschijnen. En dan gelden de regels weer wel.
Belangrijk ook is dat de verordening wel terugwerkende kracht krijgt voor ‘verboden ai’. Zo mogen overheden straks geen sociale-ratingsystemen toepassen die discriminerend werken of andere onevenredig nadelige gevolgen hebben. Ook is transparantie geboden hoe ratings tot stand komen. Burgers moeten ook in beroep kunnen gaan. Uit den boze zijn systemen die burgers beoordelen op basis van data uit hele verschillende omgevingen die niet met elkaar zijn verbonden, maar wel grote nadelige consequenties kunnen hebben.
Uitgesloten zijn Chinese toestanden waarbij burgers die bijvoorbeeld hun plastic afval in een groene container stoppen of andere kleine zonden begaan, niet meer voor een paspoort in aanmerking komen. Wel toegestaan is het geven van scores van klanten aan Uber-taxichauffeurs en vice versa omdat die contexten met elkaar samenhangen. Maar anders wordt het als de klant de Uber-chauffeur een score toebedeelt en de klant vervolgens een hogere of lagere premie moet betalen voor de zorgverzekering.
De ai-verordening van de EU, waarvan een nul-versie gereed is, kent gedetailleerde regels. Tegelijk wordt binnen de Raad van Europa, die 46 lidstaten telt waaronder ook niet-EU-landen, onderhandeld over het ai-verdrag. De bepalingen van het verdrag richten zich op de landen zelf. Die moeten verplicht regels uitwerken om mensenrechten, de democratie en de rechtsstaat te beschermen bij ai-systemen. Per land zal de wetgever de bepalingen in nationale wetgeving moeten omzetten.
Maar elk land kan dat verschillend uitwerken. De EU-lidstaten zullen voornamelijk met eerdergenoemde ai-verordening invulling geven aan dit verdrag. Alleen ai-systemen die aan de eisen van de verordening voldoen, kunnen binnen de EU op de markt worden gebracht.
Overlap
Tussen het ai-verdrag waar de Raad van Europa aan werkt, en de EU-ai-verordening bestaat een grote overlap. Alles moet goed op elkaar zijn afgestemd. Belangrijk is dat de Raad van Europa en de EU tot definities komen die op elkaar aansluiten. Het zou wenselijk zijn als onder het ene kader systemen wel als ai worden aangemerkt en onder het andere kader niet. De Raad worstelt nog met de definitie van ai-systemen. Zo’n definitie moet niet alleen duidelijk maar ook technologieneutraal en toekomstbestendig zijn. Generatieve ai zoals ChatGPT zou in beide kaders onder de definitie van ai vallen. Het huidige conceptverdrag kent nog geen specifieke bepalingen over generatieve ai-systemen. Maar de mensenrechten zoals privacy moeten wel zijn beschermd. Ook in EU-verband zijn deze systemen nog in discussie.
Overigens zijn ook enkele landen die geen lid van de Raad zijn, bij het ontwerp van de verdragsregels betrokken. Canada, de VS, Japan en Israël doen als ‘observer states’ actief mee aan de onderhandelingen. Wereldwijd werken ruim 60 landen aan ai-regelgeving.
