Top, we hebben dus vastgesteld dat het systeem geen profiling uitvoert en geen veiligheidscomponent is van een gereguleerd product. De laatste stap is om te bekijken of het systeem op de risicolijst van bijlage III staat.
Deze lijst bevat acht categorieën van toepassingen die de wetgever zo belangrijk en gevoelig vindt, dat AI-toepassingen daarin in principe altijd als hoog risico worden aangemerkt. De Europese Commissie kan deze lijst later nog uitbreiden.
AI op de volgende gebieden is uitgezonderd:
Biometrische identificatie (op afstand), biometrische categorisering of emotieherkenning
De fysieke veiligheid van kritieke infrastructuur
AI die wordt gebruikt voor (de toegang tot) onderwijs
De werving en beoordeling van personeel
Essentiële publieke en particuliere diensten, zoals het bepalen van uitkeringen, kredietwaardigheid, het vaststellen van verzekeringspremies of het inzetten van hulpdiensten.
AI toepassingen rond rechtspraak en rechtshandhaving. Denk aan systemen die de betrouwbaarheid van bewijsmateriaal beoordelen of het risico inschatten dat iemand slachtoffer wordt van een strafbaar feit.
Politie, opsporing en migratie
Rechtsbedeling en democratische processen
Belangrijk is wel dat niet iedere AI-toepassing in deze domeinen automatisch hoog risico is. Het gaat steeds om de specifieke toepassingen die in de lijst zijn genoemd. Alles wat daar niet letterlijk onder valt, telt niet als hoog risico ook al zou je in de praktijk wel grote risico’s kunnen bedenken.
Stel, er is een AI die cv’s screent en sollicitanten selecteert of afwijst op basis van bepaalde kenmerken. Dit valt onder lid 4a van de bijlage dus deze AI wordt aangemerkt als hoog risico.
Een AI die HR-medewerkers helpt door vergadernotulen samen te vatten of reminders voor beoordelingsgesprekken te versturen. Dit valt niet onder de bijlage en is dus geen hoog risico AI.
De vraag of een AI hoog risico is, hangt niet af van een algemene inschatting van gevaar of impact, maar uitsluitend van of het systeem letterlijk valt onder de toepassingen die in bijlage III zijn genoemd. Staat het er niet bij? Dan is het systeem volgens de verordening geen hoog risico.
Ja, de toepassing van het AI-systeem staat op de lijst van bijlage III
Nee, de toepassing van het AI-systeem staat niet op de lijst van bijlage III