Artificial Intelligence (AI) of Kunstmatige Intelligentie (KI) is een verzamelbegrip waar machine learning, deep learning en rule based AI voorbeelden van zijn. Er bestaan oneindig veel toepassingen voor. AI-systemen zijn door mensen ontworpen systemen die mensachtige vaardigheden zoals interpreteren, redeneren en leren nabootsen. Het is zelfs mogelijk dat een AI-systeem zichzelf daarin op basis van data verbetert (machine learning en deep learning). Actuele voorbeelden van AI-systemen die organisaties helpen efficiënter te werken? Denk aan een klantenservice-chatbot, een systeem dat helpt ziektes te herkennen, maar ook aan een algoritme op basis van cookies waarmee je gepersonaliseerde content weergeeft aan je websitebezoekers.
Voorstel tot verordening
Wereldwijd bestaat er niet één “standaard” definitie voor een AI-systeem. In april 2021 heeft de Europese Commissie daarom een eerste voorstel gedaan voor een verordening tot vaststelling van geharmoniseerde regels betreffende AI. Het doel hiervan is een technologieneutrale definitie van AI-systemen in EU-recht vast te stellen. En een classificatie vast te stellen voor AI-systemen met verschillende eisen en verplichtingen, toegespitst op een 'risicogebaseerde benadering'.
Waar moeten organisaties rekening mee houden?
Voor je als organisatie een AI-systeem ontwikkelt of gebruikt, is het raadzaam rekening te houden met:
- De Algemene verordening gegevensbescherming (AVG) en het voorstel tot een verordening van de Europese Commissie
- Ethische aspecten
- Organisatorische aspecten
- Bias
- Uitspraken van de Autoriteit Persoonsgegevens
Relatie tussen AI, de AVG en het voorstel voor een verordening
Onder de AVG heeft de persoon het recht niet te worden onderworpen aan geautomatiseerde besluitvorming die duidelijke gevolgen heeft voor deze persoon. Dit betekent dat de organisatie die een AI-systeem wil inzetten waarin geautomatiseerde besluitvorming aan de orde is, effectieve menselijke controle op het besluit moet garanderen. Privacy en gegevensbescherming moeten worden gegarandeerd vanaf het begin tot en met de ontmanteling of vernietiging van een systeem.
Voorstel Europese Commissie
Het voorstel van de Europese Commissie classificeert AI-systemen in drie categorieën: systemen met een onacceptabel risico, systemen met een hoog risico en systemen met een laag risico. AI-systemen met een onacceptabel risico zijn in het voorstel verboden. Bijvoorbeeld een systeem dat besluiten neemt die de kwetsbaarheid van een groep personen vergroot. Denk hierbij bijvoorbeeld aan een geautomatiseerd besluit waarbij iemand wordt benadeeld doordat diegene in een bepaald profiel past, zonder dat met zijn/haar persoonlijke situatie rekening gehouden is. Het voorstel stelt voorwaarden aan systemen met een hoog risico en, in mindere mate, voor systemen met een laag risico.
