Eerste wetgeving voor Artificiële Intelligentie is een feit
Vandaag heeft het Europees Parlement in Straatsburg het licht op groen gezet voor de Artificial Intelligence Act. “Een primeur,” zegt Europees Parlementslid Kathleen Van Brempt (Vooruit). “We erkennen hiermee het enorme potentieel dat artificiële intelligentie onze economie en samenleving kan bieden, maar zorgen er tegelijk voor dat ze op een veilige en juiste manier kan worden gebruikt en beschermen de rechten van Europese burgers tegen misbruik.”
De Europese Unie is de eerste om werk te maken van een wetgeving die het gebruik van AI reguleert. “In het verleden hebben we gezien dat wetgeving vaak achteropliep op de realiteit van nieuwe technologieën, denk maar aan het internet of sociale media,” zegt Van Brempt. “Om die fouten uit het verleden te voorkomen, hebben we vanuit het Europees Parlement meteen opgeroepen om werk te maken van heldere spelregels voor het gebruik van artificiële intelligentie.” De Artificial Intelligence Act zoekt een evenwicht tussen het stimuleren van innovatie en het beschermen van fundamentele rechten van werknemers en Europese burgers.
Privacy respecteren
Zo komt er een verbod op bepaalde toepassingen van artificiële intelligentie om de privacy van Europese burgers te beschermen. Zo mogen bedrijven geen gebruik maken van AI algoritmen die mensen identificeren op basis van foto’s en gegevens die online te vinden zijn. Van Brempt verwijst naar de case van het Amerikaanse bedrijf Clearview, dat gezichtsherkenningstechnologie op basis van artificiële intelligentie verkoopt. “Maar de technologie deed dat op basis van foto’s op sociale media, zonder dat daarvoor toestemming werd gevraagd of gegeven door de personen in kwestie,” zegt Van Brempt. “De foto’s die je op sociale media plaatst, mogen niet door eender welk bedrijf en zonder toestemming worden gebruikt.”
Ook het gebruiken van AI om emoties van werknemers op de werkvloer of leerlingen en leerkrachten in het onderwijs te detecteren, wordt verboden. Politie en justitie mogen ook geen artificiële intelligentie gebruiken om aan ‘voorspellend politiewerk’ te doen. Ook mag AI niet worden gebruikt bij realtime biometrische identificatie, behalve in uitzonderlijke gevallen door politionele diensten, bv. bij het opsporen van vermiste personen of het gericht zoeken naar slachtoffers van ontvoering of mensenhandel. AI inzetten om mensen te categoriseren op basis van hun geloof, seksuele voorkeur, afkomst of lidmaatschap van organisaties in het maatschappelijk middenveld, zoals vakbonden, wordt eveneens verboden.
Controle op gebruik van AI
In de gevallen waar politie en justitie toch gebruik kunnen maken van artificiële intelligentie, worden bijkomende voorwaarden opgelegd aan het gebruik ervan. Zo mogen AI-systemen niet ongericht gebruikt worden, zonder enig verband met een strafbaar feit of een lopende strafrechtelijke procedure. Elk gebruik ervan moet worden gedocumenteerd en aangegeven bij de nationale gegevensbeschermingsautoriteit. “De nationale gegevensbeschermingsautoriteiten zullen ook jaarlijks verslag moeten uitbrengen over het gebruik ervan,” zegt Van Brempt. “Het gebruik van artificiële intelligentie kan het werk van politie en justitie versterken, maar dat moet wel op een gecontroleerde, correcte en transparantie manier gebeuren.” Overheden, publieke diensten (scholen, rusthuizen, ziekenhuizen, etc.) en semi-publieke sectoren als banken en verzekeringsagentschappen die gebruik maken van AI moeten vooraf de impact van de AI-toepassing op de fundamentele rechten van burgers. Er komt ook een onafhankelijk AI-agentschap dat zal controleren of deze regels correct worden toegepast.
Bovendien hebben burgers het recht om te weten wanneer AI wordt toegepast. “Transparantie en openheid zijn belangrijk het gebruik van artificiële intelligentie,” zegt Van Brempt. “Werknemers moeten op de hoogte gebracht worden wanneer hun bedrijf AI gebruikt voor management. Wie met AI werkt, moet daarvoor ook een bijkomende opleiding krijgen.”
Onderwijs en training
Daarnaast moet vooral ingezet worden op opleiding en training. “Artificial intelligence is here to stay. Dus is het essentieel dat mensen er ook op een correcte en veilige manier mee leren werken. Zo krijgt iedereen de kans om beroep te doen op de voordelen en opportuniteiten van artificiële intellegentie, maar beperken we de risico’s die onjuist gebruik van AI met zich mee kan brengen.”