De eerste verplichtingen die worden opgelegd in de EU AI Act (of AI-verordening) treden in werking op 2 februari 2025

De EU ACT.

De EU AI Act (of AI-verordening) biedt een juridisch kader voor het gebruik van artificiële intelligentie (AI) in de Europese Unie met als basisbeginselen: productveiligheid, grondrechtenbescherming en consumentenbescherming.

De EU AI Act werkt aanvullend op bestaande wetgeving zoals de Algemene Verordening Gegevensbescherming (AVG) en heeft als doel ervoor zorgen dat AI-systemen die in de EU worden aangeboden veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn zonder de innovatie in artificiële intelligentie in de weg te staan. 

Het toepassingsgebied van de EU Act.

De EU AI Act is niet van toepassing op alle soorten AI-systemen. AI-systemen die worden gebruikt voor wetenschappelijk onderzoek, inclusief onderzoek naar AI-systemen en de ontwikkeling en testing daarvan, vallen niet onder de EU AI Act.

Daarenboven is de EU AI Act niet van toepassing op AI-systemen die nog in ontwikkeling zijn, slechts vanaf het moment dat AI-systemen op de markt worden gebracht moet met de AI act worden rekening gehouden. 

De AI Act is evenmin van toepassing op systemen die uitsluitend worden gebruikt voor privédoeleinden. 

Tenslotte zijn AI-systemen die onder open source licenties worden verspreid in principe uitgesloten van de EU AI Act, behalve als deze systemen worden geïntegreerd in hoog risicosystemen of onder verhoogde transparantieverplichtingen vallen. 

Op wie is de EU Act van toepassing?

De regelgeving geldt voor zowel publieke als private actoren die AI ontwikkelen, op de markt brengen of inzetten. Hieronder vallen aanbieders, fabrikanten, importeurs, distributeurs en gebruiksverantwoordelijken.

De aanbieder is de entiteit die een AI-systeem op de Europese markt brengt. De fabrikant integreert een AI-systeem in producten zoals speelgoed, machines of andere artikelen. Importeurs brengen een AI-systeem voor het eerst op de Europese markt. Distributeurs verspreiden AI-systemen verder op de Europese markt. Gebruiksverantwoordelijken gebruiken AI-systemen voor professionele doeleinden. Dit zijn de eindgebruikers van de AI-systemen.

De toepassing van de AI-Act voor de lokale besturen.

Lokale besturen zijn ook gevat door de AI Act niet alleen als werkgever maar ook als aanbieder en eindgebruiker.

De gefaseerde inwerkingtreding van de AI-Act.

De inwerkingtreding gebeurt in verschillende fases: de eerste verplichtingen treden op 2 februari in werking.

Als werkgever: 

AI-geletterdheid:
Werkgevers moeten maatregelen nemen om ervoor te zorgen dat hun personeel en alle andere personen die namens hen AI systemen exploiteren en gebruiken over een toereikend niveau van AI- geletterdheid beschikken.

AI-geletterdheid gaat over vaardigheden, kennis en begrip waarover iedereen (niet alleen de IT diensten maar iedereen die in de organisatie met AI in aanraking komt) moet beschikken om in staat te zijn AI-systemen geïnformeerd in te zetten en om zich bewust te zijn van de mogelijkheden maar ook van de risico’s van AI. 

De werkgevers houden hierbij rekening met de bestaande kennis, ervaring, onderwijs en opleiding van hun personeel en andere betrokkenen, met de context waarbinnen AI-systemen worden gebruikt en met de personen en groepen ten aanzien van wie de AI-systemen zullen worden gebruikt. 

Dit heeft tot gevolg dat het aanbod van de werkgever verschillend zal zijn naargelang de functie en de bestaande kennis (het aanbod van de werkgever naar een IT- er zal verschillend zijn van het aanbod naar andere personeelsleden). 

Het is de werkgever zelf die zal bepalen welke opleiding zal worden gegeven aan welke personeelsleden. (een algemene training met basiskennis of een specifieke cursus over bepaalde specifieke toepassingen of het leren erkennen van specifieke gevaren die verbonden kunnen zijn aan bepaalde AI-toepassingen). 

AI-beleid:
De werkgever moet duidelijke richtlijnen voorzien in een beleidsplan : wie mag welke toepassing gebruiken binnen de organisatie? Hoe zorgt de werkgever ervoor dat alle betrokkenen voldoende AI-geletterd blijven wanneer programma’s of tools veranderen of wanneer de betrokkenen een andere functie krijgen. 

Als aanbieder of gebruiksverantwoordelijke:

De EU AI Act deelt de AI-systemen in een aantal categorieën in naargelang het risico dat zij vormen voor de gezondheid, de veiligheid, de grondrechten en de democratie. AI-systemen met een hoge risicograad mogen vanaf 2 februari 2025 niet meer worden gebruikt.

Lokale besturen doen er dan ook goed aan een volledige inventaris op te stellen om alle AI-toepassingen te identificeren en na te gaan of deze onder de toepassing vallen van de AI-Act en, in voorkomend geval, onder welke risicocategorie. 

Indien een AI-toepassing als verboden wordt geclassificeerd moet deze vanaf 2 februari worden stopgezet.

Hoog risico AI-systemen moeten worden geregistreerd in de openbare Europese databank en een FRIA (Fundamental Rights Impact Assessment) moet worden ingevuld, zijnde een effectbeoordeling van de mogelijke gevolgen voor de grondrechten door het gebruik van het hoog risico AI-systeem

Sancties.

Organisaties die de regels van de EU AI Act overtreden zullen worden beboet. Deze boetes zijn afhankelijk van de ernst van de overtreding en de grootte van de organisatie.