Docenten moeten de controle behouden over AI-beslissingen die van invloed zijn op de toekomstige kansen van leerlingen. Dat staat in een resolutie die het Parlement heeft aangenomen over kunstmatige intelligentie (AI) in het onderwijs. In een andere, bredere resolutie over AI staat dat gemeenschappelijke regels voor mensgerichte, toegankelijke technologie noodzakelijk zijn om de impact van kunstmatige intelligentie op de samenleving in goede banen te leiden.


Parlement: houd controle over kunstmatige intelligentie in onderwijs en onderzoek

Kunstmatige intelligentie in onderwijs

Het Parlement heeft twee resoluties aangenomen over de digitale toekomst van Europa en de uitdagingen die de digitale transitie met zich meebrengt. In de eerste resolutie, die over kunstmatige intelligentie in het onderwijs gaat, onderstrepen Parlementariërs dat leraren altijd in staat moeten zijn om AI-beslissingen te corrigeren, vooral met betrekking tot de selectie en evaluatie van leerlingen. Ook stelt het Parlement dat het noodzakelijk is digitale geletterdheid te verbeteren en leerkrachten op te leiden die om kunnen gaan met het gebruik van AI-technologie in het onderwijs. Om voldoende mate van menselijke controle over algoritmische besluitvorming te behouden, moeten gespecialiseerde opleidingen aangeboden worden. Daarnaast is de ontwikkeling van inclusieve en ethische datasets belangrijk om ongelijke behandeling en discriminatie te voorkomen. Verder roept het Parlement op mensen aan te moedigen een loopbaan in ICT-gerelateerde sectoren na te streven, meer te investeren in het European Network of Artificial Intelligence Excellence Centres en om AI-gerichte Europese universitaire- en onderzoeksnetwerken op te richten. Ook de bevordering van samenwerking tussen innovatieve bedrijven, het hoger onderwijs, onderzoeksinstellingen en AI-ontwikkelaars heeft prioriteit.

Ethisch kader vereist

De tweede resolutie stelt onder andere dat kunstmatige intelligentie (AI) kan bijdragen aan onderwijs, gezondheidszorg, veiligheid en het milieu, maar dat een duidelijk wettelijk en ethisch kader voor AI een voorwaarde is om vertrouwen in de technologie te wekken en om discriminatie te voorkomen. Europese beleidsmakers moeten ervoor zorgen dat wetgeving gericht is op het betrouwbaar, eerlijk, toegankelijk en mensgericht maken van AI door bijvoorbeeld voldoende menselijke controle op algoritmische besluitvorming te waarborgen. Het Parlement heeft al eerder om een ethisch kader gevraagd voor AI, waarin de mens zich geen zorgen hoeft te maken over discriminatie door zelflerende algoritmes. Daarnaast zijn de programma's Digital Europe en Horizon Europe nodig om de digitale transformatie van Europa te stimuleren, waarbij het Parlement lidstaten eraan herinnert om hun toezegging van 3% aan hun bbp in onderzoek en ontwikkeling te investeren na te komen.

Context

De Commissie heeft recent nieuwe regels voorgesteld rondom AI om innovatie te stimuleren en het vertrouwen van burgers te vergroten. In het “Digitaal Kompas 2030” gaf de Commissie al aan voor een mensgerichte aanpak te gaan in de digitale transitie, met de ambitie om 20 miljoen Europese ICT-specialisten te hebben in 2030. Een consultatie over digitale beginselen  op het gebied van onderwijs, gezondheid en technologie loopt tot 2 september.