Aanbevelingen voor een robuuste onderzoeksgemeenschap
Om de dominantie van bedrijven in de AI infrastructuur tegen te gaan, moet de EU een ‘instituut voor AI in onderzoek’ oprichten. Dat adviseert het Scientific Advice Mechanism (SAM) de Commissie naar aanleiding van een vraag van Magrethe Verstager, vicevoorzitter van de Commissie. Naast de oprichting van een Europees AI instituut, doen de hoogste wetenschappelijke adviseurs van het SAM nog vijf andere aanbevelingen:
- Streef naar hoge kwaliteitsstandaarden voor AI-systemen, waarbij data zorgvuldig wordt verzameld en gecontroleerd, en toegankelijkheid voor allen wordt gegarandeerd.
- Creëer transparante publieke AI modellen. Deze zijn de sleutel tot vertrouwen en reproduceerbaarheid van onderzoeksresultaten.
- Om wetenschappers te ondersteunen in hun zoektocht naar efficiëntie, pleit het SAM voor gespecialiseerde AI-middelen en -technologieën voor wetenschappelijk werk.
- Investeer in AI-aangedreven (wetenschappelijk) onderzoek dat aanzienlijke voordelen biedt aan Europese burgers, vooral op gebieden als gepersonaliseerde gezondheidszorg en sociale samenhang.
- Zet in op een mens- en gemeenschapsgerichte benadering van AI. Het SAM pleit zodanig voor onderzoek naar de ethische dimensies van AI, het bevorderen van 'AI-geletterdheid', en het versterken van de Europese onderzoeksgemeenschap door het behouden en aantrekken van de beste talenten.
Kritisch op de gevaren
In het rapport gaat het SAM uitgebreid in op de voor- en nadelen van AI. De wetenschapsadviseurs zien de potentie van AI om het onderzoeksproces te transformeren, door bijvoorbeeld data-analyse te automatiseren. Dit brengt zorgen met zich mee rondom onderzoeksintegriteit en data privacy. Ook benadrukt het rapport het risico dat mensen vaardigheden zullen verliezen. Een nadruk op kritisch en analytisch denken, zowel binnen als buiten het onderzoeksveld, is daarom cruciaal bij de steeds verdere integratie van AI in de samenleving. In het algemeen benadrukt het SAM het belang van samenwerking tussen beleidsmakers, onderzoekers en belanghebbenden om ethische normen te bepalen.
Context
Het bevorderen van excellentie en vertrouwen in AI is een topprioriteit van de Commissie. Zo presenteerde zij in 2020 een witboek over AI, waarin deze twee doelen centraal staan. In december 2023 bereikten de Raad en het Parlement een akkoord over ’s werelds eerste AI-wetgeving. Deze AI Act moet de betrouwbaarheid en veiligheid van AI bevorderen, zowel binnen als buiten Europa. Onlangs publiceerde de Commissie tevens de Europese richtsnoeren voor verantwoordelijk gebruik van AI in onderzoek, mede nadat de ERC aangaf dat deze wenselijk zijn.
