Kunstmatige intelligentie: niet meer weg te denken uit het dagelijks leven  

Kunstmatige intelligentie (AI) maakt zich in hoog tempo steeds meer onderdeel van ons dagelijks leven en neemt een steeds prominentere plaats in de maatschappij in. Leerlingen en studenten maken dagelijks gebruik van technologieën zoals ChatGPT, terwijl AI in het bedrijfsleven een steeds grotere rol speelt bij het ondersteunen en optimaliseren van bedrijfsprocessen. Ook uitgevers en softwareleveranciers verkennen actief de mogelijkheden die AI biedt. AI dringt steeds verder door in onze maatschappij, vaak zelfs zonder dat scholen of bedrijven hier expliciet voor kiezen.

AI biedt veel kansen en mogelijkheden, maar roept tegelijkertijd veel ethische vragen op, bijvoorbeeld over autonomie, impact en toenemende afhankelijkheid van grote techbedrijven. Het is dan ook essentieel dat elk bedrijf, elke school, elke professional en elke gebruiker zich bewust en goed geïnformeerd opstelt tegenover AI. De combinatie van grote impact en grote onvoorspelbaarheid maakt het noodzakelijk dat we continue op de hoogte blijven van de ontwikkelingen en voortdurend alert blijven in de omgang met AI.

AI en wetgeving

Op 1 augustus 2024 is de Europese AI Act officieel van kracht gegaan en deze zal stapsgewijs worden ingevoerd. In 2026 is deze volledig van toepassing in alle EU-lidstaten. De Europese Unie richt zich met deze wetgeving op het waarborgen van veiligheid, transparantie, traceerbaarheid, non-discriminatie en milieuvriendelijkheid van AI-systemen.

De AI Act maakt gebruik van een risicogebaseerde benadering. Afhankelijk van het risiconiveau dat een AI-systeem met zich meebrengt, gelden er verschillende verplichtingen voor aanbieders en gebruikers. De risiconiveaus zijn:

• Minimaal. AI-systemen die minimale of geen risico’s bevatten.

• Beperkt. Dit zijn AI-systemen die misleidend kunnen zijn, bijvoorbeeld deepfakes en chatbots. Dit niveau moet aan verschillende transparantieverplichtingen voldoen.

• Hoog. Dit zijn AI-systemen die mogelijk een gevaar vormen voor de kritieke infrastructuur (bijvoorbeeld vervoer), rechtsbedeling  en democratische processen of die invloed hebben op de toegang tot onderwijs of beroepsopleiding van individuen.

• Onacceptabel. Dit zijn AI-systemen die in strijd zijn met Europese fundamentele normen en waarden, bijvoorbeeld predictive policing (strafbaar gedrag voorspellen) of social-scoring systemen.

Voor de producten en toepassingen die door MEVW-leden worden aangeboden, zijn de categorieën beperkt risico en hoog risico het meest relevant. Deze toepassingen brengen wel risico's met zich mee, maar zijn niet van dien aard dat ze direct verboden moeten worden. Voor hoog-risico AI-toepassingen zijn strenge verplichtingen van toepassing voordat ze op de markt mogen komen. De Europese Commissie heeft een EU AI Act Compliance Checker ontworpen waarmee elk bedrijf kan vaststellen welk type AI-technologie zij toepassen en aan welke eisen het moet voldoen.

Onze rol

MEVW organiseert periodiek bijeenkomsten om leden te informeren over de impact van de AI Act en hen te ondersteunen bij het voldoen aan de verplichtingen. Nadere informatie volgt.

AI en ethiek

Ethiek is onlosmakelijk verbonden met AI. De invloed van AI op onze maatschappij is enorm, wat onvermijdelijk leidt tot vragen over veiligheid, privacy, gelijke kansen, verantwoordelijkheid en maatschappelijke impact. De risico’s van AI zijn soms nog onduidelijk en wetgeving is in een vroeg stadium. Daarom is het cruciaal dat AI-systemen aan de voorkant ethisch verantwoord ontworpen worden.

De handhaving van de AI Act en de vertaling naar de praktijk wordt gecoördineerd door de Autoriteit Persoonsgegevens in Nederland. De verwachting is dat de nadruk in de regelgeving zal liggen op de technische en juridische vereisten. Daarom is het belangrijk om samen met praktijkdeskundigen te zorgen voor een verantwoorde implementatie van AI in specifieke omgevingen, zoals onderwijs en bedrijven, met oog voor de maatschappelijke en ethische aspecten en implicaties.

Onze rol

MEVW onderschrijft de ethische richtsnoeren die door de Europese Commissie zijn opgesteld voor het gebruik van AI en data in het onderwijs. Deze richtlijnen zijn bedoeld om docenten, studenten en bestuurders te helpen AI-oplossingen verantwoord in te zetten, rekening houdend met zowel de kansen als de risico’s. MEVW promoot deze richtlijnen actief onder haar leden en ondersteunt hen bij de reflectie op de ethische aspecten van AI. Dit doet zij onder meer door het faciliteren van begeleidingsethiek, het organiseren van socratische dialogen tussen verschillende belanghebbenden en het ontwikkelen van ethische richtsnoeren voor het gebruik van AI en data voor vak- en wetenschappelijke uitgeverijen.

AI en (digitale) duurzaamheid

Het trainen en gebruiken van AI-systemen vergt veel rekenkracht, wat resulteert in een stijgende energievraag en een aanzienlijke ecologische voetafdruk. Nu al verbruikt ChatGPT 25 keer meer energie dan Google, en is het energieverbruik van één opdracht gelijk aan een uur brandtijd van een lamp. Dit maakt de noodzaak voor verdere digitale verduurzaming nog urgenter.

Onze rol

Duurzaamheid is al jaren een belangrijk speerpunt voor MEVW. Dit heeft geleid tot het opzetten van het kennisplatform Duurzaam Publiceren, dat uitgevers helpt de stap naar verduurzaming te zetten. MEVW zet zich in om de milieu-impact van AI te verminderen, en maakt dit onderdeel van brede duurzaamheidsinitiatieven.

AI en verantwoord en transparant datagebruik

AI heeft een enorme ‘datahonger’ en het is vaak niet duidelijk wat met gebruikers- en transactiedata wordt gedaan en waar ze worden opgeslagen en verder bewerkt en verhandeld. Daarnaast is er een groeiende discussie over het gebruik van auteursrechtelijk beschermde werken, zoals boeken, artikelen en andere teksten, als trainingsdata voor AI-systemen.

Onze rol

MEVW hecht veel waarde aan verantwoord datagebruik. MEVW-leden zijn transparant over welke data zij opslaan en op welke manier zij de data verwerken en gebruiken. In navolging van de white paper 'Verantwoord Datagebruik door Wetenschappelijke Uitgeverijen', wordt een soortgelijk document ontwikkeld voor de educatieve uitgeverijen binnen MEVW.

Daarnaast zet MEVW zich al jarenlang in voor het waarborgen en beschermen van privacy van leerlingen en studenten, onder andere via het privacyconvenant, en blijft zij zich hiervoor actief inzetten.

AI en auteursrecht

De vraag wie het auteursrecht bezit op door AI-gegenereerde teksten is momenteel een complex onderwerp. Het lijkt erop dat volledig door AI-gegenereerde teksten voorlopig niet auteursrechtelijk beschermd zijn. Het is ook belangrijk dat duidelijke afspraken worden gemaakt over het gebruik van AI in het creatieve proces van auteurs.

Onze rol

MEVW staat voor de adequate naleving van het auteursrecht in het digitale tijdperk en zal in 2025 het model auteurscontract aanpassen om rekening te houden met het gebruik van generatieve AI.