Artificiële Intelligentie (“AI”) is in korte tijd gemeengoed in het onderwijs geworden. In elk geval bij leerlingen, en ook steeds meer bij docenten. De OESO (Organisatie voor Economische Samenwerking en Ontwikkeling) waarschuwt in een recent rapport[1] dat de actieve leerhouding van leerlingen door het uitbesteden van huiswerk onder druk staat, met alle gevolgen van dien. De OESO ziet echter ook de nodige kansen voor docenten, waarbij een tijdsbesparing van 31% van de lesvoorbereiding nadrukkelijk in het oog springt.[2]
Million-dollar question is dus of AI uiteindelijk een “shortcut” of een belangrijk leermiddel blijkt te zijn. Het onderwijs zal dus met AI aan de slag moeten gaan. Niet alleen vanwege het voorgaande, maar ook omdat sinds 1 augustus 2024 de AI-verordening (Verordening 2024/1689) van kracht is. Capra advocaten vertelt u er graag meer over.
Wat is AI en hoe werkt het?
AI is software die taken kan uitvoeren waarvoor normaal menselijke intelligentie nodig is, zoals het analyseren van taal, het herkennen van patronen en het doen van voorspellingen. Veel moderne AI-systemen zijn getraind op grote hoeveelheden data. Op basis daarvan berekenen zij welk antwoord, welke samenvatting of welke uitkomst het meest waarschijnlijk passend is. Dat klinkt allemaal heel slim, maar in essentie blijft het niet meer of minder dan statistiek. Als je een AI-chatbot bijvoorbeeld vraagt om uit te leggen hoe deze werkt, in de stijl van Johan Cruijf, dan volgt het volgende treffende antwoord:
“Ik ben geen mens. Ik ben ook geen mening. Ik ben een systeem dat is getraind op heel veel teksten. Zó veel, dat je ze niet eens kan tellen. En wat ik doe, is voorspellen welk woord logisch komt na het vorige woord. Meer is het niet. Maar minder ook niet.
En weet je wat het mooie is?
Ik werk alleen goed als jij goed speelt.
Stel jij een scherpe vraag, dan krijg je een scherp antwoord.
Stel jij een vage vraag, dan krijg je iets vaags terug.
Het nut van AI is dus met name afhankelijk van de gebruiker. AI kan fouten maken. Blind vertrouwen op AI is zeer risicovol. Regelmatig verwijzen AI-systemen bij ingevoerde juridische vragen bijvoorbeeld op zeer overtuigende wijze naar niet-bestaande of niet-relevante rechtspraak of wetsartikelen. Of iedere AI-gebruiker daarvan op de hoogte is, is zeer de vraag.
De AI‑verordening: risico-gebaseerde aanpak en gefaseerde inwerkingtreding
Gelukkig is sinds 1 augustus 2024 de AI-verordening (Verordening 2024/1689) van kracht is. Deze verordening reguleert het verantwoord gebruik en ontwikkeling van AI in de Europese Unie, met het oog op de balans tussen innovatie, veiligheid en grondrechten van de mensen. In de Verordening staan onder andere regels over specifieke eisen voor bepaalde AI-systemen, het verbod op bepaalde AI-praktijken en geharmoniseerde regels omtrent transparantie. De regels zijn van toepassing op bedrijven, (decentrale) overheden en andere organisaties. Ook onderwijsinstellingen zullen met de AI-verordening dus aan de slag moeten.
De AI-verordening treedt gefaseerd in werking. Een groot gedeelte van de verordening treedt bijvoorbeeld “pas” in augustus 2026 in werking. Maar sinds 2 februari 2025 zijn (onder meer) onderwijsinstellingen al verplicht om maatregelen te nemen die zorgen voor een toereikend niveau van AI-geletterdheid bij hun docenten en/of andere personen die namens hen AI-systemen gebruiken. Dat betekent dat onderwijsinstellingen ervoor moeten zorgen dat hun personeel genoeg weet en kan om AI op een verantwoorde manier in te zetten. Onze ervaring is dat nog niet elke onderwijsinstelling daarmee aan de slag is gegaan, terwijl overtreding van de AI-verordening vanaf 3 augustus 2026 boetes tot EUR 35 miljoen of 7% van de wereldwijde jaaromzet kan opleveren. Weten uw docenten bijvoorbeeld wat een “prompt” is? En weten zij ook dat een chatbot als ChatGPT kan “hallucineren”?
Tot slot
AI biedt grote kansen, maar ook grote risico’s voor het onderwijs. Voor onderwijsinstellingen geldt dat zij zo snel mogelijk aan de slag moeten: inventariseer het AI-gebruik, onderwijs uw docenten (AI-geletterdheid) en stel spelregels op. Maak beleid, zoals verschillende universiteiten al hebben gedaan. Afwachten is geen optie.
Capra houdt zich ook bezig met vraagstukken over AI in het publieke domein. Collega’s Christian Riemens en Monica Yelinyan verzorgen in dat kader op 26 maart een uitgebreide cursus over AI en het arbeidsrecht waarin ingegaan wordt op de kansen, risico’s en de juridische aandachtspunten. Voor meer informatie zie: Cursus AI en het arbeidsrecht.
