Ontwikkelen en uitvoeren van visie en beleid – De deelnemer kan bijdragen aan het opstellen en uitvoeren van visie of beleid rond AI in de organisatie.
Beleid en regelgeving – De deelnemer kan beleid en regelgeving rond AI naleven en toepassen in concrete situaties.
Toetsing en onderwijs – De deelnemer kan AI verantwoord toepassen in het ontwerp en de beoordeling van onderwijs en toetsen.
Kunstmatige intelligentie (AI) verandert de manier waarop organisaties werken, leren en beslissingen nemen. Een duidelijke visie en goed beleid zijn essentieel om AI verantwoord en effectief in te zetten. In dit onderdeel leer je hoe je als professional kunt bijdragen aan het ontwikkelen en uitvoeren van visie en beleid binnen jouw organisatie. Je verkent de context van AI binnen regelgeving, ethiek en onderwijs, en je leert hoe je beleid omzet in praktische acties.
Dit hoofdstuk bestaat uit drie subonderwerpen. Elk subonderwerp heeft een specifiek leerdoel en draagt bij aan het hoofddoel: De deelnemer kan bijdragen aan het opstellen en uitvoeren van visie of beleid rond AI in de organisatie.
Beleid en regelgeving – De deelnemer kan beleid en regelgeving rond AI naleven en toepassen in concrete situaties.
In dit onderdeel leer je welke regels en wetten er zijn rond het gebruik van AI, zoals de Europese AI-verordening, en hoe je deze toepast op de werkvloer.
Toetsing en onderwijs – De deelnemer kan AI verantwoord toepassen in het ontwerp en de beoordeling van onderwijs en toetsen.
Hier leer je hoe AI een rol kan spelen in het verbeteren van onderwijs, en hoe je de risico’s daarbij beheerst.
Deze subonderwerpen zijn gekozen omdat ze samen de belangrijkste pijlers vormen van een verantwoorde AI-aanpak in het hbo: juridisch correct, ethisch verantwoord, en onderwijskundig effectief.
AI-systemen bieden kansen, maar brengen ook risico’s met zich mee. Denk aan fouten in besluitvorming, discriminatie, of inbreuk op privacy. Daarom is het belangrijk dat organisaties AI gebruiken volgens duidelijke wet- en regelgeving. In dit onderdeel leer je welke regels er gelden, hoe je risico’s herkent, en hoe je in jouw organisatie verantwoord omgaat met AI.
De belangrijkste wet voor AI in Europa is de AI-verordening (AI Act). Deze wet geldt voor de hele EU en treedt grotendeels in werking vanaf 2027. Vanaf 2025 zijn al sommige AI-systemen verboden.
De AI-verordening verdeelt AI-systemen in risicocategorieën:
Verboden AI – bijv. manipulatieve systemen, sociale score, gezichtsherkenning zonder wettelijke basis.
Hoog-risico AI – bijv. systemen voor leerlingbeoordeling, sollicitaties of kredietverlening.
Beperkt of laag risico – bijv. chatbots of contentgeneratie, waarvoor transparantie nodig is.
Elk type systeem brengt andere verplichtingen met zich mee. Zo moet je voor hoog-risico systemen o.a. zorgen voor:
Risicomanagement
Duidelijke documentatie
Menselijk toezicht
Registratie in een EU-databank (voor overheden)
Zie voor een samenvatting van alle verplichtingen ook de AI-verordening gids van de Rijksoverheid, 2024.
Concreet moet je als medewerker of beleidsmaker:
Kunnen herkennen of een AI-systeem onder de AI-verordening valt.
Inschatten of het systeem verboden of hoog-risico is.
De juiste stappen zetten: bijv. menselijk toezicht regelen of de aanbieder aanspreken op verplichtingen.
Samenwerken met IT, juristen en management voor naleving.
In het onderwijs: nagaan of AI-systemen (zoals online proctoring of adaptieve leerplatforms) hoog-risico zijn.
Voorbeeld: een school gebruikt een systeem dat leerlingprestaties automatisch analyseert en groeivoorspellingen doet. Volgens de AI-verordening is dit een hoog-risico toepassing. Dat betekent: je moet transparant zijn naar de leerling, menselijk toezicht waarborgen en de werking van het systeem kunnen uitleggen.
Rijksoverheid (2024). Gids AI-verordening – versie 1.0, oktober 2024. https://www.ondernemersplein.nl/aia
Europese Commissie (2024). Regulation (EU) 2024/1689 (AI Act). https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689
AI wordt steeds vaker gebruikt in het onderwijs: van automatisch nakijken tot adaptieve leermiddelen en leerplatforms. Maar hoe zet je AI verantwoord in bij het ontwerpen van toetsen of het begeleiden van studenten? In dit onderdeel leer je hoe AI op een effectieve én ethisch verantwoorde manier kan bijdragen aan het onderwijsproces.
AI kan docenten en onderwijsinstellingen ondersteunen bij:
Automatische feedback geven op teksten of opdrachten.
Aanpassen van leerstof aan het niveau van de student (adaptief leren).
Analyseren van leerdata om achterstanden of talent te signaleren.
Toetsvragen genereren of hergebruiken.
Plagiaatdetectie of monitoring tijdens digitale tentamens.
Bijvoorbeeld: een AI-tool beoordeelt essays op inhoud en taal. Dit kan tijd besparen en studenten sneller feedback geven. Maar: hoe objectief en transparant is die beoordeling?
De AI-verordening noemt het onderwijs als een hoog-risico toepassingsgebied, vooral bij:
Toelating tot onderwijs.
Beoordeling van leerresultaten of onderwijsniveau.
Monitoring tijdens examens.
Dat betekent dat je bij inzet van AI in deze context verplicht bent om:
Het systeem kritisch te beoordelen op risico’s.
Duidelijke uitleg te geven aan gebruikers (docenten én studenten).
Te zorgen voor menselijk toezicht: AI mag nooit de enige beoordelaar zijn.
Gegevens verantwoord te gebruiken en privacy te waarborgen.
Let op: systemen voor emotieherkenning in het onderwijs zijn zelfs verboden, behalve in uitzonderlijke medische of veiligheidscontexten.
Wat kun jij doen in jouw rol?
Stel altijd de vraag: Wat doet het AI-systeem precies, en wie houdt daar toezicht op?
Zorg dat er altijd een mens meekijkt bij beslissingen die impact hebben op studenten.
Controleer of de aanbieder van de AI-toepassing voldoet aan de AI-verordening.
Informeer studenten actief over het gebruik van AI in hun opleiding of toetsing.
Voorbeeld: je werkt met een platform dat toetsvragen automatisch selecteert op basis van eerdere prestaties. Dan moet je weten hoe het systeem tot keuzes komt, of dat eerlijk gebeurt, en of studenten hiervan op de hoogte zijn.
Rijksoverheid (2024). Gids AI-verordening – versie 1.0, oktober 2024. https://www.ondernemersplein.nl/aia
Europese Commissie (2024). AI Act 2024/1689. https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689
Deze toets meet in hoeverre je de basisprincipes begrijpt rond het ontwikkelen van visie en beleid over AI, de toepassing van AI binnen de kaders van wet- en regelgeving, en het verantwoord gebruik van AI in toetsing en onderwijs. De nadruk ligt op het herkennen van risico’s, het correct toepassen van regels en het inschatten van praktijksituaties – passend bij het "Can Do"-niveau.