Blog

De vraag is niet meer: ‘Mag deze AI-tool?’ De vraag is: ‘Wat ga je er…

De vraag is niet meer: ‘Mag deze AI-tool?’ De vraag is: ‘Wat ga je ermee doen?’

Bij veel scholen en organisaties begint het gesprek over AI nog steeds met dezelfde vraag:

“Welke AI-tools mogen we gebruiken?”

ChatGPT wel of niet? Copilot wel? Gemini niet? Claude misschien?

Het gevolg is vaak een lijstje met goedgekeurde en niet-goedgekeurde applicaties. Dat lijkt overzichtelijk, maar met de snelheid waarmee AI zich ontwikkelt, is dat steeds minder houdbaar.

Want dezelfde AI-toepassing kan in de ene situatie prima verantwoord zijn en in een andere situatie grote privacy-, juridische of onderwijskundige risico’s opleveren.

De betere vraag wordt daarom niet alleen: welke AI gebruik je? Maar vooral: wat doe je ermee?

Een veilige applicatie betekent nog geen veilig gebruik

Natuurlijk blijft het belangrijk om naar de AI-dienst zelf te kijken. Waar worden gegevens opgeslagen? Wat doet de leverancier met prompts? Worden gegevens gebruikt voor training? Zijn accounts en toegangsrechten goed ingericht? Kun je goede afspraken maken met de leverancier?

Kennisnet adviseert scholen bijvoorbeeld om afspraken met AI-leveranciers vast te leggen, accounts centraal te beheren, AI-tools privacyvriendelijk in te stellen en vooraf de privacyrisico’s te onderzoeken.

Maar daarna begint pas het tweede deel van de beoordeling.

Stel dat een school een AI-toepassing technisch en contractueel verantwoord heeft ingericht. Een docent gebruikt die vervolgens om:

  • met fictieve gegevens een lesidee te bedenken;

  • een tekst zonder persoonsgegevens samen te vatten;

  • werk van een leerling inclusief naam en achtergrondinformatie te analyseren;

  • een oordeel te laten geven over de ontwikkeling van een leerling;

  • of automatisch te bepalen welke leerlingen extra ondersteuning nodig hebben.

Dat is misschien dezelfde applicatie, maar bepaald niet hetzelfde gebruik.

De regelgeving kijkt steeds nadrukkelijker naar de toepassing

Dat zie je duidelijk terug in de Europese AI Act. Die werkt risicogebaseerd. Het gaat niet simpelweg om de vraag of een merk of product ‘veilig’ of ‘onveilig’ is. Er wordt juist gekeken naar waarvoor een AI-systeem wordt ingezet, welke risico’s daarbij ontstaan en welke mensen door het gebruik worden geraakt.

Voor het onderwijs is dat extra belangrijk. AI gebruiken om een docent te helpen een voorbeeldopdracht te bedenken is iets heel anders dan AI inzetten om leerresultaten van leerlingen te beoordelen. Die laatste toepassing kan, afhankelijk van de precieze situatie, onder de regels voor hoog-risico-AI vallen.

De richting is dus duidelijk:

Niet de knop ‘AI’ bepaalt het risico, maar wat die AI in een concrete situatie doet.

De AVG werkte eigenlijk al zo

Eigenlijk kennen we dit principe al langer vanuit de privacywetgeving.

Bij persoonsgegevens is de eerste vraag ook niet: “Is deze software AVG-proof?” De vraag is onder andere:

Welke persoonsgegevens verwerk je, met welk doel, waarom is dat nodig en welke risico’s ontstaan daardoor?

Kennisnet adviseert scholen bij generatieve AI daarom ook om eerst het doel van het AI-gebruik te bepalen. AI gebruiken is geen doel op zichzelf. Daarna moet worden gekeken naar de persoonsgegevens, privacyrisico’s en maatregelen die nodig zijn.

Dat levert een belangrijk inzicht op:

Een organisatie kan een keurige AI-tool aanschaffen en hem vervolgens toch onverantwoord gebruiken.

SIVON zegt eigenlijk hetzelfde

Ook het AI Toetsingskader Funderend Onderwijs van SIVON sluit hierbij aan. SIVON gebruikt een risicogebaseerde benadering en benadrukt dat scholen niet alleen moeten kijken naar maatregelen die een leverancier heeft genomen, maar ook naar maatregelen die de school als gebruiksverantwoordelijke zelf moet treffen.

Interessant is dat SIVON niet simpelweg categorisch aanwijst welke AI-systemen wel of niet mogen. De individuele beoordeling blijft leidend.

Dat is een fundamenteel andere manier van kijken dan:

ChatGPT: rood.
Copilot: groen.
Gemini: oranje.

Zo eenvoudig is het niet meer.

Van een AI-tools-lijst naar verantwoord AI-gebruik

Een lijst met toegestane applicaties kan nog steeds nuttig zijn. Maar zo’n lijst zou slechts de eerste controlelaag moeten zijn.

Daarna zou iedere medewerker of docent zichzelf bij een toepassing een paar eenvoudige vragen moeten stellen:

  1. Wat wil ik met AI doen?
    Brainstormen is iets anders dan beoordelen.

  2. Welke informatie geef ik aan AI?
    Openbare informatie, interne informatie, persoonsgegevens, leerlinggegevens?

  3. Wie kan gevolgen ondervinden van de uitkomst?
    Gebruik ik AI alleen als hulpmiddel, of wordt er iets besloten over een leerling, medewerker of klant?

  4. Welke rol krijgt AI?
    Inspiratie → ondersteuning → advies → beoordeling → besluitvorming.

  5. Blijft een mens werkelijk verantwoordelijk?
    Kan iemand de uitvoer controleren, corrigeren en uitleggen?

Naarmate AI verder opschuift richting beoordeling en besluitvorming, nemen ook de risico’s toe en worden menselijke controle, transparantie en verantwoording belangrijker.

AI-geletterdheid gaat dus óók over gedrag

Dit verklaart ook waarom AI-geletterdheid zo’n belangrijke plaats heeft gekregen in de AI Act. Organisaties moeten maatregelen nemen om ervoor te zorgen dat medewerkers die met AI werken voldoende begrijpen van de mogelijkheden en risico’s ervan.

Dat betekent niet alleen weten wat generatieve AI is. Het betekent vooral:

“Ik kan in mijn eigen werk beoordelen wanneer, waarvoor en onder welke voorwaarden ik AI verantwoord kan gebruiken.”

Misschien moeten we daarom stoppen met één simpele vraag

De discussie over AI binnen organisaties gaat nu nog vaak over:

“Mag ik deze tool gebruiken?”

Maar de volwassen versie van die vraag is:

“Mag ik deze tool voor dít doel, met déze gegevens, voor déze mensen en op déze manier gebruiken?”

Dat klinkt in eerste instantie ingewikkelder. Eigenlijk is het juist praktischer.

Want AI verandert zo snel dat een protocol met twintig productnamen al verouderd kan zijn voordat iedereen het heeft gelezen. Een medewerker die heeft geleerd om naar doel, gegevens, gevolgen, rol van AI en menselijke verantwoordelijkheid te kijken, kan ook omgaan met de AI-toepassing die volgende maand verschijnt.

Niet: welke AI mag je gebruiken?
Maar: hoe gebruiken we AI verantwoord?

Dat is een veel belangrijker verschil dan het op het eerste gezicht lijkt.

Bronnen en verdere verdieping: