In de onderwijspraktijk worden algoritmen vooral gebruikt in adaptieve leersystemen, automatische nakijkprogramma’s en leerlingvolgsystemen. In het middelbaar beroepsonderwijs en hoger onderwijs worden daarnaast ook 'learning analytics' ingezet om de studievoortgang en onderwijskwaliteit te monitoren. Deze technologieën kunnen, mits correct ingezet, onderwijsinstellingen ondersteunen bij het identificeren van studenten die mogelijk extra hulp nodig hebben. 

Het rapport wijst echter ook op significante risico's zoals bias in algoritmen, veroorzaakt door selectief datagebruik of bepaalde programmeringsmethoden. Dergelijke bias kan leiden tot kansenongelijkheid. Algoritmen kunnen bijvoorbeeld onbedoeld minderheidsgroepen of leerlingen met leeruitdagingen zoals dyslexie benadelen. 

Daarnaast zijn er zorgen over de privacy van studenten en leerlingen. Vaak is onduidelijk wie de eigenaar is van de verzamelde data en hoe deze wordt gebruikt. 

Toezicht 

Het college stelt in haar aanbevelingen dat het Ministerie van Onderwijs meer eisen moet stellen aan toepassingen om discriminatie door algoritmen te voorkomen. Ook experts pleiten voor een nationaal beleid dat voorwaarden stelt aan het gebruik van algoritmen in het onderwijs, met bijzondere aandacht voor het testen van deze systemen op discriminatoire uitkomsten. 

“Toepassingen met algoritmen moeten zeer uitgebreid worden getest op mogelijke negatieve uitwerking voor bepaalde groepen. Dat moet allereerst door de softwareontwikkelaar worden gedaan. Vervolgens moet op landelijk niveau worden getest of systemen aan de voorwaarden voldoen. Als dat het geval is, zou er een keurmerk voor kunnen worden afgegeven.” 

Een keurmerk afgegeven door een bevoegde instantie zou onderwijsinstellingen behoeden voor het onwetend afnemen van onderwijstoepassingen die discriminatoire beslissingen nemen. “Scholen missen de expertise om uitgebreid te testen en hebben onvoldoende invloed bij de leveranciers van toepassingen. Onderwijsgevenden zouden beter moeten worden geschoold in het werken met technologie in het onderwijs. Ook zouden zij meer bewust moeten worden gemaakt van potentiële risico’s van algoritmen en manieren om die te ondervangen”, aldus het College. 

 

Onderzoek Algoritmen in het onderwijs: https://publicaties.mensenrechten.nl/publicatie/dcc74e47-c151-47fc-ab85-ed2c80d2c13f 

 

Over de auteurs

  • Christian Cordoba Lenis

    Christian Cordoba Lenis is nieuwsredacteur voor PONT | Data & Privacy. Cordoba Lenis is geïntrigeerd door het raakvlak tussen technologie en recht. Hij heeft zowel een juridische als een technische achtergrond.

    PONT | Data & Privacy

Gerelateerd nieuws

Wet gegevensverwerking door samenwerkingsverbanden (Wgs) – deel 1: Wat maakt de Wgs voor samenwerkingsverbanden mogelijk?

Bij zowel publieke als private organisaties bestaat er behoefte om gegevens uit te wisselen. Bijvoorbeeld om fraude en ondermijning aan te pakken. Op basis van de privacyregelgeving (bijvoorbeeld de AVG) mag dat niet zomaar. De Wet gegevensverwerking door samenwerkingsverbanden (Wgs) gaat een basis bieden voor gegevensverwerking door samenwerkingsverbanden die het doel hebben fraude, criminaliteit en/of ondermijning tegen te gaan.

Data & Privacy

Microsoft: Russische hackers spioneerden op e-mails van Microsoft-klanten

Microsoft heeft bevestigd dat Russische hackers mailboxen van werknemers hebben bespioneerd en e-mails van klanten hebben gestolen, dit laat Reuters in een persbericht weten (1).

Data & Privacy

Algoritmes en discriminatie hebben hoofdrol in privacytoezicht

In 2023 kwam de toeslagenaffaire in een nieuwe fase met de verhoren van de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening. Tegelijk werd pijnlijk duidelijk dat er nog bitter weinig veranderd is. Terwijl de enquêtecommissie de Autoriteit Persoonsgegevens (AP) in 2023 meermaals uitnodigde om uit te leggen hoe het in het verleden zo vreselijk heeft kunnen misgaan, speelden in datzelfde jaar algoritmes en discriminatie nog altijd de hoofdrol in het werk van de AP. Dat staat in het jaarverslag 2023 van de AP.

Data & Privacy

Laadinfrastructuur stelt bescherming elektriciteitsnet én persoonsgegevens op de proef

Het laadnetwerk voor elektrische voertuigen is vitale infrastructuur. Hoe kwetsbaar zijn laadpalen voor cyberaanvallen en bij wie belanden je persoonsgegevens als je je auto oplaadt?

Data & Privacy