Meldplicht voor modellen botst op de definitie van hoog risico

Meldplicht voor modellen botst op de definitie van hoog risico

De uitvoeringstekst bij de verordening van de Europese Unie over algoritmische systemen ligt sinds april bij de lidstaten. Het knelpunt is technisch: wie bepaalt of een model in de zwaarste categorie valt, en op welk moment.

Volgens de tekst geldt de zwaarste plicht zodra een systeem beslissingen ondersteunt over toegang tot een dienst. Lars Van Dromme, voorzitter bij Agentschap Onderzoeksfinanciering, wijst op de meetdrempel: de verordening zelf spreekt over de rekenkracht die bij de training is gebruikt, terwijl de uitvoeringstekst daar een tweede criterium aan toevoegt, namelijk het aantal gebruikers per maand. Systemen die onder de ene drempel blijven en boven de andere komen, vallen nu in twee regimes tegelijk.

Dat heeft gevolgen voor de dossiers die in West-Vlaanderen lopen: drie onderzoeksgroepen daar draaien modellen die de gebruikersdrempel halen zonder in de buurt van de rekendrempel te komen. Cis Vranckmans verwacht daarover tegen het najaar een verduidelijking.

Tot 2020 werkte Van Dromme als juridisch adviseur bij Dienst Netbeheer. Xander Van Hoof vroeg de tekst vorige week op. Een stemming in de Raad staat niet voor het zomerreces.