Nieuwe algoritmetoezichthouder per 1 januari van start

Op 22 december presenteerde Alexandra van Huffelen, staatssecretaris van BZK (Koninkrijksrelaties en Digitalisering) een inrichtingsnota voor de nieuwe algoritmetoezichthouder (pdf). Deze zal worden ondergebracht bij de Autoriteit Persoonsgegevens (AP) en in een aantal jaren moeten uitgroeien tot een volwassen toezichthouder. De andere toezichthouders blijven verantwoordelijk voor het toezicht op algoritmen die toegepast worden door hun onder toezicht staanden.

Alexandra van Huffelen, staatssecretaris Koninkrijksrelaties en Digitalisering Beeld: ©RVD Ð Valerie Kuypers en Martijn Beekman

De oprichting van een algoritmetoezichthouder is onderdeel van de bredere opgave om algoritmen beter te reguleren en discriminatie en willekeur tegen te gaan en transparantie te bevorderen. Zodat mensen erop kunnen vertrouwen dat algoritmen en AI-systemen aan publieke waarden voldoen, er zicht ontstaat op risicovolle inzet en het duidelijk is hoe deze werken.

Algoritmen dragen dagelijks bij aan bijvoorbeeld betere dienstverlening, het stellen van diagnoses in de gezondheidzorg of het wijzen van mensen op regelingen waar ze recht op hebben. En worden veel algoritmen gebruikt in het fysieke domein voor effectief onderhoud en het opsporen van illegale activiteiten. De ontwikkeling van innovatieve toepassingen van AI en algoritmen in lijn met onze regels, normen en waarden is daarom essentieel.

De maatschappelijke gevolgen van onrechtmatig gebruik van algoritmen kunnen groot zijn en de negatieve effecten kunnen een breed scala aan burgers, bedrijven en organisaties treffen. In het coalitieakkoord (2021) is aangekondigd dat zal worden geregeld dat algoritmen (en Artificial Intelligence) gecontroleerd worden op transparantie, discriminatie en willekeur en dat een algoritmetoezichthouder dit bewaakt. Dit komt voort uit de ambitie om publieke waarden en grondrechten bij de inzet van algoritmen beter te beschermen. Deze taak wordt vanaf 2023 ondergebracht bij de Autoriteit Persoonsgegevens. De AP ontvangt hiervoor vanaf 2023 1 miljoen euro oplopend naar structureel 3,6 miljoen euro in 2026. de AP begin 2023 het nieuwe pakket van activiteiten voorzien van een passende naam.

Nieuwe toezichthouder per 1 januari 2023 van start
De algoritmetoezichthouder zal zich vanaf januari 2023 primair richten op de volgende doelen:

  • Het signaleren en analyseren van sectoroverstijgende en overkoepelende risico’s en effecten van algoritmen en het delen van kennis daarover;
  • Het optimaliseren van (bestaande) samenwerkingen met colleges, markttoezichthouders en rijksinspecties, en het in kaart brengen van overkoepelend toezicht op het gebied van algoritmen en AI;
  • Het komen tot gezamenlijke normuitleg en het scheppen van overzicht in wettelijke en andere kaders.

Bij haar activiteiten heeft de algoritmetoezichthouder bijzondere aandacht voor de bevordering van transparantie en de risico’s op het gebied van discriminatie en willekeur. Dit draagt eraan bij dat de negatieve effecten van algoritme-inzet worden tegengegaan en dat de positieve effecten optimaal kunnen worden benut.

In 2023 zal de algoritmetoezichthouder de volgende vervolgstappen nemen:

  • Duidelijkheid scheppen over de doelen en activiteiten van de algoritmetoezichthouder vanaf 2024.
  • Het voeren van een structurele dialoog met digitale toezichthouders en het in kaart brengen van (nieuwe) toezichtstaken op het gebied van algoritmen.
  • Het verkennen van de (potentiële) rol van de algoritmetoezichthouder in relevante (BZK-)beleidstrajecten en opkomende wet- en regelgeving.

De algoritmetoezichthouder valt onder de verantwoordelijkheid van de staatssecretaris van BZK.

Rol van andere toezichthouders
Alle toezichthouders (colleges, markttoezichthouders en rijksinspecties) zullen moeten kunnen omgaan met de impact die AI als systeemtechnologie met meebrengt. Veel (sectorale) toezichthouders krijgen bij het uitvoeren van hun taken en bevoegdheden te maken met algoritmen. Zo zijn er bestaande toezichthouders die – variërend van niet of weinig tot zeer veel – toezicht houden op het gebruik van algoritmen door overheden en private partijen. Een groot aantal toezichthouders heeft een grote behoefte aan het delen van kennis (over algoritmen en AI en het toezicht daarop). Zeker als het gaat om de uitwisseling van concrete casuïstiek en inzet van instrumenten en interventies.

Er bestaan al verschillende samenwerkingsplatforms tussen toezichthouders. Dit betreft bijvoorbeeld de informele werkgroep ‘Toezichthouders op AI’, die sinds 2020 actief is en waarin verschillende toezichthouders deelnemen om kennis en casuïstiek te delen en te bespreken.

Geen juridische lacunes, wel een extra toezichthouder
Uit een analyse gemaakt door adviesbureau Hooghiemstra & Partners in opdracht van BZK in 2019, volgde dat er geen juridische lacunes zijn in de bevoegdheden van de toezichthouders op algoritmegebied bij overheden. Mede om deze reden werd in 2019 geadviseerd om voorlopig geen afzonderlijke zelfstandige toezichthouder aan te wijzen voor het toezicht op algoritmegebruik door de overheid.

Het toezicht dient echter momenteel op meerdere niveaus te worden versterkt om grip op de inzet van algoritmen te vergroten en transparantie te bevorderen. Dit kan (deels) worden bewerkstelligd door maatschappijbrede en sectoroverstijgende signalering en analyse van risico’s door de algoritmetoezichthouder en als toezichthouders samen op te trekken. Zo kunnen de toezichthouders op basis van hun bestaande (juridische) instrumentarium effectief toezicht blijven houden op onderwerpen die ook bij algoritmen van belang zijn. Daarnaast zal de aankomende AI-verordening eraan bijdragen dat het toezicht wordt versterkt en transparantie verder wordt bevorderd.

Categorieën:Geen categorie

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s