Algoritme

“Je moet weten met wat voor algoritme je te maken hebt”

Noor de KortAlgemeen, Belangenverstrengeling, Europees, Governance, Integriteit, Wetgeving

Amsterdam, 10 mei 2021 – “Het moet helder zijn wanneer je te maken hebt met artificial intelligence.” Dat stelde Lousewies van der Laan, directeur van Transparency International Nederland (TI-NL), tijdens een consultatie over een nieuw Europees wetsvoorstel over artificial intelligence (AI), afgelopen 29 april.

De Europese Unie (EU) werkt op dit moment aan nieuwe richtlijnen voor de inzet van kunstmatige intelligentie. Deze nieuwe wetgeving moet ervoor zorgen dat de grondrechten en veiligheid van EU-inwoners gewaarborgd zijn. Tegelijkertijd moet innovatie met AI mogelijk blijven, om bijvoorbeeld maatschappelijke problemen op te lossen, of activiteiten beter te organiseren.

Eind april presenteerde de Europese Commissie een wetsvoorstel over de inzet van AI, en nu is het aan de Raad van Ministers en het Europees Parlement om zich hierover te buigen. Ook Nederland moet dus een standpunt innemen. Vandaar dat het ministerie van Binnenlandse Zaken en Koninkrijkrelaties, het ministerie van Justitie en Veiligheid en het ministerie van Economische Zaken en Klimaat afgelopen 29 april een consultatie over het wetsvoorstel organiseerden.

Balans vinden

Transparantie is een van de thema’s die speelt bij de nieuwe wetgeving. “Het moet helder zijn wanneer je te maken hebt met artificial intelligence”, zo stelde TI-NL-directeur Van der Laan. Ook moet er volgens haar transparantie zijn over het gebruikte algoritme. “Je moet weten met wat voor algoritme je te maken hebt. Bevat dit bijvoorbeeld een bias? Denk maar aan de toeslagenaffaire, waarbij sprake was van een bepaalde vooroordelen in het fraudedetectiesysteem. Dat leidde tot etnisch profileren.”

Een tweede thema dat TI-NL belangrijk acht voor de nieuwe wetgeving, is toezicht en bestuur. In het kader hiervan pleitte Van der Laan voor hoge integriteitseisen voor toekomstige leden van het Europese AI-board. “Op die manier gaan we belangenverstrengeling tegen.” De directeur van TI-NL vindt het verder een goed teken dat drie Nederlandse ministeries betrokken zijn bij de nieuwe wetgeving. “Hopelijk leidt dat ertoe dat Nederland een balans vindt tussen het beschermen van grondrechten en het behoud van ruimte voor innovatie.”