Waarschuwing van Autoriteit Persoonsgegevens: maatschappelijk bewustzijn en voorbereiding vereist voor AI-incidenten

AmsterdamDe Autoriteit Persoonsgegevens (AP) waarschuwt dat Nederland zich moet voorbereiden op AI-incidenten. AI wordt steeds meer gebruikt in de maatschappij, wat de kans op incidenten vergroot. Iedereen moet waakzaam zijn, van ministers en bedrijven tot burgers.

Een voorbeeld van een incident is een oplichting in Azië. Cybercriminelen gebruikten deepfaketechnologie om zich voor te doen als collega's tijdens een online vergadering. Hierdoor maakte een medewerker 23 miljoen euro over. De medewerker was de enige echte persoon in de vergadering.

De AP benadrukt dat organisaties voorzichtig moeten zijn als ze twijfelen over de controle van AI-risico's. Ze pleiten voor meer kennis over AI, vooral binnen gemeentes. Veel raadsleden twijfelen of ze genoeg kennis hebben. Er is behoefte aan versterking.

Lees ook:

Gisteren · 15:27

Fagentherapie: precieze aanpak tegen antibioticaresistentie met AI en maatwerkoplossingen

Belangrijkste punten:

• AI-gebruik neemt toe, risico’s daarmee ook.
• Waakzaamheid nodig van alle betrokkenen.
• Incidenteel misbruik zoals oplichting met deepfake.
• Vraag om meer kennis en bewustzijn.

Overheidsdiensten houden een register bij van gebruikte AI-systemen. De AP wil dat ook semipublieke organisaties, zoals onderwijs en zorg, dit doen. Grote bedrijven worden bekritiseerd omdat ze soms te snel AI-toepassingen op de markt willen brengen, wat tot fouten kan leiden. AI in deze sectoren komt vaak in kwetsbare situaties terecht.