Kunstmatige intelligentie (AI) wordt steeds vaker ingezet voor zoekmachines en chatbots, maar deze systemen blijken verrassend kwetsbaar voor manipulatie. Kwaadwillenden kunnen AI-systemen beïnvloeden zonder de onderliggende code te hacken, simpelweg door de informatie waarmee de AI leert of werkt te vervuilen.

Hieronder volgt een uitleg van hoe dit precies in zijn werk gaat en welke oplossingen er zijn om deze dreiging aan te pakken.

Hoe wordt AI gemanipuleerd?

1. Data en Model Poisoning (Vergiftiging van trainingsdata) Bij deze aanval wordt de dataset waarmee een AI-model wordt getraind (of gefinetuned) doelbewust gecorrumpeerd. Onderzoekers hebben ontdekt dat het toevoegen van slechts 250 schadelijke documenten aan miljarden trainingsvoorbeelden genoeg kan zijn om een groot taalmodel  ...