We weten (bijna) allemaal dat AI fouten kan maken en dat je nooit blind op de antwoorden kan vertrouwen. Sommige foutjes zijn onschuldig, maar andere kunnen grote gevolgen hebben. Zoals een fout die de politie in het Verenigd Koninkrijk maakte door te vertrouwen op AI.
Vorig jaar werden bij een voetbalwedstrijd alle Israëlische fans geweigerd. Die beslissing werd onder andere genomen op basis van het geweld tijdens de EUFA Europa League wedstrijd tussen Ajax en Maccabi Tel-Aviv in 2024.
Verzonnen wedstrijd
In het rapport dat ertoe leidde dat de fans niet mochten komen, werd echter ook een andere wedstrijd genoemd, namelijk die tussen West Han en Maccabi Tel Aviv. Het probleem: die wedstrijd is er nooit geweest.
Craig Guildford, de hoofdcommissaris van de West Midlands Police in het VK, heeft nu toegegeven dat de fout door AI kwam. Microsoft Copilot AI om preciezer te zijn. Copilot verzon de wedstrijd en de politie nam de fout zonder verdere check over. Eerst ontkende Guildford nog dat de politie AI had gebruikt bij het maken van het rapport.
Alle AI-modellen kunnen fouten maken. ChatGPT en Copilot waarschuwen daar dan ook altijd voor. Gebruik dus niet zomaar altijd die Copilot-knop op je nieuwe laptop zonder alle antwoorden te factchecken.
Over de auteur
