Les lacunes des rapports d’incidents liés à l’IA laissent un vide dans la sécurité réglementaire

Nouveaux problèmes

Sans un cadre adéquat de signalement des incidents, des problèmes systémiques pourraient s’installer.

Les systèmes d’IA pourraient nuire directement au public, par exemple en révoquant indûment l’accès aux prestations de sécurité sociale, selon le CLTR, qui a examiné de près la situation au Royaume-Uni, même si ses conclusions pourraient également s’appliquer à de nombreux autres pays.

Le ministère britannique de la Science, de l’Innovation et de la Technologie (DSIT) ne dispose pas d’une image centrale et à jour des incidents impliquant les systèmes d’IA à mesure qu’ils surviennent, selon le CLTR. « Bien que certains régulateurs collectent des rapports d’incidents, nous estimons que cela ne permettra probablement pas de prendre en compte les nouveaux dommages causés par l’IA de pointe », a-t-il déclaré, faisant référence aux modèles d’IA générative de grande puissance à la pointe de l’industrie.