La loi prévoit également une nouvelle structure administrative autour de l’intelligence artificielle, y compris un Bureau de l’IA, au sein de la Commission européenne, qui devra superviser les modèles d’IA les plus avancés et faciliter la définition de nouvelles normes et procédures de test, ainsi que garantir l’application. de la loi sur l’IA. Le bureau sera soutenu par un panel d’experts indépendants qui fourniront des conseils sur les modèles GPAI. Les États membres seront représentés par l’AI Board, un organe de coordination et consultatif de la Commission.
Le non-respect peut entraîner des amendes allant de 7,5 millions d’euros ou 1,5 % du chiffre d’affaires global de l’entreprise jusqu’à 35 millions ou 7 % du chiffre d’affaires mondial de l’entreprise, en fonction de la taille et de la gravité de l’infraction.
Le texte final de la loi sur l’IA devrait être publié au Journal officiel de l’Union européenne début 2024. La loi sera applicable au bout de deux ans, mais certaines dispositions spécifiques seront mises en œuvre d’ici six mois et les règles GPAI d’ici 12 mois.
Ce que les DSI peuvent faire maintenant (pas seuls)
Que signifie actuellement l’arrivée de l’AI Act pour les DSI ? Même si la mise en œuvre est attendue d’ici deux ans, pour Olivi de Dentons le moment est venu d’agir : les DSI doivent réfléchir à la gouvernance de l’innovation et considérer, surtout dans les moyennes et grandes entreprises, que, avec des technologies aussi complexes en termes de Quels que soient les impacts et les risques des systèmes d’IA, le DSI ne peut pas tout gérer.
«Le conseil aux organisations qui utilisent ou envisagent d’utiliser des systèmes d’IA est de commencer dès maintenant à aborder la question des impacts en cartographiant leurs processus et en évaluant leur niveau de conformité aux nouvelles règles», explique Olivi. « Il faut mettre en œuvre une stratégie de gouvernance de l’IA qui doit être alignée sur les objectifs de l’entreprise : en pratique, il faut comprendre dans quels domaines d’activité de l’entreprise l’IA sera en mesure d’apporter les plus grands bénéfices, en aidant à atteindre les objectifs stratégiques ».
La gouvernance de l’IA doit être alignée sur celui des données – personnelles et non personnelles – et donc aux règles européennes pertinentes, à commencer par le RGPD. Un cadre de procédures internes doit également être mis en place pour garantir que seuls des « développeurs conformes » travaillent sur l’IA et que seuls des modèles conformes sont développés et utilisés. Nous avons également besoin de politiques de gestion des risques (par exemple, due diligence sur les fournisseurs) ainsi que de suivi et de supervision des systèmes d’IA tout au long de leur cycle de vie. Cela a un impact direct sur les compétences à acquérir lors des nouvelles embauches ou sur la requalification des personnes au sein de l’entreprise.
Il ressort clairement de cette « liste de choses à faire » que le CIO doit agir de manière coordonnée avec les autres équipes commerciales. Les tâches sont nombreuses, mais si l’on veut mettre les « choses à faire » par ordre de priorité, mieux vaut partir de l’acquisition de compétences, sur l’IA et tous les secteurs adjacents, dans une perspective multidisciplinaire. Une autre recommandation des experts est de continuer à étudier la technologie et d’observer, avec l’équipe juridique, ce qui se passe au niveau mondial : la loi sur l’IA pourrait être suivie par d’autres réglementations dans d’autres pays que les DSI ne pourront pas ignorer. .
Source link