La manière dont nous déployons l’IA sera la « véritable mesure de notre humanité »

Le mot de l’année en effet — il semble que même l’Église catholique ne puisse s’empêcher d’en parler IA. Les événements qui se déroulent au Moyen-Orient et la guerre continue en Ukraine ont rendu le vœu de Noël « paix sur terre » encore plus ressenti que d’habitude (quel qu’il soit). Cependant, on aurait pu s’attendre un peu moins à ce que le pape ajoute l’IA à ce mélange.

Le message du Pape pour la Journée mondiale de la paix (1er janvier) s’intitule « Intelligence artificielle et paix ». S’il exprime un optimisme prudent à l’égard de la technologie, il exprime également sa crainte que, dans notre quête de liberté absolue, nous risquions de tomber dans la « spirale d’une dictature technologique ».

Dans le fossé entre ceux qui sont favorables à l’autonomie gouvernementale et innovation et ceux qui défendent des règles strictes pour maintenir menaces potentielles de l’IA technologie aux abois, le pape François appartient définitivement au camp pro-réglementation.

« L’ampleur mondiale de l’intelligence artificielle montre clairement que, parallèlement à la responsabilité des États souverains de réglementer son utilisation en interne, les organisations internationales peuvent jouer un rôle décisif dans la conclusion d’accords multilatéraux et dans la coordination de leur application et de leur mise en œuvre », a déclaré le Pape dans son message à Leaders mondiaux.

Cependant, ces sentiments ne signifient en aucun cas que le Pape soit totalement opposé à la technologie. Entre autres avantages, le Pape le dit promet, par exemple, la libération des corvées, une fabrication plus efficace, des transports plus faciles et des marchés plus accessibles, ainsi qu’une révolution dans les processus d’organisation et de confirmation des données.

Les arguments en faveur d’une nouvelle école d’algor-éthique

Au-delà des menaces qui pèsent sur « notre survie et notre maison commune », le pape semble être parfaitement conscient des dangers plus imminents découlant de l’IA : le renforcement des préjugés, de l’injustice et des préjugés.

« Nous devons nous rappeler que la recherche scientifique et les innovations technologiques ne sont pas désincarnées et « neutres », mais soumises à des influences culturelles », a poursuivi le pape François.

« En tant qu’activités pleinement humaines, les directions qu’elles prennent reflètent des choix conditionnés par les valeurs personnelles, sociales et culturelles d’un âge donné. Il faut en dire autant des résultats qu’ils produisent », a-t-il déclaré, plaidant pour la nécessité d’un dialogue interdisciplinaire visant à un développement éthique des algorithmes – une « éthique-algoriste ».

Le message abordait également le risques posés par les hallucinations, la désinformation et l’érosion ultérieure de la confiance dans les sources médiatiques, ainsi que les menaces à la vie privée, aux données et à la propriété intellectuelle. En outre, il exprimait la crainte qu’une « présomption prométhéenne d’autosuffisance » ne conduise à des inégalités disproportionnées et à l’accumulation d’énormes richesses entre les mains de quelques-uns.

« En fin de compte, la façon dont nous utilisons [AI] inclure les plus petits de nos frères et sœurs, les plus vulnérables et les plus nécessiteux, sera la véritable mesure de notre humanité.

Selon les plus fervents partisans de l’IA (la mission d’OpenAI est après tout de créer « une AGI sûre qui profite à toute l’humanité »), l’IA pourrait probablement faire un meilleur travail de médiation de la paix que les humains.