Avec ce comité, OpenAI indique qu’elle reconnaît les préoccupations persistantes de l’industrie et du grand public à l’égard de l’IA et qu’elle prend des mesures en interne pour se surveiller, même si elle vise à garder une longueur d’avance sur ses concurrents.
« Bien que nous soyons fiers de construire et de lancer des modèles qui sont à la pointe de l’industrie en termes de capacités et de sécurité, nous nous félicitons d’un débat approfondi à ce moment important », a-t-il déclaré dans le blog.
La pression monte sur OpenAI
La révélation par OpenAI des progrès réalisés sur sa prochaine version de GPT est une progression naturelle pour l’entreprise, car elle vise à protéger son avance sur le marché même si la concurrence s’intensifie. xAI, la société fondée par Elon Musk, leader de Tesla, a récemment annoncé une levée de fonds de 6 milliards de dollars avec une valorisation de 24 milliards de dollars, alors que Musk vise à défier la startup qu’il a autrefois défendue dans le domaine de l’IA et de l’AGI. Pendant ce temps, Musk et OpenAI rester mêlé dans un conflit juridique houleux.
OpenAI a également fait face à une controverse récemment lorsqu’elle a publié un assistant virtuel avec une voix qui, selon certains, ressemblait étrangement à celle de l’actrice hollywoodienne Scarlett Johannson, même si elle n’a pas consenti à ce que l’entreprise utilise sa voix lorsqu’on lui a demandé sa permission à plusieurs reprises. Johannson a exprimé un système d’IA dont un personnage joué par Joaquim Phoenix tombe amoureux dans le film « Her » de 2013.
« À mesure que l’utilisation de l’IA générative augmente, des risques associés et des problèmes de sécurité apparaissent », a observé Pareekh Jain, PDG d’EIIRTrend & Pareekh Consulting. « L’incident de Scarlett Johansson a sensibilisé OpenAI à ces risques. »
Sécuriser l’IA peut favoriser son adoption
La sécurité de l’IA reste également une priorité pour les parties prenantes de l’IA dans leur ensemble, avec diverses initiatives en cours au niveau du gouvernement et des entreprises pour tenter de définir des lignes directrices pour le développement futur de la technologie avant qu’elle n’évolue au-delà du contrôle humain.
Source link