Les promesses de Pichai ne font pas grand-chose pour calmer l'indignation suite au licenciement de Timnit Gebru par Google

Le licenciement d'un chercheur en IA n'obtiendrait normalement pas une réponse de l'un des PDG les plus puissants du monde ni une couverture des médias grand public. Mais le départ soudain de Timnit Gebru de Google a transformé le mécontentement bouillonnant à propos de la diversité et de l'éthique dans l'entreprise en une éruption.

Gebru, qui était co-chef de l'équipe Ethical AI de Google, est un chercheur largement respecté sur les biais algorithmiques, qui est le meilleur connue pour une étude historique qui a révélé les préjugés raciaux et sexistes dans les systèmes de reconnaissance faciale.

Mais un article qu'elle a récemment co-écrit sur de grands modèles linguistiques à grande échelle (LLM) – qui sont utilisés dans de nombreux Google produits – a déclenché un différend avec son employeur qui a abouti à son licenciement la semaine dernière. Gebru a tweeté qu'elle avait été licenciée, tandis que les dirigeants de Google ont déclaré qu'elle avait démissionné.

Le PDG de Google, Sundar Pichai, a répondu en s'engageant à enquêter sur les circonstances qui ont conduit à sa sortie et en s'excusant pour son impact sur une note de service à l'échelle de l'entreprise . Mais son message n'a fait qu'ajouter à la consternation.

[Lire: Pourquoi l'IA est l'avenir de la sécurité à domicile ]

Je reste généralement à l'écart de ce genre de choses, mais je suis absolument choqué par cet e-mail. Il utilise la pire forme d'écriture d'entreprise pour présenter @timnitGebru le tir comme quelque chose qui s'apparente à un événement météorologique – quelque chose qui vient de se produire. Mais de vraies personnes ont fait ça, et elles se cachent.

– Jack Clark (@jackclarkSF) 9 décembre 2020

Gebru a critiqué Pichai pour l'avoir peinte «comme une 'noire en colère femme «pour qui vous avez besoin de« stratégies de désescalade »», tandis que d'autres se moquaient de ses excuses comme étant «à moitié cuites» et «la version d'entreprise du« je » Je suis désolé si vous avez été offensé par la faussepologie de mes actions. »

Pichai a également été réprimandée pour sa description de son départ.

« Nous devons accepter la responsabilité du fait qu'une éminente dirigeante noire avec un immense talent a malheureusement quitté Google "<< quelle étrange façon de dire" viré " https://t.co/30pKwvlIes

– Mark O. Riedl (@mark_riedl) 9 décembre 2020

Le directeur de Google AI, Jeff Dean, a déclaré que les auteurs de l'étude se sont fait dire que l'article «ne respectait pas notre barre de publication» et ont reçu des commentaires sur les raisons.

Il s aid Gebru a répondu en demandant qu'un certain nombre de conditions soient remplies pour qu'elle puisse rester dans l'entreprise:

Timnit a écrit que si nous ne répondions pas à ces exigences, elle quitterait Google et travaillerait à une date de fin. Nous acceptons et respectons sa décision de démissionner de Google.

Gebru a reconnu qu'elle avait demandé que certaines conditions soient remplies avant de retirer son nom du journal. Si tel n’était pas le cas, elle «travaillerait à un dernier rendez-vous» pour son emploi. Cependant, elle a contesté les allégations selon lesquelles elle avait démissionné. Elle a déclaré qu'elle avait en fait été renvoyée à cause d'un courriel adressé à des collègues décrivant la réaction de Google à son article comme «faisant taire les voix marginalisées».

Margaret Mitchell, codirectrice de Gebru sur l'éthique de Google AI Team, a tweeté que son équipe avait commencé à utiliser le terme «démissionné».

L'employeur diffuse que @timnitGebru propose une approche binaire selon laquelle elle «démissionnerait» si elle n'a pas répondu à ses demandes.
Elle ne l'a pas fait.
J'ai réalisé que j'étais sur l'e-mail; JE NE SAVAIS MÊME PAS que c'était de cela dont ils parlaient parce qu'elle n'a même pas mentionné la démission.

– MMitchell (@mmitchell_ai) 8 décembre 2020

Mitchell est parmi un certain nombre de Des employés de Google protestent publiquement contre son départ. Des milliers d'employés de l'entreprise et de sympathisants d'autres organisations ont signé une lettre ouverte exprimant leur solidarité avec Gebru – et le contrecoup ne montre aucun signe de ralentissement.

On craint également que les retombées aient un effet dissuasif. sur les chercheurs en éthique de l'IA et les grands lanceurs d'alerte technologiques. Comme Gebru l'a dit :

Si vous parlez de conditions de travail toxiques, beaucoup de dirigeants voudront que vous sortiez. Si beaucoup de dirigeants veulent que vous sortiez, ils trouveront un moyen d’y arriver.

Publié le 11 décembre 2020 – 18:02 UTC