Le nouveau laboratoire de Timnit Gebru peut-il défier le contrôle des grandes technologies sur la recherche en IA ?

Un an jour pour jour après avoir été licenciée de GoogleTimnit Gebru a dévoilé son intention d'arracher la recherche IA aux grandes technologies.

Gebru, un ancien co -chef de l'équipe d'IA éthique de Google, a lancé jeudi un laboratoire indépendant : le Distributed AI Research Institute (DAIR).

Armé d'un budget initial de 3,7 millions de dollars levés auprès de fondations, le DAIR se concentrera sur à terme et à base de recherche communautaire – ce qui peut être difficile à faire dans la Silicon Valley.

« Les structures d'incitation dans l'industrie et les établissements universitaires d'élite qui sont si étroitement liées à ces entreprises technologiques ne permettent pas, à mon avis, de genre de travail que je veux faire », a déclaré Gebru lors d'un sommet organisé par Les femmes dans l'éthique de l'IA.

L'initiative encourage la recherche qui analyse les objectifs finaux et les risques potentiels dès le départ. En plus de critiquer la technologie existante, Gebru souhaite que le DAIR fournisse un modèle positif pour la recherche en IA.

Cette ambition se reflète dans le premier mot de l'acronyme du laboratoire : distribué. Gebru a déclaré que personne ne devra quitter sa communauté pour travailler chez DAIR :

La ​​technologie affecte le monde entier, mais le monde entier n'a pas la chance d'affecter la technologie pour le moment. Si vous voulez une recherche enracinée dans la communauté et que vous devez déplacer les gens de leurs communautés, et qu'ils doivent tous aller dans la Silicon Valley… Ce n'est pas le genre de chose à laquelle je veux contribuer.

Chez DAIR, le personnel mènera des recherches qui affecte leurs communautés. Gebru donne l'exemple de chercheurs en Afrique du Sud utilisant l'imagerie satellitaire et la vision par ordinateur pour analyser « l'apartheid spatial, » la ségrégation géographique qui persiste à ce jour.

Libérés des entraves de la grande technologie, les chercheurs de DAIR pourrait poursuivre des projets qu'ils jugent importants — et communiquer les résultats comme bon leur semble.

Gebru a une expérience directe de la façon dont les entreprises technologiques peuvent influencer ces décisions. Son licenciement a été déclenché par un différend concernant un document de recherche sur les risques des modèles en langage largequi sont utilisés dans de nombreux produits Google.

DAIR pourrait ne pas obtenir le financement que son employeur précédent pouvait offrir. , mais, à certains égards, cela pourrait être à l'avantage de l'institut.