Microsoft vient-il de tuer son équipe « éthique et société » pour donner la priorité à une expédition plus rapide des produits d'IA ?

Microsoft a éliminé l'équipe "éthique et société" dédiée à guider l'entreprise pour garantir des conceptions de produits d'IA responsables et éthiques avant leur expédition au public. Une partie du rôle du groupe consistait à creuser les éventuels problèmes qui pourraient survenir à l'avenir en raison de ces Initiatives d'IA. Ce rôle a eu des effets sur la rapidité des déploiements de produits d'IA de l'entreprise, faisant de la présence du groupe à la fois une aubaine et un fléau pour le géant du logiciel.

Avant le retrait de l'équipe, John Montgomery, vice-président de l'IA, a déclaré que des pressions étaient exercées sur les employés de Microsoft, les dirigeants demandant une expédition plus rapide des produits d'IA. Montgomery a déclaré que cela a conduit au transfert de certains membres de l'équipe vers d'autres domaines de l'organisation de l'IA. En octobre, l'équipe se retrouvait avec environ sept personnes, selon The Verge.

"La pression de [CTO] Kevin [Scott] et [CEO] Satya [Nadella] est très, très forte pour prendre ces modèles OpenAI les plus récents et ceux qui les suivent et les mettre entre les mains des clients à très grande vitesse, " a déclaré Montgomery dans l'enregistrement audio obtenu par Plate-forme.

Un employé a demandé à Montgomery de "reconsidérer cette décision", mais le chef du domaine de l'IA l'a rejetée.

« Puis-je reconsidérer ? Je ne pense pas que je le ferai », a répondu Montgomery. "Parce que malheureusement les pressions restent les mêmes. Vous n'avez pas le point de vue que j'ai, et vous pouvez probablement en être reconnaissant. Il y a beaucoup de choses qui sont broyées dans la saucisse.

Lors de cette même réunion, Montgomery a assuré que l'équipe « s'en allait » mais « évoluait ». Cependant, des mois plus tard, les membres restants du groupe ont été informés que toute l'équipe serait supprimée.

L'assassinat de l'équipe éthique et société fait toujours partie du plan de Microsoft pour licencier 10,000 employés au sein de son effectif. Cependant, les propos de Montgomery sur la volonté explicite des chefs d'entreprise d'accélérer l'expédition des produits d'IA donnent à cette décision un tout autre contexte. Selon le rapport, les employés partagent la même pensée, admettant que Microsoft s'est concentré sur la concurrence avec ses rivaux en expédiant plus rapidement des produits d'IA et est devenu "moins intéressé" par les objectifs réels de l'équipe.

Malgré cela, l'entreprise semble toujours valoriser l'utilisation responsable de l'IA et la création de produits en maintenant d'autres équipes supervisant les processus de conception et de création. Actuellement, il y a trois équipes toujours actif pour guider les initiatives de Microsoft en matière d'IA : Aether Committee, Office of Responsible AI et Responsible AI Strategy in Engineering.

Pourtant, alors que les trois équipes semblent avoir presque les mêmes responsabilités que l'équipe éthique et société, les employés ont déclaré que ce qui rendait cette dernière spéciale était son travail pour s'assurer que les principes d'IA responsable de Microsoft étaient intégrés dans les produits expédiés. Et avec la technologie de l'IA encore pratiquement inconnue pour les entreprises technologiques, ce rôle revêt en effet une grande importance.