A Microsoft acabou de matar sua equipe de 'ética e sociedade' para priorizar o envio mais rápido de produtos de IA?

A Microsoft eliminou a equipe de “ética e sociedade” dedicada a orientar a empresa para garantir designs de produtos de IA responsáveis ​​e éticos antes de serem enviados ao público. Parte do papel do grupo era investigar possíveis problemas que poderiam surgir no futuro devido a essas Iniciativas de IA. Essa função teve efeitos na velocidade dos lançamentos de produtos de IA da empresa, tornando a presença do grupo de alguma forma uma bênção e uma maldição para a gigante do software.

Antes da remoção da equipe, John Montgomery, vice-presidente corporativo de IA, disse que havia pressão sobre os funcionários da Microsoft, com os líderes pedindo um envio mais rápido de produtos de IA. Montgomery disse que isso levou à transferência de alguns membros da equipe para outras áreas da organização de IA. Em outubro, a equipe ficou com cerca de sete pessoas, de acordo com The Verge.

“A pressão do [CTO] Kevin [Scott] e do [CEO] Satya [Nadella] é muito, muito alta para pegar esses modelos OpenAI mais recentes e os que vêm depois deles e movê-los para as mãos dos clientes em uma velocidade muito alta, ” disse Montgomery na gravação de áudio obtida por Plataforma.

Um funcionário pediu a Montgomery para “reconsiderar essa decisão”, mas o líder do domínio de IA recusou.

“Posso reconsiderar? Acho que não”, respondeu Montgomery. “Porque infelizmente as pressões continuam as mesmas. Você não tem a visão que eu tenho e provavelmente pode ser grato por isso. Há muita coisa sendo moída na linguiça.”

Nessa mesma reunião, Montgomery garantiu que a equipe estava “indo embora”, mas “evoluindo”. No entanto, meses depois disso, os membros restantes do grupo foram informados de que toda a equipe seria removida.

O assassinato da equipe de ética e sociedade ainda faz parte do plano da Microsoft para demitir 10,000 funcionários dentro de sua força de trabalho. No entanto, as palavras de Montgomery sobre a vontade explícita dos líderes da empresa sobre o envio mais rápido de produtos de IA dão a essa decisão um contexto totalmente diferente. De acordo com o relatório, os funcionários compartilharam o mesmo pensamento, admitindo que a Microsoft mudou seu foco na competição com seus rivais ao enviar produtos de IA mais rapidamente e tornou-se “menos interessada” nos objetivos reais da equipe.

Apesar disso, a empresa ainda parece valorizar o uso responsável da IA ​​e a criação de produtos, mantendo outras equipes supervisionando os processos de design e criação. Atualmente, existem três times ainda ativo para orientar as iniciativas de IA da Microsoft: Comitê Aether, Escritório de IA Responsável e Estratégia de IA Responsável em Engenharia.

No entanto, embora as três equipes pareçam ter quase as mesmas responsabilidades que a equipe de ética e sociedade, os funcionários disseram que o que tornou esta última especial foi seu trabalho para garantir que os princípios responsáveis ​​de IA da Microsoft fossem incorporados aos produtos que estão sendo lançados. E com a tecnologia de IA ainda praticamente um domínio desconhecido para as empresas de tecnologia, esse papel realmente tem grande importância.