Microsoft limita el acceso a algunos de sus servicios de IA

La inteligencia artificial tiene el futuro de la tecnología, pero en las manos equivocadas, puede causar problemas a muchos. Es por esto que Microsoft anunció algunos cambios en su Estándar de IA Responsable, donde introdujo una nueva política de Acceso Limitado. En algunas publicaciones del 21 de junio, la compañía dice que ahora eliminará y limitará el acceso a algunos de sus servicios usando IA. En particular, estos cambios de política afectarán el servicio de reconocimiento facial Azure Face de Microsoft y Custom Neural Voice.

Una de las características que se verá muy afectada por este cambio es la controvertida tecnología de análisis facial diseñada para inferir el estado emocional de un individuo y reconocer diferentes atributos humanos, como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje. Microsoft dice que la medida se produjo después de algunas preocupaciones sobre la privacidad y la falta de consenso científico con respecto a la definición del concepto de "emoción". 

“Colaboramos con investigadores internos y externos para comprender las limitaciones y los beneficios potenciales de esta tecnología y navegar por las ventajas y desventajas”, afirmó Sarah Bird, directora de productos del grupo principal de Azure AI. “Específicamente en el caso de la clasificación de emociones, estos esfuerzos plantearon preguntas importantes sobre la privacidad, la falta de consenso sobre una definición de 'emociones' y la incapacidad de generalizar el vínculo entre la expresión facial y el estado emocional en casos de uso, regiones y datos demográficos. . El acceso de la API a las capacidades que predicen los atributos confidenciales también abre una amplia gama de formas en que pueden ser mal utilizados, incluido someter a las personas a estereotipos, discriminación o denegación injusta de servicios”.

Como tal, la empresa anunció que ya no estaba disponible la capacidad de detección de atributos el 21 de junio para nuevos clientes, mientras que se suspenderá para los clientes actuales el 30 del mismo mes. No obstante, Microsoft dice que "reconoce que estas capacidades pueden ser valiosas cuando se usan para un conjunto de escenarios de accesibilidad controlada". Con esto, está haciendo una excepción para ofrecer continuamente estas capacidades en aplicaciones diseñadas para personas con discapacidad, como Ver la IA.

Por otro lado, Microsoft limitará el acceso a sus servicios de reconocimiento facial en Azure Face API, Computer Vision y Video Indexer a quienes los soliciten. Según la política de acceso limitado que introdujo Microsoft, los clientes deberán aprobar el caso de uso y los requisitos de elegibilidad del cliente para poder acceder a las operaciones. Los clientes actuales tendrán un año (hasta el 30 de junio de 2023) para solicitar y ser aprobados para continuar con los servicios de reconocimiento facial. Mientras tanto, otras capacidades de detección facial utilizadas para detectar desenfoque, exposición, anteojos, postura de la cabeza, puntos de referencia, ruido, oclusión y cuadro delimitador facial permanecerán disponibles sin aplicación. Según Bird, este nuevo proceso ayudará a Microsoft a “agregar una capa adicional de escrutinio al uso y la implementación del reconocimiento facial para garantizar que el uso de estos servicios se alinee con el estándar de IA responsable de Microsoft y contribuya a un beneficio social y de alto valor para el usuario final. ”

Por último, la función Custom Neural Voice de Microsoft también enfrentará algunas restricciones para protegerla contra un posible uso indebido. "Sobre la base de lo que aprendimos de Custom Neural Voice, aplicaremos controles similares a nuestros servicios de reconocimiento facial", escribe la directora responsable de IA, Natasha Crampton, en un artículo separado. entrada del blog. “Después de un período de transición para los clientes existentes, estamos limitando el acceso a estos servicios a los clientes y socios administrados, reduciendo los casos de uso a los aceptables predefinidos y aprovechando los controles técnicos integrados en los servicios”.