Microsoft limita l'accesso ad alcuni dei suoi servizi di intelligenza artificiale

L'intelligenza artificiale detiene il futuro della tecnologia, ma nelle mani sbagliate può causare problemi a molti. Questo è il motivo per cui Microsoft ha annunciato alcune modifiche al suo Standard AI responsabile, dove ha introdotto una nuova politica di accesso limitato. In alcuni post del 21 giugno, la società afferma che ora rimuoverà e limiterà l'accesso ad alcuni dei suoi servizi utilizzando l'IA. In particolare, queste modifiche ai criteri influenzeranno il servizio di riconoscimento facciale Azure di Microsoft e la voce neurale personalizzata.

Una delle caratteristiche che sarà fortemente influenzata da questo cambiamento è la controversa tecnologia di analisi facciale progettata per dedurre lo stato emotivo di un individuo e riconoscere diversi attributi umani, come sesso, età, sorriso, peli sul viso, capelli e trucco. Microsoft afferma che la mossa è arrivata dopo alcune preoccupazioni sulla privacy e la mancanza di consenso scientifico sulla definizione del concetto di "emozione". 

"Abbiamo collaborato con ricercatori interni ed esterni per comprendere i limiti e i potenziali vantaggi di questa tecnologia e aggirare i compromessi", ha dichiarato Sarah Bird, Product Manager del gruppo principale di Azure AI. "Nel caso specifico della classificazione delle emozioni, questi sforzi hanno sollevato importanti interrogativi sulla privacy, la mancanza di consenso su una definizione di "emozioni" e l'incapacità di generalizzare il collegamento tra l'espressione facciale e lo stato emotivo tra casi d'uso, regioni e dati demografici . L'accesso API alle funzionalità che prevedono attributi sensibili apre anche un'ampia gamma di modi in cui possono essere utilizzati in modo improprio, incluso sottoporre le persone a stereotipi, discriminazioni o ingiusta negazione dei servizi".

In quanto tale, la società ha annunciato che ha già reso non disponibile la capacità di rilevamento degli attributi il ​​21 giugno per i nuovi clienti, mentre sarà interrotta per i clienti attuali il 30 dello stesso mese. Tuttavia, Microsoft afferma di "riconoscere che queste capacità possono essere preziose se utilizzate per una serie di scenari di accessibilità controllata". Con questo, è un'eccezione offrire continuamente queste capacità in applicazioni pensate per le persone con disabilità, come Vedere l'IA.

D'altra parte, Microsoft limiterà l'accesso ai suoi servizi di riconoscimento facciale in Azure Face API, Computer Vision e Video Indexer a coloro che ne faranno richiesta. In base alla politica di accesso limitato introdotta da Microsoft, i clienti dovranno superare il caso d'uso e i requisiti di idoneità del cliente per ottenere l'accesso alle operazioni. I clienti attuali avranno un anno (fino al 30 giugno 2023) per presentare domanda ed essere approvati per continuare i servizi di riconoscimento facciale. Nel frattempo, altre funzionalità di rilevamento facciale utilizzate per rilevare sfocatura, esposizione, occhiali, posa della testa, punti di riferimento, rumore, occlusione e riquadro di delimitazione facciale rimarranno disponibili senza applicazione. Secondo Bird, questo nuovo processo aiuterà Microsoft ad "aggiungere un ulteriore livello di controllo all'uso e alla distribuzione del riconoscimento facciale per garantire che l'uso di questi servizi sia in linea con lo standard di intelligenza artificiale responsabile di Microsoft e contribuisca a vantaggi per l'utente finale e per la società di alto valore. "

Infine, la funzione Custom Neural Voice di Microsoft dovrà anche affrontare alcune restrizioni per proteggerla da possibili usi impropri. "Sulla base di ciò che abbiamo appreso da Custom Neural Voice, applicheremo controlli simili ai nostri servizi di riconoscimento facciale", scrive Natasha Crampton, Chief Responsible AI Officer post sul blog. "Dopo un periodo di transizione per i clienti esistenti, stiamo limitando l'accesso a questi servizi ai clienti e ai partner gestiti, restringendo i casi d'uso a quelli predefiniti accettabili e sfruttando i controlli tecnici integrati nei servizi".