Dopo numerose partenze dalla leadership, OpenAI scioglie il team di sicurezza dell'IA

OpenAI ha sciolto il suo team, che si dedica ai rischi per la sicurezza a lungo termine derivanti dall'intelligenza artificiale avanzata. Questa notizia arriva pochi giorni dopo la la partenza di due figure chiave: Ilya Sutskever, co-fondatore ed ex capo scienziato, e Jan Leike, che ha co-guidato il team di Superalignment.

Leike ha espresso pubblicamente le sue preoccupazioni riguardo al fatto che OpenAI dia priorità allo sviluppo di nuovi prodotti rispetto alla ricerca sulla sicurezza. 

“La cultura e i processi della sicurezza sono passati in secondo piano rispetto ai prodotti brillanti”.

Ha affermato che dovrebbero essere destinate maggiori risorse al monitoraggio, alla preparazione e all’impatto sociale dell’AGI (Intelligenza Generale Artificiale). Leike ha espresso la sua convinzione che OpenAI dovrebbe dare priorità alla sicurezza sopra ogni altra cosa.

Lo scioglimento del team Superalignment arriva dopo un periodo di turbolenze interne a OpenAI. Nel novembre 2023, il cofondatore Sam Altman è stato estromesso dal consiglio di amministrazione a causa della mancanza di trasparenza nella comunicazione. 

Mentre Altman alla fine fu reintegrato, Sutskever e altri membri del consiglio che si opponevano a lui lasciarono la compagnia.

OpenAI sostiene che la ricerca sulla sicurezza continuerà, non è chiaro quanto efficacemente sarà integrata tra diversi team senza un gruppo dedicato concentrato esclusivamente sulla mitigazione del rischio a lungo termine.

Questa novità accompagna il lancio di Il nuovo modello AI di OpenAI GPT-4o che a versione desktop di ChatGPT. 

Solo il tempo dirà come OpenAI affronterà le complesse sfide volte a garantire lo sviluppo responsabile dell’intelligenza artificiale avanzata, bilanciando tali sforzi con la ricerca dell’innovazione.

Più qui.