OpenAI blokira političkog bota koji pokreće ChatGPT, navodeći zlouporabu u nadolazećim izborima

OpenAI je poduzeo akciju zabranom razvijača bota, Deana. Bot, koji je oponašao predsjedničkog kandidata demokrata, zastupnika Deana Phillipsa. Bot su kreirali poduzetnici iz Silicijske doline Matt Krisiloff i Jed Somers, koji su podržali Phillips kroz super PAC pod nazivom We Deserve Better. Bot je koristio OpenAI ChatGPT softver za razgovor.

OpenAI je suspendirao račun startupa za umjetnu inteligenciju Delphi, koji je ugovorio super PAC za izradu bota, kao odgovor na uočenu zlouporabu njegovih AI alata u političkoj kampanji. OpenAI je naveo da je do suspenzije došlo zbog kršenja njegovih pravila korištenja API-ja, zabrane korištenja njegove tehnologije u političkim kampanjama ili lažnog predstavljanja pojedinaca bez pristanka.

Bot, kojeg pokreće ChatGPT, mogao je komunicirati s biračima u stvarnom vremenu putem web stranice. Unatoč uključivanju izjave o odricanju od odgovornosti u kojoj se navodi da je to AI alat, a ne pravi Dean Phillips, istraživači su izrazili zabrinutost zbog potencijalne štete koju bi takve tehnologije mogle prouzročiti izborima. Bilo je zabrinutosti da bi se birači mogli uljuljkati da prihvate opasan alat, čak i uz odricanje od odgovornosti.

Kao odgovor na upite The Washington Posta o zabranama OpenAI-ja, programeri su izjavili da su od Delphija tražili da ukloni ChatGPT iz bota i umjesto toga koristi tehnologije otvorenog koda. Međutim, bot je ostao javno dostupan bez ChatGPT-a sve dok ga Delphi nije uklonio kao odgovor na suspenziju računa.

Matt Krisiloff, bivši šef osoblja izvršnog direktora OpenAI-ja Sama Altmana, nije imao daljnjih komentara, a Delphi nije odmah odgovorio na zahtjev za komentar. Obustava i radnje koje je poduzeo OpenAI naglašavaju tekuće izazove i etička razmatranja vezana uz korištenje AI alata u političkim kampanjama.

more ovdje.