OpenAI blokira političnega bota, ki ga poganja ChatGPT, in navaja zlorabo na prihajajočih volitvah

OpenAI je ukrepal tako, da je prepovedal razvijalca bota, Deana. Bot, ki je posnemal demokratskega predsedniškega upa, poslanca Deana Phillipsa. Bota sta ustvarila podjetnika iz Silicijeve doline Matt Krisiloff in Jed Somers, ki sta podpirala Phillipsa prek super PAC-a, imenovanega We Deserve Better. Bot je uporabil OpenAI Pogovorna programska oprema ChatGPT.

OpenAI je začasno ukinil račun zagonskega podjetja AI Delphi, ki ga je super PAC najel za izdelavo bota, kot odgovor na zaznano zlorabo njegovih orodij AI v politični kampanji. OpenAI je izjavil, da je bila začasna ustavitev posledica kršitve njegovih pravilnikov o uporabi API-ja, prepovedi uporabe njegove tehnologije v političnih kampanjah ali lažnega predstavljanja posameznikov brez privolitve.

Bot, ki ga poganja ChatGPT, je lahko komuniciral z volivci v realnem času prek spletne strani. Kljub vključitvi izjave o zavrnitvi odgovornosti, ki navaja, da gre za orodje umetne inteligence in ne za pravega Deana Phillipsa, so raziskovalci izrazili zaskrbljenost glede možne škode, ki bi jo takšne tehnologije lahko povzročile volitvam. Pojavljale so se skrbi, da bi lahko volivce kljub zavrnitvi odgovornosti zazibali, da bi sprejeli nevarno orodje.

V odgovor na vprašanja Washington Posta o prepovedih OpenAI so razvijalci izjavili, da so prosili Delphi, naj odstrani ChatGPT iz bota in namesto tega uporabi odprtokodne tehnologije. Vendar pa je bot ostal javno dostopen brez ChatGPT, dokler ga Delphi ni odstranil kot odgovor na začasno ustavitev računa.

Matt Krisiloff, nekdanji vodja osebja izvršnega direktorja OpenAI Sama Altmana, ni imel več komentarjev, Delphi pa se ni takoj odzval na prošnjo za komentar. Prekinitev in ukrepi, ki jih je sprejel OpenAI, poudarjajo nenehne izzive in etične pomisleke v zvezi z uporabo orodij AI v političnih kampanjah.

Več tukaj.