OpenAI blokuje politického robota založeného na ChatGPT s odkazem na zneužití v nadcházejících volbách

OpenAI zasáhla tím, že zakázala vývojáře robota Deana. Bot, který napodoboval demokratického kandidáta na prezidenta Deana Phillipse. Bot byl vytvořen podnikateli ze Silicon Valley Mattem Krisiloffem a Jedem Somersem, kteří Phillipse podporovali prostřednictvím super PAC s názvem We Deserve Better. Bot využíval OpenAI Konverzační software ChatGPT.

OpenAI pozastavila účet startupu Delphi s umělou inteligencí, který měl se super PAC smlouvu na vytvoření robota, v reakci na domnělé zneužití jeho nástrojů AI v politické kampani. OpenAI uvedla, že pozastavení bylo způsobeno porušením jejích zásad používání API, zákazem používání její technologie v politických kampaních nebo vydáváním se za jednotlivce bez souhlasu.

Bot, poháněný ChatGPT, mohl komunikovat s voliči v reálném čase prostřednictvím webové stránky. Navzdory zahrnutí prohlášení, že se jedná o nástroj umělé inteligence, a nikoli o skutečného Deana Phillipse, výzkumníci vyjádřili obavy z potenciální škody, kterou by takové technologie mohly způsobit volby. Existovaly obavy, že i přes odmítnutí odpovědnosti mohou být voliči ukolébáni k přijetí nebezpečného nástroje.

V reakci na dotazy deníku The Washington Post ohledně zákazů OpenAI vývojáři uvedli, že požádali Delphi, aby z robota odstranilo ChatGPT a místo toho použilo open-source technologie. Bot však zůstal veřejně dostupný bez ChatGPT, dokud jej Delphi nestáhlo v reakci na pozastavení účtu.

Matt Krisiloff, bývalý šéf týmu generálního ředitele OpenAI Sama Altmana, neměl žádné další komentáře a Delphi na žádost o komentář okamžitě nereagovalo. Pozastavení a opatření přijatá OpenAI zdůrazňují přetrvávající výzvy a etické úvahy související s používáním nástrojů AI v politických kampaních.

Moře zde.