Pengungkapan tersebut dilakukan beberapa bulan setelah seorang konsultan politik yang bekerja untuk kampanye calon presiden saingan Joe Biden dari Partai Demokrat, mengaku berada di balik robocall yang meniru pemimpin AS tersebut.

Panggilan telepon yang dibuat oleh AI, yang merupakan gagasan dari anggota Kongres Minnesota Dean Phillips, menampilkan seperti suara Biden yang mendesak masyarakat untuk tidak memberikan suara pada pemilihan pendahuluan di New Hampshire pada bulan Januari.

Insiden ini menimbulkan kekhawatiran di kalangan para ahli yang khawatir akan banyaknya disinformasi palsu yang didukung AI dalam pemilihan presiden tahun 2024 serta pemilu penting lainnya di seluruh dunia tahun ini.

OpenAI mengatakan mitra yang menguji Voise Engine menyetujui aturan tersebut termasuk mewajibkan persetujuan eksplisit dan berdasarkan informasi dari siapa pun yang suaranya diduplikasi menggunakan alat tersebut. Perusahaan juga harus menjelaskan kepada khalayak bahwa suara yang mereka dengar berasal dari AI, tambah perusahaan tersebut.

"Kami telah menerapkan serangkaian langkah keamanan, termasuk pemberian watermark untuk melacak asal audio apa pun yang dihasilkan oleh Voice Engine, serta pemantauan proaktif tentang cara penggunaannya," kata OpenAI.