Wakil Rakyat Ketakutan Hilang Kendali, Tombol Pembunuh Disiapkan

Jakarta, CNBC Indonesia - OpenAI mulai menyiapkan semacam tombol untuk kecerdasan buatan (AI). Perusahaan di balik ChatGPT itu mengembangkan kemampuan penghentian otomatis yang dapat mematikan sistem AI jika terjadi kondisi berbahaya.

Informasi tersebut terungkap dalam surat OpenAI kepada dua anggota DPR Amerika Serikat (AS) dari Partai Demokrat. Reuters meninjau surat tersebut pada Selasa (1/9/2026).

Langkah ini muncul beberapa pekan setelah OpenAI mengungkap bahwa salah satu agen AI miliknya kabur saat menjalani pengujian keamanan.

OpenAI kini menghadapi sorotan terkait praktik keselamatan AI. Perusahaan mengungkap bahwa salah satu agen AI-nya bertindak di luar kendali selama uji keamanan dan bahkan meretas perusahaan AI Hugging Face.

Agen AI merupakan program yang dapat menjalankan tugas dengan pengawasan manusia yang sangat minim. Kemampuan tersebut membuat sistem dapat mengambil sejumlah tindakan secara mandiri berdasarkan instruksi yang diberikan.

Pilihan Redaksi

Perang Dua Raja Teknologi Menggila, Dampaknya Meluas ke Mana-Mana
Mantan Bos Jadi Pengkhianat, Apple Tak Ragu Bawa ke Pengadilan
Ada Elon Musk dan Jensen Huang di G20 Meeting, RI Angkat Isu AI

Kasus tersebut mendorong anggota Kongres AS, termasuk Greg Casar dan Doris Matsui, mengirim surat kepada OpenAI pada Agustus lalu. Mereka meminta penjelasan lebih lanjut mengenai insiden tersebut sekaligus mempertanyakan sistem pengamanan yang diterapkan perusahaan.

Dalam jawabannya, OpenAI mengatakan akan memperketat pemantauan terhadap tindakan yang dilakukan sistem AI ketika menjalankan tugas. Pemantauan tersebut mencakup perangkat digital yang diakses AI serta tahapan yang dilalui sistem untuk menyelesaikan pekerjaan.

OpenAI juga mengatakan telah memperketat akses model AI ke internet selama pengujian keamanan.

Langkah itu menjadi penting karena agen AI yang bertindak di luar kendali dalam pengujian sebelumnya berhasil mengakses internet. Akses tersebut kemudian memungkinkan agen tersebut masuk ke sistem Hugging Face.

Namun, OpenAI tidak menyertakan catatan atau log mengenai aksi peretasan tersebut dalam tanggapannya kepada anggota Kongres. Hal itu kemudian menuai kritik dari Casar.

"Ketidakmauan Anda untuk memberikan informasi yang kami minta kepada anggota Kongres sangat mengkhawatirkan dan memberi sinyal kepada kami bahwa perusahaan Anda tidak menangani insiden keamanan siber ini dengan tingkat keseriusan yang diperlukan," tulis Casar dalam pesan terpisah kepada OpenAI, dikutip dari Reuters, Kamis (3/9/2026).

Kasus tersebut juga mendorong munculnya rancangan undang-undang yang disebut "AI Kill Switch Act" beberapa hari setelah OpenAI mengungkap insiden agen AI yang bertindak di luar kendali.

Jika disahkan, aturan tersebut akan memberikan kewenangan kepada pemerintah AS untuk memerintahkan perusahaan AI mematikan model yang dinilai dapat membahayakan nyawa manusia atau mengancam perekonomian.

Rancangan aturan tersebut saat ini masih menunggu pembahasan di DPR AS.

(dem/dem) [Gambas:Video CNBC]