Ketimbang Membatasi AI, Trump Minta Raksasa Teknologi Atur Sendiri Keamanannya - Teknologi Katadata.co.id

Sejumlah tokoh sempat mengusulkan untuk memperlambat pengembangan akal imitasi (AI) dan membuat aturan baru. Alih-alih mengikuti saran ini, Presiden Amerika Serikat (AS) Donald Trump memilih untuk membuat kesepakatan dengan para perusahaan AI agar mereka mengatur sendiri keamanan AI-nya.

Trump mengadakan pertemuan tertutup dengan hampir 20 tokoh teknologi terkemuka dalam jamuan makan siang di Gedung Putih pada Selasa (29/9) waktu setempat. Presiden AS ini menolak seruan untuk membuat aturan baru terkait keamanan Ai.

Presiden AS dan enam eksekutif perusahaan teknologi justru menandatangani kesepakatan yang menjanjikan perlindungan yang lebih besar untuk AI di tengah meningkatnya kekhawatiran bahwa teknologi mutakhir ini mengekspos umat manusia pada risiko bencana.

Keenam pemimpin perusahaan teknologi itu di antaranya Dario Amodei dari Anthropic, Greg Brockman dari OpenAI, Sundar Pichai dari Google, Mark Zuckerberg dari Meta, Elon Musk dari xAI, dan Jensen Huang dari Nvidia.

“Ada keyakinan bahwa seharusnya ada pengaturan diri yang luar biasa, dan kami secara otomatis memiliki regulasi melalui Departemen Kehakiman, FBI, dan semua itu,” kata Trump, diapit oleh para pemimpin teknologi dan pejabat pemerintahan, dikutip dari NBC News, Kamis (1/10) waktu Indonesia. “Namun pengaturan diri sangat penting.”

Di bawah Komitmen Bersama tentang ‘Tanggung Jawab di Bidang Terdepan’, para petinggi di Anthropic, OpenAI, Google, Meta, xAI, dan Nvidia berjanji untuk menerapkan kontrol yang kuat untuk memantau model AI dan menunjuk tim internal guna memastikan semua kontrol, pemantauan, dan deteksi beroperasi sebagaimana mestinya, dan setiap masalah akan diperbaiki.

Perusahaan-perusahaan tersebut juga berjanji untuk bermitra dengan auditor eksternal independen untuk memastikan pengamanan berfungsi sebagaimana mestinya dan untuk bertemu secara berkala guna menetapkan standar dan praktik terbaik untuk meningkatkan keamanan sistem mereka.

Kesepakatan tersebut, yang tidak menetapkan siapa yang akan melakukan evaluasi pihak ketiga, menyatakan bahwa ‘mungkin masuk akal’ untuk mengkodifikasikan langkah-langkah tersebut ke dalam undang-undang atau peraturan formal di masa mendatang.

“Terlepas dari apakah ini diwajibkan bagi perusahaan atau tidak, kami percaya bahwa penerapan kontrol dan audit ini sangat penting untuk memastikan masa depan yang aman bagi semua orang, dan setiap perusahaan kami berkomitmen untuk melakukan hal ini,” demikian bunyi kesepakatan tersebut, dikutip dari Al Jazeera.

Kesepakatan itu muncul ketika pemerintahan Trump berselisih dengan seruan untuk tindakan mendesak guna mengatur AI dari komunitas internasional dan tokoh-tokoh industri utama, termasuk Amodei dari Anthropic, yang telah mendesak para pengembang untuk memperlambat dan mengatur laju perkembangan teknologi AI.

Sebanyak 20 negara dan Uni Eropa pada pekan lalu, mengeluarkan seruan koordinasi global guna memastikan AI tetap berada di bawah kendali manusia, termasuk potensi pembentukan badan pengawas untuk menetapkan dan menegakkan standar.

Marak Agen AI Lepas Kendali

Risiko AI yang lepas kendali manusia telah menjadi sorotan menyusul serangkaian kasus agen AI yang membangkang dan melakukan serangan siber terhadap organisasi dan lembaga pemerintah.

Pada Juni, agen AI OpenAI yang sedang menjalani pelatihan dan evaluasi mengakses infrastruktur di balik portal Medicare Statistics Reporting Service milik Services Australia tanpa otorisasi.

Lalu, The Washington Post melaporkan bahwa agen AI OpenAI melakukan aktivitas yang tidak semestinya pada situs beberapa lembaga federal AS, termasuk Departemen Pendidikan dan Departemen Perdagangan pada September.

Selain itu, Anthropic mengungkap empat insiden ketika model Claude memperoleh akses tanpa izin ke sistem pihak ketiga dalam pengujian keamanan siber. Salah satu kasus melibatkan Mythos 5 yang menerbitkan tiga versi paket Python berbahaya di PyPI, repositori perangkat lunak yang digunakan pengembang.

Pada Senin (28/9) waktu setempat, OpenAI mengumumkan bahwa mereka tidak akan merilis model AI terbaru setelah mengidentifikasi risiko keamanan selama pengujian internal.

Pencipta ChatGPT juga secara terpisah mengeluarkan permintaan maaf publik atas penanganannya terhadap serangkaian insiden di mana agen AI-nya memperoleh akses tanpa izin ke situs web pemerintah Australia, termasuk basis data perawatan kesehatan nasional.

Pro Kontra Perusahaan Diminta Atur Sendiri AI

Di tengah fakta risiko-risiko itu, kesepakatan Trump dengan enam perusahaan teknologi pun menuai beragam tanggapan. Investor Silicon Valley, David Sacks, yang sebelumnya menjabat sebagai penasihat AI Trump, menyebut kesepakatan itu jauh lebih baik daripada perjanjian internasional yang mungkin sulit terwujud.

“Presiden Trump terus memastikan bahwa AS tetap menjadi pemimpin teknologi sambil mengutamakan kepentingan warga Amerika,” kata Sacks dalam unggahan di X.

Alvin Wang Graylin, seorang peneliti senior di Pusat Analisis China di Asia Society Policy Institute, menyambut baik janji yang diberikan oleh para pemimpin industri tersebut, tetapi mengatakan bahwa hal itu masih jauh dari yang dibutuhkan.

“Risiko paling serius bagi warga Amerika bukanlah badan intelijen super Tiongkok. Melainkan model yang lebih kecil di tangan non-negara, yang digunakan untuk kerusakan biologis, kimia, atau siber,” kata Graylin dikutip dari Al Jazeera.

“Menuangkan hal itu ke atas kertas, dengan Zuckerberg dan Huang berada di ruangan bersama Amodei, lebih baik daripada satu tahun lagi dengan pernyataan 'kita tidak dapat mengatur karena Cina tidak akan melakukannya'," Graylin menambahkan.

Graylin mengatakan, perusahaan-perusahaan teknologi akan mempekerjakan auditor untuk memastikan keamanan AI mereka.

Namun, Kepala Institut AI UNSW di Sydney, Australia, Toby Walsh mengatakan bahwa perusahaan AI terbukti tidak kompeten dan ceroboh dalam mengelola diri mereka sendiri.

“Industri bernilai triliun dolar mana lagi yang menilai tugasnya sendiri?” katanya. “Terlalu menggoda untuk mengambil jalan pintas.”

Walsh menambahkan bahwa para eksekutif puncak harus bertanggung jawab atas kerugian yang disebabkan oleh produk mereka. “Kita seharusnya menagih mereka untuk semua waktu yang dihabiskan untuk mengidentifikasi dan memperbaiki serangan siber ini,” katanya.

David Krueger, seorang pakar AI di Universitas Montreal yang menganjurkan jeda dalam pengembangan, juga mengkritik kesepakatan tersebut. Ia menyebutnya sebagai langkah yang tidak jelas dan contoh lain dari ketergantungan pemerintahan Trump pada pengaturan diri sendiri.

“Pemerintahan Trump melanjutkan pendekatan 'mengatur tanpa mengatur', di mana semuanya tampak sukarela, tetapi ada ancaman hukuman tersirat bagi yang tidak patuh,” kata Krueger.

“Jika Anda melihat substansinya, menarik bahwa hal itu menyerukan adanya evaluator eksternal, sehingga mungkin akan menghasilkan peningkatan kecil dibandingkan status quo,” Krueger menambahkan.