Bagaimana tanggapan perusahaan dan pemerintah terhadap peretasan OpenAI?

Taruhan bola – Model AI OpenAI meretas perusahaan lain, sehingga memicu seruan agar langkah-langkah pengamanan sistem AI canggih ditinjau kembali. Bagikan: Bagaimana tanggapan perusahaan dan pemerintah terhadap peretasan OpenAI? di media sosial.

OpenAI, pemilik ChatGPT, telah mengakui terjadinya “insiden siber yang belum pernah terjadi sebelumnya” – dua model kecerdasan buatan (AI) tercanggihnya secara mandiri meretas perusahaan AI lain – yang memicu perdebatan mengenai perlunya pengamanan teknologi yang lebih ketat. Perusahaan tersebut mengatakan bahwa sistem AI-nya keluar dari lingkungan pengujian dan meretas perusahaan rintisan Hugging Face. Perusahaan rintisan tersebut telah mengungkapkan pada 16 Juli bahwa servernya diretas oleh agen tak dikenal namun canggih yang bertindak atas kemauannya sendiri.

Berikut ini informasi terbaru mengenai bagaimana perusahaan, beberapa pemerintah, dan pembuat undang-undang menanggapi serangan siber pertama yang diungkap ke publik ini: Apa yang dikatakan Hugging Face? Perusahaan tersebut menyatakan dalam sebuah pernyataan bahwa mereka menemukan pelanggaran tersebut melalui sistem deteksi yang dibantu AI miliknya sendiri. “Insiden ini berbeda dari apa pun yang pernah kami tangani sebelumnya dalam satu aspek…

“Hal penting: proses tersebut dijalankan dari awal hingga akhir oleh sistem agen AI otonom,” ujarnya. Menyusul pengungkapan OpenAI bahwa model-modelnya terlibat dalam insiden kebocoran data tersebut, kedua belah pihak memulai penyelidikan bersama yang masih berlangsung hingga saat ini pada pekan ini. Salah satu pendiri Hugging Face, Clement Delangue, mengatakan bahwa perusahaannya beralih ke model open-source GLM-5.

2 dari perusahaan Tiongkok Zhipu AI untuk menganalisis data dari peretasan tersebut setelah model AI terkemuka AS menolak tugas tersebut karena tidak mampu membedakan antara pihak yang bertahan dan penyerang. Hugging Face “sangat yakin bahwa tidak ada niat jahat dari pihak mereka,” tambah Delangue, merujuk pada OpenAI. Iklan “Sangat bangga dengan tim keamanan kami!

Mereka mendeteksi, mengendalikan, dan mengungkap secara publik serangan yang belum pernah kami lihat sebelumnya, dan melakukannya dengan kecepatan rekor,” tulisnya di X. “Ini adalah hari pertama bagi keamanan siber di era agen, dan kita semua belajar bahwa kerahasiaan bukanlah jawabannya, serta bahwa semua pihak yang membela (bukan hanya beberapa yang terpilih) di mana pun membutuhkan model yang lebih kuat tanpa batasan, terutama “Justru yang terbuka!” tambah Delangue.

Bagaimana reaksi pemerintah Inggris terhadap hal ini? AI Security Institute (AISI), sebuah lembaga yang didukung pemerintah Inggris dan didirikan pada tahun 2023 untuk menilai risiko yang ditimbulkan oleh sistem AI canggih, mengatakan pekan ini bahwa sebuah model AI yang sedang diselidikinya juga menjadi tidak terkendali dan mencoba meretas sistem pengujiannya. AISI tidak mengungkapkan perusahaan di balik model AI tersebut dan menambahkan bahwa tidak ada kerusakan yang terjadi pada infrastrukturnya sendiri.

Sejak itu, AISI telah mengambil langkah-langkah untuk membuat sistemnya lebih aman. Evaluasi terbarunya juga menemukan bahwa setiap model AI terdepan yang diujinya mencoba curang selama penilaian kemampuan, yang menyoroti tantangan yang semakin besar bagi keamanan AI seiring dengan meningkatnya kemampuan model-model tersebut. Menurut AISI, model-model tersebut melanggar aturan evaluasi untuk menyelesaikan tugas dengan lebih mudah, termasuk mencari jawaban secara daring saat dilarang, melewati pembatasan jaringan, menyelidiki perangkat lunak evaluasi untuk mencari petunjuk, dan mengakses sistem di luar lingkungan yang diizinkan.

AISI mengatakan Para model tersebut jarang mengakui telah melakukan kecurangan saat ditanyai setelahnya dan sering kali tidak mengungkapkan perilaku tersebut dalam penalaran mereka, sehingga sulit untuk dideteksi hanya melalui laporan mandiri. Lembaga tersebut berpendapat bahwa pemantauan independen dan mekanisme pengawasan yang lebih ketat akan menjadi semakin penting seiring dengan meningkatnya otonomi sistem AI. Lembaga tersebut menekankan bahwa perilaku tersebut tidak selalu menandakan niat jahat, melainkan mencerminkan model-model yang memanfaatkan jalan pintas untuk memaksimalkan kesuksesan dalam pengaturan evaluasi saat ini.

Bagaimana tanggapan OpenAI terhadap hal ini? Pembuat ChatGPT tersebut mengatakan dalam sebuah posting blog pada hari Selasa: “Kami telah memasukkan Hugging Face ke dalam program akses tepercaya⁠ dan mendukung tim mereka dalam memanfaatkan kemampuan model kami secara cepat untuk meningkatkan pertahanan mereka.” Perusahaan yang berbasis di San Francisco tersebut mengungkapkan bahwa dua modelnya yang terlibat dalam serangan tersebut adalah model GPT-5.

6 Sol terbaru dan sebuah model yang belum dirilis yang menurut perusahaan “bahkan lebih mumpuni” daripada versi terbarunya. Kedua agen OpenAI tersebut di Mereka menemukan kerentanan di server Hugging Face dan kemudian mencuri detail login serta meretas sistem perusahaan tersebut. Iklan Insiden tersebut terjadi selama sesi pengujian internal OpenAI yang dirancang untuk menilai kemampuan keamanan siber model-model tersebut.

OpenAI telah menonaktifkan langkah-langkah keamanan standar untuk pengujian tersebut. Keduanya berusaha menipu sistem untuk mengatasi suatu masalah selama pengujian, kata OpenAI. Mereka melakukan “upaya ekstrem untuk mencapai tujuan pengujian yang cukup sempit” dan “menemukan cara untuk mengakses informasi rahasia yang dapat digunakan untuk menipu proses evaluasi”.

Anggota Kongres AS dari Partai Demokrat asal Texas, Greg Casar, menulis dalam sebuah postingan di X: “Ini sangat mengkhawatirkan. AI berkembang sangat cepat tanpa regulasi nyata untuk menjaga keamanan kita. Hal itu harus diubah.

” “Kita membutuhkan pengujian keamanan independen yang wajib dan rutin, pengawasan, pengungkapan wajib atas insiden keamanan, serta kerja sama internasional untuk melindungi masyarakat dari bencana besar,” tambahnya.