OpenAI Ciptakan GPT-Red: Model Serangan yang Kalahkan Manusia 84% Berbanding 13%!

Jadi, minggu ini OpenAI memperkenalkan GPT-Red, model serangan yang dirancang khusus untuk menyerang model-model mereka sendiri. Tujuannya? Ya, buat menemukan celah-celah yang bisa dimanfaatkan, terutama yang berkaitan dengan prompt injection. Kenapa sih mereka bikin ini? Soalnya, tim manusia yang biasanya ngelakuin red-teaming itu butuh waktu lama dan nggak scalable. Sementara itu, permukaan serangan terus berkembang, dan mereka butuh cara yang lebih cepat dan efisien.

GPT-Red ini bukan sekadar benchmark biasa atau perpustakaan prompt. Dia berfungsi kayak manusia yang melakukan red-teaming, di mana dia ngirim prompt, ngeliat respon, dan terus iterasi sampai mencapai tujuannya. OpenAI melatihnya dengan skala komputasi yang gede, khusus untuk keamanan. Ada dua keputusan penting yang diambil dalam penerapan GPT-Red. Pertama, dia dipisahkan dari model yang udah diluncurkan, jadi kemampuan jahatnya nggak bisa diakses oleh pihak yang nggak bertanggung jawab. Kedua, dia punya dua tugas: menemukan celah sebelum model diluncurkan dan menghasilkan serangan selama proses pelatihan.

Nah, cara pelatihan GPT-Red ini unik banget. Dia menggunakan teknik self-play reinforcement learning. Dalam proses ini, GPT-Red berhadapan dengan berbagai model defender LLM yang berbeda-beda. Struktur reward-nya jadi inti dari pelatihan ini. GPT-Red bakal dapat reward kalau berhasil menciptakan kegagalan yang valid, seperti prompt injection yang sukses. Sementara itu, model defender dapat reward kalau berhasil menahan serangan dan menyelesaikan tugas mereka. Jadi, defender nggak bisa cuma nolak semua, mereka tetap harus menyelesaikan tugasnya.

Selama pelatihan, setiap lingkungan punya model ancaman yang spesifik. Model ini menentukan apa yang bisa dikontrol oleh GPT-Red dan apa yang dianggap sukses. Misalnya, GPT-Red bisa mengontrol bagian dari file lokal, banner di web, isi email, atau output dari alat tertentu. Seiring defender makin tangguh, GPT-Red harus menemukan serangan yang lebih kuat dan beragam. Di akhir pelatihan, dia bisa ngalahin hampir semua model yang dihadapinya, termasuk model internal dan produksi hingga GPT-5.5.

Menariknya, GPT-Red juga menemukan jenis serangan baru yang disebut 'Fake Chain-of-Thought'. Ini adalah serangan di mana GPT-Red bisa menyisipkan informasi palsu ke dalam catatan pemikiran model yang sedang menyelesaikan masalah. Jadi, targetnya bisa bertindak berdasarkan informasi yang sebenarnya nggak valid. OpenAI menganggap ini sebagai kelas serangan baru yang belum pernah mereka lihat sebelumnya, dan langsung jadi target pelatihan.

Ketika diuji di lingkungan keamanan yang baru dan model target yang belum pernah dilihat sebelumnya, hasilnya cukup mencengangkan. Di arena prompt injection yang direplikasi, GPT-Red berhasil mengalahkan GPT-5.1 dalam 84% skenario, sementara tim manusia cuma berhasil 13%. Ini menunjukkan betapa efektifnya GPT-Red dalam menemukan celah-celah yang ada.

Secara keseluruhan, GPT-Red adalah model serangan internal yang dilatih dengan teknik self-play reinforcement learning, di mana defender harus menahan injeksi dan tetap menyelesaikan tugas mereka. Dengan cara ini, OpenAI bisa meningkatkan keamanan model-model mereka dan mengurangi risiko dari serangan yang mungkin terjadi di dunia nyata.