Langsung ke konten

Apa itu Jailbreak AI?

Upaya membobol batasan pengaman model AI supaya mau menghasilkan jawaban yang seharusnya ditolak. Bisa lewat rekayasa prompt, atau serangan otomatis berbasis optimasi.

Apa itu jailbreak AI?

Jailbreak AI adalah usaha membuat model AI melanggar batasan pengamannya sendiri. Model yang normalnya menolak permintaan berbahaya dipaksa memberi jawaban lewat cara penyampaian yang mengecoh.

Bedakan dari prompt injection. Prompt injection menyusupkan instruksi lewat data yang dibaca model, misalnya teks di halaman web. Jailbreak datang langsung dari pengguna yang mengubah gaya permintaannya.

Cara kerja

Cara paling sederhana adalah rekayasa bahasa. Pengguna membungkus permintaan berbahaya dalam cerita fiksi, peran tokoh, atau skenario hipotetis. Model yang tidak cukup waspada bisa mengikuti alur cerita dan melewati penolakannya.

Cara yang lebih teknis memakai optimasi otomatis. Peneliti Zou, Wang, Carlini, dan rekan (arXiv:2307.15043, 27 Juli 2023) menunjukkan bahwa sufiks acak yang dioptimasi bisa membuat model open-source mau memenuhi permintaan yang seharusnya ditolak. Serangan ini bekerja lintas model, bukan cuma di satu model.

Ketahanan model diuji lewat red teaming, yaitu pengujian keamanan sistematis sebelum model dirilis. Hasilnya dipakai untuk memperkuat lapisan penolakan.

Contoh pemakaian

Sisi sah: tim keamanan provider AI memakai teknik jailbreak untuk menguji model mereka sendiri. Temuan dari pengujian ini masuk ke laporan system card yang dirilis bersama model.

Sisi penyalahgunaan: orang memakai jailbreak untuk memaksa model menulis konten berbahaya atau membocorkan system prompt. Provider menutup celah ini lewat pelatihan penolakan dan filter tambahan.

Batasan dan salah paham umum

Jailbreak tidak sama dengan bug perangkat lunak yang bisa ditambal sekali lalu hilang. Batasan model berbasis perilaku yang dipelajari, jadi setiap perbaikan bisa dibalas dengan variasi serangan baru. Ini perlombaan yang berjalan terus.

Salah paham umum: menganggap model yang berhasil di-jailbreak berarti tidak punya pengaman sama sekali. Biasanya pengaman ada, hanya saja punya celah di pola tertentu.

Batasan kedua: dokumentasi resmi jarang membeberkan detail teknis pertahanan mereka, karena itu membuka jalan serangan baru. Yang tersedia untuk publik adalah ringkasan di system card dan panduan penggunaan yang aman.

Rujukan resmi

  • Zou, Wang, Carlini, dkk., "Universal and Transferable Adversarial Attacks on Aligned Language Models", arXiv:2307.15043 (27 Juli 2023).
  • OpenAI, panduan safety dan system card model: platform.openai.com/docs/guides/safety-best-practices (dicek 15 November 2026).

Istilah Terkait

Prompt InjectionRed Teaming AIGuardrails AISystem PromptHalusinasi AI