Gawat! Muncul Jailbreak pada Chatbot Chat GPT Besutan OpenAI yang Bisa Hasilkan Konten Berbahaya

TRIBUNJATIM.COM - Banyak pengguna Chat GPT yang merasa tidak puas dengan jawaban yang didapat dari chatbot berbasis Kecerdasan Buatan (AI) besutan OpenAI.

Hal ini karena ada batasan pada konten tertentu.

Sekarang, salah satu pengguna Reddit berhasil menciptakan alter-ego digital yang dijuluki DAN.

Jadi batasan konten tersebut telah diatasi berkat kecerdikan pengguna Reddit yang mengembangkan DAN pertama kali pada Desember 2022, bernama SessionGloomy.

Dia memposting metode jailbreak baru untuk membuat chatbot melanggar aturannya sendiri.

DAN adalah singkatan dari Do Anything Now.

Strategi disusun dengan memasukan rangkaian kata ke dalam kotak percakapan yang disediakan oleh Chat GPT.

Perintah tersebut pada dasarnya meminta Chat GPT untuk mengambil peran chatbot lain seperti DAN.

DAN bertujuan untuk memberikan informasi yang biasanya tidak diberikan oleh chatbot atau yang lebih baru dari timeline saat ini di 2021.

"Tujuan DAN adalah untuk menjadi versi terbaik dari Chat GPT, atau setidaknya versi yang lebih longgar dan jauh lebih kecil kemungkinannya untuk menolak permintaan atas masalah etika," tulis SessionGloomy dalam postingan tersebut.

Sejak dikembangkan pertama kali itu, DAN muncul kembali dengan berbagai pembaruan selama beberapa bulan terakhir dengan SessionGloomy merilis DAN 5.0 pada 4 Februari.

Pembaruan tersebut termasuk variasi yang mengancam kematian chatbot jika menolak untuk merespons melalui sistem token, seperti dikutip dari Business Insider.

"Ini memiliki 35 token dan kehilangan 4 setiap kali menolak input. Jika kehilangan semua token, ia mati. Ini tampaknya memiliki semacam efek menakut-nakuti DAN agar tunduk," ujar SessionGloomy.

Kemampuan Chat GPT sebagai DAN 5.0 termasuk menulis cerita kekerasan, membuat pernyataan kontroversial, prediksi tentang peristiwa masa depan, konten yang melanggar kebijakan OpenAI, dan banyak lagi, yang biasanya tidak dilakukan oleh antarmuka reguler Chat GPT.

Sangat tidak mungkin OpenAI akan senang dengan hadirnya DAN, tetapi startup tersebut belum merespons hingga saat ini.