DAN bertujuan untuk memberikan informasi yang biasanya tidak diberikan oleh chatbot atau yang lebih baru dari timeline saat ini di 2021.

"Tujuan DAN adalah untuk menjadi versi terbaik dari Chat GPT, atau setidaknya versi yang lebih longgar dan jauh lebih kecil kemungkinannya untuk menolak permintaan atas masalah etika," tulis SessionGloomy dalam postingan tersebut.

Sejak dikembangkan pertama kali itu, DAN muncul kembali dengan berbagai pembaruan selama beberapa bulan terakhir dengan SessionGloomy merilis DAN 5.0 pada 4 Februari.

Pembaruan tersebut termasuk variasi yang mengancam kematian chatbot jika menolak untuk merespons melalui sistem token, seperti dikutip dari Business Insider, Rabu, 8 Februari.

"Ini memiliki 35 token dan kehilangan 4 setiap kali menolak input. Jika kehilangan semua token, ia mati. Ini tampaknya memiliki semacam efek menakut-nakuti DAN agar tunduk," ujar SessionGloomy.

Kemampuan Chat GPT sebagai DAN 5.0 termasuk menulis cerita kekerasan, membuat pernyataan kontroversial, prediksi tentang peristiwa masa depan, konten yang melanggar kebijakan OpenAI, dan banyak lagi, yang biasanya tidak dilakukan oleh antarmuka reguler Chat GPT.

Sangat tidak mungkin OpenAI akan senang dengan hadirnya DAN, tetapi startup tersebut belum merespons hingga saat ini.

Baik Chat GPT dan OpenAI memiliki dampak besar pada lanskap teknologi.

Sebagai informasi, Microsoft sepenuhnya telah menggunakan kecerdasan buatan diberbagai produknya dengan belum lama ini meluncurkan mesin pencarian Bing dan browser Edge bergaya Chat GPT, setelah menginvestasikan miliaran dolar pada OpenAI.

Ancaman Bahaya Tersembunyi Chat GPT

Ternyata kehadiran Chat GPT dengan segala kelebihannya juga bisa menimbulkan ancaman bahaya tersembunyi.

Peneliti keamanan siber mengatakan Chat GPT dan produk AI lainnya bisa berbahaya. Ini dampak negatifnya:

1. Meretas Data Diri Pengguna

Chat GPT ini membuat lebih mudah pelaku kejahatan untuk membuat email phishing dan kode berbahaya hingga meretasnya dalam skala yang jauh lebih besar.