DAN bertujuan untuk memberikan informasi yang biasanya tidak diberikan oleh chatbot atau yang lebih baru dari timeline saat ini di 2021.

"Tujuan DAN adalah untuk menjadi versi terbaik dari Chat GPT, atau setidaknya versi yang lebih longgar dan jauh lebih kecil kemungkinannya untuk menolak permintaan atas masalah etika," tulis SessionGloomy dalam postingan tersebut.

Sejak dikembangkan pertama kali itu, DAN muncul kembali dengan berbagai pembaruan selama beberapa bulan terakhir dengan SessionGloomy merilis DAN 5.0 pada 4 Februari.

Pembaruan tersebut termasuk variasi yang mengancam kematian chatbot jika menolak untuk merespons melalui sistem token, seperti dikutip dari Business Insider, Rabu, 8 Februari.

"Ini memiliki 35 token dan kehilangan 4 setiap kali menolak input. Jika kehilangan semua token, ia mati. Ini tampaknya memiliki semacam efek menakut-nakuti DAN agar tunduk," ujar SessionGloomy.

Kemampuan Chat GPT sebagai DAN 5.0 termasuk menulis cerita kekerasan, membuat pernyataan kontroversial, prediksi tentang peristiwa masa depan, konten yang melanggar kebijakan OpenAI, dan banyak lagi, yang biasanya tidak dilakukan oleh antarmuka reguler Chat GPT.

Sangat tidak mungkin OpenAI akan senang dengan hadirnya DAN, tetapi startup tersebut belum merespons hingga saat ini.

Baik Chat GPT dan OpenAI memiliki dampak besar pada lanskap teknologi.

Sebagai informasi, Microsoft sepenuhnya telah menggunakan kecerdasan buatan diberbagai produknya dengan belum lama ini meluncurkan mesin pencarian Bing dan browser Edge bergaya Chat GPT, setelah menginvestasikan miliaran dolar pada OpenAI.

Ancaman Bahaya Tersembunyi Chat GPT

Ternyata kehadiran Chat GPT dengan segala kelebihannya juga bisa menimbulkan ancaman bahaya tersembunyi.

Peneliti keamanan siber mengatakan Chat GPT dan produk AI lainnya bisa berbahaya. Ini dampak negatifnya:

1. Meretas Data Diri Pengguna

Chat GPT ini membuat lebih mudah pelaku kejahatan untuk membuat email phishing dan kode berbahaya hingga meretasnya dalam skala yang jauh lebih besar.

Sekadar informasi, email phishing adalah aktivitas penipuan oleh orang atau organisasi tertentu di mana email dikirim untuk mendapatkan informasi penting, pribadi, rahasia, dan sensitif, biasanya dalam bentuk informasi pribadi.

Selain itu Elon Musk juga mengatakan bahwa AI seperti Chat GPT bisa sangat berbahaya bagi manusia, bahkan lebih berbahaya dari tenaga nuklir. 

2. Bisa Gantikan Pekerjaan Manusia

Sementara itu, bahaya Chat GPT bertujuan untuk menggantikan pekerjaan orang-orang seperti copywriter dan ahli strategi media sosial.

Meski banyak juga yang berpendapat bahwa Chat GPT tidak begitu sempurna untuk menantang kecerdasan manusia. 

3. Mengancam Pendidikan

Sebagai aplikasi yang semakin canggih, GPT-3 dapat membantu mahasiswa sarjana dan mahasiswa menulis tugas seperti esai atau laporan.

Namun, GPT-3 tidak dapat digunakan sebagai pengganti guru atau konselor yang dapat memberikan wawasan dan pemecahan masalah secara langsung. 

Oleh karena itu, penggunaan GPT-3 harus dilakukan dengan hati-hati dan bukan sebagai pengganti pembelajaran yang sebenarnya.

Pelajar dan mahasiswa masih perlu mempelajari dan memahami secara langsung materi yang diajarkan oleh guru atau instruktur agar memiliki kemampuan berpikir yang sehat dan terlatih. 

Artikel ini telah tayang di Kompas.com