Chat GPT yang merupakan sebuah kecerdasan buatan (AI/Artificial Intelligence) banyak diperbincangkan dan sudah menjadi tren sejak tahun 2022 dikarenakan keahliannya yang dapat menjawab semua pertanyaan dengan gaya tulisannya yang mirip dengan tulisan dan pemikiran manusia pada umumnya. Tidak hanya itu, jawaban yang diberikan juga sesuai konteks, sehingga tidak tampak seperti jawaban robot. Dengan kelebihan Chat GPT yang juga dapat membuat source code sebuah program yang diminta, baru baru ini ditemukan sejumlah peretas yang diduga telah menyalahgunakan kelebihan dari Chat GPT sendiri untuk membuat malware atau perangkat lunak berbahaya.
Seperti yang dilaporkan oleh Check Point yang telah menemukan sebuah peretas yang tengah mencoba untuk membuat alat arah tools dengan memanfaatkan Chat GPT. yang mana dapat disalahgunakan untuk membuat ulang serangkaian kode malware yang dapat memantau ketikan keyboard korbannya. Meskipun menurut Check Point kode yang dihasilkan oleh Chat GPT masih tergolong sederhana namun KompasTechno melaporkan bahwa terdapat salah satu hacker yang telah mengunggah kode yang dapat membuat backdoor di perangkat milik korban yang kemudian dapat dieksploitasi oleh peretas dimana kode tersebut merupakan kode malware android yang ditulis menggunakan ChatGPT.
Alex Holden, pendiri perusahaan keamanan siber Hold Security, juga telah menemukan aktivitas para hacker yang berpura-pura mengajak korbannya berkencan dengan menggunakan ChatGPT untuk membuat persona/profil mereka. Dengan cara, membangun citra dan berbicara seperti seorang wanita untuk menumbuhkan kepercayaan dan membuat korban bersedia melakukan percakapan ataupun interaksi yang panjang.
Dalam kasus lain, para peretas yang lebih maju dari segi teknologi telah membagikan hasil dari kueri ChatGPT yang mereka lakukan di beberapa forum komunitas bawah tanah yang ada di Web Gelap. Peneliti menganggap bahwa ini hanya masalah waktu sebelum malware ini digunakan di dunia nyata secara real-time, jika belum ada yang melakukannya. Laporan juga menyatakan bahwa AI open source telah memberikan instruksi kepada peretas tentang cara membuat pasar Dark Web untuk melakukan aktivitas ilegal seperti penjualan dan perdagangan nomor rekening kartu kredit yang dicuri dan skema penipuan lainnya, lengkap dengan kemampuan pembayaran menggunakan API cryptocurrency.
Tim peneliti Cybernews menemukan bahwa ChatGPT akan memberikan panduan tentang berbagai cara untuk meretas situs web yang diminta. Eksperimen yang dilakukan secara etis pada platform pelatihan virtual Hack the Box menunjukkan bahwa tim hanya membutuhkan waktu 45 menit untuk menyelesaikan peretasan menggunakan instruksi yang dihasilkan dari AI.
Pengembang ChatGPT, OpenAI, sebenarnya sudah menerapkan beberapa kontrol yang berguna untuk mencegah penyalahgunaan ChatGPT, seperti membuat spyware atau perangkat lunak berbahaya lainnya. Menurut situs web pengembang, model ChatGPT dilatih untuk menolak permintaan yang tidak pantas. Namun, baik tim peneliti Cybernews maupun Check Point menemukan bahwa mereka dapat dengan mudah mendapatkan informasi yang kuat. Ketika ditanya secara langsung tentang kebijakannya sendiri tentang masalah tersebut, bot memberikan pernyataan yang menyatakan bahwa meskipun "pelaku ancaman dapat menggunakan kecerdasan buatan dan pembelajaran mesin untuk melakukan aktivitas jahat," Open AI tidak bertanggung jawab atas penyalahgunaan teknologinya oleh pihak ketiga. Namun, belum ada tanggapan atau tindakan dari pihak OpenAI terkait temuan ini.
