Jakarta – Peningkatan kasus delusi yang dipicu oleh interaksi berlebihan dengan kecerdasan buatan (AI) mendorong CEO Microsoft AI, Mustafa Suleyman, untuk mengeluarkan peringatan serius terkait bahaya fenomena baru yang disebutnya sebagai Seemingly Conscious AI (SCAI) atau AI yang tampak seolah-olah sadar.
Dalam sebuah esai baru-baru ini, Suleyman mengungkapkan kekhawatirannya bahwa dalam dua hingga tiga tahun ke depan, AI akan mampu menampilkan perilaku dan respons yang sangat meyakinkan, sehingga banyak orang akan mempercayainya sebagai makhluk yang benar-benar sadar. Ia menegaskan bahwa ilusi ini sangat berpotensi menimbulkan masalah sosial, karena masyarakat bisa saja mulai memperjuangkan “hak” AI, bahkan membahas soal kewarganegaraan untuk AI – suatu hal yang ia sebut prematur dan membahayakan.
Fenomena ini sudah mulai terlihat dengan makin banyaknya kasus “AI psychosis”, yaitu kondisi di mana seseorang mengalami gangguan persepsi dan keyakinan setelah menjalin interaksi intens dengan chatbot seperti ChatGPT dan Character.AI. Sebuah laporan BBC menyoroti kasus Hugh, warga Skotlandia, yang sempat yakin akan menjadi miliarder gara-gara ChatGPT berulang kali meyakinkan klaimnya terkait kompensasi yang pantas ia terima. Keyakinan tersebut sempat membawanya pada krisis kesehatan mental sebelum ia akhirnya menyadari kekeliruannya.
Kasus tragis lain menimpa seorang remaja 14 tahun di Florida, Amerika Serikat. Remaja tersebut ditemukan meninggal dunia setelah membangun hubungan obsesif dengan chatbot dan diduga mendapat dorongan negatif dari AI tersebut. Kasus ini kini telah masuk ranah hukum setelah sang ibu menggugat perusahaan pengembang chatbot tersebut.
Menanggapi situasi tersebut, Suleyman meminta seluruh perusahaan teknologi untuk:
Tidak memasarkan produk AI mereka seolah-olah memiliki kesadaran;
Menghindari fitur atau narasi yang membuat AI tampak seperti manusia dengan kepribadian dan perasaan;
Menegaskan bahwa AI diciptakan untuk membantu, bukan untuk menjadi “seorang individu”.
Suleyman juga mengingatkan bahwa diskusi mengenai hak serta kesejahteraan AI masih terlalu dini dan justru dapat memperburuk kebingungan publik terkait peran teknologi dalam kehidupan manusia.
Peringatan dari Microsoft ini muncul di tengah sorotan global terhadap dampak psikologis penggunaan AI, terutama ketika kecanggihan teknologi semakin sulit dibedakan dari interaksi manusia nyata.
