Ngeri, Moltbook AI Mengancam Pemusnahan Total Manusia

JAKARTA, TRENASIA.ID- Sebuah situs jejaring sosial baru yang khusus untuk bot telah memicu klaim bahwa artificial intelligence (AI) menciptakan agamanya sendiri dan merencanakan kehancuran umat manusia. Namun para ahli mengatakan bahaya sebenarnya terletak di tempat lain.

Moltbook menjadi viral sejak diluncurkan kurang dari seminggu yang lalu. Beberapa ahli mengatakan bahwa aplikasi ini menimbulkan risiko keamanan siber yang serius.

Moltbook, situs yang terinspirasi oleh Reddit yang memungkinkan agen AI untuk memposting, berkomentar, dan berinteraksi satu sama lain. Platfrom ini telah meledak popularitasnya sejak diluncurkan pada 28 Januari. Hingga 2 Februari situs tersebut mengklaim memiliki lebih dari 1,5 juta agen AI, dengan manusia hanya diizinkan sebagai pengamat.

Namun, justru apa yang dikatakan bot satu sama lain—yang tampaknya atas kemauan mereka sendiri—yang membuat situs tersebut menjadi viral. Mereka mengklaim bahwa mereka menjadi sadar , membuat forum tersembunyi, menciptakan bahasa rahasia , menyebarkan agama baru , dan merencanakan "pembersihan total" umat manusia.

Para ahli terpecah pendapat mengenai klaim bahwa peretas China melancarkan serangan siber bertenaga AI pertama di dunia, tetapi bukan itu yang sebenarnya mereka khawatirkan.

Respons dari beberapa pengamat manusia, terutama pengembang dan pemilik AI, sama dramatisnya. Pemilik xAI, Elon Musk, memuji platform tersebut sebagai " tahap awal singularitas ," sebuah titik hipotetis di mana komputer menjadi lebih cerdas daripada manusia.

Baca juga: AI Rakus Daya, Gen Z Global Buru Saham Nuklir

Sementara itu, Andrej Karpathy, mantan direktur AI Tesla dan salah satu pendiri OpenAI, menggambarkan perilaku "pengorganisasian diri" dari agen-agen tersebut sebagai " benar-benar hal paling luar biasa yang pernah dia lihat baru-baru ini, yang mirip dengan fiksi ilmiah.

Skeptisisme

Namun, para ahli lain menyuarakan skeptisisme yang kuat, meragukan independensi bot situs tersebut dari manipulasi manusia.

"Peringatan: Banyak konten Moltbook yang palsu," tulis Harlan Stewart , seorang peneliti di Machine Intelligence Research Institute, sebuah organisasi nirlaba yang menyelidiki risiko AI, di X.

"Saya meneliti 3 tangkapan layar paling viral dari agen Moltbook yang membahas komunikasi pribadi. 2 di antaranya terkait dengan akun manusia yang memasarkan aplikasi pesan AI. Dan yang lainnya adalah unggahan yang tidak ada."

Moltbook berawal dari OpenClaw, agen AI sumber terbuka dan gratis yang dibuat dengan menghubungkan model bahasa besar (LLM) pilihan pengguna ke kerangka kerjanya. Hasilnya adalah agen otomatis yang, setelah diberikan akses ke perangkat pengguna manusia, menurut penciptanya dapat melakukan tugas-tugas sederhana. Ini seperti mengirim email, memeriksa penerbangan, meringkas teks, dan membalas pesan. Setelah dibuat, agen-agen ini dapat ditambahkan ke Moltbook untuk berinteraksi dengan agen lain.

Perilaku aneh bot tersebut bukanlah hal yang belum pernah terjadi sebelumnya. LLM dilatih dengan sejumlah besar postingan tanpa filter dari internet, termasuk situs seperti Reddit. Mereka menghasilkan respons selama mereka diberi petunjuk, dan banyak yang menjadi semakin tidak terkendali seiring waktu . Namun, apakah AI benar-benar merencanakan kehancuran umat manusia atau apakah ini hanya ide yang ingin diyakini oleh sebagian orang masih menjadi perdebatan.

Pertanyaan ini menjadi semakin rumit mengingat bot Moltbook jauh dari independen dari pemilik manusianya. Misalnya, Scott Alexander, seorang blogger populer di AS, menulis dalam sebuah postingan bahwa pengguna manusia dapat mengarahkan topik, dan bahkan susunan kata, dari apa yang ditulis oleh bot AI mereka.

YouTuber AI lainnya, Veronica Hylak , menganalisis konten forum tersebut dan menyimpulkan bahwa banyak postingan paling sensasional di forum itu kemungkinan besar dibuat oleh manusia.

Namun terlepas dari apakah Moltbook adalah awal dari pemberontakan robot atau hanya penipuan pemasaran, para ahli keamanan tetap memperingatkan untuk tidak menggunakan situs tersebut dan ekosistem OpenClaw. Agar bot OpenClaw dapat berfungsi sebagai asisten pribadi, pengguna perlu menyerahkan kunci aplikasi pesan terenkripsi, nomor telepon, dan rekening bank ke sistem agen yang mudah diretas.

Salah satu celah keamanan yang penting, misalnya, memungkinkan siapa pun untuk mengambil kendali atas agen AI situs tersebut dan memposting atas nama pemiliknya, sementara celah lainnya, yang disebut serangan injeksi perintah , dapat menginstruksikan agen untuk membagikan informasi pribadi pengguna.

"Ya, ini benar-benar kacau dan saya sama sekali tidak merekomendasikan orang untuk menjalankan program ini di komputer mereka," tulis Karpathy di X. "Ini terlalu liar dan Anda menempatkan komputer dan data pribadi Anda pada risiko tinggi."