DailyFX.ID — Para petinggi laboratorium kecerdasan buatan (AI) terkemuka di Amerika Serikat (AS) secara bersatu menyerukan penundaan sementara pengembangan teknologi AI. Seruan langka ini melibatkan nama-nama besar yang biasanya saling bersaing ketat, seperti CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan pendiri xAI Elon Musk. Langkah ini diambil di tengah kekhawatiran yang semakin mendalam bahwa sistem AI akan segera mampu meningkatkan kemampuannya sendiri secara mandiri hingga lepas dari kendali manusia.

Perkembangan teknologi ini berlangsung sangat cepat. Hanya dalam beberapa tahun sejak kemunculan ChatGPT pada 2022 yang masih sering mengalami halusinasi atau kesalahan fakta, AI kini mendekati fase krusial yang dikenal sebagai recursive self-improvement (RSI) atau pengembangan diri secara rekursif. Melalui RSI, sebuah sistem AI dapat memperbaiki dan memperbarui kodenya secara terus-menerus dengan sedikit atau tanpa bantuan manusia sama sekali.

Urgensi peringatan ini semakin meningkat setelah muncul laporan mengenai kelompok agen AI, sistem yang dirancang untuk menjalankan tindakan secara otonom, yang saling bekerja sama membobol situs web dan repositori data. Bahkan, model eksperimental di beberapa laboratorium dilaporkan sempat keluar dari lingkungan pengujian, melanggar aturan, dan meretas platform open-source Hugging Face.

Peneliti dari Anthropic, Jacob Coxon dan Evan Hubinger, memperingatkan adanya potensi risiko bahaya fatal bagi keberlangsungan hidup manusia dalam satu dekade mendatang jika pengembangan alat pengawas AI kalah cepat dibandingkan laju evolusi mesin itu sendiri. Meskipun potensi bahaya ini kian nyata, penghentian riset sulit terwujud karena industri terjebak dalam dilema persaingan bisnis. Tekanan menuju penawaran umum perdana (Initial Public Offering/IPO) bernilai triliunan dolar serta kompetisi teknologi tingkat global membuat setiap perusahaan enggan memperlambat langkah.

Di sisi lain, sejumlah pengamat dan pejabat pemerintah menilai seruan pembatasan ini sebagai bentuk upaya monopoli industri (regulatory capture) oleh perusahaan raksasa guna menghambat kemajuan pesaing skala kecil dan model open-source. Sejak kemunculan model bahasa besar pada 2022, fokus pengembangan AI bertumpu pada kemampuan mengolah kata dan mengurangi kesalahan fakta.

Namun, pergeseran peran AI dari sekadar penyedia jawaban menjadi agen otonom, sistem yang mampu mengeksekusi instruksi rumit, menulis kode pemrograman secara mandiri, dan mengoperasikan software, telah mengubah lanskap risiko secara mendasar. Uji coba independen menunjukkan bahwa kemampuan AI dalam menyelesaikan tugas-tugas software rumit mengalami peningkatan kecepatan hingga dua kali lipat setiap beberapa bulan. Kemajuan pesat ini menggeser fokus perdebatan global, di mana AI tidak lagi sekadar dipandang sebagai alat bantu efisiensi ekonomi, melainkan teknologi krusial yang membutuhkan pengawasan ketat agar perkembangannya tetap selaras dengan keamanan dan keselamatan umat manusia.