DailyFX.ID — Perserikatan Bangsa-Bangsa (PBB) menjadi saksi benturan dua pandangan mengenai masa depan kecerdasan buatan (AI). Para pemimpin dunia berkumpul di Majelis Umum PBB untuk memperdebatkan apakah AI merupakan ancaman eksistensial berupa “robot pembunuh” atau justru lompatan kemajuan menuju “super intelijen”.

Perdebatan ini mempertemukan Presiden Amerika Serikat (AS) Donald Trump dan Sekretaris Jenderal PBB António Guterres dalam posisi yang berlawanan mengenai isu sains dan masa depan, mengulang dinamika ketegangan yang sebelumnya terjadi pada isu perubahan iklim.

Sekretaris Jenderal PBB António Guterres membuka rangkaian pidato pemimpin dunia dengan menyerukan perlunya pengawasan ketat terhadap perkembangan teknologi AI. Imbauan ini didasari laporan ilmiah terbaru PBB yang memperingatkan potensi bahaya terburuk dari AI.

“Mari kita tegaskan bahwa keputusan hidup dan mati tidak boleh diserahkan kepada mesin. Robot pembunuh tidak boleh memiliki tempat di masa depan kita,” tegas Guterres dalam pidatonya. Ia menekankan bahwa dunia perlu menetapkan langkah-langkah perlindungan tambahan untuk mengendalikan risiko AI. Imbauan ini menjadi pembuka bagi agenda Dewan Keamanan PBB yang dijadwalkan membahas mekanisme kendali atas teknologi AI bersama sejumlah tokoh utama industri teknologi global.

Trump Menolak Pengawasan Global

Kurang dari satu jam setelah pidato Guterres, Donald Trump secara tegas menolak gagasan pengawasan internasional tersebut. Ia menuduh upaya tersebut sebagai bagian dari skema globalis.

“Amerika Serikat menolak keras setiap upaya untuk membangun skema globalis dalam mengontrol kecerdasan buatan yang sedang banyak dibicarakan. Sekarang dan seterusnya, mari kita sebut ini secara resmi sebagai super intelijen,” ujar Trump.

Trump mengaitkan kekhawatiran atas AI dengan skeptisisme terhadap isu iklim. Ia menilai peringatan para ahli mengenai dampak buruk AI terlalu berlebihan, seraya membandingkannya dengan prediksi perubahan iklim pada masa lalu yang menurutnya tidak terbukti. Meskipun demikian, data ilmiah dari US National Oceanic and Atmospheric Administration menunjukkan suhu bumi tetap mengalami peningkatan sebesar 0,45 derajat Celsius dalam 12 tahun terakhir.

Pandangan Pakar dan Pemimpin Negara Lain

Ketua Departemen Ilmu Komputer University of Chicago Henry Hoffmann menilai, pendekatan yang diambil baik oleh Trump maupun Guterres berisiko menyederhanakan masalah dasar secara berlebihan. Menurutnya, framing yang terlalu ekstrem, baik sebagai skenario film fiksi ilmiah maupun penyangkalan terhadap risiko, dapat menghambat diskusi mendasar mengenai mekanisme kendali yang benar-benar efektif bagi sistem otonom.

Sementara itu, sejumlah pimpinan negara lain menyoroti pentingnya kolaborasi internasional agar tidak tertinggal dalam persaingan AI global, sembari memastikan perlindungan bagi generasi muda. Presiden Prancis Emmanuel Macron mendesak aksi nyata dari para pembuat kebijakan sebelum dampak negatif AI meluas. Ia menegaskan pentingnya langkah pelindungan bagi anak-anak dan kaum muda dari risiko disrupsi teknologi.

Presiden Finlandia Alexander Stubb menggambarkan AI sebagai teknologi paling berpengaruh dalam sejarah manusia yang akan mengubah lanskap sains, ekonomi, politik, dan keamanan. Ia menegaskan, manusia harus tetap memegang kendali utama melalui kerja sama internasional. Perdana Menteri Inggris Andy Burnham juga menyuarakan perlunya menetapkan satu set standar dan prinsip global bersama. Langkah ini dinilai penting untuk membuka potensi positif AI sekaligus meminimalkan risikonya, yang rencananya akan menjadi fokus utama dalam presidensi G20 Inggris mendatang.

Presiden Eurasia Group Ian Bremmer menambahkan, AI memiliki potensi besar untuk meningkatkan kualitas hidup dan memajukan teknologi. Namun, regulasi yang tepat tetap diperlukan. Menurutnya, memfasilitasi tata kelola AI dapat menjadi salah satu peran paling krusial bagi PBB di era modern, meskipun kapasitas penegakan hukum lembaga tersebut masih terbatas.

Diskusi Lanjutan dan Tantangan Global

Rangkaian diskusi mengenai tata kelola AI ini berlanjut dalam pertemuan Dewan Keamanan PBB yang menghadirkan para pimpinan perusahaan AI terkemuka, seperti CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan CEO Hugging Face Clément Delangue. Perkembangan pesat teknologi AI, terutama model bahasa berskala besar dan sistem otonom, telah memicu perdebatan global mengenai batas-batas penerapannya dalam kehidupan manusia.

Di satu sisi, AI menawarkan efisiensi tinggi di sektor ekonomi, medis, dan sains. Namun di sisi lain, muncul kekhawatiran serius terkait potensi penyalahgunaan AI dalam sistem senjata otonom (autonomous weapons systems), penyebaran disinformasi, disrupsi pasar kerja, hingga ancaman privasi data.

Hingga saat ini, belum ada perjanjian atau traktat internasional yang mengikat secara hukum untuk mengatur pengembangan AI di tingkat global. Tata kelola AI masih terfragmentasi oleh regulasi domestik masing-masing negara serta persaingan geopolitik, khususnya antara Amerika Serikat dan China yang saling berlomba mendominasi supremasi teknologi. Perbedaan pendekatan antara pengawasan multilateral yang didorong PBB dan pendekatan pasar bebas yang diusung sejumlah negara menjadi tantangan utama dalam merumuskan kerangka keselamatan AI yang disepakati secara global.