DailyFX.ID — Chief Executive Officer (CEO) OpenAI Sam Altman akhirnya memaparkan pandangannya secara mendalam mengenai kerangka keselamatan kecerdasan buatan (artificial intelligence/AI). Pernyataan ini muncul setelah ia bersama CEO Anthropic Dario Amodei dan pendiri xAI Elon Musk secara terbuka menyerukan perlambatan laju pengembangan teknologi AI tingkat lanjut atau frontier AI.

Kekhawatiran mengenai keselamatan AI kian memuncak setelah seorang peneliti dari Anthropic mengundurkan diri sambil menyampaikan peringatan keras. Peneliti tersebut mengungkapkan keyakinan para pengembang AI bahwa teknologi ini berpotensi menimbulkan ancaman fatal bagi kelangsungan hidup manusia pada akhir dekade ini jika perkembangannya tidak dikendalikan.

Dua Risiko Utama Menurut Sam Altman

Menghadapi situasi tersebut, para petinggi perusahaan raksasa AI menunjukkan keselarasan sikap yang jarang terjadi. Melalui platform X (sebelumnya Twitter), Sam Altman menyatakan dukungannya terhadap pembentukan regulasi federasi yang akan menetapkan standar keselamatan konsisten untuk frontier AI.

Altman menyoroti dua skenario utama yang dapat membawa perkembangan AI berdampak negatif bagi peradaban manusia. Pertama adalah risiko kehilangan kendali atas arah masa depan karena dominasi sistem AI yang melampaui kemampuan pemahaman dan pengawasan manusia. Kedua adalah potensi terjadinya pemusatan kekuatan dan kendali yang berlebihan hanya pada satu individu atau satu perusahaan saja.

“Kami menyambut baik kerangka kerja federasi yang menetapkan persyaratan keselamatan yang konsisten untuk frontier AI. Tidak ada besarnya tekanan persaingan ekonomi atau teknologi yang dapat membenarkan tindakan ceroboh,” tegas Altman.

Altman menjelaskan bahwa konsep ‘mengatur kecepatan’ atau pacing bukanlah berarti menghentikan inovasi sepenuhnya. Tujuannya adalah memastikan peningkatan kemampuan model tidak mendahului sistem keselarasan (alignment) dan pemantauan keselamatan.

Usulan Tiga Langkah dari Dario Amodei

Seruan perlambatan ini berawal dari esai yang diterbitkan oleh CEO Anthropic, Dario Amodei. Kekhawatiran utama industri AI saat ini berfokus pada teknologi Recursive Self-Improvement (RSI), sebuah kondisi di mana model AI mampu memperbarui dan meningkatkan kemampuannya sendiri secara mandiri tanpa campur tangan manusia.

Untuk mengantisipasi ancaman tersebut, Amodei mengajukan rencana tiga langkah yang dirancang tanpa mengorbankan keunggulan komersial maupun kepemimpinan teknologi. Langkah-langkah tersebut meliputi:

  • Akses Evaluator Independen: Memberikan akses setara karyawan (employee-like access) kepada penguji independen eksternal untuk mengevaluasi keamanan sistem secara transparan.
  • Standar Keselamatan Bersama: Mendorong seluruh laboratorium frontier AI untuk menyepakati dan menetapkan batas keselamatan yang homogen.
  • Koordinasi Global: Mengendalikan laju perkembangan AI yang tidak terawasi dan menggalang kerja sama internasional untuk menetapkan batasan kecepatan (speed limit) pengembangan AI secara menyeluruh.

Pernyataan bersama dari para pemimpin industri AI ini langsung berdampak pada sektor keuangan, di mana saham perusahaan-perusahaan berbasis AI dilaporkan mengalami penurunan seiring investor mencerna sinyal perlambatan industri tersebut.

Di sisi lain, Presiden Amerika Serikat saat itu, Donald Trump, secara tegas menepis peringatan dari para CEO AI. Trump berpendapat bahwa perlambatan pengembangan AI tidak diperlukan dan justru dapat mengancam posisi AS dalam mempertahankan keunggulan teknologi atas China.

Tantangan Geopolitik dan Penolakan dari China

Upaya untuk mengoordinasikan keselamatan AI di tingkat internasional diprediksi akan menghadapi tantangan berat, terutama terkait persaingan teknologi antara Amerika Serikat dan China.

Dalam wawancaranya dengan CBS News, Amodei mengakui bahwa dilema terbesar dari usulannya adalah risiko yang muncul jika negara rival menolak menerapkan aturan keselamatan yang sama.

Media pemerintah China, Global Times, mengkritik keras usulan Amodei, menyebutnya sebagai upaya untuk menggambarkan perkembangan AI China sebagai ancaman demi memicu konfrontasi. Kementerian Luar Negeri China juga mengomentari pernyataan para CEO AI Barat tersebut, menilainya sebagai bentuk fearmongering atau penyebaran rasa takut yang berlebihan.

Perdebatan mengenai keselamatan dan tata kelola kecerdasan buatan mengalami eskalasi pesat seiring dengan lompatan kemampuan Large Language Models (LLM) sejak peluncuran ChatGPT pada akhir 2022. Persaingan ketat antar-perusahaan teknologi untuk mencapai Artificial General Intelligence (AGI) memicu kekhawatiran bahwa aspek keselamatan dan etika terabaikan demi kecepatan komersialisasi.

Isu keselamatan ini menjadi semakin sensitif mengingat OpenAI dan Anthropic tengah bersiap menghadapi penawaran umum perdana (Initial Public Offering/IPO) yang diprediksi menjadi salah satu aksi korporasi terbesar di sektor teknologi.

Meskipun demikian, Sam Altman telah mengonfirmasi dalam wawancaranya dengan majalah Fortune bahwa OpenAI tidak memiliki rencana untuk melantai di bursa pada tahun 2026. Diskusi ini menandai titik balik penting di mana para pimpinan industri secara terbuka meminta campur tangan regulasi pemerintah untuk mencegah potensi risiko sistemik teknologi AI di masa depan.