DailyFX.ID — Perusahaan dihadapkan pada pergeseran risiko fundamental seiring adopsi AI berbasis agen yang semakin meluas untuk tugas-tugas lintas API dan sistem. Akamai merilis laporan terbaru ‘State of the Internet’ (SOTI) yang mengupas tantangan keamanan AI yang sedang berkembang pesat.

Laporan berjudul ‘The Agentic Frontier: Speed, Scale, and Nonhuman Identity’ ini ditujukan bagi para Chief Information Security Officer (CISO). Laporan tersebut menekankan bahwa pengamanan bisnis modern kini tidak lagi hanya sebatas manajemen identitas dan akses bagi manusia, melainkan telah berevolusi menjadi tantangan tata kelola perilaku bagi entitas non-manusia.

“Laporan ini menyoroti dua tantangan krusial: kesulitan dalam menetapkan batasan bagi agen otonom, dan kecepatan model AI dalam mengidentifikasi kerentanan yang seringkali melampaui siklus pembaruan yang dilakukan manusia,” ujar Boaz Gelbord, Chief Security Officer di Akamai.

Temuan utama dari Laporan SOTI mengungkap adanya kesenjangan visibilitas pada Model Context Protocol (MCP). Protokol ini memungkinkan agen AI berinteraksi dengan berbagai sistem perangkat lunak secara otonom. Namun, pengawasan terhadap MCP justru berada di urutan terakhir dalam prioritas keamanan CISO saat ini. Hal ini menciptakan kesenjangan visibilitas yang kritis, sementara para pemimpin keamanan memperkirakan agen AI yang tidak terkendali akan menjadi ancaman siber utama pada tahun 2030.

Laporan ini juga menyoroti beberapa temuan penting lainnya:

  • Kebocoran data chatbot: Lebih dari 6% percakapan chatbot AI di lingkungan perusahaan mengandung data sensitif, termasuk informasi identifikasi pribadi. Sebanyak 47% interaksi ini terjadi melalui akun pribadi yang tidak diawasi.
  • Percepatan eksploitasi kerentanan: Model AI mampu mengidentifikasi dan menghubungkan kelemahan sistem dengan cepat. Hal ini membuat penambalan keamanan (patching) yang bersifat reaktif menjadi tidak memadai, sehingga mitigasi di lapisan tepi (edge) secara real-time menjadi keharusan.
  • Browser sebagai ruang kerja yang tidak terlindungi: Lebih dari 40% pengguna korporat telah menginstal ekstensi browser berbasis AI. Sekitar 25% di antaranya mengubah izin dalam waktu 12 bulan. Alat-alat ini memiliki kemungkinan 60% lebih besar untuk mengandung kerentanan yang sudah diketahui dibandingkan ekstensi standar.
  • Maraknya pelanggan sintetis: Seiring agen AI menggantikan traffic web tradisional dalam penemuan merek, CISO perlu memperluas perlindungan melampaui malware. Perlindungan harus mencakup metrik Generative Engine Optimization (GEO), seperti kutipan, akurasi, sentimen, dan pengelolaan bot.

“AI menghadirkan momen ‘everything, everywhere, all at once’ bagi ekosistem keamanan secara keseluruhan,” kata Boaz. Ia menambahkan bahwa ada tiga ancaman utama: penggunaan AI internal di seluruh organisasi (kode yang dihasilkan AI maupun alat produktivitas), integrasi AI langsung ke dalam produk yang berinteraksi dengan pelanggan dan beban kerja cloud, serta serangan yang didorong oleh AI yang menargetkan perusahaan.

“Program keamanan perlu beradaptasi dengan realitas yang berkembang pesat ini. Akan ada banyak tekanan dalam sistem akibat kecepatan perubahan yang belum pernah terjadi sebelumnya. Ini akan menjadi topik utama bagi dewan direksi, pelanggan, dan regulator dalam waktu dekat,” ujarnya.

Steve Winterfeld, Advisory CISO Akamai, menambahkan, “Munculnya web berbasis agen menandai perubahan mendasar dalam cara nilai bisnis dan logika operasional diciptakan. Seiring dengan perkembangan AI otonom dari sekadar menjawab pertanyaan menjadi pelaksanaan strategi bisnis bertahap, kepemimpinan di bidang keamanan harus berkembang sejalan dengan hal tersebut.”

Rekomendasi Strategis Menghadapi Era AI

Untuk menghadapi era AI berbasis agen, Akamai menguraikan empat pilar utama bagi CISO dalam laporan tersebut:

  1. Beralih ke tata kelola edge yang adaptif: Terapkan perlindungan runtime native edge, filter API, dan mekanisme isolasi untuk segera menetralkan kerentanan sementara proses penambalan di sistem backend berlangsung.
  2. Amankan edge browser: Bangun visibilitas dan kontrol perilaku di dalam browser untuk mengamankan penggunaan ekstensi AI yang tidak dikelola dan model yang di-hosting di web oleh tenaga kerja.
  3. Lindungi otoritas brand dalam ekonomi tanpa klik: Terapkan strategi GEO dan lapisan data yang dapat dibaca mesin di jaringan edge untuk mencegah crawler AI dan pembeli sintetis membuat data brand perusahaan menjadi tidak akurat atau menyajikannya secara keliru.
  4. Sesuaikan otonomi dengan kemampuan verifikasi: Berikan otonomi operasional kepada agen AI berdasarkan seberapa mudah tindakan mereka dapat diverifikasi dan seberapa reversibel potensi kegagalan tersebut, sambil tetap mempertahankan kontrol dengan keterlibatan manusia (human-in-the-loop) untuk tindakan yang berisiko tinggi.