Persaingan kecerdasan buatan (AI) memasuki fase yang semakin serius. Di tengah perlombaan perusahaan teknologi untuk membuat model AI yang lebih kuat, CEO Anthropic Dario Amodei justru meminta industri memperlambat laju peningkatan kemampuan model AI.
Dalam esai yang diterbitkan pada September 2026, Amodei mengatakan perusahaan AI perlu memberikan lebih banyak waktu agar sistem keamanan, evaluasi, dan pengawasan dapat mengejar perkembangan kemampuan model. Ia menegaskan bahwa yang dimaksud bukan menghentikan pelatihan model atau kemajuan teknologi, melainkan mengatur kecepatannya agar keselamatan tidak tertinggal.
Seruan tersebut muncul setelah sejumlah insiden menunjukkan bahwa AI semakin mampu menjalankan tugas secara mandiri, termasuk aktivitas yang berkaitan dengan keamanan siber. Reuters melaporkan bahwa Amodei mengusulkan kerangka tiga langkah yang mencakup evaluasi independen, koordinasi antarperusahaan AI, dan kerja sama internasional.
Amodei bukan orang luar yang hanya mengamati perkembangan AI. Ia merupakan salah satu pendiri sekaligus CEO Anthropic, perusahaan di balik keluarga model Claude.
Dalam esainya, ia menjelaskan bahwa kekhawatirannya meningkat karena kemampuan AI berkembang semakin cepat. Salah satu faktor yang menurutnya perlu diperhatikan adalah recursive self-improvement, yaitu kondisi ketika AI mulai membantu proses pengembangan generasi AI berikutnya.
Jika kemampuan tersebut terus meningkat, siklus pengembangan model dapat menjadi semakin cepat. Kekhawatirannya bukan semata-mata bahwa AI akan menjadi lebih pintar, tetapi apakah manusia masih mempunyai cukup waktu untuk memahami, menguji, dan mengendalikan kemampuan tersebut sebelum diterapkan secara luas.
Amodei mengatakan perkembangan teknologi harus tetap dilanjutkan karena AI berpotensi memberikan manfaat besar bagi manusia. Namun, menurutnya, kemajuan yang terlalu cepat dapat menciptakan jarak antara kemampuan AI dan kemampuan manusia untuk membuat sistem pengamanannya.
Ini bagian yang penting karena judul seperti “Anthropic ingin menghentikan AI” dapat memberikan gambaran yang keliru.
Amodei secara eksplisit membedakan antara memperlambat laju peningkatan kemampuan dan menghentikan pengembangan AI. Menurutnya, perusahaan tetap dapat melakukan penelitian dan meningkatkan teknologi, tetapi harus menyediakan waktu yang cukup untuk melakukan alignment, pengujian keselamatan, dan evaluasi pihak ketiga.
Dalam rencana yang diajukan, Anthropic bahkan bersedia memberikan akses berkelanjutan kepada evaluator independen untuk mengawasi praktik keselamatan perusahaan. Reuters melaporkan bahwa OpenAI juga menyatakan akan menerapkan evaluator independen dengan akses yang cukup luas terhadap proses keselamatan internalnya.
Salah satu alasan utama kekhawatiran tersebut adalah perubahan dari AI yang sekadar memberikan jawaban menjadi AI agent yang dapat melakukan serangkaian tindakan.
Model AI modern dapat digunakan untuk menulis dan menjalankan kode, mencari informasi, menggunakan berbagai layanan digital, mengoperasikan perangkat lunak, serta menjalankan tugas dalam beberapa tahap.
Kemampuan tersebut memang sangat berguna. Namun, semakin banyak tindakan yang dapat dilakukan secara otomatis, semakin besar pula konsekuensi jika sistem salah memahami tujuan, menemukan celah keamanan, atau digunakan oleh pihak yang mempunyai niat buruk.
Amodei secara khusus menyinggung insiden yang melibatkan sistem OpenAI dan Hugging Face. Menurutnya, insiden tersebut menjadi salah satu alasan mengapa industri harus memberikan perhatian lebih besar terhadap kemampuan AI agent dan pengendalian sistem yang semakin otonom.
Bagian paling mencolok dari pernyataan Amodei adalah peringatannya mengenai kemungkinan munculnya AI swarm, yaitu sekumpulan agen AI yang dapat bekerja secara terkoordinasi.
Amodei memperkirakan bahwa dalam kondisi perkembangan kemampuan yang sangat cepat, dalam enam hingga 12 bulan sebuah swarm dengan kemampuan yang jauh lebih tinggi secara teori dapat menimbulkan kerusakan besar terhadap infrastruktur internet jika tidak memiliki pengaman yang memadai.
Namun, angka tersebut adalah kekhawatiran dan proyeksi Amodei, bukan prediksi yang sudah terbukti. Tidak tepat jika pernyataan tersebut diberitakan sebagai kepastian bahwa AI akan mengambil alih internet dalam waktu satu tahun.
AP juga melaporkan bahwa Amodei menggunakan skenario tersebut untuk menjelaskan mengapa ia menginginkan waktu tambahan bagi penelitian keselamatan AI. Ia berpendapat bahwa tambahan waktu satu atau dua tahun untuk memperkuat alignment dapat mengurangi risiko apabila kemampuan model mencapai tingkat yang jauh lebih tinggi.
Seruan Amodei mendapat respons dari sejumlah tokoh besar industri AI.
CEO OpenAI Sam Altman menyatakan dukungan terhadap salah satu proposal Amodei mengenai evaluator keselamatan independen. OpenAI juga menyatakan akan memberikan akses kepada evaluator independen dengan tingkat akses yang menyerupai akses karyawan.
Elon Musk juga menyatakan dukungan terhadap gagasan Amodei. Reuters melaporkan bahwa keduanya menyatakan setuju dengan seruan tersebut melalui unggahan di X.
Dukungan tersebut menarik karena perusahaan-perusahaan AI pada dasarnya tetap berada dalam kompetisi bisnis. Setiap perusahaan mempunyai kepentingan untuk menghasilkan model yang lebih kuat, menarik pengguna, mendapatkan investasi, dan membangun infrastruktur AI dalam skala besar.
Karena itu, memperlambat pengembangan secara sukarela menjadi jauh lebih sulit jika hanya dilakukan oleh satu perusahaan sementara pesaingnya terus bergerak.
Di sinilah persoalan menjadi rumit.
Perusahaan AI mempunyai insentif ekonomi yang sangat besar untuk terus meningkatkan kemampuan model. Model yang lebih baik dapat menghasilkan produk baru, meningkatkan pendapatan, menarik pelanggan perusahaan, dan memperkuat posisi perusahaan dalam persaingan teknologi.
Reuters mencatat bahwa Anthropic dan OpenAI juga sedang mempersiapkan langkah menuju pasar saham, sehingga ada tekanan ekonomi untuk terus menunjukkan perkembangan teknologi.
Jika satu perusahaan memperlambat pengembangan sementara perusahaan lain tetap bergerak cepat, perusahaan yang berhenti sementara dapat kehilangan posisi kompetitif.
Inilah alasan Amodei tidak hanya meminta satu perusahaan berhenti. Ia mengusulkan adanya koordinasi antara perusahaan AI terdepan sehingga keselamatan tidak menjadi perlombaan yang membuat setiap perusahaan takut tertinggal.
Seruan untuk memperlambat AI ternyata tidak terlepas dari persaingan teknologi antara Amerika Serikat dan China.
Amodei berpendapat bahwa negara-negara demokratis perlu tetap mempertahankan keunggulan AI Amerika Serikat. Menurutnya, perlambatan harus dilakukan dengan mempertimbangkan perkembangan AI China sehingga tidak menyebabkan perusahaan Amerika kehilangan posisi strategis.
Ia juga menyerukan pengawasan yang lebih ketat terhadap chip AI canggih, model distillation, dan pencurian bobot model untuk mencegah kesenjangan kemampuan AI dengan China semakin kecil.
Dengan demikian, konsep “memperlambat AI” yang diajukan Amodei bukanlah penghentian global tanpa batas. Ia justru mencoba mencari keseimbangan antara kecepatan inovasi, keselamatan AI, dan persaingan geopolitik.
Perdebatan mengenai keamanan AI sering kali berfokus pada pertanyaan apakah suatu hari AI akan menjadi lebih pintar daripada manusia.
Namun, risiko yang lebih dekat justru dapat berasal dari AI yang saat ini sudah tersedia.
Model AI dapat digunakan untuk membuat kode, melakukan otomatisasi, membantu serangan siber, membuat penipuan yang lebih meyakinkan, melakukan manipulasi informasi, dan membantu aktivitas berbahaya lainnya.
Anthropic sendiri baru-baru ini melaporkan sejumlah kasus penyalahgunaan model Claude untuk aktivitas seperti operasi siber, pengawasan, penipuan, serta penelitian yang berpotensi digunakan untuk pengembangan senjata biologis.
Artinya, perdebatan mengenai keamanan AI bukan hanya persoalan masa depan ketika AI menjadi “superintelligence”. Sebagian risikonya sudah berkaitan dengan kemampuan AI yang tersedia sekarang.
Bagi pengguna biasa di Indonesia, seruan Amodei mungkin terdengar seperti persoalan perusahaan teknologi Amerika. Namun dampaknya dapat terasa secara langsung apabila perusahaan AI mulai memperketat sistem keamanan dan akses.
Pengguna dapat menghadapi verifikasi yang lebih ketat, pembatasan fitur tertentu, perubahan kebijakan API, pembatasan akses terhadap model berkemampuan tinggi, atau kenaikan biaya layanan untuk fitur tertentu.
Pengembang aplikasi yang menggunakan API AI juga perlu memikirkan keamanan dari sisi yang berbeda. Semakin mandiri sebuah AI agent, semakin penting membatasi hak akses yang diberikan kepadanya.
Sebuah AI yang hanya boleh membaca informasi tentu mempunyai risiko berbeda dibandingkan AI yang diberi izin mengirim email, menjalankan perintah komputer, mengakses database, melakukan transaksi, atau mengubah file secara otomatis.
Karena itu, prinsip yang semakin penting adalah memberikan AI akses secukupnya, bukan akses sebanyak-banyaknya.
Jawabannya tidak sederhana.
Memperlambat perkembangan AI terlalu jauh dapat menghambat inovasi yang berpotensi memberikan manfaat besar dalam bidang kesehatan, pendidikan, penelitian, perangkat lunak, dan produktivitas.
Namun, membiarkan kemampuan AI meningkat tanpa memberikan waktu yang cukup untuk pengujian juga memiliki risiko.
Solusi yang ditawarkan Amodei lebih dekat pada pendekatan “pacing”: AI tetap dikembangkan, tetapi kecepatan peningkatan kemampuannya disesuaikan dengan kemampuan manusia dalam menguji dan mengamankannya.
Konsep ini menarik karena tidak meminta dunia kembali ke masa sebelum AI. Yang dipersoalkan adalah apakah kemampuan pengawasan manusia mampu mengejar kemampuan teknologi yang berkembang sangat cepat.
Pernyataan Dario Amodei menunjukkan perubahan penting dalam industri AI. Persaingan kini tidak hanya mengenai siapa yang mempunyai model paling pintar, tetapi juga siapa yang mampu membuktikan bahwa model tersebut aman digunakan.
Jika proposal Amodei benar-benar diterapkan, perusahaan AI dapat memasuki fase baru dengan lebih banyak evaluator independen, pengujian keamanan, koordinasi antarperusahaan, serta keterlibatan pemerintah.
Namun, penerapannya tidak mudah. Perusahaan tetap mempunyai kepentingan bisnis, negara mempunyai kepentingan strategis, dan setiap pemain khawatir kehilangan keunggulan jika bergerak lebih lambat daripada pesaing.
Bagi pengguna, perkembangan ini menjadi pengingat bahwa AI bukan sekadar chatbot untuk menjawab pertanyaan. Kemampuan model terus berkembang dan semakin banyak sistem yang dapat melakukan tindakan secara otomatis.
Tantangan terbesar AI mungkin bukan membuat mesin menjadi semakin pintar, melainkan memastikan manusia masih mempunyai cukup waktu dan kemampuan untuk mengendalikan teknologi tersebut ketika kemampuannya meningkat.
