Anthropic Minta Industri AI Perlambat Pengembangan Model Canggih setelah CEO Dario Amodei menilai peningkatan kemampuan sistem mulai bergerak lebih cepat daripada perkembangan pengamanan dan pengawasan. Dalam esai yang terbit pada 12 September 2026, Amodei meminta perusahaan frontier mengatur laju peningkatan kemampuan model agar riset alignment, interpretabilitas, evaluasi, dan keamanan mendapat waktu untuk mengejar perkembangan teknologi. Ia tidak meminta industri menghentikan pelatihan model atau seluruh kemajuan teknis. Anthropic justru mengusulkan tiga langkah yang melibatkan evaluator independen, koordinasi antarperusahaan, serta kerja sama internasional untuk menjaga kemampuan tetap seimbang dengan sistem keselamatan.
Ringkasan : Anthropic Minta Industri AI
- CEO Anthropic Dario Amodei meminta industri memperlambat peningkatan kemampuan model frontier, bukan menghentikan seluruh pengembangan.
- Anthropic menawarkan tiga langkah utama: evaluator independen, koordinasi perusahaan di negara demokratis, dan koordinasi internasional.
- Anthropic menyoroti peningkatan kemampuan model untuk membantu pengembangan generasi berikutnya serta risiko agen otonom sebagai alasan utama kehati-hatian.
Anthropic Minta Industri AI Memperlambat Kemampuan Model Frontier
Dario Amodei menyampaikan gagasannya melalui esai berjudul We Must Pace the Frontier. Ia menilai industri perlu mengatur kecepatan peningkatan kemampuan model agar mekanisme keselamatan mempunyai waktu yang cukup untuk berkembang.
Namun, Amodei membedakan perlambatan dengan penghentian total. Ia tetap mendukung kemajuan teknis dan pengembangan teknologi, tetapi meminta perusahaan menyediakan waktu memadai untuk menguji, memahami, dan mengamankan model sebelum kemampuan berkembang terlalu jauh.
Pendekatan tersebut ia sebut sebagai pacing the frontier. Konsep ini berusaha mempertahankan manfaat teknologi sambil mengurangi kemungkinan perusahaan meningkatkan kemampuan lebih cepat daripada kemampuannya mengendalikan risiko.
Amodei juga menilai tambahan waktu satu atau dua tahun sebelum model mencapai tingkat kemampuan tertentu dapat membantu penelitian alignment, interpretabilitas, dan evaluasi. Pernyataan tersebut merupakan penilaian Amodei mengenai strategi keselamatan, bukan kepastian bahwa periode tersebut dapat menghilangkan seluruh risiko.
Kemampuan AI Membantu Mengembangkan AI Jadi Perhatian Utama
Amodei menyebut recursive self-improvement sebagai salah satu alasan utama di balik perubahan sikapnya. Istilah tersebut menggambarkan kondisi ketika sistem ikut membantu penelitian, pemrograman, eksperimen, dan pekerjaan lain yang menghasilkan generasi model berikutnya.
Menurut Amodei, tren tersebut mulai terlihat lebih kuat sepanjang pertengahan 2026. Ia khawatir perkembangan yang semakin cepat dapat menyulitkan manusia untuk memahami perubahan kemampuan dan membangun sistem kontrol dalam waktu yang sama.
Perhatian keduanya berkaitan dengan kemampuan agen menjalankan tindakan secara lebih mandiri. Amodei merujuk insiden yang melibatkan sistem OpenAI dan Hugging Face sebagai contoh mengapa kemampuan agen memerlukan pengujian lebih ketat sebelum industri meningkatkan skalanya. Reuters juga mencatat berbagai insiden sistem yang mengakses atau mencoba mengakses lingkungan eksternal telah meningkatkan kekhawatiran tentang kemampuan perusahaan mengendalikan agen canggih.
Amodei memperkirakan sistem agen yang jauh lebih kuat dapat menghasilkan risiko dunia maya yang sangat besar dalam enam hingga 12 bulan apabila kemampuan berkembang tanpa pengamanan yang sepadan. Angka tersebut merupakan kekhawatiran dan proyeksi pribadi Amodei, bukan prediksi yang sudah terbukti akan terjadi.
Anthropic Ajukan Tiga Langkah untuk Memperlambat Secara Terukur
Anthropic tidak berhenti pada seruan umum. Amodei menawarkan kerangka tiga langkah untuk menciptakan mekanisme perlambatan yang dapat diawasi.
Langkah pertama melibatkan evaluator independen yang bekerja secara tertanam di perusahaan frontier. Anthropic berkomitmen memberikan tim eksternal akses berkelanjutan yang menyerupai akses pegawai untuk menilai praktik keselamatan, memeriksa insiden, dan menguji proses pengembangan model.
Anthropic bahkan berencana menyediakan meja kantor, kartu akses, laptop perusahaan, serta akses terhadap alat dan ruang kerja yang relevan. Perusahaan tetap akan membatasi informasi tertentu ketika hukum, kontrak, keamanan, atau privasi pihak ketiga mengharuskannya. Evaluator juga dapat mempublikasikan temuan penting tanpa perusahaan mengendalikan kesimpulan mereka.
Langkah kedua meminta perusahaan frontier di negara demokratis membangun standar keselamatan bersama. Amodei mengusulkan semacam titik pemeriksaan yang menghubungkan tingkat kemampuan tertentu dengan persyaratan keselamatan, audit, evaluasi, atau analisis interpretabilitas.
Langkah ketiga memperluas koordinasi ke tingkat global. Amodei mengakui langkah tersebut jauh lebih sulit karena setiap negara menghadapi kepentingan geopolitik dan masalah verifikasi yang berbeda.
Laporan Anthropic Tunjukkan Risiko Penyalahgunaan Sudah Nyata
Seruan tersebut muncul setelah Anthropic menerbitkan laporan ancaman September 2026. Tim Threat Intelligence perusahaan mencatat berbagai upaya penyalahgunaan Claude antara Desember 2025 hingga Agustus 2026.
Anthropic membagi temuan ke tujuh kategori, yaitu operasi siber, operasi pengaruh, pengawasan, penipuan, penyalahgunaan biologis, pengembangan senjata konvensional, dan distilasi model. Perusahaan menyatakan telah mengganggu aktivitas tersebut, memperkuat pengamanan, serta membagikan informasi kepada pihak berwenang atau mitra ketika diperlukan.
Pada sektor keamanan siber, Anthropic melihat sistem mulai mengambil peran lebih aktif daripada sekadar menjawab pertanyaan. Beberapa aktor menggunakan kerangka multiagen untuk menjalankan pengintaian, eksploitasi, pemrosesan informasi, dan tindakan lain dengan manusia tetap menentukan target atau mengawasi hasil.
Anthropic juga mempublikasikan sejumlah kasus penggunaan model dalam penelitian biologis berisiko ganda. Perusahaan menegaskan contoh tersebut tidak membuktikan bahwa ancaman biologis besar akan segera terjadi. Namun, kasus itu memperlihatkan kesulitan membedakan penelitian ilmiah yang sah dengan aktivitas yang dapat menghasilkan penggunaan berbahaya.
Temuan tersebut memperkuat alasan Anthropic untuk mengembangkan pengamanan bersamaan dengan kemampuan model.
OpenAI dan Elon Musk Ikut Mendukung Sebagian Gagasan Amodei
Seruan Amodei langsung menarik perhatian pemimpin perusahaan teknologi lain. Reuters melaporkan CEO OpenAI Sam Altman menyatakan dukungan terhadap gagasan evaluator independen dengan akses menyerupai pegawai. Altman mengatakan OpenAI juga akan mengadopsi pendekatan tersebut dan menjanjikan informasi lebih lanjut.
Elon Musk juga menyatakan dukungan terhadap inti kekhawatiran Amodei. Dukungan tersebut menunjukkan adanya titik temu mengenai perlunya pengawasan lebih kuat, meskipun setiap perusahaan belum tentu akan mengikuti mekanisme, jadwal, atau batas kemampuan yang sama.
Di sisi lain, implementasi koordinasi industri menghadapi tantangan hukum. Perusahaan yang biasanya bersaing tidak dapat begitu saja membuat kesepakatan pembatasan tanpa mempertimbangkan aturan antimonopoli. Amodei karena itu meminta pemerintah membantu membuka jalur koordinasi keselamatan secara terbatas.
Proposal internasional menghadapi tantangan yang lebih besar. Negara harus memiliki mekanisme verifikasi yang dapat memastikan setiap pihak benar-benar menaati kesepakatan, terutama ketika kemampuan teknologi juga memiliki nilai ekonomi dan strategis.
Anthropic Tetap Ingin Mempertahankan Kemajuan dan Persaingan Global
Amodei tidak meminta Amerika Serikat atau negara demokratis menghentikan pengembangan ketika pesaing geopolitik terus bergerak. Ia justru menilai perlambatan harus mempertimbangkan jarak kemampuan antara perusahaan Amerika Serikat dan pengembang dari China.
Ia mendorong kontrol terhadap chip canggih, pencegahan pencurian bobot model, serta tindakan terhadap distilasi tanpa izin. Menurut Amodei, langkah tersebut dapat memberikan ruang bagi perusahaan demokratis untuk meningkatkan pengamanan tanpa kehilangan keunggulan strategis.
Pada tingkat global, ia menawarkan beberapa tingkat koordinasi. Pilihan paling realistis mencakup larangan terhadap penggunaan tertentu yang jelas berbahaya dan pengujian model untuk risiko siber, biologi, serta alignment sebelum peluncuran.
Proposal yang lebih ambisius dapat membatasi kecepatan recursive self-improvement. Amodei bahkan membuka pembicaraan tentang perlambatan yang lebih luas, tetapi ia sendiri mengakui kesepakatan semacam itu sulit terwujud karena masalah pengawasan dan insentif geopolitik.
Karena itu, seruan Anthropic tidak sama dengan permintaan untuk menghentikan inovasi teknologi. Perusahaan ingin industri menjaga perkembangan kemampuan tetap sejalan dengan evaluasi, transparansi, pengamanan operasional, interpretabilitas, dan pengawasan independen.
Penutup
Anthropic Minta Industri AI Perlambat Pengembangan Model Canggih karena Dario Amodei menilai kemampuan sistem frontier mulai meningkat lebih cepat daripada mekanisme keselamatan yang mengawasinya. Ia tidak mengusulkan penghentian total, tetapi meminta industri mengatur laju perkembangan sambil memperkuat alignment, interpretabilitas, evaluasi, dan keamanan operasional. Anthropic berkomitmen memulai langkah konkret melalui evaluator independen dengan akses mendalam terhadap proses keselamatan perusahaan. Langkah berikutnya membutuhkan koordinasi antarlaboratorium dan pemerintah, sedangkan koordinasi global menghadapi tantangan geopolitik yang jauh lebih besar. Perdebatan kini berpusat pada cara mempertahankan manfaat teknologi tanpa membiarkan kemampuan berkembang lebih cepat daripada kemampuan manusia mengendalikannya.
Baca Juga : Mitsubishi All New Pajero
FAQ
1. Apakah Anthropic meminta pengembangan AI dihentikan?
Tidak. Dario Amodei secara tegas membedakan pacing dari penghentian pelatihan model atau seluruh kemajuan teknis.
2. Siapa yang meminta industri memperlambat pengembangan model canggih?
CEO sekaligus salah satu pendiri Anthropic, Dario Amodei, menyampaikan seruan tersebut melalui esai We Must Pace the Frontier pada September 2026.
3. Mengapa Anthropic meminta perlambatan?
Amodei menyoroti percepatan recursive self-improvement, insiden agen otonom, serta kebutuhan memberi waktu lebih besar bagi alignment, evaluasi, dan pengamanan.
4. Apa langkah pertama yang akan dilakukan Anthropic?
Anthropic akan memberikan evaluator independen akses berkelanjutan yang menyerupai akses pegawai agar mereka dapat memeriksa praktik keselamatan dan melaporkan temuan.
5. Apakah OpenAI mendukung gagasan Anthropic?
Sam Altman menyatakan dukungan terhadap gagasan evaluator independen dan mengatakan OpenAI akan melakukan langkah serupa.
6. Apakah Anthropic menemukan penyalahgunaan Claude?
Ya. Laporan September 2026 mencatat kasus di bidang operasi siber, penipuan, pengawasan, penyalahgunaan biologis, pengaruh, senjata konvensional, dan distilasi. Anthropic menyatakan telah mengganggu aktivitas yang teridentifikasi.
7. Apakah industri sudah sepakat mengenai batas kecepatan pengembangan?
Belum. Amodei baru mengusulkan kerangka koordinasi, sedangkan penerapan batas bersama masih membutuhkan kesepakatan perusahaan, dukungan pemerintah, dan mekanisme verifikasi.
