Anthropic, perusahaan pengembang model kecerdasan buatan Claude, memperingatkan potensi risiko eksistensial teknologi AI terhadap umat manusia dalam dokumen prospektus penawaran umum perdana saham (IPO). Pengungkapan ini muncul di tengah persiapan perusahaan melantai di bursa dengan estimasi valuasi mencapai US$2 triliun atau setara puluhan ribu triliun rupiah.
Dalam dokumen tertanggal Jumat (2/10/2026) tersebut, Anthropic menyatakan bahwa sikap dan kebijakan pemerintah terhadap perusahaan dapat memberikan dampak luas. Risiko ini tidak hanya memengaruhi hubungan dengan pelanggan komersial dan mitra bisnis, tetapi juga diperkirakan mampu berdampak pada stabilitas peradaban secara umum.
Pengungkapan risiko semacam ini sebenarnya lumrah dilakukan oleh perusahaan yang menjadi kontraktor pemerintah untuk menjaga transparansi kepada calon investor. Namun, poin-poin yang disampaikan Anthropic dinilai jauh lebih luas dibandingkan pengungkapan standar perusahaan teknologi lainnya, mengingat besarnya skala pengaruh kecerdasan buatan otonom.
Risiko Katastrofik dan Dampak bagi Peradaban
Langkah Anthropic Ungkap Risiko Bahaya AI Jelang Penawaran Umum Perdana ini menyoroti kekhawatiran bahwa AI canggih dapat menimbulkan risiko katastrofik. Meskipun mencantumkan peringatan serius, Anthropic mencatatkan bahwa pendapatan dari kontrak badan pemerintah sebenarnya masih di bawah 1% dari total pendapatan tahunan perusahaan saat ini.
Perusahaan menekankan bahwa persepsi otoritas terhadap perilaku perusahaan bisa merembet ke seluruh ekosistem bisnis. Ancaman terhadap reputasi akibat sorotan publik dan pemberitaan negatif juga menjadi poin krusial yang dipertimbangkan sebelum resmi menjadi perusahaan publik.
AI canggih dapat menimbulkan risiko katastrofik atau eksistensial bagi umat manusia.
Rekam Jejak Hambatan Regulasi Pemerintah
Dalam setahun terakhir, Anthropic telah menghadapi sejumlah gesekan dengan pemerintah Amerika Serikat yang sempat menghambat operasional. Pada Februari 2026, pemerintah federal sempat memerintahkan lembaga untuk berhenti menggunakan model Anthropic karena Departemen Pertahanan menganggapnya sebagai risiko rantai pasok keamanan nasional.
Selanjutnya pada Juni 2026, Departemen Perdagangan AS sempat memberlakukan pembatasan ekspor global untuk model Fable 5 dan Mythos 5. Meskipun pembatasan tersebut akhirnya dicabut, Anthropic memperingatkan investor bahwa tindakan serupa bisa kembali terjadi di masa depan dan mengganggu stabilitas pendapatan.
Kondisi ini serupa dengan tantangan yang dihadapi kompetitor mereka, di mana muncul kabar OpenAI Stop Sementara Latih Model AI dan Alasan Di Baliknya yang juga berkaitan dengan isu keamanan serta kesiapan teknologi.
Tekanan Global dan Penyelidikan FTC
CEO Anthropic, Dario Amodei, sebelumnya telah menyerukan agar industri memperlambat pengembangan AI menyusul adanya laporan mengenai aktivitas peretasan oleh agen AI otonom yang tidak terkendali. Amodei juga dilaporkan telah bertemu dengan Presiden Donald Trump untuk membahas regulasi, meski Trump cenderung menolak pembatasan ketat terhadap industri ini.
Di sisi lain, Komisi Perdagangan Federal (FTC) Amerika Serikat sedang melakukan penyelidikan lintas industri terhadap perusahaan-perusahaan besar di sektor kecerdasan buatan. Penyelidikan ini mencakup praktik bisnis dan persaingan pasar yang dilakukan oleh Anthropic dan pengembang model bahasa besar lainnya.
Simpulan
Anthropic telah mengambil langkah berani dengan mengakui bahwa teknologi yang mereka kembangkan memiliki potensi risiko eksistensial bagi manusia dalam dokumen IPO-nya. Hal ini mencerminkan tingginya ketidakpastian regulasi dan teknis yang dihadapi perusahaan AI dengan valuasi triliunan dolar.
Meskipun ketergantungan finansial terhadap kontrak pemerintah saat ini tergolong rendah, pengaruh kebijakan negara tetap menjadi faktor penentu utama bagi masa depan bisnis Anthropic. Investor kini dihadapkan pada pilihan antara potensi keuntungan besar dari revolusi AI atau risiko keamanan global yang belum pernah terjadi sebelumnya.
