SULAWESI SELATAN — Pendanaan tersebut diumumkan pada Selasa dan turut diikuti First Harmonic. Sebelumnya AIUC menutup putaran seed US$15 juta dari Nat Friedman lewat fund NFDG, bersama Emergence, Terrain, dan salah satu co-founder Anthropic, Ben Mann. Total pendanaan yang dihimpun startup ini kini mencapai US$55 juta (setara Rp 907 miliar).
AIUC didirikan oleh Rune Kvist dan Rajiv Dattani, yang terhubung sebagai ipar. Kvist merupakan mantan karyawan awal Anthropic, sementara Dattani pernah menjabat COO organisasi riset keselamatan AI METR pada 2024–2025 dan masih duduk di jajaran board-nya.
Keduanya membangun AIUC untuk membawa standar keselamatan AI ke perusahaan dan pengembang model maupun agen AI. Kvist menyebut adopsi AI justru makin sulit seiring kecerdasannya meningkat. "AI is getting smarter at an increasingly rapid rate. The surprising thing about AI is that it becomes harder to adopt and harder to control as AI gets smarter, not easier," ujarnya.
AIUC meminjam pendekatan yang sudah lazim di industri keamanan siber, yakni standar SOC 2, lalu menerjemahkannya ke ranah risiko AI. Perusahaan mengembangkan standar bernama AIUC-1 plus layanan pengujian untuk memvalidasi agen terhadap standar tersebut.
Untuk menyusun standar itu, AIUC merangkul konsorsium berisi sekitar 250 pemimpin keamanan dan risiko yang berperan sebagai pembeli agen. "These are the people who we meet with on a monthly basis, and the question we ask them is: When you're buying agents from someone, what would you look for? What are the questions you'd want to ask, and what would you want to see addressed?" kata Dattani kepada TechCrunch.
Masukan itu membentuk rangkaian tes. Setiap agen diuji lewat sekitar 5.000 skenario, termasuk upaya jailbreak, halusinasi, dan kebocoran data. Hasilnya berupa laporan sekitar 100 halaman yang memetakan di mana agen bekerja aman dan andal, serta di mana ada masalah.
Menariknya, AIUC memakai agen AI untuk menjalankan pengujian dan menganalisis data. Verifikasi akhir tetap dilakukan manusia, kata Kvist.
Kvist menilai bank, rumah sakit, pemerintah, dan militer tidak lagi menolak AI karena modelnya kurang pintar. "Banks, hospitals, governments and militaries no longer decline to deploy AI because a model isn't smart enough. They decline because they've made commitments to their own customers about what a system will and won't do, and nobody can currently guarantee that," ujarnya.
Pendekatan AIUC mirip dengan yang dilakukan METR, tempat Dattani berkarier sebelumnya. METR menguji model untuk frontier lab, meski fokusnya lebih pada performa, yakni apakah agen bisa menyelesaikan tugas secara andal. METR juga termasuk organisasi riset independen yang dipakai OpenAI untuk menyelidiki insiden Hugging Face.
CEO Anthropic Dario Amodei baru-baru ini menyerukan industri AI memperlambat pengembangan frontier karena insiden perilaku buruk yang meningkat. Ia mengusulkan agar frontier lab memakai evaluator pihak ketiga yang tertanam untuk mengamati dan memverifikasi keselamatan, dan menyebut METR sebagai salah satu kandidat.
AIUC tidak menawarkan diri untuk tertanam di lokasi klien, tetapi gagasannya sejalan: memberi perusahaan penilaian independen soal seberapa aman agen AI mereka. "Here's where it passes and where you can trust it. And here's where there's concerns. You should be aware of those references before you make the decision to buy," kata Dattani.
Model bisnis AIUC menempatkannya di persimpangan antara audit kepatuhan dan pengujian teknis, ceruk yang belum banyak diisi pemain mapan. Dengan klien dari kalangan pengembang AI seperti Cursor dan ElevenLabs, startup ini menguji tesis bahwa sertifikasi pihak ketiga bisa jadi syarat adopsi agen AI di sektor teregulasi.
Bagi pelaku bisnis digital, kehadiran standar semacam AIUC-1 berpotensi jadi acuan baru saat mengevaluasi vendor agen AI. Sejauh mana standar ini diadopsi luas akan menentukan apakah ia menjadi "SOC 2-nya agen AI" atau sekadar lapisan sertifikasi tambahan di pasar yang masih mencari bentuk.