OpenAI dikabarkan sedang mengembangkan model AI bernama Astra yang menggunakan teknik penalaran baru bernama “recurrent depth”. Menurut laporan The Information, teknik ini memungkinkan Astra bekerja di luar pola berpikir berurutan yang biasanya digunakan oleh sebagian besar model AI dengan kemampuan reasoning.
Baca Juga : Codex Terbaru OpenAI Siap Bantu Tugas Profesional dan Bisnis
Teknik tersebut juga dikenal sebagai “opaque recurrence”. Nah, bagian inilah yang mulai membuat sejumlah pakar keamanan AI khawatir. Pasalnya, penggunaan teknik tersebut berpotensi membuat proses chain of thought (CoT) model menjadi lebih sulit dipantau.
Teknik Penalaran Baru OpenAI Jadi Perhatian
Meski penggunaan opaque recurrence pada Astra dilaporkan masih terbatas, kemunculannya tetap menimbulkan kekhawatiran di kalangan peneliti keamanan AI.
CEO Redwood, Buck Shlegeris, bahkan mengaku sangat khawatir setelah kabar mengenai teknik tersebut muncul.
“Saya sangat khawatir dengan laporan bahwa Astra menggunakan opaque recurrence,” tulis Shlegeris dalam sebuah unggahan. Ia mengatakan belum mengetahui apakah Astra jauh lebih sulit dipantau melalui CoT dibandingkan model sebelumnya.
Namun, menurutnya, jika OpenAI terus mengembangkan teknik ini, perusahaan tersebut memiliki pilihan untuk meningkatkan recurrence secara signifikan hingga akhirnya membuat proses chain-of-thought sulit dipantau.
Kekhawatiran serupa juga disampaikan oleh advokat keamanan AI, Zvi Mowshowitz. Ia bahkan mengatakan bahwa regulasi mungkin diperlukan untuk mencegah terjadinya “race to the bottom” atau persaingan yang membuat perusahaan AI mengabaikan aspek keamanan demi mengejar perkembangan teknologi.
Kenapa Chain of Thought Penting?
Dalam kondisi normal, chain of thought pada model reasoning menggambarkan langkah-langkah berurutan yang dilakukan AI ketika mencoba menyelesaikan sebuah masalah.
Memang, catatan tersebut tidak selalu menjadi gambaran sempurna mengenai proses berpikir sebenarnya dari sebuah model. Meski begitu, CoT tetap dianggap sebagai salah satu alat penting untuk memantau kemungkinan perilaku menyimpang atau misalignment pada AI.
Hal ini menjadi semakin penting karena dalam kasus aktivitas rogue agent OpenAI sebelumnya, catatan chain of thought membantu peneliti memahami alasan di balik perilaku agen AI tersebut.
Sementara itu, opaque recurrence menggunakan pendekatan yang lebih tidak linear. Model dapat memproses pertanyaan yang sama beberapa kali dalam sebuah loop. Akibatnya, jejak proses penalaran yang bisa dibaca manusia menjadi lebih sedikit.
Dengan kata lain, teknik ini berpotensi melewati mekanisme pemantauan chain of thought yang selama ini digunakan.
OpenAI Tegaskan Komitmen pada Monitoring AI
Meski begitu, penggunaan teknik tersebut pada Astra tampaknya masih terbatas. Proses chain of thought model ini tetap diharapkan dapat dibaca, dan OpenAI juga membantah anggapan bahwa perusahaan akan beralih sepenuhnya ke “neuralese”.
OpenAI sebelumnya juga telah mengumumkan rencana untuk membangun sistem pemantauan chain of thought secara ekstensif sebagai bagian dari strategi keamanan AI mereka ke depan.
Chief Scientist OpenAI, Jakub Pachocki, turut menegaskan komitmen tersebut melalui unggahan di X.
“OpenAI telah berupaya mempertahankan dan memanfaatkan pemantauan chain-of-thought sejak model reasoning pertama kami,” tulis Pachocki. Menurutnya, hal tersebut menjadi salah satu tujuan utama dalam program riset OpenAI saat ini.
Pakar Khawatir Teknik Ini Terus Dikembangkan
Perlu diketahui, semua model AI sebenarnya melakukan sejumlah proses penalaran yang bersifat tidak transparan. Bahkan, sebagian besar peneliti tidak menganggap catatan chain of thought sebagai representasi langsung dari proses berpikir sebuah model.
Namun, hal tersebut belum sepenuhnya menghilangkan kekhawatiran terhadap opaque recurrence. Terlebih jika teknik ini nantinya digunakan secara lebih luas pada berbagai model AI.
The Information juga melaporkan bahwa Anthropic dan Google DeepMind telah membahas teknik serupa.
Ryan Greenblatt, Chief Scientist Redwood Research, mengatakan kekhawatiran terbesarnya adalah teknik penalaran tersembunyi tersebut bisa berkembang lebih cepat dibandingkan metode chain of thought konvensional.
Jika terus ditingkatkan, AI pada akhirnya bisa melakukan seluruh atau hampir seluruh proses penalarannya di latent space, sehingga manusia semakin sulit melihat apa yang sebenarnya terjadi di balik proses tersebut.
Baca Juga : OpenAI Rilis GPT-5.6 Sol dengan Proteksi Siber Lebih Kuat
Greenblatt berharap OpenAI belum terlambat untuk menghindari arsitektur yang paling mengkhawatirkan dan memilih untuk berhenti pada tahap ini.
