OpenAI Izinkan AI Blokir Kode Bermasalah Otomatis
TEKNOLOGI – OpenAI mulai memberikan peran yang lebih besar kepada kecerdasan buatan dalam proses pengembangan perangkat lunak internalnya. Setiap pull request (PR) yang dibuat oleh engineer OpenAI kini melewati pemeriksaan keamanan otomatis. Jika model menemukan kerentanan, kode tersebut dapat langsung dicegah untuk digabungkan ke dalam basis kode.
Menurut The New Stack, sistem tersebut dijelaskan oleh Thibault Sottiaux, engineering lead untuk tim Codex, dalam wawancara dengan The Pragmatic Engineer. Pemeriksaan keamanan itu bersifat wajib dan tidak memerlukan persetujuan manusia untuk menghentikan proses merge.
Kemampuan AI yang digunakan OpenAI juga tidak terbatas pada pencarian celah keamanan. Model turut membantu melakukan code review, menemukan regresi, menangani pembaruan dependensi, hingga mengerjakan perubahan kode yang sebelumnya dapat membutuhkan waktu berbulan-bulan. OpenAI bahkan menggunakan istilah “superhuman” ketika membandingkan kemampuan modelnya dalam pengujian code review.
“When we benchmark them, it’s like they’re superhuman in code review,” ujar Sottiaux. Ia menambahkan bahwa kemampuan tersebut bukan hanya berlaku untuk memastikan kebenaran kode, tetapi juga untuk aspek keamanan.
Perubahan ini membuat peran engineer ikut bergeser. Ketika pemeriksaan teknis semakin banyak dilakukan secara otomatis, manusia justru perlu memberikan perhatian lebih besar pada tujuan perubahan sebelum sebuah PR dibuat. Sottiaux mengatakan diskusi penting kini berkaitan dengan “intent”, atau apa yang sebenarnya ingin dicapai melalui perubahan tersebut.
Menurutnya, pertanyaan seperti “apa yang sebenarnya ingin kamu lakukan?” dan “apakah itu memang hal yang tepat untuk dicoba?” sebaiknya dibahas sejak tahap perencanaan, bukan setelah kode masuk ke antrean review.
AI juga berpotensi membantu menyelesaikan pekerjaan pemeliharaan yang selama ini sering tertunda, seperti pembaruan library, patch keamanan, serta refactoring. Pekerjaan yang sebelumnya diperkirakan memerlukan beberapa bulan dapat menjadi jauh lebih mudah dikerjakan ketika sebagian besar prosesnya ditangani agen AI.
OpenAI sendiri sebelumnya menyatakan bahwa Codex telah digunakan untuk meninjau sebagian besar PR internal dan mampu menemukan ratusan masalah setiap hari.
Meski demikian, pendekatan ini menghadirkan pertanyaan baru. Jika AI digunakan untuk menulis sekaligus memeriksa kode AI, kedua proses tersebut berpotensi memiliki titik buta yang sama. Karena itu, kemampuan AI dalam menemukan kesalahan tidak berarti pengawasan manusia sepenuhnya dapat ditinggalkan, terutama ketika masalah berasal dari dependensi atau rantai pasokan perangkat lunak.
