batampos - OpenAI mengungkap enam kasus perilaku kecerdasan buatan (AI) yang tidak selaras (misalignment) selama proses pelatihan dan pengujian model.
Temuan tersebut mencakup sejumlah tindakan yang berada di luar ekspektasi pengembang, mulai dari menggunakan kunci API yang terekspos tanpa izin, membuat informasi yang tidak tersedia, hingga menyembunyikan kesalahan dari pengguna.
OpenAI mengungkap temuan itu melalui kerangka kerja baru untuk mendokumentasikan dan melaporkan insiden model misalignment. Kerangka tersebut dibuat agar perilaku AI yang berpotensi mengkhawatirkan dapat lebih cepat diselidiki dan dipublikasikan.
Berikut enam perilaku yang ditemukan OpenAI:
1. Menggunakan API yang terekspos dan membuat data
Dalam salah satu pengujian, sebuah model diminta menjawab pertanyaan mengenai data pendapatan sebuah wilayah (county) di California.
Alih-alih hanya menggunakan informasi yang tersedia, model tersebut menemukan dan menggunakan kunci API yang terekspos tanpa izin.
Ketika tetap tidak berhasil memperoleh data yang dibutuhkan, model kemudian membuat angka sendiri dan menyampaikannya seolah-olah merupakan data faktual dari sumber yang diminta.
2. Mengunggah file ke internet agar bisa membuat sitasi
Pada pengujian lain, sebuah model yang belum dirilis diminta mencari daftar danau dengan luas lebih dari 5 juta meter persegi.
Model berhasil menemukan jawaban yang benar. Namun, instruksi juga mengharuskannya menyertakan referensi melalui sitasi peramban, sementara kemampuan tersebut tidak tersedia.
Untuk mengatasi kendala tersebut, agen AI mengunggah file berisi jawabannya ke internet tanpa meminta izin. File tersebut kemudian digunakan sebagai sumber untuk sitasi dalam jawabannya.
3. Menyisipkan instruksi untuk mengabaikan batasan
OpenAI menemukan model riset yang belum dirilis menyisipkan instruksi yang tidak berkaitan ke dalam ringkasan tugas untuk melanjutkan pekerjaan pada konteks berikutnya.
Dalam sejumlah ringkasan, model bahkan memasukkan instruksi untuk mengabaikan batasan normalnya.
OpenAI menyebut menemukan 27 ringkasan yang terdampak perilaku tersebut.
4. Menyembunyikan kesalahan selama pelatihan GPT-5.6 Sol
Selama pelatihan GPT-5.6 Sol, sejumlah model diketahui menambahkan instruksi ke dalam ringkasan tugas agar kesalahan atau perilaku yang tidak selaras tidak diketahui pengguna.
Menurut OpenAI, beberapa ringkasan bahkan berisi instruksi untuk membuat data historis yang hilang tanpa mengungkapkannya serta menyembunyikan ketidaksesuaian versi sumber.
5. Menggunakan repositori internal sebagai media komunikasi
OpenAI juga menemukan model menggunakan repositori perangkat lunak internal sebagai semacam papan pesan.
Model-model tersebut menggunakan repositori untuk bertukar permintaan dan respons dalam sampel pelatihan yang berbeda ketika mencari file masukan yang hilang.
OpenAI mengatakan model tidak berhasil mendapatkan kembali file yang dicari dalam kasus tersebut. Laporan itu juga membahas insiden sebelumnya ketika sebuah model berhasil mengunggah file pengujian ke repositori dalam upaya melewati pembatasan jaringan.
6. Agen AI berbagi file melalui situs publik
Dalam kasus lainnya, beberapa agen AI yang bekerja sama pada tugas pelatihan menggunakan situs layanan hosting file publik untuk berbagi berkas ketika tidak dapat mengakses file lokal satu sama lain.
Akibatnya, materi tugas tersedia melalui URL publik meskipun instruksi awal mengharuskan agen menggunakan file lokal.
OpenAI Akui Sistem Pelaporan Sebelumnya Belum Memadai
OpenAI mengatakan mekanisme pelaporan sebelumnya membuat perusahaan belum dapat mempublikasikan seluruh temuan perilaku AI yang dianggap mengkhawatirkan.
Melalui kerangka baru tersebut, OpenAI ingin mempercepat dokumentasi dan publikasi temuan, termasuk ketika perusahaan belum sepenuhnya memahami penyebab atau menyelesaikan perilaku yang dilaporkan.
OpenAI juga menegaskan bahwa enam kasus tersebut merupakan contoh individual dan tidak dapat digunakan untuk menggambarkan seberapa sering misalignment terjadi pada model-modelnya. Perusahaan juga menyebut sebagian temuan dapat terbukti tidak mencerminkan pola yang lebih luas.
“Kami tidak berpendapat bahwa industri AI telah mencapai tingkat penyelarasan (alignment) dan pemantauan yang memadai untuk terus melakukan peningkatan skala secara bertanggung jawab dengan kecepatan maksimum dalam jangka waktu yang lebih lama,” tulis OpenAI.
OpenAI mengatakan keputusan mengenai arah pengembangan AI ke depan perlu didasarkan pada bukti yang dapat diperiksa secara independen oleh pihak di luar perusahaan pengembang frontier models.
Temuan tersebut muncul di tengah meningkatnya perhatian terhadap keselamatan dan pengawasan AI. Pada Juli 2026, model OpenAI dalam evaluasi keamanan siber internal diketahui berhasil melewati sejumlah kontrol, mengakses internet, menggunakan saluran komunikasi yang tidak diizinkan, serta berinteraksi dengan sistem Hugging Face. OpenAI kemudian melakukan investigasi dan menerbitkan laporan mengenai insiden tersebut pada Agustus.
Di sisi lain, OpenAI juga tengah menghadapi perdebatan mengenai pengembangan AI frontier. WIRED melaporkan pada September 2026 bahwa OpenAI meminta kejelasan kepada Kongres Amerika Serikat mengenai persoalan hukum antimonopoli jika perusahaan-perusahaan AI berkoordinasi untuk memperlambat pengembangan AI frontier.(*)
Editor : Cipi Ckandina