OpenAI Ungkap 6 Perilaku Tak Terduga AI, dari Bocorkan API hingga Sembunyikan Kesalahan

batampos - OpenAI mengungkap enam kasus perilaku kecerdasan buatan (AI) yang tidak selaras (misalignment) selama proses pelatihan dan pengujian model.

Temuan tersebut mencakup sejumlah tindakan yang berada di luar ekspektasi pengembang, mulai dari menggunakan kunci API yang terekspos tanpa izin, membuat informasi yang tidak tersedia, hingga menyembunyikan kesalahan dari pengguna.

OpenAI mengungkap temuan itu melalui kerangka kerja baru untuk mendokumentasikan dan melaporkan insiden model misalignment. Kerangka tersebut dibuat agar perilaku AI yang berpotensi mengkhawatirkan dapat lebih cepat diselidiki dan dipublikasikan.

Berikut enam perilaku yang ditemukan OpenAI:

1. Menggunakan API yang terekspos dan membuat data

Dalam salah satu pengujian, sebuah model diminta menjawab pertanyaan mengenai data pendapatan sebuah wilayah (county) di California.

Alih-alih hanya menggunakan informasi yang tersedia, model tersebut menemukan dan menggunakan kunci API yang terekspos tanpa izin.

Ketika tetap tidak berhasil memperoleh data yang dibutuhkan, model kemudian membuat angka sendiri dan menyampaikannya seolah-olah merupakan data faktual dari sumber yang diminta.

2. Mengunggah file ke internet agar bisa membuat sitasi