batampos - Upaya memperkuat keamanan kecerdasan buatan terus dilakukan OpenAI dengan meluncurkan Lockdown Mode di ChatGPT.
Fitur ini hadir di tengah meningkatnya kekhawatiran terhadap eksploitasi AI melalui teknik manipulasi perintah yang dapat membahayakan data pengguna.
Langkah tersebut terjadi di tengah meningkatnya risiko serangan prompt injection.
Prompt injection adalah teknik pihak ketiga mencoba memanfaatkan model AI untuk mengikuti instruksi berbahaya atau membuka informasi sensitif.
Lockdown Mode merupakan pengaturan opsional tingkat lanjut yang membatasi bagaimana ChatGPT berinteraksi dengan sistem eksternal. Potensi kebocoran data melalui permintaan jaringan langsung dapat ditekan.
Ketika mode ini diaktifkan, fitur web browsing dibatasi hanya pada konten yang tersimpan (cached). Tidak melakukan permintaan langsung ke internet yang bisa membuka celah keamanan.
Beberapa kemampuan tertentu juga dinonaktifkan jika OpenAI menilai tidak ada cara yang aman untuk menjamin perlindungan data dalam situasi itu.
Fitur ini ditujukan untuk pengguna dengan risiko digital tinggi, seperti eksekutif perusahaan, tim keamanan, peneliti, atau profesional yang menangani informasi sensitif.
OpenAI juga memperkenalkan label "Elevated Risk" yang muncul di fitur tertentu di ChatGPT, ChatGPT Atlas, dan Codex yang berinteraksi dengan web atau aplikasi yang berpotensi menimbulkan risiko tambahan.
Label tersebut membantu pengguna memahami kapan mereka menggunakan fungsi yang mungkin memiliki implikasi keamanan lebih besar.
Dalam Lockdown Mode, kemampuan ChatGPT yang berpotensi digunakan untuk mengekspos data melalui jaringan atau alat otomatis tertentu akan dinonaktifkan secara deterministik atau dibatasi dengan cara yang aman.
OpenAI menegaskan bahwa ini hanya pilihan untuk situasi tertentu. Lockdown Mode tersedia untuk pengguna dalam paket layanan tingkat lanjutan seperti ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, dan ChatGPT for Teachers.
Administrator platform dapat mengaktifkan mode ini melalui konfigurasi pengaturan workspace dan menyesuaikan izin serta akses terhadap aplikasi tertentu sesuai kebutuhan.
OpenAI juga menyatakan rencana untuk memperluas ketersediaan mode ini ke pengguna individu di masa mendatang.(*)
Editor : Juliana Belence