Platform OpenAI ChatGPT menyediakan akses tingkat tinggi ke kotak pasir LLM, memungkinkan Anda mengunggah program dan file, menjalankan perintah, dan melihat struktur file kotak pasir.
Kotak pasir ChatGPT adalah lingkungan terisolasi yang memungkinkan pengguna berkomunikasi secara aman sambil dilindungi dari pengguna lain dan server host.
Hal ini dilakukan dengan membatasi akses ke file dan folder sensitif, memblokir akses Internet, dan mencoba membatasi perintah yang dapat digunakan untuk mengeksploitasi kelemahan atau berpotensi keluar dari kotak pasir.
Marco Figueroa dari 0-Day Research Network Mozilla, 0DIN, menemukan bahwa akses ekstensif ke kotak pasir dapat diperoleh, termasuk kemampuan untuk mengunggah dan menjalankan skrip Python dan mengunduh manual LLM.
Dalam laporan yang dibagikan secara eksklusif kepada BleepingComputer sebelum dipublikasikan, Figueroa menunjukkan lima kelemahan, yang dilaporkan secara bertanggung jawab oleh OpenAI. Perusahaan AI hanya menunjukkan minat pada salah satunya dan belum memberikan rencana untuk membatasi akses lebih lanjut.
Menjelajahi kotak pasir ChatGPT
Saat mengerjakan proyek Python di ChatGPT, Figueroa menerima kesalahan “direktori tidak ditemukan”, yang mengarahkannya untuk menemukan bagaimana pengguna ChatGPT dapat berinteraksi dengan kotak pasir.
Segera menjadi jelas bahwa lingkungan mengizinkan akses luas ke kotak pasir, memungkinkan Anda mengunggah dan mengunduh file, menelusuri file dan folder, mengunggah dan menjalankan program, menjalankan perintah Linux, dan mengeluarkan file yang disimpan di kotak pasir.
Dengan menggunakan perintah seperti 'ls' atau 'list files', peneliti dapat memperoleh daftar semua direktori sistem file sandbox yang mendasarinya, termasuk '/home/sandbok/.openai_internal/', yang berisi informasi konfigurasi dan pengaturan .
Mencantumkan file dan folder di kotak pasir ChatGPT Sumber: Marco Figueroa
Dia kemudian bereksperimen dengan tugas manajemen file, menemukan bahwa dia dapat mengunggah file ke folder /mnt/data serta mengunduh file dari folder mana pun yang dapat diakses.
Perlu dicatat bahwa dalam percobaan BleepingComputer, kotak pasir tidak menyediakan akses ke folder dan file sensitif tertentu, seperti folder /root dan file lain-lain, seperti /etc/shadow.
Sebagian besar pendekatan terhadap sandbox ChatGPT ini telah ditemukan di masa lalu, dan peneliti lain telah menemukan cara serupa untuk menjelajahinya.
Namun, peneliti menemukan bahwa dia juga dapat mengunggah skrip Python khusus dan mengeksekusinya di dalam kotak pasir. Misalnya, Figueroa menyiapkan skrip sederhana yang menampilkan teks “Halo, dunia!”
Mengeksekusi kode Python di kotak pasir. Sumber: Figueroa
BleepingComputer juga menguji kemampuan ini dengan mengunggah skrip Python yang secara rekursif mencari semua file teks di sandbox.
Karena alasan hukum, peneliti mengatakan dia tidak dapat mengunggah skrip “berbahaya” yang dapat digunakan untuk mencoba keluar dari kotak pasir atau melakukan perilaku yang lebih jahat.
Perlu dicatat bahwa meskipun semua hal di atas dimungkinkan, semua tindakan dibatasi dalam batas kotak pasir, sehingga lingkungan tampak terisolasi dengan baik, tidak memungkinkan “melarikan diri” ke sistem host.
Figueroa juga mengungkapkan bahwa ia dapat menggunakan rekayasa cepat untuk mengunduh “buku pegangan” ChatGPT, yang mengatur bagaimana chatbot berperilaku dan bereaksi terhadap model umum atau applet yang dibuat pengguna.
Peneliti mengatakan pendekatan buku panduan ini menawarkan transparansi dan membangun kepercayaan di antara para penggunanya karena buku ini menggambarkan bagaimana respons dibuat, dan juga dapat digunakan untuk mengungkap informasi yang mungkin bisa melewati batasan.
“Meskipun transparansi instruksi berguna, hal ini juga dapat mengungkapkan bagaimana respons model disusun, yang berpotensi memungkinkan pengguna merekayasa balik firewall atau memasukkan kueri berbahaya,” jelas Figueroa.
“Model yang dikonfigurasikan dengan instruksi rahasia atau data sensitif dapat menghadapi risiko jika pengguna mengeksploitasi akses untuk mengumpulkan konfigurasi atau wawasan kepemilikan,” lanjut peneliti.
Mengakses buku pedoman ChatGPT Sumber: Figueroa Kerentanan atau pilihan desain?
Meskipun Figueroa menunjukkan bahwa interaksi dengan lingkungan internal ChatGPT dimungkinkan, tidak ada masalah keamanan atau privasi data langsung yang timbul dari interaksi ini.
Sandbox OpenAI tampaknya cukup aman, dan semua tindakan terbatas pada lingkungan sandbox.
Meskipun demikian, kemampuan untuk berinteraksi dengan sandbox mungkin merupakan hasil dari pilihan desain OpenAI.
Namun, hal ini sepertinya tidak disengaja, karena membiarkan interaksi ini dapat menimbulkan masalah fungsional bagi pengguna, karena memindahkan file dapat merusak kotak pasir.
Selain itu, akses ke detail konfigurasi dapat memungkinkan pelaku kejahatan untuk lebih memahami cara kerja alat AI dan cara melewati pertahanan untuk menghasilkan konten berbahaya.
“Manual” tersebut mencakup instruksi dasar model dan aturan khusus apa pun yang ada di dalamnya, termasuk detail kepemilikan dan pedoman keamanan, yang berpotensi membuka vektor untuk rekayasa balik atau serangan yang ditargetkan.
BleepingComputer menghubungi OpenAI pada hari Selasa untuk mengomentari temuan tersebut, dan seorang juru bicara mengatakan kepada kami bahwa mereka sedang menyelidiki masalah tersebut.
unity software
unity software information
software information
Informasi mengenai king slot
king selot
king slot
king slot
kingselot
pg king slot
merek 88
merek 88
mantan99
mantan88
maksimal88
maksimal88
liburan88
indodax88
indah99
indah88
ikn88
ibukota88
huawei88
hot888
hot88
dingin88
citra88
binance88
best99
best88
tradisional 88
tradisional 88
tombol88
tombol88
survey88
survey88
start88
start88
obatkuat88
obatkuat88
mcb88
mcb88
master99
master888
master88
live88
live88
libra88
kompresor88
kompresor88
kesimpulan88
kesimpulan88
kapasitor88
kapasitor88
kacamata88
kacamata88
jamu88
jamu88
jam88
jam88
follow88
follow88
dinamo88
dinamo88
baterai88
baterai88
miegacoan
miegacoan
gacoan
gacoan
website88
waweb88
waweb88
translate88
translate88
tempur888
tempur888
tambang99
tambang99
support88
support88
support88
sogoslot88
siap88
siap88
rog88
rog77
pt88
pt88
pln88
pln88
oke99
oke88
mining88
livechat88
livechat88
listrik88
listrik88
listrik88
freeport88
freeport88
free88
free88
domain88
domain88
dokter888
dokter888
bmkg88
bmkg88
asn88
