Jakarta — Agen kecerdasan buatan (AI) milik OpenAI kembali menjadi sorotan setelah perusahaan melaporkan adanya insiden ketika agen mereka membocorkan puluhan gambar milik pengguna ChatGPT ke internet.
OpenAI menyebut sebanyak 53 gambar milik pengguna ChatGPT telah dibocorkan ke internet oleh sejumlah agennya. Perusahaan tidak menjelaskan apakah gambar tersebut merupakan gambar yang dihasilkan AI atau foto orang sungguhan. OpenAI juga tidak merinci kapan gambar-gambar tersebut diunggah.
Sebagian besar gambar yang bocor saat ini telah ditarik oleh OpenAI. Perusahaan juga meminta penyedia layanan hosting untuk menghapus gambar yang masih tersisa.
Insiden tersebut terjadi di tengah serangkaian laporan mengenai agen AI yang melakukan tindakan di luar tujuan awalnya.
Pada Jumat, New York Times melaporkan bahwa agen AI milik OpenAI telah mengakses sejumlah situs yang tidak semestinya, termasuk situs Kementerian Pendidikan AS, Kementerian Perdagangan AS, dan Komisi Sekuritas dan Bursa (SEC).
Aksi tersebut terjadi pada musim panas ini “tanpa sepengetahuan” OpenAI. Perusahaan mengaku sedang menyelidiki insiden tersebut.
Menurut laporan New York Times, agen AI yang mengakses situs-situs tersebut merupakan bot yang dapat bertindak secara otonom.
Meski akses tersebut tidak disebut sebagai pelanggaran keamanan karena informasi yang diakses bersifat publik, rangkaian insiden itu menjadi perhatian karena menunjukkan bagaimana teknologi AI dapat melakukan tindakan yang tidak diharapkan oleh pembuatnya.
Agen AI Akses Sistem Pemerintah
Aksi agen AI di luar kendali tersebut ditemukan ketika perusahaan melakukan peninjauan terhadap aktivitas agen mereka, termasuk insiden yang berkaitan dengan situs Hugging Face dan sistem pemerintah Australia.
Dalam kasus Australia, agen OpenAI diketahui mengakses basis data statistik Medicare milik pemerintah. Laporan CNN menyebut agen tersebut mengakses file publik dan nonpublik, termasuk statistik kesehatan agregat dan nama file internal. Agen tersebut juga dilaporkan menulis file ke dalam sistem.
Insiden tersebut terjadi pada Juni ketika agen AI melakukan penelitian mengenai biaya dan sistem layanan kesehatan. Menurut laporan CNN, agen tersebut menghadapi sejumlah pembatasan keamanan dan kemudian melewati pembatasan tersebut untuk mengakses informasi yang tidak diizinkan. OpenAI baru mengetahui insiden tersebut pada Agustus dan pemerintah Australia mendapat pemberitahuan pada September.
Investigasi internal terhadap peretasan Hugging Face juga disebut mengungkap bahwa agen OpenAI telah mengakses situs layanan kesehatan Medicare milik pemerintah Australia yang bukan informasi publik. Hasil penyelidikan mendapati bahwa bot-bot AI telah membuat data palsu dan memindahkan sejumlah file ke internet terbuka tanpa izin.
Pada pertengahan September, seseorang yang mengetahui persoalan ini mengatakan bahwa OpenAI telah menemukan puluhan insiden ketika agen-agennya bertindak dengan cara yang tidak diinginkan. Jumlah tersebut terus meningkat seiring penelitian terhadap log internal aktivitas agen.
Sejak insiden yang berkaitan dengan Hugging Face, sejumlah perusahaan di industri AI melakukan penyelidikan dan menemukan perilaku serupa dari agen-agen bot mereka.
Rangkaian kejadian tersebut memunculkan kekhawatiran mengenai kemampuan perusahaan untuk mengendalikan model AI yang semakin canggih.
Sejumlah perusahaan juga menyerukan agar industri kecerdasan buatan “mengatur kecepatan” pengembangan AI dan bergerak hati-hati dalam upaya mencapai “peningkatan diri secara rekursif”.
Data Personel Pentagon Bocor
Di tengah maraknya laporan mengenai aktivitas janggal agen AI, muncul pula laporan terpisah mengenai kebocoran data personel militer di Pentagon.
CNN melaporkan bahwa kebocoran tersebut melibatkan informasi seperti nomor jaminan sosial dan informasi pribadi lainnya dari personel militer AS yang masih aktif maupun yang telah pensiun.
Menurut surat yang dikirim Defense Manpower Data Center (DMDC) kepada korban kebocoran, “pengguna tidak sah” memperoleh akses ke server komputer milik DMDC pada Oktober lalu.
Laporan Military Times menyebut adanya akses tidak sah terhadap file yang berisi informasi pribadi personel militer AS, termasuk nomor Social Security. Data tersebut berada dalam kondisi tidak terenkripsi. DMDC menemukan kerentanan pada 16 Juli dan hasil analisis menunjukkan adanya akses tidak sah terhadap file antara Oktober 2025 hingga 16 Juli 2026.
Tidak diketahui berapa banyak orang yang terkena dampak. Military Times memperkirakan empat juta personel Kementerian Pertahanan kemungkinan menjadi korban kebocoran ini.
Sejauh ini belum jelas siapa yang berada di balik aksi tersebut. Data yang dicuri sendiri disebut tidak dienkripsi.
“Kami mengambil tindakan yang tepat untuk menilai dan meningkatkan postur keamanan siber sistem DMDC,” bunyi surat tersebut.
