ChatGPT Dapat Sistem Peringatan Baru untuk Cegah Konten Eksploitasi Anak

Update ChatGPTOpenAI kembali menghadirkan sejumlah pembaruan keamanan pada ChatGPT untuk mencegah penyebaran konten eksploitasi seksual anak atau Child Sexual Abuse Material (CSAM). Langkah ini dilakukan di tengah meningkatnya kekhawatiran terhadap penyalahgunaan teknologi kecerdasan buatan (AI), khususnya untuk menghasilkan konten yang melibatkan anak-anak.

Baca Juga : Google Maps Tingkatkan Fitur Perjalanan dengan Informasi Real-Time

Pembaruan tersebut mencakup teknologi pendeteksi gambar CSAM, sistem peringatan dan pemblokiran sementara bagi pengguna, pedoman baru untuk pengembang, hingga sejumlah perangkat berbasis AI yang ditujukan untuk membantu penegak hukum menangani kasus eksploitasi anak.

OpenAI Hadirkan Teknologi AI untuk Mendeteksi Gambar Eksploitasi Anak

OpenAI Hadirkan Teknologi AI untuk Mendeteksi Gambar Eksploitasi Anak

Salah satu fitur utama yang diperkenalkan adalah image classifier, yaitu teknologi AI yang mampu mendeteksi gambar eksploitasi seksual anak, termasuk gambar yang dihasilkan menggunakan AI.

OpenAI memberikan akses gratis melalui API kepada sejumlah perusahaan terpilih untuk memanfaatkan teknologi tersebut. Sistem ini bekerja dengan menganalisis tanda-tanda visual pada gambar yang belum pernah teridentifikasi sebelumnya, kemudian memberikan skor sebagai panduan bagi tim peninjau dalam menentukan apakah gambar tersebut termasuk CSAM.

Teknologi ini dikembangkan bersama National Center for Missing and Exploited Children (NCMEC). OpenAI juga bekerja sama dengan Tech Coalition dan ROOST untuk memperluas akses penggunaan teknologi tersebut.

Dalam pengujian awal bersama mitra, OpenAI menemukan bahwa sistem ini mampu mengurangi jumlah gambar yang harus ditinjau hingga 48%, tanpa mengurangi jumlah gambar berbahaya yang berhasil ditemukan. Bahkan, gambar yang ditandai oleh sistem memiliki kemungkinan dua kali lebih besar untuk benar-benar termasuk konten eksploitasi anak.

ChatGPT Berikan Peringatan dan Blokir Pengguna

Selain teknologi pendeteksi gambar, OpenAI juga menambahkan layar peringatan baru di ChatGPT untuk mencegah pengguna mengakses atau membuat konten yang mengandung seksualisasi anak.

Ketika pengguna memasukkan perintah atau prompt yang mengarah pada konten tersebut, ChatGPT akan menampilkan peringatan dan mengarahkan pengguna ke layanan bantuan khusus untuk menghentikan perilaku berbahaya.

Sebagai langkah pencegahan, akun pengguna juga dapat ditangguhkan selama 24 jam. Jika pelanggaran terus berulang, OpenAI menyatakan bahwa akun tersebut berpotensi dihapus secara permanen.

Pesan peringatan dan pedoman perilaku ini disusun bersama sejumlah organisasi dan peneliti, termasuk Protect Children, Lucy Faithfull Foundation, serta Joel Scanlan dari University of Tasmania. Peneliti tersebut juga melakukan evaluasi independen terhadap uji coba pesan pencegahan yang diterapkan.

OpenAI Perkuat Perlindungan Melalui Pengembang dan Penegak Hukum

OpenAI turut menerbitkan pedoman bagi pengembang yang menggunakan teknologinya. Pedoman ini bertujuan membantu pengembang mencegah, mendeteksi, serta menyediakan mekanisme pelaporan konten CSAM.

Dalam pengujian awal, sejumlah pengembang mulai menerapkan perangkat keamanan untuk perlindungan anak dan mendaftarkan diri agar dapat melaporkan konten CSAM kepada NCMEC.

Di sisi lain, OpenAI juga menyediakan teknologi AI untuk mendukung penegak hukum dalam menangani kasus eksploitasi anak. Fasilitas tersebut mencakup plug-in khusus, perangkat investigasi, serta analisis data kompleks yang aksesnya dikelola oleh administrator program. Perusahaan juga memberikan pelatihan kepada penyidik beserta panduan penggunaan AI di lapangan.

Upaya OpenAI Menjawab Kekhawatiran Keamanan AI

Pembaruan ini hadir setelah OpenAI menghadapi sejumlah gugatan yang menuding teknologinya berdampak buruk terhadap pengguna, terutama anak-anak. Organisasi nirlaba yang berfokus pada keselamatan anak, Common Sense Media, bahkan mengategorikan teknologi OpenAI sebagai risiko yang tidak dapat diterima bagi remaja.

Selain itu, chatbot AI lain seperti Grok juga pernah disalahgunakan untuk menghasilkan gambar seksual tanpa persetujuan, termasuk gambar yang melibatkan anak-anak.

Dalam 12 bulan terakhir, OpenAI telah melakukan berbagai perubahan untuk memperkuat keamanan teknologinya. Langkah tersebut meliputi penerbitan safety blueprint, pembaruan pedoman konten untuk melarang materi yang tidak pantas, penyesuaian model AI agar tidak menghasilkan konten berbahaya, serta peluncuran ChatGPT versi khusus untuk remaja.

Baca Juga : ChatGPT Hadirkan Fitur Kunci Chat untuk Lindungi Percakapan

Melalui berbagai pembaruan ini, OpenAI berupaya memperkuat perlindungan anak sekaligus mengurangi potensi penyalahgunaan teknologi AI.

Leave a Reply

Your email address will not be published. Required fields are marked *

←