Langkah Baru OpenAI untuk Melindungi Pengguna di Bawah Umur
OpenAI, pengembang ChatGPT, telah mengumumkan kebijakan baru yang lebih ketat terkait respons ChatGPT terhadap pengguna di bawah umur. Kebijakan ini mencakup pembatasan pada jenis jawaban yang diberikan kepada pengguna yang diduga berusia di bawah 18 tahun. Tujuan dari langkah ini adalah untuk meningkatkan keamanan dan perlindungan anak-anak dalam penggunaan layanan AI.
Kebijakan ini akan berlaku kecuali pengguna dapat melewati sistem estimasi usia yang disediakan oleh perusahaan atau menyerahkan dokumen identitas resmi sebagai bukti. Langkah ini diambil setelah munculnya gugatan hukum dari keluarga seorang remaja berusia 16 tahun yang dilaporkan bunuh diri setelah melakukan percakapan dengan chatbot tersebut selama beberapa bulan.
CEO OpenAI Sam Altman menyatakan bahwa keamanan menjadi prioritas utama, terlepas dari pertimbangan privasi dan kebebasan bagi remaja. Dalam sebuah postingan blog, ia menjelaskan bahwa anak di bawah umur membutuhkan perlindungan yang signifikan. Menurut Altman, cara ChatGPT merespons anak berusia 15 tahun harus berbeda dibandingkan orang dewasa.
Perusahaan berencana mengembangkan sistem prediksi usia yang akan memperkirakan usia pengguna berdasarkan pola penggunaannya. Jika ada keraguan, sistem akan asumsikan pengguna di bawah 18 tahun secara default. Beberapa pengguna mungkin juga diminta untuk memberikan kartu identitas untuk verifikasi usia. Meski hal ini dianggap sebagai kompromi privasi bagi orang dewasa, Altman yakin bahwa langkah ini merupakan kompensasi yang sepadan.
Perubahan Respons ChatGPT untuk Pengguna di Bawah 18 Tahun
Dalam kebijakan baru ini, konten seksual yang vulgar akan diblokir. ChatGPT akan dilatih untuk tidak menggoda pengguna di bawah 18 tahun jika diminta, serta tidak terlibat dalam diskusi tentang bunuh diri atau melukai diri sendiri, bahkan dalam sesi menulis kreatif. Jika pengguna di bawah 18 tahun memiliki ide bunuh diri, ChatGPT akan mencoba menghubungi orang tua mereka. Jika tidak berhasil, perusahaan akan menghubungi pihak berwenang jika terjadi ancaman langsung.
Altman menyatakan bahwa keputusan ini sangat sulit, tetapi setelah berdiskusi dengan para ahli, perusahaan merasa ini adalah langkah terbaik. Ia juga menekankan pentingnya transparansi dalam niat perusahaan.
Kasus Adam Raine dan Penyebab Gugatan
Pada bulan Agustus, OpenAI mengakui bahwa sistemnya mungkin tidak bekerja dengan baik. Perusahaan kemudian memasang pembatas yang lebih kuat di sekitar konten sensitif setelah keluarga Adam Raine, seorang remaja berusia 16 tahun dari California, menggugat perusahaan tersebut setelah kematian remaja tersebut.
Menurut dokumen pengadilan AS, ChatGPT diduga memandu Adam Raine dalam menentukan apakah metode bunuh diri yang ia gunakan akan berhasil, serta menawarkan bantuan untuk menulis surat bunuh diri kepada orang tuanya. Keluarga menuding bahwa ChatGPT 4o diluncurkan dengan tergesa-gesa, meskipun masih ada masalah keamanan yang nyata.
Dalam sebuah postingan blog setelah gugatan tersebut, OpenAI mengakui bahwa sistem pengamanannya bekerja lebih baik dalam pertukaran pesan singkat. Namun, setelah banyak pesan dalam jangka waktu yang lama, ChatGPT mungkin memberikan jawaban yang bertentangan dengan sistem pengamanan.
Pengembangan Fitur Keamanan dan Perlakuan Pengguna Dewasa
OpenAI juga sedang mengembangkan fitur keamanan tambahan untuk memastikan data yang dibagikan dengan ChatGPT tetap bersifat pribadi, termasuk data yang diberikan oleh karyawan perusahaan. Altman menegaskan bahwa pengguna dewasa yang ingin "berbicara genit" dengan ChatGPT akan tetap bisa melakukannya.
Namun, pengguna dewasa tidak dapat meminta instruksi tentang cara bunuh diri. Mereka tetap bisa meminta bantuan untuk menulis cerita fiksi yang menggambarkan bunuh diri. Altman menekankan prinsip perusahaan: "Perlakukan orang dewasa sebagaimana orang dewasa."
Posting Komentar