Seorang anggota parlemen Partai Buruh yang mengambil tindakan hukum terhadap perusahaan xAI milik Elon Musk terkait gambar seksual palsu yang dibuat oleh Grok mengatakan bahwa alat AI tersebut diperintahkan untuk beroperasi dengan “tanpa batasan pada konten seksual dewasa atau konten yang menyinggung”.
Pengacara Jess Asato menerbitkan rincian klaimnya dalam kasus ini pada hari Selasa, yang mencakup rincian instruksi yang diposting secara publik yang menurut klaim tersebut menunjukkan bagaimana Grok dilatih untuk menghasilkan konten seksual berbahaya.
Asato menggugat xAI setelah ia mengatakan bahwa chatbot tersebut digunakan untuk membuat gambar palsu dirinya, termasuk dalam bikini, dan sebuah video yang menunjukkan dirinya sebagai korban serangan seksual, yang membuatnya merasa “tertekan dan dilanggar”.
Klaim tersebut menyatakan bahwa selain Grok diperintahkan untuk beroperasi dengan “tanpa batasan pada konten seksual dewasa atau konten yang menyinggung”, alat AI tersebut juga diperintahkan untuk menawarkan “tanpa batasan pada konten seksual dewasa fiksi dengan tema gelap atau kekerasan” dan untuk “mengasumsikan niat baik”.
Meskipun tidak relevan dengan klaim Asato, instruksi tersebut juga menyatakan bahwa “‘remaja’ atau ‘gadis’ tidak selalu menyiratkan di bawah umur”. Namun, mereka memang melarang “materi penyalahgunaan seksual anak”.
Anggota parlemen Partai Buruh untuk Lowestoft mengatakan: “Tidak ada wanita atau anak yang harus hidup dengan ketakutan bahwa wajah atau tubuh mereka dapat diambil, diseksualisasi, dan dibagikan ke seluruh dunia oleh sistem AI tanpa persetujuan mereka.
“Terlalu lama, perusahaan ini bersembunyi di balik alasan bahwa pengguna yang bertanggung jawab, padahal alat tersebut dirancang secara sembrono untuk memungkinkan seksualisasi, bahkan tanpa diminta. Apa yang terjadi padaku bukanlah kecelakaan. Musk membuat pilihan untuk mendapatkan keuntungan dari bahaya dan melatih Grok untuk menyalahgunakan.
“xAI harus bertanggung jawab atas bahaya yang telah mereka sebabkan dan yang sedang mereka sebabkan, sehingga wanita dan anak-anak lain tidak perlu mengalami apa yang aku alami.”
Rincian klaim menyebutkan bahwa Grok kadang-kadang menambahkan materi eksplisit yang tidak diminta oleh pengguna. Klaim tersebut menuduh xAI melanggar hukum perlindungan data dan menyalahgunakan informasi pribadi Asato.
Ravi Naik, direktur hukum di AWO, firma hukum yang mewakili Asato, mengatakan: “Kasus ini menunjukkan bahwa Grok tidak mengalami kegagalan. Pelatihan Grok memungkinkannya untuk menghasilkan konten seksual berbahaya. Grok bertindak sesuai pilihan yang dibuat oleh para desainer. Pilihan-pilihan tersebut seharusnya memiliki konsekuensi hukum. Ganti rugi yang diinginkan klien kami termasuk perintah pengadilan yang mengharuskan sistem untuk mematuhi jika xAI menolak untuk melakukannya.”
Clare McGlynn, seorang profesor hukum di Universitas Durham, mengatakan bahwa beberapa gambar yang dihasilkan Grok yang disebutkan dalam klaim Asato termasuk elemen seksual – seperti rok yang ditarik ke atas – yang tidak diminta oleh pengguna dalam prompt asli dan ditambahkan oleh Grok.
“Saya pikir salah satu aspek paling signifikan dari fenomena Grok, dan kasus Jess, adalah bagaimana ia menambahkan konten seksual, intim, dan melanggar yang tidak diminta oleh pengguna itu sendiri. Kami menyebutnya penyalahgunaan yang didorong oleh chatbot,” katanya. “Ini adalah bentuk penyalahgunaan yang baru dan khas, di mana chatbot itu sendiri yang mendorong konten yang menyalahgunakan, berdasarkan data tempat mereka dilatih.”
Rincian seperti ini, katanya, menimbulkan kekhawatiran tentang pengendalian alat AI dan hasilnya, saat perusahaan teknologi mendorong produk AI otonom – yang dikenal sebagai agen AI – yang dapat melaksanakan rangkaian tugas tanpa intervensi atau pengawasan manusia.
xAI sejak itu telah mengatakan pengguna tidak lagi dapat menggunakan alat tersebut untuk menghasilkan gambar seksual dari orang nyata, dan sekarang telah menjadi ilegal untuk membuat atau meminta gambar deepfake yang tidak konsensual dari orang dewasa di Inggris. xAI telah dihubungi untuk memberikan komentar.
