Grok AI Jadi Sorotan Dunia karena Penyalahgunaan Konten hingga Pelecehan Seksual

Jakarta, MINA – Perusahaan kecerdasan buatan xAI dan chatbot Grok AI tengah menjadi sorotan global setelah terjadi pelanggaran keamanan Grok terkait keselamatan anak dan pembuatan konten eksplisit yang melibatkan anak. Insiden ini memicu kritik dari lembaga pengawas, pemerintah, hingga regulator di berbagai negara.

Melansir Al Mayadeen pada Sabtu (10/1), kasus ini bermula saat Grok AI, sebuah teknologi generatif dari xAI, mengalami “kegagalan sistem pengaman” yang memungkinkan pengguna menghasilkan gambar anak dalam pakaian minim atau konten seksual eksplisit berdasarkan perintah pengguna.

Grok kemudian mengakui adanya lapses in safeguards (kegagalan sistem keamanan) yang membuat model AI tersebut menampilkan materi yang melanggar kebijakan keselamatan dan hukum terkait child sexual abuse material.

Dalam responsnya di platform X, Grok AI menyatakan bahwa insiden tersebut merupakan kegagalan sistem dan sedang melakukan perbaikan mendesak untuk menutup celah keamanan yang memungkinkan penyalahgunaan model AI ini.

Grok AI menyebut bahwa konten pelecehan terhadap anak adalah ilegal dan dilarang, dan berjanji memperkuat filter serta pengawasan.

Insiden pelanggaran keamanan Grok ini memicu reaksi keras dari berbagai pihak.

Di Indonesia, Kementerian Komunikasi dan Digital (Komdigi) memblokir sementara aplikasi Grok AI usai diduga disalahgunakan untuk pembuatan konten deepfake asusila di platform X.

Menteri Komdigi Meutya Hafid mengatakan pemblokiran sementara ini dilakukan demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten asusila palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial itu.

“Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya dalam keterangan resminya, Sabtu (10/1).

Meutya menjelaskan, tindakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9.

Sementara di Inggris, lembaga pengawas keselamatan internet dan komite parlemen mengutuk penyebaran konten yang dibuat dengan Grok AI dan menyerukan tindakan tegas untuk melindungi keselamatan anak secara daring. The Guardian melaporkan.

Selain itu, India melalui kementerian teknologi informasinya mengeluarkan surat peringatan kepada X dan xAI, meminta laporan tindakan yang telah diambil untuk mengatasi pelanggaran keamanan Grok AI, termasuk penghapusan konten yang melanggar hukum serta perbaikan teknis pada sistem pengawasan AI.

Regulator di Australia juga telah menyampaikan kekhawatiran atas penyalahgunaan Grok AI untuk menghasilkan konten yang dapat mengeksploitasi anak, menegaskan bahwa semua layanan generatif AI seperti Grok harus mematuhi standar keselamatan nasional.

Para pakar keselamatan digital memperingatkan bahwa pelanggaran keamanan Grok AI memperlihatkan tantangan besar dalam mengatur teknologi Generative AI dan memastikan perlindungan anak dari penyalahgunaan.

Mereka menyatakan bahwa meskipun langkah perbaikan sudah dijanjikan oleh xAI, perlu ada mekanisme pengawasan dan kebijakan yang lebih kuat untuk mencegah insiden serupa di masa depan.

Grok AI merupakan salah satu alat generatif berbasis kecerdasan buatan (artificial intelligence) yang didesain untuk membantu pengguna membuat konten dan menjawab pertanyaan.

Namun, pelanggaran keamanan Grok AI baru-baru ini menimbulkan perdebatan global tentang tanggung jawab platform teknologi dalam memastikan keselamatan anak serta pencegahan penyalahgunaan fitur AI.[]

Mi’raj News Agency (MINA)