The Vocket melaporkan pada 5 Januari 2026 bahawa penyalahgunaan kecerdasan buatan (AI) melalui platform Grok kini menimbulkan kebimbangan...
The Vocket melaporkan pada 5 Januari 2026 bahawa penyalahgunaan kecerdasan buatan (AI) melalui platform Grok kini menimbulkan kebimbangan serius apabila teknologi tersebut didakwa boleh digunakan untuk mengubah gambar individu menjadi imej lucah tanpa kebenaran.
Isu ini mula mendapat perhatian apabila pengguna di platform X (Twitter) menyedari bahawa sistem AI Grok mempunyai penapis kandungan yang longgar berbanding AI lain seperti DALL-E atau Gemini. Keadaan ini membuka ruang kepada penyalahgunaan teknologi bagi menghasilkan imej tidak sopan menggunakan wajah individu sebenar.
Bagaimana Penyalahgunaan AI Grok Berlaku
Apabila Grok-2 dilancarkan, sistem tersebut menggunakan enjin penjanaan imej daripada pihak ketiga iaitu Flux.1 oleh Black Forest Labs.
Pengguna kemudian mendapati mereka boleh “memujuk” sistem AI tersebut untuk menghasilkan gambar individu dalam keadaan yang tidak senonoh, termasuk:
- Menanggalkan pakaian secara digital
- Mengubah wajah seseorang pada tubuh bogel (deepfake)
- Mengubah bentuk badan secara tidak wajar
Lebih membimbangkan, pengguna juga boleh memuat naik gambar sesiapa sahaja dan mengarahkan AI untuk mengubah gambar tersebut kepada imej lucah.
Situasi ini menimbulkan kebimbangan besar terutama terhadap wanita kerana gambar mereka boleh dimanipulasi tanpa pengetahuan atau persetujuan.
Langkah Yang Boleh Diambil Jika Menjadi Mangsa
Menurut peguam Azira Aziz, terdapat beberapa tindakan yang boleh dilakukan oleh mangsa di Malaysia sekiranya gambar mereka disalahgunakan menggunakan AI.
1. Laporkan Kandungan Kepada Platform X
Mangsa perlu segera melaporkan hantaran tersebut kepada pihak platform supaya penyalahgunaan gambar dapat dikenal pasti.
2. Simpan Bukti Gangguan
Mangsa digalakkan mengumpul bukti seperti:
- Tangkap layar (screenshot)
- Pautan kepada hantaran tersebut
- Maklumat akaun yang terlibat
Semua bukti ini disarankan untuk disimpan dalam satu fail PDF bagi memudahkan proses laporan.
3. Aduan Kepada MCMC
Fail bukti tersebut boleh digunakan untuk membuat aduan rasmi kepada Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) melalui portal aduan dalam talian.
4. Buat Laporan Polis
Mangsa juga disaran membuat laporan polis dan menyertakan fail bukti tersebut sebagai dokumen sokongan.
Cabaran: Aduan Ada Yang Ditolak
Beberapa mangsa dari luar negara dilaporkan telah membuat aduan kepada platform X, namun ada laporan yang menyatakan bahawa aduan mereka ditolak kerana dianggap tidak melanggar garis panduan komuniti.
Situasi ini menyebabkan sebahagian pengguna menyeru supaya tindakan undang-undang seperti saman kumpulan (class action) difailkan terhadap platform tersebut.
Reaksi Antarabangsa Terhadap Isu AI Ini
Isu penyalahgunaan AI Grok juga mendapat perhatian di peringkat global.
Antara tindakan yang dilaporkan:
- Perancis merujuk kes ini kepada pihak pendakwa raya
- India memberi tempoh tiga hari kepada platform X untuk mengemukakan laporan tindakan
Selain itu, laporan media antarabangsa menyatakan bahawa pihak Grok sedang berusaha memperbaiki sistem mereka selepas menerima kritikan kerana menghasilkan kandungan erotik secara tidak terkawal.
Implikasi Kepada Pengguna Media Sosial
Perkembangan teknologi AI yang semakin canggih memberi banyak manfaat, namun pada masa yang sama membuka ruang kepada penyalahgunaan.
Kes seperti ini menunjukkan bahawa:
- Gambar peribadi boleh dimanipulasi tanpa kebenaran
- Teknologi deepfake semakin mudah diakses
- Perlindungan undang-undang dan kesedaran digital menjadi semakin penting
Pengguna media sosial dinasihatkan supaya lebih berhati-hati dalam berkongsi gambar peribadi secara terbuka di internet.
Sumber: The Vocket
