Esta decisión fue porque Grok crea deepfakes sexualizadas.
Indonesia (Marcrix Noticias)-Malasia e Indonesia se convirtieron en los primeros países del mundo en bloquear el acceso a Grok, el chatbot de inteligencia artificial desarrollado por la empresa xAI de Elon Musk, tras detectar su uso indebido para generar imágenes sexualmente explícitas, manipuladas y sin consentimiento.
Una herramienta peligrosa
Las decisiones reflejan la creciente preocupación internacional por los riesgos de la inteligencia artificial generativa, capaz de producir imágenes, sonidos y textos realistas que pueden ser utilizados para cometer abusos digitales, mientras las salvaguardas actuales resultan insuficientes para frenar su uso malintencionado.
Grok, al que se accede a través de la red social X (antes Twitter), ha sido duramente criticado por permitir la creación de imágenes manipuladas, incluidas representaciones de mujeres en bikini o en poses sexualmente explícitas, así como material que involucra a menores.
Bloqueo preventivo en el sudeste asiático
El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado, seguido por Malasia el domingo. Las autoridades señalaron que la plataforma no cuenta con controles eficaces para impedir la creación y difusión de pornografía falsa, especialmente aquella basada en fotografías reales.
“El gobierno considera que los deepfakes sexuales no consensuados son una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, declaró la ministra de Comunicación y Asuntos Digitales de Indonesia, Meutya Hafid.
Por su parte, Alexander Sabar, director general de supervisión del espacio digital, afirmó que las investigaciones preliminares revelaron que Grok carece de salvaguardas efectivas para evitar que los usuarios creen y compartan contenido pornográfico a partir de imágenes reales de ciudadanos indonesios.
En Kuala Lumpur, la Comisión de Comunicaciones y Multimedia de Malasia ordenó una restricción temporal tras detectar un “uso indebido repetido” de la herramienta para generar imágenes obscenas y sexualizadas sin consentimiento, incluyendo contenido con mujeres y menores.
¿Qué hizo xAI?
La semana pasada, Grok limitó la generación y edición de imágenes a usuarios de pago, luego de una reacción global por la circulación de videos sexualizados manipulados digitalmente, conocidos como deepfakes. Sin embargo, críticos aseguran que la medida no resolvió de fondo el problema.
Una solicitud de comentarios enviada por The Associated Press a xAI recibió como respuesta un mensaje automático que decía: “Legacy Media Lies” (Mentiras de los medios heredados), lo que avivó aún más la controversia.