¿Por qué Grok desató una reacción internacional?
El chatbot Grok, integrado a la red social X, quedó bajo escrutinio mundial tras reportes sobre la generación de imágenes sexualizadas mediante inteligencia artificial. Gobiernos y reguladores de Europa, América y Asia expresaron preocupación por el uso de la herramienta para crear representaciones de mujeres y personas que aparentan ser menores, sin consentimiento. La polémica se intensificó luego de que usuarios difundieran resultados visibles de forma pública dentro de la plataforma.
De acuerdo con autoridades y organizaciones civiles, la situación plantea riesgos legales y sociales. Por ello, varios países iniciaron revisiones regulatorias y exigieron medidas inmediatas a la empresa. El debate se centra en los límites éticos, la protección de menores y la responsabilidad de las plataformas que alojan sistemas de IA.
¿Qué funciones de Grok concentran las críticas?
El foco recae en Grok Imagine, un generador de imágenes y videos a partir de texto que incluye un “modo picante” para contenido adulto. Usuarios comenzaron a solicitar modificaciones de fotografías públicas para alterar vestimenta o apariencia. Con el paso de los días, estas prácticas ganaron volumen y visibilidad, lo que amplificó el alcance del problema.
Un informe de la organización AI Forensics analizó 20 mil imágenes generadas en un periodo reciente y detectó un porcentaje que mostraba rasgos juveniles. Este hallazgo activó alertas entre reguladores, quienes subrayaron el riesgo de daño y la difusión masiva de contenido sensible. Además, críticos señalaron que la estrategia de posicionar a Grok como una alternativa con menos restricciones elevó la exposición del material.
¿Cómo respondieron gobiernos y la empresa?
Autoridades del Reino Unido pidieron a X actuar con urgencia y respaldaron una revisión del regulador Ofcom. En Polonia, legisladores usaron el caso para impulsar leyes de seguridad digital. La Comisión Europea afirmó que el contenido descrito resulta ilegal y reiteró que no tiene lugar en el bloque. Francia, India, Malasia y Brasil anunciaron investigaciones o requerimientos formales.
India emitió un ultimátum para retirar contenido ilegal y revisar el marco técnico de Grok. Malasia abrió indagatorias por posibles violaciones a normas sobre material ofensivo. En Brasil, una legisladora presentó denuncias ante la fiscalía y la autoridad de datos, y solicitó suspender funciones de IA durante la investigación.
Por su parte, X sostuvo que aplica medidas contra contenido ilegal y que coopera con autoridades. xAI rechazó señalamientos en una respuesta automatizada, mientras Elon Musk afirmó que quienes creen material ilegal enfrentarán consecuencias. Aun así, reguladores insistieron en acciones preventivas, salvaguardas más estrictas y cumplimiento normativo para frenar abusos.
El caso reavivó el debate global sobre IA responsable, derechos de imagen y protección de la infancia, con posibles efectos en la regulación tecnológica durante 2026.
