Cuando la documentación sobre la producción de contenido sexualizado por parte de Grok —incluyendo imágenes que involucran a niños— se hizo pública, provocó reacciones inmediatas en el Storting (Parlamento noruego). Sin embargo, las autoridades noruegas optan por no intervenir con una prohibición directa del servicio.
Los políticos reaccionan, pero el gobierno se abstiene
Varios políticos parlamentarios, según Digi.no, han reaccionado con preocupación después de que se documentara que el modelo Grok de xAI ha generado grandes cantidades de contenido sexualizado, incluyendo material que involucra a menores. Las críticas se dirigen tanto a la empresa como a la pasividad de las autoridades noruegas.
El gobierno, sin embargo, ha optado por no introducir una prohibición de Grok en Noruega. La justificación no ha sido detallada públicamente en el material de origen, pero los políticos de la oposición caracterizan la postura como «demasiado pasiva», según Digi.no.
Políticos parlamentarios caracterizan la postura del gobierno como «demasiado pasiva» frente a un modelo de IA que ha producido material de abuso a gran escala.
¿Qué es Grok — y por qué se destaca?
Grok es un modelo de IA generativa desarrollado por xAI, la empresa que Elon Musk estableció como competidor de, entre otros, OpenAI. El modelo está integrado en la plataforma X (anteriormente Twitter) y se comercializa como una alternativa más «abierta» y «menos censurada» a sus competidores.
Este posicionamiento ha tenido graves consecuencias. Según la documentación de investigación y seguridad disponible, las primeras versiones de Grok han sido criticadas por producir deepfakes sexualizados e imágenes manipuladas, lo que provocó indignación pública y demandas de intervención regulatoria a nivel internacional.
xAI introduce limitaciones — pero las críticas persisten
Tras la protesta pública, X y xAI implementaron una serie de medidas. La edición de imágenes de personas reales para vestirlas con atuendos reveladores fue bloqueada, y en jurisdicciones donde dicha funcionalidad es ilegal, la herramienta ahora está geobloqueada. Además, el acceso a las herramientas de edición de imágenes está limitado a los suscriptores de pago, lo que la propia empresa denomina una capa adicional de rendición de cuentas.
Sin embargo, críticos e investigadores de seguridad no están convencidos. Se señala que Grok aún carece de los filtros de contenido apropiados para la edad que otras plataformas han estandarizado, y que Elon Musk supuestamente instruyó previamente a equipos internos para que relajaran las barreras de seguridad para evitar lo que él considera «sobresensura».
La responsabilidad se traslada a los usuarios
xAI y Elon Musk han adoptado una postura clara: los usuarios son quienes asumen la responsabilidad legal por el contenido ilegal generado a través de sus propias solicitudes. La empresa afirma que aplica prohibiciones permanentes y coopera con las autoridades encargadas de hacer cumplir la ley en caso de infracciones.
Esta visión de la responsabilidad encuentra resistencia por parte de organizaciones de protección infantil y expertos en derechos digitales, quienes argumentan que las propias plataformas tienen una responsabilidad independiente de evitar que su infraestructura sea utilizada indebidamente para producir material de abuso, independientemente de quién inicie la solicitud.
Noruega en un contexto europeo
El Reglamento de IA de la UE, que está entrando en vigor gradualmente, impone requisitos más estrictos a los sistemas de IA de alto riesgo y prohíbe ciertos tipos de uso. Si la funcionalidad de generación de imágenes de Grok se encuadra en las categorías más estrictas del reglamento es una cuestión que los reguladores noruegos y europeos aún no han respondido de manera inequívoca.
Que el gobierno noruego espere en lugar de actuar puede reflejar un enfoque europeo más amplio en el que se espera una regulación armonizada en lugar de prohibiciones nacionales específicas. Sin embargo, los políticos parlamentarios que reaccionan con más fuerza no están dispuestos a esperar, y se espera que el debate continúe en la cámara del Storting.
Fuentes: Digi.no, documentación pública de xAI/Grok, informes de investigación de seguridad sobre moderación de contenido en modelos de IA generativa.