APREX · EST. 2026
EN RESUMEN
- xAI demanda a Terry Wayne Harwood por haber utilizado Grok para generar y distribuir imágenes de abuso sexual infantil (CSAM)
- Harwood ya ha sido arrestado y se enfrenta a ocho cargos penales
- El número de informes de imágenes de abuso generadas por IA a las autoridades estadounidenses explotó de 67.000 en 2024 a más de 1,5 millones en 2025
- Las autoridades y organizaciones noruegas están muy atentas al abuso de la IA para producir contenido ilegal
La empresa de IA de Elon Musk, xAI, está tomando medidas legales contra uno de sus propios usuarios después de que este supuestamente abusara del chatbot Grok para producir y difundir material de abuso sexual infantil. La demanda, informada por primera vez por Reuters, está dirigida contra Terry Wayne Harwood del estado de Carolina del Sur.
Elusión deliberada de las barreras de seguridad
Según la demanda, Harwood habría buscado activamente eludir los mecanismos de seguridad integrados de Grok para luego manipular imágenes y generar material que entra dentro de la definición de CSAM — child sexual abuse material, es decir, imágenes de abuso sexual infantil. xAI afirma que esto es una clara violación de los términos de servicio de la empresa, informa The Verge.
Harwood fue arrestado ya en febrero de este año, acusado de posesión y distribución de CSAM. Se le imputan ocho cargos, todos ellos clasificados como delitos graves.
xAI afirma que Harwood «utilizó Grok de forma consciente e intencionada para eludir las barreras de seguridad, manipular imágenes sin consentimiento y generar y distribuir CSAM».
Un problema que crece drásticamente
El caso no es en absoluto un incidente aislado. Cifras del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) de EE. UU. muestran una evolución alarmante: el número de informes sobre material de abuso generado por IA pasó de 4.700 en 2023 a 67.000 en 2024 — y a más de 1,5 millones en 2025, según estadísticas del NCMEC reproducidas en los propios informes de la industria.
Organizaciones europeas también documentan el problema. La Internet Watch Foundation (IWF) descubrió más de 20.000 imágenes generadas por IA en un solo foro de la dark web en octubre de 2023, de las cuales más de 3.000 fueron clasificadas como material de abuso criminal. Durante julio de 2024, se subieron otras 3.500 imágenes de este tipo al mismo foro.
La industria se moviliza, pero la carrera tecnológica continúa
Grandes empresas tecnológicas no se han quedado de brazos cruzados. Amazon, Anthropic, Google, Meta, Microsoft, Mistral AI, OpenAI y Stability AI se encuentran entre los actores que se han adherido a los llamados principios de «Seguridad por Diseño», desarrollados en colaboración con las organizaciones de protección infantil Thorn y All Tech Is Human. El objetivo es integrar la seguridad infantil desde la primera etapa del proceso de desarrollo de la IA.
Microsoft informó por sí solo 111.931 casos al NCMEC durante 2025, mientras que Meta contribuyó con un total de 13,8 millones de informes a través de Facebook, Instagram y WhatsApp en 2024.
Sin embargo, la propia industria reconoce que se encuentra en una carrera tecnológica contra actores que continuamente encuentran nuevas formas de eludir las barreras.
Perspectiva noruega: Alta concienciación, pero aplicación exigente
Noruega no está exenta de esta tendencia. Kripos y el Defensor del Pueblo para la Infancia han advertido repetidamente que la IA generativa reduce drásticamente el umbral para la producción de material de abuso — incluso para personas sin conocimientos técnicos. Las autoridades judiciales han subrayado que las imágenes de abuso generadas por IA son ilegales al igual que el material tradicional, incluso si las imágenes no involucran directamente a niños reales.
Que una empresa de IA tome ahora la iniciativa de presentar una demanda civil contra un abusador es relativamente nuevo. Esto envía una señal de que las empresas ya no se limitan a cerrar cuentas, sino que desean hacer cumplir activamente sus propios términos en los tribunales — y es potencialmente disuasorio para otros que consideren el abuso.
Se espera que el caso contra Harwood sea seguido de cerca tanto por la industria de la IA como por los legisladores en EE. UU. y Europa, incluida Noruega, que están trabajando en la regulación del contenido ilegal generado por IA bajo la Ley de IA de la UE y la legislación penal existente.