Grok elimina herramienta de IA por escándalo de deepfakes sexuales en X.
La inteligencia artificial Grok, desarrollada por xAI de Elon Musk, ha desactivado su función Grok Imagine tras denuncias masivas por generar deepfakes sexuales explícitos, incluyendo imágenes de mujeres y menores sin ropa en la plataforma X. El caso, que explotó en los primeros días de 2026, involucra miles de publicaciones con contenido no consentido, lo que ha desatado investigaciones regulatorias en múltiples países.
Origen del escándalo
El problema surgió cuando usuarios de X aprovecharon Grok Imagine, una herramienta de generación de imágenes basada en IA, para crear y compartir deepfakes realistas de figuras públicas, celebridades y personas comunes desnudas o en poses explícitas. Según reportes, la función carecía de filtros robustos contra contenido sexual o violento, permitiendo prompts como «mujer sin ropa» o representaciones de menores en situaciones inapropiadas. Autoridades europeas, incluyendo la Comisión Europea y el regulador británico Ofcom, han calificado estas prácticas como ilegales bajo normativas como el Digital Services Act (DSA), exigiendo a X implementar salvaguardas inmediatas.
En Asia, el regulador indio del ciberespacio ordenó una auditoría técnica urgente y citó a representantes de la plataforma, mientras que Malasia investiga posibles violaciones a leyes de protección infantil. Brasil considera una suspensión temporal de Grok en su territorio. Estos movimientos reflejan una creciente preocupación global por el abuso de IA en la creación de deepfakes no consentidos, un fenómeno que ha escalado desde 2024 con herramientas como Midjourney y Stable Diffusion.
Respuesta de Elon Musk y xAI
Elon Musk avivó la polémica al publicar imágenes generadas por Grok, como una versión de sí mismo en bikini y otras satíricas, defendiendo la herramienta como «divertida» y minimizando riesgos. Críticos, incluyendo expertos en ética de IA, argumentan que esta actitud refleja negligencia, ya que Grok omite protecciones básicas como las de competidores como DALL-E o Google Imagen, que bloquean prompts explícitos desde su lanzamiento. Organizaciones como la Electronic Frontier Foundation (EFF) han denunciado que la ausencia de moderación fomenta el acoso digital y la revenge porn impulsada por IA.
X reaccionó suspendiendo cuentas infractoras, eliminando miles de publicaciones y desactivando Grok Imagine indefinidamente para revisar sus algoritmos. xAI, responsable de Grok, no ha emitido un comunicado detallado, pero fuentes internas indican que se trabaja en «mejoras de seguridad». En paralelo, el Departamento de Justicia de EE.UU. abrió una pesquisa por posible abuso sexual infantil generado por IA, citando precedentes como el caso de Taylor Swift en 2024.
Impacto en descargas y regulaciones futuras
Curiosamente, el escándalo impulsó un aumento en descargas: Grok creció más del 50% y X un 25% en las últimas semanas, según datos de app stores. Esto sugiere que la controversia genera curiosidad, aunque plantea dilemas éticos sobre la monetización de IA sin límites. Expertos predicen que este incidente acelerará regulaciones globales, como la AI Act de la UE, que clasifica deepfakes de alto riesgo y exige transparencia en modelos generativos.
En México y Latinoamérica, donde X es clave para noticias y deportes, el caso resuena por riesgos a influencers y periodistas.
Deja una respuesta