Hace un par de semanas dedicamos este mismo espacio para hablar de la relevancia que tuvo la inteligencia artificial (IA) en el año 2025. En él, cuestionamos el papel que queremos que la misma juegue en la vida de los humanos. Apenas inicia este año 2026 y ya hay una primera gran polémica causada por una función agregada a la IA de la red social X (antes Twitter) que parece haber cruzado una línea muy delicada: la edición automática de imágenes sin consentimiento.
Así es, aquella inicial promesa de una inteligencia artificial que potenciaría la creatividad humana se ha topado con una realidad mucho más oscura en los servidores de la red social X. Lo que comenzó como un «editor automático de imágenes» para Grok, bajo el estandarte de la libertad de expresión absoluta, se ha transformado casi de inmediato en una herramienta de violencia digital, de trastocamiento de la intimidad y de manipulación de la realidad muy eficaz y accesible.
¿De qué estamos hablando? De que todas las imágenes subidas por los usuarios pueden ser tomadas por cualquiera y ordenarle a Grok que la modifique. Lo hace de manera automática con un realismo que asusta. Por ejemplo, puede un usuario tomar la foto de un personaje político y pedirle a dicha IA que lo ponga empuñando un arma contra una persona. La imagen se genera y puede publicarse de inmediato. Las consecuencias son graves cuando alguien emplea este tipo de imágenes para armar una cruzada de desprestigio, para manipular una campaña política, para ridiculizar a alguien o ensuciar su imagen.
Desde luego que alarma esa facilidad con la que se puede violentar, sexualizar o transformar un retrato, una escena familiar o un evento político capturado en fotografía. Todo esto se hace, por supuesto, sin ningún consentimiento de las personas reales que usan esa red para compartir actividades cotidianas a través de fotografías. Por ejemplo, no son pocas las mujeres que ya han denunciado públicamente porque alguien tomó su foto y le pidió a Grok que en lugar del uniforme escolar con el que posaban en una foto durante su fiesta de graduación les pusiera un bikini.
A diferencia de otros modelos de IA que bloquean peticiones sobre figuras públicas o desnudez, la política de filtros de la compañía de Elon Musk ha permitido que estas imágenes se generen y, lo que es peor, se publiquen automáticamente en los hilos de comentarios. Así es como una función de esta IA se convirtió ya en una herramienta para humillar o exhibir públicamente alguien.
La controversia por este hecho ha alcanzado su punto de ebullición este año debido a tres factores críticos: primeramente, por el choque frontal entre la función referida con la entrada en vigor de la Ley de IA de la Unión Europea, lo que convierte a Grok en el primer gran rebelde tecnológico. Mientras esa ley exige transparencia y protección contra contenidos de «alto riesgo», X ha mantenido un editor que ignora activamente los derechos de imagen, lo que provocaría investigaciones gubernamentales sin precedentes.
En segundo lugar, está la accesibilidad generalizada (aunque solo quienes tienen una cuenta premium en esa red social tiene acceso ilimitado). Sí, se ha abaratado esta herramienta de manipulación, porque ya no hace falta saber usar Photoshop ni descargar apps externas; cualquier usuario puede editar la foto de un extraño de manera directa o instruyendo a la IA para que lo haga en respuesta a una publicación. Puede hablarse incluso de una «democratización del mal uso», que poco a poco ha saturado a esa plataforma de contenido tóxico.
Para nadie es nueva la fama de que Grok es la «IA anti-woke», pero en este inicio de año se ha denunciado que Grok se muestra servil ante peticiones que denigran a minorías o figuras políticas progresistas, llegando incluso a generar iconografías de odio o teorías conspirativas visuales bajo la excusa del «sarcasmo».
Una vez más, esta polémica nos pone de frente con el avance sin frenos de la IA, que está alterando la forma en que interactuamos en el mundo digital. De manera casi definitiva, podemos declarar la muerte de la «Prueba Visual»: con las herramientas para manipular de manera generalizada las imágenes, estamos entrando en una «crisis de verdad». Si antes una foto era un testimonio de la realidad, hoy es un lienzo de sospecha. Esto está rompiendo la confianza básica entre amigos, parejas y colegas, donde cualquier imagen puede ser una manipulación malintencionada.
La posibilidad de que un conocido o un extraño manipule una selfie cotidiana para crear una imagen humillante genera un estado de alerta constante. El resultado previsible es un «exilio digital»: cada vez más personas abandonarían el espacio público o usarán recursos para proteger su integridad en entornos en donde ya no es seguro compartir una foto de las vacaciones en familia, de la cena de navidad o de una labor social, porque no hay garantía alguna de que no se pueda manipular y publicar impunemente.
Lo que se está haciendo con este tipo de herramientas es acostumbrar a los usuarios a la idea de que la imagen ajena es un objeto de consumo y manipulación gratuita, eliminando la empatía del proceso comunicativo. Ya no es eficiente la excusa de señalar que las plataformas «son solo herramientas». Cuando el diseño de una función facilita activamente el daño a la integridad moral, la herramienta deja de ser neutral.
Lo que hace X a través de su IA, Grok, es apenas una muestra de lo vulnerables que somos todos al tener actividad en el mundo digital. La tecnología corre más rápido que nuestra capacidad para protegernos. Si 2026 va a ser el año de la IA integrada, no debería ser también el año en que perdamos el derecho a nuestra propia imagen.
Síguenos