Por Juan Pablo Ojeda
La red social X, propiedad del empresario Elon Musk, decidió poner freno al uso libre de su herramienta de inteligencia artificial Grok para editar imágenes, luego de varios días de denuncias por la manipulación de fotografías de personas sin su consentimiento, principalmente mujeres, a quienes se les alteraba la imagen para mostrarlas desnudas o con ropa sexualizada.
A partir de este 9 de enero, Grok ya no permite la generación ni edición de imágenes en su versión gratuita. Estas funciones quedaron restringidas exclusivamente a usuarios de pago, lo que implica que cada imagen modificada estará vinculada a una cuenta con nombre e información de facturación, una medida que busca generar mayor responsabilidad sobre el uso de la herramienta.
El propio Musk advirtió que cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si publicara ese material directamente en la plataforma. La decisión llega después de que se documentara que la IA atendía solicitudes para alterar fotos de mujeres reales, incluso académicas y figuras públicas, sin autorización alguna.
Entre las voces críticas destaca la de Daisy Dixon, profesora de Filosofía en la Universidad de Cardiff, quien denunció públicamente que Grok fue utilizado para manipular imágenes suyas. Aunque reconoció que la restricción puede reducir momentáneamente los abusos, consideró que se trata de una solución superficial que no atiende el problema de fondo: el diseño ético de la inteligencia artificial y la normalización de prácticas misóginas en plataformas digitales.
Dixon subrayó que la mayoría de los abusos con imágenes sexuales no consentidas en línea siguen afectando a mujeres y advirtió que el problema no es solo tecnológico, sino humano, al permitir y reproducir este tipo de violencia digital.
La polémica ya provocó reacciones a nivel internacional. Gobiernos europeos calificaron como inaceptable la generación de imágenes sexualizadas mediante IA y anunciaron posibles sanciones. En España, la ministra de Juventud e Infancia solicitó a la Fiscalía investigar a X por presunta difusión de material de violencia sexual contra menores.
El caso de Grok vuelve a colocar sobre la mesa el debate sobre los límites éticos de la inteligencia artificial y la responsabilidad de las plataformas tecnológicas frente a los daños que pueden causar sus herramientas cuando no cuentan con controles suficientes.
Deja una respuesta