Grok limita la edición de fotos también a los usuarios de pago mientras Irlanda investiga 200 casos de abuso infantil

La inteligencia artificial de la red social X (Grok) ha decidido limitar también para los usuarios de pago la posibilidad de editar fotografías, tras la polémica que se había generado en numerosos países ante la proliferación y publicación de imágenes de personas que habían sido desnudadas digitalmente.

Tras las numerosas denuncias y quejas que se sucedieron por la difusión de imágenes manipuladas y alteradas sin el consentimiento de las personas que aparecían en ellas, entre ellas muchas mujeres o incluso menores de edad, Grok decidió inicialmente limitar el uso de esa herramienta a los usuarios de pago, para que el nombre y la información del suscriptor quedara ligado a las acciones ilícitas que pudiera cometer.

Pero ahora esta herramienta de inteligencia artificial, integrada en la red social X del magnate Elon Musk, ha decidido limitar también esa posibilidad, y en gran medida la generación avanzada de imágenes, a todos los usuarios del sistema, también los de pago, según informa la propia red.

"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago", ha señalado la red.

La plataforma ha añadido que están comprometidos con hacer de X "una plataforma segura para todos y mantenemos una política de tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado".

Han enmarcado esta medida en su afán por eliminar el contenido infractor de alta prioridad, incluido el material de abuso sexual infantil y la desnudez no consentida, han informado de que han tomado también medidas contra las cuentas que violan sus reglas y que también denunciarán a las autoridades policiales las cuentas que buscan material de explotación sexual infantil.

"Bloqueamos geográficamente la posibilidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta Grok y en Grok en X en aquellas jurisdicciones donde sea ilegal", añade ahora la compañía.

Parches iniciales que "monetizaban" el abuso

Inicialmente la compañía de Elon Musk limitó esa posibilidad de editar imágenes a los suscriptores de pago como una medida "de seguridad y responsabilidad", para poder identificar mejor a quienes abusaban de esa herramienta, pero la decisión fue muy criticada por considerarse un parche, completamente insuficiente, e incluso porque se podía interpretar que "monetiza" el abuso.

La decisión de Grok se produce tras la presión regulatoria y las acciones emprendidas en varios países de la UE o el Reino Unido, entre ellos España, donde el Gobierno se ha dirigido a la Fiscalía General del Estado para solicitar que investigue si Grok podía estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.

El propio Elon Musk se sumó inicialmente al escándalo mundial que estaba generando la proliferación de imágenes manipuladas con inteligencia artificial, y publicó una foto de sí mismo en bikini.

Este mismo miércoles, el magnate publicó una entrada en su red social en la que negaba que la herramienta de inteligencia artificial hubiera generado imágenes de menores desnudos; "literalmente ninguna", escribió.

Además de las denuncias de los usuarios, ya son varios los países que han tomado medidas para frenar esta mala práctica de la inteligencia artificial de X. La Unión Europea ha pedido a la aplicación conservar toda la documentación relativa a la generación de imágenes hasta finales de año, Reino Unido amenazó con bloquear la red social y Malasia e Indonesia directamente prohibieron el uso de Grok.

También se han pronunciado organizaciones de derechos digitales, seguridad infantil y derechos de las mujeres, que han pedido directamente a Apple y Google que se tomen medidas para "prohibir Grok" en sus tiendas de aplicaciones.

Irlanda celebra las "medidas correctivas" de Grok e investiga 200 casos de abuso infantil

Por su parte, el Gobierno irlandés celebró que X haya tomado "medidas correctivas", mientras la Policía nacional (Garda) investiga más de 200 de casos relacionados con la publicación de imágenes íntimas de menores generadas con esa herramienta.

La secretaria de Estado irlandesa para la IA, Niamh Smyth, indicó que los suscriptores de X en este país "no pueden editar una imagen de una persona real para desnudarla". "Es ilegal en este país. Creo que tenemos leyes muy estrictas aquí en Irlanda para lidiar con lo que ha estado sucediendo en los últimos días y posiblemente semanas", dijo.

No obstante, Smyth avanzó que se reunirá con el fiscal general del Estado "para garantizar que no haya lagunas legales para X o cualquier otra plataforma". Asimismo, confirmó que mantendrá encuentros con dirigentes de X en Dublín, donde un gran número de multinacionales tecnológicas tienen sus sedes europeas. La dirigente, en una entrevista con la cadena pública RTÉ, declaró que, "con toda seguridad", la red social X "ha estado violando la ley hasta este momento".

En paralelo, la Garda ha confirmado que tiene más de 200 investigaciones activas sobre abuso infantil en relación con imágenes generadas por Grok.

El superintendente de la Garda Barry Walsh declaró ante un comité parlamentario que el cuerpo está "plenamente comprometido con el apoyo a las víctimas de sextorsión y de la difusión no consentida de imágenes íntimas".

El agente señaló que las "exhaustivas investigaciones penales" desembocarán en procesos judiciales de los responsables en virtud, entre otras, de la Ley de Tráfico Infantil y Pornografía de 1998.