Parece que X de Elon Musk podría estar en problemas nuevamente, ya que continúa eludiendo las regulaciones sobre contenido potencialmente ofensivo.
En las últimas semanas, ha surgido una nueva tendencia en X, donde los usuarios de X solicitan al chatbot Grok de X que convierta imágenes de personas, en su mayoría mujeres, en representaciones desnudas o casi desnudas de las mismas. Esto también se desvió hacia el territorio CSAM, y algunos usuarios incitaron al chatbot “desquiciado” de Elon a reducir imágenes de niños actores a bikinis, o algo peor.
Lo que ahora ha llamado la atención de los reguladores en varias regiones, quienes están pidiendo a X que tome medidas inmediatas para restringir el uso de sus herramientas de inteligencia artificial para crear imágenes no consensuales y potencialmente ilegales.
Según lo informado por TechCrunch, oEl viernes, el Ministerio de TI de la India ordenó a X que tomara “medidas correctivas” contra Grok, incluida la restricción de la generación de contenido que incluya “desnudez, sexualización, material sexualmente explícito o ilegal”. El ministerio le dio a X 72 horas para detallar las medidas que planea tomar para evitar el alojamiento o la difusión de contenido considerado “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley”.
Los funcionarios de la región de la UE también han dado la alarma, junto con los reguladores de Malasia, mientras que Ofcom de Gran Bretaña también ha emitido una solicitud a X para que describa qué medidas está tomando “para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido”.
Y eso probablemente sea solo el comienzo, ya que varias otras regiones están considerando nuevas iniciativas para restringir o prohibir la aplicación, en función de su potencial no solo para albergar, sino también para crear dicho material, violando muchas leyes locales.
El propietario de X, Elon Musk, reconoció la preocupación y dijo que:
“Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal..”
Pero puede que eso no sea suficiente seguridad. Y con X ya bajo investigación sobre la capacidad de Grok para crear otras imágenes ofensivas (incluidas representaciones de personajes conocidos con atuendos nazis), y el Departamento de Justicia de EE. UU. recientemente haciendo esfuerzos para abordar dicho uso indebido, podría significar que X tendrá que implementar más restricciones a las generaciones de Grok, a pesar de que Elon y compañía prefieren adoptar un enfoque más no intervencionista siempre que puedan.
Al mismo tiempo, el contenido sexualizado es claramente parte del modelo de negocio ampliado de Elon para la aplicación.
Los compañeros de IA de X, por ejemplo, se han creado específicamente para poder “participar en chats NSFW” con los usuarios.
Este es otro elemento que los reguladores han estado evaluando, mientras buscan comprender mejor los impactos más amplios de estos productos y garantizar su uso seguro, especialmente por parte de los usuarios más jóvenes.
Y aunque X preferiría no censurar nada, claramente existen vectores de riesgo importantes dentro de estas nuevas herramientas, que X no parece haber evaluado completamente antes del lanzamiento. Lo que también está en línea con el enfoque de Elon, de moverse rápido y acelerar el lanzamiento de productos, para maximizar la velocidad de desarrollo.
El riesgo, entonces, es exactamente lo que estamos viendo: herramientas potencialmente dañinas lanzadas al público, con barreras de seguridad mínimas, que amplían el daño tanto a los usuarios como a los no usuarios.
Entonces, ¿qué resultará de este último impulso? Bueno, es probable que X imponga algunas restricciones a algunos de los comandos más comunes de este tipo, mientras que también buscará delinear medidas más estrictas para impedir que los usuarios menores de edad interactúen con sus compañeros de IA.
Pero dado que Elon también busca crear conciencia sobre sus últimas herramientas de inteligencia artificial, con miras a maximizar el potencial de monetización de las mismas (nota: Elon también acaba de anunciar una nueva actualización de las capacidades de generación de imágenes y videos de Grok), no espero que X busque reducir sus herramientas de generación de inteligencia artificial o implementar límites estrictos sobre lo que los usuarios pueden crear.
Porque más personas usan Grok, para cualquier propósito, luce mejor para xAI, y nuevamente, Elon claramente ve el contenido sexualizado como parte de los planes de expansión de X.
Esperaremos y veremos si X realmente busca emprender acciones legales contra los creadores de tales, como dice Musk, pero Elon podría encaminarse a otro enfrentamiento con reguladores extranjeros.
