Parece que X tendrá más problemas legales, ya que varios estados de EE. UU. están tomando medidas regulatorias contra la aplicación propiedad de Elon Musk por la generación y difusión de imágenes sexualizadas.
Esto se debe a que el chatbot Grok de X elimina fotografías de cualquier persona, desde actores conocidos hasta niños al azar, a través de su capacidad de generación de imágenes, que se había convertido en una tendencia en X a principios del Año Nuevo. De hecho, en un momento, los datos indican que Grok generaba más de 6.000 imágenes sexualizadas por día, todas las cuales eran accesibles públicamente en la aplicación.
Esto provocó una gran reacción en varias regiones, e incluso prohibiciones tanto de Grok como de X en algunas áreas. Aunque X inicialmente se mantuvo firme ante las críticas, el propio Musk afirmó que las críticas no se referían a X, sino más bien a una censura más amplia y a un esfuerzo por impedir que X revelara verdades más amplias.
Pero, en realidad, no hay forma de justificar la generación de imágenes de desnudos y sexualizadas, y no es necesario que exista esta funcionalidad, independientemente de cualquier otro mensaje con carga política que desee adjuntar. Y como resultado, en medio de la amenaza de más prohibiciones y restricciones, X finalmente dio marcha atrás y restringió la capacidad de generación de imágenes de Grok solo a usuarios de pago, al tiempo que implementó medidas para detener la generación de este tipo de imágenes.
Pero puede que eso haya llegado demasiado tarde. Ayer, la Comisión de la UE anunció una investigación sobre Grok y las salvaguardias de xAI para proteger contra el uso indebido de sus herramientas.
Y ahora, un grupo de más de 37 fiscales generales de Estados Unidos también busca tomar medidas contra xAI.
Según lo informado por Wired:
“El viernes, un grupo bipartidista de fiscales generales publicó una carta abierta a xAI exigiendo que ‘tome inmediatamente todas las medidas adicionales disponibles para proteger al público y a los usuarios de sus plataformas, especialmente a las mujeres y niñas que son el objetivo abrumador de (imágenes íntimas no consensuales)’”.
En la carta, el grupo plantea serias preocupaciones sobre “la inteligencia artificial produjo imágenes íntimas no consensuadas (NCII) profundamente falsas de personas reales, incluidos niños”.
Y aunque X ya ha tomado medidas, el grupo exige más responsabilidad a Musk y su equipo.
“Reconocemos que xAI ha implementado medidas destinadas a evitar que Grok cree NCII y apreciamos su reciente reunión con varios fiscales generales abajo firmantes para discutir estos esfuerzos (…) Además, usted afirma haber implementado medidas técnicas para evitar que la cuenta @Grok ‘permita la edición de imágenes de personas reales con ropa reveladora como bikinis’. Pero nos preocupa que estos esfuerzos no hayan resuelto completamente los problemas”.
De hecho, los Fiscales Generales sugieren además que las herramientas de inteligencia artificial de X en realidad fueron diseñadas para este propósito y han incorporado herramientas para facilitar el uso dañino.
“Grok no solo estaba permitiendo estos daños a una escala enorme, sino que en realidad parecía estar fomentando este comportamiento por diseño. xAI desarrolló deliberadamente sus modelos de texto para participar en intercambios explícitos y diseñó modelos de imágenes para incluir un ‘modo picante’ que generaba contenido explícito, lo que resultaba en contenido que sexualiza a las personas sin su consentimiento”.
Como resultado, el grupo pide a Elon y X que tomen medidas más definitivas para prohibir dicho uso, incluida la eliminación de todas las vías para generar dichas imágenes, la eliminación de todo el contenido que ya se haya creado y la suspensión de los usuarios que hagan un mal uso de Grok para tal fin.
Los Fiscales Generales también quieren que X dé a los usuarios control sobre si Grok puede editar su contenido, “incluyendo como mínimo la capacidad de prohibir fácilmente que la cuenta @Grok responda a sus publicaciones o edite sus imágenes cuando se lo solicite otro usuario”.
Lo que significa más desafíos para X, en la mejora de la transparencia, así como mayores esfuerzos para implementar salvaguardias y restricciones sobre el uso de Grok.
Lo cual, nuevamente, Elon Musk no es fanático, y puede requerir una lucha legal más grande para que esto suceda, que sin duda Musk también aprovechará como una oportunidad para presentarse como la cara de la libertad de expresión, mientras los reguladores gubernamentales buscan tomar medidas enérgicas.
El principal estribillo de Elon en este caso ha sido que otras aplicaciones facilitan las mismas opciones y que los reguladores no persiguen otras aplicaciones de nudificación y generación de IA con el mismo vigor.
Pero los Fiscales Generales también abordan esto:
“Si bien otras empresas también son responsables de permitir la creación de NCII, el tamaño y la participación de mercado de xAI la convierten en líder del mercado en inteligencia artificial. Único entre los principales laboratorios de IA, está conectando estas herramientas directamente a una plataforma de redes sociales con cientos de millones de usuarios. Por lo tanto, sus acciones son de suma importancia. Los pasos que tome para prevenir y eliminar NCII establecerán puntos de referencia de la industria para proteger a adultos y niños contra imágenes íntimas dañinas y no consentidas”.
Es interesante considerar este impulso a la luz de la postura muy pública y ruidosa de Elon contra el material CSAM, con Musk anunciando, poco después de hacerse cargo de Twitter, que combatir el CSAM era la “Proridad número uno” en su tiempo en la aplicación.
Musk había criticado a la antigua dirección de Twitter. por no abordar la explotación sexual infantil en la aplicación, y desde entonces ha reclamado varios avances importantes para abordar este tipo de cosas en X.
Sin embargo, en este caso, Musk quiere contraatacar, lo que parece ir en contra de estas afirmaciones.
Quiero decir, claramente, la perspectiva política más amplia en torno al contenido CSAM ha cambiado, dado que alguna vez fue el foco principal de los votantes de derecha, muchos de los cuales ahora preferirían pasar por alto los archivos Epstein.
Tal vez eso haya alterado la propia posición de Elon al respecto, aunque parece que, a primera vista, esto debería ser una preocupación importante para este grupo.
De cualquier manera, X ahora será objeto de un mayor escrutinio, en más regiones, y con impactos potencialmente derivados de xAI y de los proyectos de inteligencia artificial más amplios de Musk, esto podría tener un gran impacto en sus planes.
Veremos cómo responde Musk y si se buscarán más acciones en este frente.
