Después de negarse inicialmente a tomar cualquier medida para limitar la generación de imágenes a través de Grok, a pesar de los informes de que el robot de IA está generando miles de imágenes de personas desnudas o casi desnudas no consensuadas todos los días, incluso niños en algunos casos, X ahora ha cedido a la presión e implementado cambios para limitar el uso de Grok para la generación de imágenes.
Lo que parecía la respuesta obvia desde el principio, porque ¿quién necesita esto como funcionalidad?
Pero el propietario de X, Elon Musk, había planteado esto más como una disputa ideológica y un intento de censurar a X, al tiempo que argumentaba que los sistemas de X habían sido entrenados para no violar las leyes locales.
Pero ahora, ante las inminentes prohibiciones en varias regiones, X ha anunciado medidas más concretas.
Como lo explica X:
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con prendas reveladoras como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
Supongo que lo más ridículo aquí es que X podría haber hecho esto todo el tiempo, pero Elon pasó los últimos días esforzándose por defender una funcionalidad que, nuevamente, nadie necesita.
“Además, la creación de imágenes y la capacidad de editar imágenes a través de la cuenta Grok en la plataforma X ahora solo están disponibles para suscriptores pagos. Esto agrega una capa adicional de protección al ayudar a garantizar que las personas que intenten abusar de la cuenta Grok para violar la ley o nuestras políticas puedan ser consideradas responsables”.
Ese cambio se implementó durante el fin de semana, aunque algunos usuarios que no pagan afirmaron que aún podían generar imágenes. Al parecer, X ahora ha abordado esto.
Además de estas actualizaciones, X también está bloqueando geográficamente la capacidad de generar imágenes de personas reales en bikini, ropa interior y vestimenta similar a través de la cuenta de Grok y en Grok en X “en aquellas jurisdicciones donde es ilegal”.
Por lo tanto, no bloquea la opción por completo, pero X está realizando cambios en el código para evitar que las personas usen Grok para generar representaciones potencialmente dañinas.
Lo que, nuevamente, demuestra que se puede hacer y hacerlo rápidamente, por lo que por qué X decidió luchar contra esos informes iniciales parece aún más extraño.
X ha observado además que Todas las indicaciones de IA y el contenido generado “deben cumplir estrictamente con nuestras Reglas X”.
“Independientemente de si se crea el contenido o si los usuarios son suscriptores gratuitos o pagos, nuestro equipo de seguridad trabaja las 24 horas del día para agregar salvaguardas adicionales, tomar medidas rápidas y decisivas para eliminar contenido ilegal y violatorio, suspender permanentemente las cuentas cuando corresponda y colaborar con los gobiernos locales y las fuerzas del orden según sea necesario”.
Lo cual es un tono muy diferente a la declaración de Elon sobre el mismo tema hoy, en la que explicó que:
“No conozco ninguna imagen de menores desnudos generada por Grok. Literalmente cero. Evidentemente, Grok no genera imágenes de forma espontánea, lo hace únicamente según las solicitudes de los usuarios. Cuando se le pide que genere imágenes, se negará a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado determinado. Puede haber ocasiones en las que el pirateo adversario de los mensajes de Grok produzca algo inesperado. Si eso sucede, solucionamos el error inmediatamente”.
Inicialmente, Musk también había tratado de responsabilizar a los usuarios, diciendo que cualquiera que generara imágenes ilegales a través de Grok sería procesado.
Eso es más o menos lo que está señalando aquí nuevamente, sin embargo, claramente, el equipo X en general ha expresado su preocupación y ha tomado medidas para abordar la controversia antes de cualquier acción adicional.
Y es posible que todavía se tomen medidas.
Durante la semana pasada, varias regiones han amenazado o promulgado restricciones a X sobre el tema, entre ellas:
Otras naciones también están considerando tomar nuevas medidas, lo que podría hacer que X pierda millones de usuarios, si es que esto conduce a prohibiciones regionales de la aplicación.
Tal vez, con estas actualizaciones, X pueda evitar mayores sanciones, y tanto el gobierno del Reino Unido como la Comisión de la UE ya respondieron, diciendo que X se había comunicado con ellos directamente para abordar sus inquietudes.
Entonces, ¿fue Elon genuino en su oposición inicial a las críticas a su chatbot de IA y sus representaciones ofensivas, o fue esta otra oportunidad para alimentar las líneas de batalla ideológicas, alegando censura?
Sospecho que el propio Elon se oponía a limitar Grok, pero la inminente amenaza de restricciones en la aplicación se volvió demasiado y necesitaba hacer algo en respuesta.
Al parecer, Musk también esperaba contar con la ayuda de la Casa Blanca para rechazar las críticas, que, nuevamente, vale la pena reiterar, solo se relacionan con la capacidad de generar imágenes generales no consensuadas de personas en Grok, que es algo que X debería restringir, y debería tratar de limitar.
Pero si bien el equipo de Trump apoya en general la perspectiva de Elon, parece que Musk no recibirá ninguna sanción comercial importante para defenderse de posibles prohibiciones.
Así que ahora Musk está dando un paso atrás y busca abordar estas preocupaciones, en lugar de defenderlas.
No sé por qué Musk eligió defender esta colina en particular, aunque algunos han sugerido que es otro movimiento de “ajedrez 4D”, y Musk utilizó la controversia para generar más publicidad para Grok.
No estoy seguro de que eso sea así, dado que el mensaje es esencialmente que Grok puede generar buenos desnudos no consensuados, pero tal vez, en el sentido de “toda publicidad es buena publicidad”, ¿ese es el juego?
No lo sé, pero nuevamente, es otra tormenta mediática que Elon ha desatado para reforzar su agenda personal, sólo para dar marcha atrás cuando la tensión alcanza su punto máximo.
