La aplicación Grok de X ha sido restablecida en Indonesia, después de que recientemente fuera prohibida por generar imágenes sexualizadas de personas sin su conocimiento o consentimiento.
A principios de enero, en respuesta a la tendencia de nudificación de Grok en X, Ministerio de Comunicaciones de Indonesia amenazó con prohibir tanto X como la aplicación Grok separada si no se abordaran las preocupaciones relacionadas con las “imágenes degradantes de mujeres y niños”.
Unos días más tarde, el ministerio cumplió con esa amenaza, prohibiendo por completo la aplicación Grok y restringiendo el acceso a X. Pero ahora, después de que X aseguró que el problema se había abordado y que a los usuarios ya no se les permitirá generar imágenes sexualizadas no consensuadas a través del robot de inteligencia artificial, Indonesia ha anunciado que levantará su medida de prohibición, lo que permitirá a X continuar operando sus plataformas en la nación.
Según informó The New York Times:
“El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia dijo en una declaración el domingo que el ministerio había recibido una carta de X Corp ‘donde se describían medidas concretas para mejorar el servicio y prevenir el mal uso’. La prohibición se levantará “condicionalmente” y Grok podría ser bloqueado nuevamente si “se descubren más violaciones”, dijo en el comunicado Alexander Sabar, director general de monitoreo espacial digital del ministerio.
Lo que significa que X ahora está de vuelta en acción en todas las naciones del sudeste asiático donde está disponible, y tanto Malasia como Filipinas también levantaron recientemente sus prohibiciones sobre la aplicación en respuesta a la controversia sobre la nudificación.
Entonces, todo bien, el uso de Grok se ha restringido para garantizar que no se produzcan más imágenes de desnudos no consensuados y que todo vuelva a la normalidad. ¿Bien?
Bueno, sí y no.
Sí, en el sentido de que X ha implementado restricciones para evitar que las personas generen imágenes ofensivas a través de Grok, al menos hasta cierto punto. Pero queda la pregunta de por qué X intentó rechazar la restricción de esto en primer lugar, y Musk inicialmente se negó a realizar cambios en la herramienta y la enmarcó como una especie de caza de brujas política.
Musk inicialmente afirmó que varias otras herramientas de inteligencia artificial permitían la generación de desnudos falsos, pero nadie los perseguía, sugiriendo que la verdadera motivación era cerrar X debido a su enfoque alineado con la “libertad de expresión”.
Lo cual no es exacto, e incluso si lo fuera, ¿por qué posible razón podría X querer darle a la gente la capacidad de generar desnudos no consensuados de personas, incluso niños, a través de su robot de inteligencia artificial?
Esto contradice la muy publicitada oposición de Musk al contenido CSAM, un elemento que convirtió en un foco clave de su reforma en Twitter cuando se hizo cargo de la aplicación. Musk afirmó repetidamente que la administración anterior de Twitter no había hecho lo suficiente para combatir el contenido CSAM, y que haría de esto su “prioridad número uno” en su tiempo como jefe.
Y el nuevo equipo directivo de Musk proporcionó algunas notas de datos que sugerían que habían mejorado los esfuerzos de la plataforma en este frente. Pero informes más recientes indican que el contenido CSAM ahora prevalece más en la aplicación que nunca en X, mientras que la compañía también rescindió su contrato con Thorn. una organización sin fines de lucro que proporciona tecnología que puede detectar y abordar contenido de abuso sexual infantil (Thorn dice que X dejó de pagar sus facturas).
Y luego, están los deepfakes de Grok, que permitieron a los usuarios generar miles de imágenes sexualizadas en la aplicación todos los días, incluidas, nuevamente, imágenes de niños.
Y Elon, al menos durante un tiempo, defendió esta funcionalidad y trató de desviar las críticas sobre ella como una opción.
¿Por qué? No lo sé, no tiene sentido, no hay ninguna razón por la que alguien pueda necesitar esto como función. Sin embargo, impulsado por su pasión por hacer de su IA la opción de IA generativa más utilizada en el mercado, Musk se negó, inicialmente, a hacer un cambio, aunque podía hacerlo.
También vale la pena señalar que Musk recientemente se jactó de que Grok ahora está generando más imágenes y videos que todas las demás herramientas de inteligencia artificial juntas. Lo cual, por un lado, no hay manera de que pueda reclamarlo de manera viable, ya que no tiene acceso a datos sobre las salidas de otros motores. Pero también me pregunto por qué es así. ¿Podría ser por los miles de desnudos falsos que han estado creando los usuarios de X?
Me resulta confuso que alguien pueda ver que esto está alineado con las declaraciones anteriores de Elon sobre un enfoque de no tolerancia al contenido CSAM, o que Elon realmente valore esto como un enfoque clave.
Al parecer, el progreso sigue siendo su estrella guía, a expensas de todo lo demás si es necesario, mientras que su constante reformulación de todo como un punto de inflamación política hace que sea cada vez más difícil ponerse de su lado en nombre de un desarrollo mesurado.
