Sí, no sé el momento de esta, considerando las diversas investigaciones en curso sobre la capacidad de Grok para generar imágenes desnudas y/o sexualizadas de personas.
Pero hoy, X ha anunciado oficialmente el lanzamiento de Grok Imagine 1.0, que, según afirma, es su “mayor salto hasta ahora” en la generación de vídeos con IA.
Como lo explica X:
“Groc 1.0 desbloquea videos de 10 segundos, resolución de 720p y un audio dramáticamente mejor. Imagine ha generado 1.245 millones de vídeos sólo en los últimos 30 días.“
¿1.245 millones, dices? ¿Y cuántos de ellos serían considerados adultos por naturaleza? ¿Y cuántas de esas serían representaciones de personas que hubieran preferido no ser las estrellas de estos clips generados?
Porque si bien X está entusiasmado con la evolución de sus herramientas de generación de imágenes y videos, el hecho es que muchos usuarios de X están incitando a Grok a generar contenido sexualizado, de cualquier persona que elijan.
Grok incluso fue prohibido en varios países debido a esto, y el propietario de X, Elon Musk, inicialmente rechazó las llamadas para restringir el uso de la aplicación y detener la generación de contenido sexual no consensuado.
Pero X finalmente aceptó limitar la generación de imágenes y videos de Grok para evitar mayores restricciones. Y, sin embargo, los investigadores han descubierto que Grok seguirá produciendo imágenes ofensivas cuando se le solicite de cierta manera, lo que demuestra que las salvaguardas de X en este frente no son particularmente efectivas.
Aunque eso también puede ser intencionado.
El propietario de X, Elon Musk, desea facilitar un enfoque más abierto a las redes sociales y a lo que la gente puede decir o generar en su aplicación. Los compañeros de IA de X, por ejemplo, fueron creados específicamente para participar en charlas NSFW a pedido, mientras que los informes indican que Musk pudo haber presionado para permitir, e incluso alentar, interacciones más “picantes” con Grok para impulsar el compromiso.
También hay informes de que el equipo de seguridad significativamente reducido de X advirtió repetidamente sobre los riesgos relacionados con la generación de contenido en Grok, pero que X decidió seguir adelante de todos modos.
Entonces, si bien las herramientas de generación de xAI están evolucionando y brindan más capacidad para producir videoclips e imágenes de apariencia más realista, todavía existen grandes preocupaciones en torno al enfoque de X en materia de seguridad y protección, particularmente en relación con el material CSAM.
Pero aparte de esos problemas, es posible que puedas producir algunos videos impresionantes con Grok. Si eres un usuario X que paga. Y si realmente quieres generar contenido de vídeo.
Aunque es importante utilizar aquí el término “generar” frente a “crear”, porque son representaciones regurgitadas de cosas que ya existen en Internet, por lo que en realidad no estás “creando” nada con estas herramientas.
Ese también terminará siendo el defecto de modelos de IA como este, ya que los creadores quieren vender la idea de que podrás generar videos a pedido al nivel de las películas de Hollywood. Pero no lo harás.
Escribir, crear una película requiere años de práctica, habilidades refinadas y un nivel de talento innato que pocas personas poseen. Es por eso que tan pocas personas logran publicar un libro o hacer una película; el desafío es menos sobre el resultado y más sobre el aporte a este respecto.
Entonces, si bien es posible que puedas generar algunos videoclips interesantes y las herramientas en evolución de Grok han producido algunas representaciones atractivas, la probabilidad de que uses esto para generar un éxito viral es muy limitada.
Pero aún así, dependiendo de lo que quieras hacer y de tu tolerancia al enfoque de X, podría valer la pena echarle un vistazo.
X también señala que Imagine 1.0 puede manejar indicaciones de seguimiento para refinar su producción, y ahora también es mucho mejor animando imágenes fijas.
Y desnudos, aparentemente, pero eso lo dejaremos de lado.
