Este audio se genera automáticamente. Por favor, háganos saber si tiene algún comentario.
La capacidad de hacer un mal uso del chatbot de inteligencia artificial Grok de X está una vez más bajo escrutinio, con nuevos conocimientos que muestran que el FBI ha estado investigando el uso de Grok en un caso de acoso en curso.
Según un informe del 25 de febrero de 404 Medios En colaboración con Court Watch, documentos judiciales muestran que en enero, el FBI obtuvo una orden de registro que requería que X proporcionara más información sobre cómo un hombre acusado de acecho y acoso utilizó Grok para generar más de 200 imágenes y videos falsos de desnudos de una mujer.
Según el informe: “Los detalles de la investigación están contenidos en una declaración jurada del FBI sobre las supuestas acciones de Simon Tuck, quien está acusado de acosar y amenazar extensamente al marido de la mujer (…) La declaración jurada señala que, en enero, el FBI obtuvo una orden de registro para las conversaciones del hombre con Grok. El FBI dice que recibió “instrucciones proporcionadas a GrokAI que generaron aproximadamente 200 videos pornográficos de una mujer que se parecía mucho a la VÍCTIMA”. la apariencia física de su esposa’”.
El informe también dice que el acusado utilizó Grok para generar quejas profesionales sobre el marido de la mujer, que luego presentó al empleador del marido.
Es el último ejemplo de posible uso indebido de la herramienta chatbot de xAI, y la empresa también bajo investigación en varias regiones sobre el uso de Grok en imágenes de desnudos generales no consensuadas.
A principios de este año, el Tendencia de nudificación grok Muchos usuarios solicitaron al robot de inteligencia artificial que generara imágenes de desnudos a partir de varias fotografías de origen en la aplicación, y Bloomberg informó que, en un momento, Grok estaba generando alrededor de 6.700 imágenes cada hora eso podría categorizarse como “sexualmente sugerente de nudificación”.
Y a pesar de inicialmente empujando hacia atrás contra llamadas para realizar cambios en la herramienta para limitar dicho comportamiento, X eventualmente movido para restringir la capacidad de Grok generar imágenes de desnudos sexualmente sugerentes y no consentidas.
Pero es posible que eso haya llegado demasiado tarde, ya que las preocupaciones sobre la nudificación provocaron una serie de investigaciones sobre X y las salvaguardias que tiene implementadas (o no) para minimizar el uso indebido de sus herramientas. Según Reuters, algunos usuarios también han descubierto que Grok seguirá generando imágenes sexualmente sugerentes cuando se le solicitelo que puede tener implicaciones importantes más allá de las imágenes falsas de celebridades.
Lo que podría dar lugar a nuevas vías de litigio, al mismo tiempo que expone a los usuarios de X a un riesgo significativo.
El propietario de X, Elon Musk, ha criticado durante mucho tiempo la regulación e incluso afirmó que el impulso tiene más que ver con la censura que con la protección.
