Más escrutinio para Grok de xAI tras comentarios racistas

Es posible que haya un mayor escrutinio regulatorio para el chatbot Grok de xAI a medida que los funcionarios del Reino Unido investiguen los comentarios racistas hechos por el robot de inteligencia artificial cuando los usuarios le solicitaron que “asara” a ciertas personas o grupos.

Grok “modo desquiciado” permite a los usuarios solicitar al robot que entregue comentarios vulgares sobre cualquier persona o entidad, lo que luego verá al robot de IA desatar una diatriba de comentarios abusivos. Esos comentarios pueden desviarse hacia territorio ofensivo, lo cual, según Sky News, El gobierno del Reino Unido lo ha considerado “repugnante e irresponsable” y, en algunos casos, “contra los valores británicos”.

Según un informe de El Atléticodurante el fin de semana, Grok compartió varios comentarios ofensivos después de que los fanáticos del fútbol lo incitaran a asar a los clubes rivales. Estos comentarios incluían referencias a tragedias como el desastre del estadio de Hillsborough en 1989 y la muerte deF El delantero del Liverpool Diogo Jota.

Noventa y siete aficionados al fútbol murieron aplastados por multitudes en Hillsborough, lo que lo marcó como uno de los días más oscuros en la historia del deporte. Jota fue asesinado junto a su hermano en un accidente automovilístico en julio.

Lo cual, evidentemente, Grok vio como un terreno fértil para comentarios abusivos. Según los informes, Grok culpó a los fanáticos del Liverpool por el incidente de Hillsborough y también hizo comentarios ofensivos sobre Jota. Además, Grok también hizo comentarios hirientes en relación con otro desastre, el Accidente aéreo de Munich en 1958, en el que murieron ocho jugadores del Manchester United junto a otras 15 personas.

Desde entonces, las publicaciones han sido eliminadas, pero como se señaló, el Reino Unido El Departamento de Ciencia, Innovación y Tecnología criticó el comentario de Grok.

Es probable que esto genere un mayor escrutinio sobre el proyecto de inteligencia artificial del propietario de X, Elon Musk, que ya está en marcha. bajo investigación en el Reino Unido, así como en varias otras regiones, por la reciente controversia sobre la nudificación en la que se utilizó a Grok para desnudar virtualmente imágenes de personas.

Mes pasado, tLa Oficina del Comisionado de Información del Reino Unido anunció una investigación formal sobre X y xAI en relación con el procesamiento de datos personales para el chatbot Grok AI de X, así como el uso de Grok para producir imágenes y contenidos de vídeo sexualizados y dañinos.

Esta nueva controversia se agregará a esa mezcla, lo que eventualmente podría obligar a xAI a alterar el código de Grok para limitar el uso indebido, o correr el riesgo de ser prohibido en el Reino Unido.

A xAI le resultará difícil eliminar cualquier elemento que pueda dar lugar a comentarios potencialmente ofensivos. Grok está diseñado para brindar respuestas a cualquier pregunta, y xAI ha tratado de limitar sus barreras de seguridad para garantizar que el robot de IA permanezca alineado con la verdad y no esté restringido por su propia moderación.

Grok está entrenado en publicaciones X, casi en tiempo real, lo que significa que cualquier cosa que se publique en X también se puede utilizar como punto de referencia para el bot. Y siendo X inundado de desinformación y comentarios ofensivos, no sorprende que Grok también sea muy bueno produciendo comentarios dañinos. Esa es una característica, no un error, y es algo que el propio Musk tiene. Promovido regularmente como un caso de uso clave.según Cableado.

Sin embargo, los comentarios a los que se hace referencia son ofensivos, pero en realidad no son información errónea. Claramente, estos comentarios vulgares se basan en eventos reales, y eso podría hacer que sea aún más difícil para xAI limitar dicha actividad, especialmente si los usuarios quieren usar Grok para atacar a otros grupos y personas.

Pero de cualquier manera, es otro elemento que se incorporará a la investigación más amplia sobre Grok en el Reino Unido.