Este audio se genera automáticamente. Por favor, háganos saber si tiene algún comentario.
El caso de prueba de Meta de potenciar los sistemas de inteligencia artificial para que hagan el trabajo del personal humano no va tan bien.
Durante el fin de semana, surgieron informes de que los piratas informáticos habían podido obtener acceso a las cuentas de muchos usuarios de Instagram simplemente pidiéndole al robot de asistencia de IA de Meta que reasigne la dirección de correo electrónico para cada cuenta. Eso es todo lo que necesitó el sistema de inteligencia artificial de Meta para entregar el control a múltiples cuentas, incluidas algunas con un gran número de seguidores. Mientras tanto, Meta tampoco tenía personal disponible para revisar el problema a medida que surgía.
Eso es porque Meta tiene Ha estado en una importante reducción de personal durante los últimos seis meses.mientras trabaja para racionalizar los costos debido a su enorme inversión en infraestructura de IA. La visión a largo plazo de Meta es que las herramientas de IA eventualmente podrán tomar el relevo del personal humanoy lleva a cabo la mayor parte de su trabajo de ingeniería interna. Pero parece que los experimentos iniciales de Meta aquí no brindan mucha seguridad.
Y aunque Meta dijo que el problema se había solucionado, muchos piratas informáticos todavía utilizan este exploit para robar el acceso a cuentas de IG, según Autoridad de Android.
Mientras tanto, TechCrunch informó el 3 de junio, Instagram ahora está informando a los usuarios afectados sobre la infracción y que, como resultado, esos usuarios deberán actualizar sus contraseñas.
Meta no ha dicho cuántas cuentas se vieron afectadas, pero el problema actual, en medio de reducciones de personal en curso, ha generado preocupaciones sobre la posible dependencia excesiva de Meta de las herramientas de inteligencia artificial para sus propias operaciones. También ha planteado preguntas sobre cuánta confianza ha depositado Meta en sus modelos de IA para realizar tareas humanas, dados los riesgos de seguridad.
Un desafío clave aquí es que al empoderar a los agentes de IA para que emprendan acciones y cambien los sistemas internos, en realidad no hay forma de saber qué podrían hacer y cómo se les podría persuadir para que tomen medidas.
Las herramientas de inteligencia artificial han sido entrenadas en la conversación humana, y varios ejemplos han demostrado que pueden ser engañadas fácilmente para que mientan, inventen fuentes o rompan sus propias reglas a través de indicaciones del usuario.
Y debido a que los ingenieros están lidiando con un alcance potencialmente infinito de comandos, realmente no hay manera de bloquear esto por completo. A estas herramientas se les puede pedir que ejecuten comandos de una amplia gama de formas, utilizando todo tipo de lenguajes diferentes, por lo que es imposible para Meta, o incluso para cualquier desarrollador de IA, garantizar que dichos sistemas no serán manipulados. Esto se debe a que los desarrolladores no pueden simplemente bloquear un solo tipo de comando o eliminar un botón de función para limitar el uso indebido.
Si los agentes de IA están facultados para actuar en nombre de un usuario, serán susceptibles a este tipo de explotación, y restringirla será un proceso interminable. Es esencialmente un enfoque del tipo golpear al topo, porque los ingenieros sólo pueden restringir una línea de preguntas una vez que se dan cuenta de ello. Ahora hay tantas maneras en que la gente puede hacer una pregunta que la tarea se vuelve inmanejable, en un sentido práctico.
Esto sucedió con los esfuerzos de X por limitar el uso de su chatbot para generar imágenes de desnudos. X intentó limitar este tipo de solicitudes, pero los usuarios aun así le pidieron que desnudara las imágenes. X aparentemente admitió la derrota y tomó medidas para restringir el acceso solo a los usuarios de pago, lo que ha limitado el alcance del riesgo.
Pero las empresas no pueden simplemente detener esta actividad por completo, porque no existe una línea de comando única que defina dicha acción. Los usuarios encontrarán más formas de engañar a los bots, utilizando parámetros alternativos que permitirán a los piratas informáticos alterar la programación del sistema basándose en una lógica de IA defectuosa.
Porque para eso están diseñadas las herramientas de IA: interpretar un contexto más amplio y tomar medidas basadas en consultas conversacionales.
Como tal, el problema potencial aquí es tan ilimitado como el lenguaje humano a la hora de comunicar una tarea, y ese es un desafío mucho mayor que resolver para los ingenieros.
Pero, ¿qué significa eso entonces para la aplicación ampliada de los sistemas de IA de Meta y la capacidad de Meta de ganar dinero con sus herramientas de IA? La respuesta está por verse.
