Este audio se genera automáticamente. Por favor, háganos saber si tiene algún comentario.
A pesar de las recientes preocupaciones sobre su dependencia de los sistemas de inteligencia artificial, se informa que Meta avanzando con planes para reemplazar al personal con herramientas de inteligencia artificialcon La empresa planea utilizar LLM para revisar la gran mayoría de su contenido y anuncios para finales de este año.
Como informó el Financial Times, Meta está acelerando sus planes para implementar modelos de IA en lugar de humanos para la revisión de contenidos. Meta dijo que el 50% de estas tareas ahora se gestionan mediante herramientas de inteligencia artificial y busca aumentar esa cifra al 90% para fines de 2026.
Lo que significa que, pronto, prácticamente todas las decisiones de contenido relacionadas con publicaciones y anuncios serán tomadas por IA en Facebook, Instagram y sus otras plataformas.
Esto se produce después de que se cerraran unas 20.000 cuentas de Instagram. pirateado por hackers en un exploit reciente, en el que los piratas informáticos engañaron al robot de soporte de IA de Meta, que luego les dio acceso a cuentas que no eran de su propiedad.
Aunque “hackers” probablemente no sea el mejor término para usar aquí, porque el exploit no requería ninguna habilidad de codificación ni conocimiento del sistema. Los ladrones de cuentas simplemente pidieron al sistema de soporte de inteligencia artificial de Meta que enviara códigos de verificación de cuentas a una dirección de correo electrónico diferente.
Así que es una vulnerabilidad torpe y, según Meta, se ha rectificado. Pero el incidente pone de relieve una preocupación importante con las herramientas de inteligencia artificial, en el sentido de que habrá vulnerabilidades como esta debido a la naturaleza misma de sus sistemas, que están diseñados para permitir a los usuarios plantear consultas en lenguaje natural.
El desafío aquí es que, debido a que las personas pueden solicitar acciones de un número casi infinito de formas, será muy difícil para los modelos de Meta, o incluso para cualquier sistema impulsado por IA, solidificar sus sistemas contra el uso indebido.
Lo mismo ha ocurrido con otros modelos de IA. Cuando se les pregunta de una manera específica, incluso si ciertos tipos de consultas están bloqueados, seguirán realizando tareas para el usuario. Y como hay tantas formas de plantear consultas, es imposible bloquearlas todas. Eso significa que cuanto más implemente Meta agentes de IA facultados para realizar tareas delicadas, mayor será el riesgo de que sean utilizados indebidamente y engañados para dar acceso a los usuarios.
Sin embargo, Meta también necesita potenciar sus herramientas de inteligencia artificial con más tareas como esta para demostrar su valor para otras organizaciones.
Meta está invirtiendo cientos de miles de millonestal vez incluso billones de dólares, en el desarrollo de la IA, con la esperanza de que la IA se convierta en la tecnología transformadora de su tiempo, capaz de emprender una amplia gama de tareas que, hasta ahora, solo han sido posibles mediante el trabajo humano.
El beneficio comercial para Meta, entonces, es que eventualmente podrá vender estos modelos de IA a otras organizaciones y ayudar a otras empresas a reducir los costos de personal y, en su lugar, confiar en la IA para hacer el trabajo. Pero si Meta no puede demostrar ese caso de uso dentro de su propio negocio, eso debilita esta premisa, lo que podría afectar el potencial de ganancias futuras de sus proyectos de IA.
Como tal, Meta está dispuesta a recortar personal y reemplazar a las personas con IA, como ejemplo práctico del valor de sus sistemas de IA.
Pero, ¿podría Meta estar moviéndose demasiado rápido como resultado y abriendo más vías para posibles exploits?
