Este audio se genera autom谩ticamente. Por favor, h谩ganos saber si tiene alg煤n comentario.
En medio de las crecientes preocupaciones en torno a la seguridad de los modelos de inteligencia artificial, Meta ha tomado medidas para mejorar la integridad de sus sistemas contratando m谩s talento con habilidades especializadas en esta 谩rea.
Seg煤n lo informado por axiosMeta contrat贸 a tres fundadores de la startup de seguridad de IA Virtue AI para mejorar las pruebas internas y garantizar la seguridad dentro de sus modelos de IA.
Virtue AI se ha ganado la reputaci贸n de realizar pruebas de estr茅s en los sistemas de IA para detectar vulnerabilidades potenciales antes de que los malos actores las descubran primero. La incorporaci贸n de estos nuevos empleados al equipo de Meta deber铆a ayudar a que los sistemas de Meta sean m谩s resistentes a las amenazas externas, al mismo tiempo que ofrece garant铆as a los proveedores que buscan implementar estos sistemas.
La medida se produce despu茅s de que el gobierno de EE.UU. recientemente emiti贸 una directiva de control de exportaciones eso impide que el proveedor de inteligencia artificial Anthropic env铆e sus 煤ltimos modelos Fable 5 y Mythos 5 a cualquier grupo extranjero.
Seg煤n Anthropic, el gobierno expres贸 su preocupaci贸n por el posible uso indebido de los modelos avanzados de Anthropic para ataques cibern茅ticos. Estos 煤ltimos modelos son capaces de eludir protocolos de seguridad y explotar defensas digitales en sistemas externos.
Anthropic ha implementado salvaguardias para reducir el uso de estas herramientas para tareas relacionadas con la ciberseguridad. Pero la preocupaci贸n es que a medida que los modelos de IA se vuelvan m谩s fuertes y m谩s capaces, ser谩n vulnerables a los piratas inform谩ticos y a los grupos externos que quieran irrumpir en sistemas sensibles.
Es por eso que Meta busca adelantarse a esto y desarrollar una mejor comprensi贸n de las amenazas potenciales que plantean sus propios modelos de IA.
El enfoque en medidas de seguridad m谩s avanzadas tambi茅n ayudar谩 a Meta a garantizar que sus pr贸ximos productos de IA cumplan con los requisitos de los reguladores en varias regiones, que ahora est谩n buscando formas de garantizar que la IA se use de manera segura y no represente un riesgo p煤blico.
Es dif铆cil decir definitivamente qu茅 tan peligrosos podr铆an ser los modelos de IA, porque la complejidad de estos sistemas a煤n est谩 en constante cambio. Sin embargo, la incorporaci贸n de la experiencia del equipo de Virtue AI podr铆a terminar siendo un paso clave para asegurar las perspectivas futuras de IA de Meta.
Y con Meta invertir cientos de miles de millones en el desarrollo de la IAla empresa tambi茅n necesita establecer v铆as de monetizaci贸n, en muchos frentes, para compensar ese gasto. Una mayor garant铆a tambi茅n ser谩 un importante impulsor de este elemento.
