Este audio se genera automáticamente. Por favor, háganos saber si tiene algún comentario.
Meta permitió que se mostraran anuncios de material de abuso sexual infantil a los usuarios en la Indiay las autoridades locales han pedido al gigante de las redes sociales que explique cómo sus sistemas de verificación de anuncios no lograron detectar estas promociones ilegales antes de que se publicaran.
Según lo informado por la BBC, Meta aparentemente permitió que aparecieran en sus aplicaciones varias variaciones de promociones de material de abuso infantil en las últimas semanas.
Según la BBC: “Los anuncios, vistos por el Servicio Mundial de la BBC, utilizan términos que incluyen ‘video de violación’ y ‘video infantil’ y vinculan a los usuarios con canales en la aplicación de mensajería Telegram, donde pueden comprar el material por tan solo 99 rupias (alrededor de 1 dólar)”.
La BBC dijo que informó sobre las promociones ofensivas a Meta, e inicialmente le dijeron que los anuncios no violaban sus pautas. Meta eliminó las promociones poco después.
El informe de la BBC llega mientras Meta continúa avanzando con sus planes para reemplazar a la mayor parte de su personal de moderación humana con agentes de inteligencia artificial. Estos sistemas automatizados están facultados para evaluar y tomar medidas contra contenidos potencialmente infractores en sus plataformas.
Meta no dijo si las promociones ofensivas aparecieron como resultado de su proceso de IA, pero sí le dijo a la BBC que “Ningún sistema es perfecto y es posible que nuestro proceso de revisión no detecte todas las violaciones de las políticas”.
El incidente representa otro golpe para el impulso ampliado de la IA de Meta, que la compañía espera que eventualmente proporcione una vía de monetización adicional significativa a través de la automatización de la IA como servicio para clientes externos.
Meta ya lo ha hecho recortará alrededor del 20% de su fuerza laboral este añoy una parte importante de esos roles corresponde a agentes de IA. Al parecer, la empresa está utilizando sus propias operaciones como ejemplo de cómo sus herramientas de inteligencia artificial pueden reducir los costos laborales.
Sin embargo, los problemas iniciales con sus sistemas de IA podrían acabar convirtiéndose en importantes impedimentos para su desarrollo.
Mes pasado, Más de 20.000 cuentas de Instagram fueron vulneradas después de que un grupo de usuarios descubriera que podían convencer al agente de soporte de cuentas de Meta para que les otorgara acceso sin tener que proporcionar ninguna evidencia de que eran los titulares reales de la cuenta.
Meta dijo que desde entonces solucionó el problema, pero la escala y el alcance de cómo las personas plantean consultas a los chatbots de IA parece prestarse a una gama casi infinita de este tipo de exploits.
Meta también enfrenta desafíos en el desarrollo de la IA. Reuters informó la semana pasada que el director ejecutivo de Meta, Mark Zuckerberg, dijo a los empleados que el desarrollo de sus agentes de inteligencia artificial no está progresando tan rápido como habían anticipado, y agregó que los recientes recortes de personal aún no han generado los beneficios planeados. La información reportada que Meta también ha implementado restricciones en el uso de tokens de IA, ya que sus costos se disparan debido a su dependencia obligatoria de las herramientas de IA.
Es probable que estos costos sean la razón por la que Meta está explorando nuevas formas de ganar dinero con su enorme inversión en IA. Eso incluye el desarrollo de una oferta de infraestructura en la nube que podría maximizar el uso de su red de centros de datos en expansión.
Esa mayor capacidad de datos se había destinado inicialmente al uso de IA de Meta, pero ahora parece que la compañía está reevaluando su impulso general de IA, e incluso el valor real de sus posibles ofertas de IA. Los problemas con su uso interno de IA podrían agravar aún más las preocupaciones.
Mientras tanto, Meta se enfrenta a otras preocupaciones de relaciones públicas en el frente de la IA.
La semana pasada, Reportado por cable que Meta estaba utilizando un ejército de contratistas que se hacían pasar por menores en línea para probar cómo funcionaban los chatbots de la competencia. respondieron a indicaciones relacionadas con el suicidio, el sexo, los trastornos alimentarios y otros temas de alto riesgo.
Meta dijo que se trataba de una investigación estándar para comprender mejor las salvaguardias y las medidas de mitigación. Pero, desde el punto de vista perceptivo, es otro golpe contra el impulso de la IA, que ya se enfrenta a una importante reacción pública.
Si los sistemas de inteligencia artificial de Meta no logran proteger a los niños, eso podría ser el colmo en términos de su enfoque. Eso también podría tener grandes implicaciones para el futuro de su negocio, especialmente si Meta no logra construir modelos de IA más avanzados a través de su muy elogiado grupo Superintelligence.
