Meta está programado para el escrutinio regulatorio una vez más, después de informar que no ha podido abordar repetidamente las preocupaciones de seguridad con sus proyectos de IA y VR.
En primer lugar, en IA, y sus herramientas de compromiso de IA en evolución. En las últimas semanas, Meta ha sido acusado de permitir que sus chatbots AI participen en conversaciones inapropiadas con menores y proporcionar información médica engañosa, ya que busca maximizar la recaudación de sus herramientas de chatbot.
Una investigación realizada por Reuters descubrió una meta documentación interna que esencialmente permitiría que ocurran tales interacciones, sin intervención. Meta ha confirmado que dicha guía existió dentro de su documentación, pero desde entonces ha actualizado las reglas para abordar estos elementos.
Aunque eso no es suficiente para al menos un senador estadounidense, que pide a Meta para prohibir el uso de sus chatbots de IA por parte de menores.
Según lo informado por NBC News:
“El senador Edward Markey dijo que (meta) podría haber evitado la reacción si solo hubiera escuchado su advertencia hace dos años. En septiembre de 2023, Markey escribió en Una carta a Zuckerberg Que permitir que los adolescentes usen chatbots de IA ‘sobrealimentarían los problemas existentes con las redes sociales y plantearían demasiados riesgos. Instó a la compañía a detener el lanzamiento de AI Chatbots hasta que comprendiera el impacto en los menores ”.
Lo cual, por supuesto, es una preocupación que muchos han planteado.
La mayor preocupación con el desarrollo acelerado de la IA y otras tecnologías interactivas es que no entendemos completamente cuáles podrían ser los impactos de usarlas. Y como hemos visto con las redes sociales, que muchas jurisdicciones ahora están tratando de restringir a los adolescentes mayores, el impacto de tales en el público más joven puede ser significativo, y sería mejor mitigar ese daño con anticipación, en lugar de tratar de abordarlo retrospectiva.
Pero el progreso generalmente gana en tales consideraciones, y con las empresas tecnológicas estadounidenses que señalan el hecho de que China y Rusia también están desarrollando IA, parece poco probable que las autoridades estadounidenses implementen restricciones significativas en el desarrollo o uso de la IA en este momento.
Lo que también lleva a otra preocupación a ser nivelada en Meta.
Según un nuevo informe del Washington Post, Meta ha ignorado repetidamente y/o ha tratado de suprimir informes de que los niños son proposicionados sexualmente dentro de sus entornos de realidad virtual, ya que continúa expandiendo su experiencia social de realidad virtual.
El informe sugiere que meta participó en un esfuerzo concertado para enterrar tales incidentes, aunque Meta ha respondido señalando que ha aprobado 180 estudios diferentes en Seguridad juvenil y bienestar En sus experiencias de siguiente nivel.
No es la primera vez que se han planteado preocupaciones sobre los impactos en la salud mental de la realidad virtual, con el entorno digital más inmersivo que probablemente tenga un impacto aún más significativo en la percepción del usuario que las aplicaciones sociales.
Varios Los usuarios de Horizon VR han reportado incidentes de agresión sexual, incluso violación virtualdentro del entorno de realidad virtual. En respuesta, Meta ha agregado nuevos elementos de seguridad, como los límites personales para restringir el contacto no deseado, aunque incluso con herramientas de seguridad adicionales, es imposible que Meta contrarreste o explique los impactos completos de este en esta etapa.
Y al mismo tiempo, Meta’s también redujo los límites de acceso a la edad de Horizon Worlds hasta 13 años, luego 10 el año pasado.
Eso parece una preocupación, ¿verdad? Que entre Meta se ve obligado a implementar nuevas soluciones de seguridad para proteger a los usuarios, también está reduciendo las barreras de edad para acceder a la misma.
Por supuesto, Meta puede estar realizando más estudios de seguridad, como señala, y esos podrían regresar con más información que ayudarán a abordar las preocupaciones de seguridad como esta, antes de una recaudación más amplia de sus herramientas de realidad virtual. Pero existe la sensación de que Meta está dispuesto a avanzar con sus proyectos con progreso como su luz guía, en lugar de seguridad. Lo cual, nuevamente, es lo que vimos inicialmente con las redes sociales.
Meta ha sido transportado repetidamente ante el Congreso para responder preguntas sobre la seguridad de Instagram y Facebook para los usuarios adolescentes, y lo que sabe o sabía sobre daños potenciales entre el público más joven. Meta ha negado durante mucho tiempo cualquier vínculo directo entre el uso de las redes sociales y la salud mental para adolescentes, aunque varios informes de terceros han encontrado conexiones claras en este frente, que es lo que ha llevado a los últimos esfuerzos para evitar que los jóvenes adolescentes accedan a aplicaciones sociales.
Pero a través de todo, Meta se mantuvo firme en su enfoque y al proporcionar acceso a tantos usuarios como sea posible.
Que es lo que puede ser más preocupante aquí, que Meta está dispuesto a ignorar la evidencia externa si podría impedir el crecimiento de su propio negocio.
Por lo tanto, usted toma meta en su palabra y confía en que está llevando a cabo experimentos de seguridad para garantizar que sus proyectos no tengan un impacto negativo en los adolescentes, o que presione para que Meta enfrente un interrogatorio más difícil, según estudios externos y evidencia de lo contrario.
Meta sostiene que está haciendo el trabajo, pero con tanto en juego, vale la pena continuar planteando estas preguntas.
