Este audio se genera automáticamente. Por favor, háganos saber si tiene algún comentario.
Meta Se agregaron nuevas alertas para los padres. cuyos hijos discuten temas delicados con Meta AI. La actualización ayuda a garantizar que los padres estén al tanto de las posibles preocupaciones relacionadas con la participación de sus hijos en los chatbots de inteligencia artificial.
Primero, Meta alertará a los padres cuando sus hijos participen en discusiones sobre IA relacionadas con el suicidio y/o la autolesión.
Como se muestra en esta secuencia, cuando un adolescente participa en chats relacionados con autolesiones con Meta AI, los padres recibirán una alerta, que también incluye enlaces a recursos de apoyo relevantes.
Como lo explica Meta: “Cuando un adolescente sugiere que puede estar pensando en suicidarse o autolesionarse, Meta AI ya lo dirige a líneas de ayuda en caso de crisis y lo alienta a comunicarse con uno de sus padres u otro adulto de confianza, como un consejero. Ahora, también alertaremos proactivamente a los padres supervisores si el chat Meta AI de sus hijos adolescentes sugiere que pueden estar en riesgo, según señales desarrolladas con expertos.
Meta dijo que sus informes incluirán inicialmente una variedad de señales, ya que peca de cauteloso con estas alertas. La compañía está trabajando para perfeccionar sus mensajes para maximizar la seguridad sin causar angustia a los padres.
“Estas alertas están disponibles ahora para los padres que utilizan la supervisión parental de Instagram en los EE. UU., el Reino Unido, Australia y Canadá, y estarán disponibles para los padres supervisores en todo el mundo a finales de año”, dijo Meta.
Los usuarios adolescentes también serán notificados sobre esta actualización.
Esto podría resultar útil a medida que más personas recurran a los chatbots en busca de apoyo y asesoramiento. Los datos muestran que los usuarios más jóvenes, en particular, buscan cada vez más orientación en sistemas impulsados por IA.
Según un estudio conjunto de Universidad de Brown, Facultad de Medicina de Harvard y RAND publicado en noviembre, aproximadamente uno de cada ocho adolescentes y adultos jóvenes en los EE. UU. recurre a chatbots de IA en busca de consejos sobre salud mental. Ese resultado reflejó un estudio publicado por Common Sense Media a principios de este año, lo que demostró que El 72% de los adolescentes ha probado compañeros de IA y el 12% ha utilizado robots de IA para apoyo a la salud emocional y mental.
Además de las alertas para padres, Meta está desarrollando un nuevo sistema que se comunicará con los servicios de emergencia cuando cualquier conversación con Meta AI, independientemente del grupo de edad, sugiera que el usuario puede estar en riesgo inminente de suicidio.
“Esto se basa en el trabajo que ya hacemos en Facebook e Instagram: cuando nos damos cuenta de una publicación que sugiere un riesgo creíble de suicidio, alertamos a los servicios de emergencia”, dijo Meta. “El año pasado, hicimos más de 19.000 derivaciones de este tipo en todo el mundo, ayudando a los socorristas a realizar controles de bienestar de personas que podrían estar en riesgo de suicidio”.
Meta también reiteró que los adolescentes que participan en conversaciones con Meta AI automáticamente optan por su configuración de contenido para mayores de 13 años, que está diseñada para dar respuestas apropiadas para su edad y no cumplir con indicaciones sensibles.
“Por ejemplo, Meta AI está entrenada para no entablar conversaciones sexuales o románticas con adolescentes ni proporcionar recetas de bebidas alcohólicas, sino que dirige a los adolescentes a temas más seguros”, dijo Meta.
Esto se produce después de informes de que Meta permitió sus chatbots de IA para participar en conversaciones inapropiadas con menores.
Desde entonces, Meta ha revisado este enfoque. IEn abril, la empresa también agregó un nuevo elemento dentro de sus herramientas de supervisión para adolescentes que proporciona a los padres supervisión de lo que sus hijos le preguntan a su chatbot de IA.
En combinación, estas actualizaciones deberían ayudar a mejorar la seguridad de los adolescentes. Al mismo tiempo, no sabemos qué tipo de impacto tendrán las herramientas de participación de la IA en los adolescentes o adultos con el tiempo, especialmente cuando se trata de temas delicados.
Esta semana, los legisladores en China tomaron medidas para prohibir las relaciones románticas con chatbots de IA en medio de preocupaciones sobre impactos dañinos.
Si bien esto parece válido, la verdadera medida del daño sólo puede medirse en retrospectiva, después de que ya se haya causado el daño.
