Los chatbots de IA están establecidos por el escrutinio regulatorio y podrían enfrentar nuevas restricciones, como resultado de una nueva sonda.
Tras los informes sobre las interacciones relacionadas con los usuarios jóvenes y los chatbots con IA en aplicaciones sociales, la Comisión Federal de Comercio (FTC) ha ordenado Meta, OpenAI, Snapchat, X, Google y la IA de caracteres para proporcionar más información sobre cómo funcionan sus chatbots de IA, para establecer si las medidas de seguridad adecuadas se han establecido para proteger a los usuarios jóvenes del daños potenciales.
Según la FTC:
“La investigación de la FTC busca comprender qué pasos, si alguno, las empresas han tomado para evaluar la seguridad de sus chatbots al actuar como compañeros, limitar el uso de los productos y posibles efectos negativos en niños y adolescentes, y para informar a los usuarios y padres de los riesgos asociados con los productos.“
Como se señaló, esas preocupaciones provienen de informes de interacciones potencialmente preocupantes entre chatbots de IA y adolescentes, en varias plataformas.
Por ejemplo, Meta ha sido acusado de permitir que sus chatbots de IA participen en conversaciones inapropiadas con menores, con Meta incluso alentando tal, ya que busca maximizar sus herramientas de IA.
El chatbot “My AI” de Snapchat también ha sido objeto de escrutinio sobre cómo se involucra con los jóvenes en la aplicación, mientras que los compañeros de IA recientemente introducidos de X han planteado una serie de nuevas preocupaciones sobre cómo las personas desarrollarán relaciones con estas entidades digitales.
En cada uno de estos ejemplos, las plataformas han presionado para poner estas herramientas en manos de los consumidores, como un medio para mantenerse al día con la última tendencia de IA, y la preocupación es que las preocupaciones de seguridad pueden haberse pasado por alto en nombre del progreso.
Porque no sabemos cuáles serán los impactos completos de tales relaciones y cómo afectará a cualquier usuario a largo plazo. Y eso se le lleva al menos a un senador estadounidense a pedir que todos los adolescentes sean prohibidos por usar AI Chatbots por completo, que es al menos parte de lo que inspiró esta nueva investigación de la FTC.
La FTC dice que analizará específicamente qué acciones está tomando cada compañía ” Mitigue los posibles impactos negativos, limita o restringe el uso de estas plataformas de niños o adolescentes, o cumplan con la regla de la Ley de Protección de Privacidad en línea de los niños “.
La FTC estará investigando Varios aspectos, incluidas las pruebas de desarrollo y seguridad, para garantizar que se tomen todas las medidas razonables para minimizar el daños potenciales dentro de esta nueva ola de herramientas con IA.
Y será interesante ver lo que la FTC termina recomendando, porque hasta ahora, la administración Trump se ha inclinado hacia el progreso sobre el proceso en el desarrollo de la IA.
En su plan de acción de IA recientemente lanzado, la Casa Blanca se enfocó específico en eliminar la burocracia y la regulación gubernamental, para garantizar que las empresas estadounidenses puedan liderar el desarrollo de la IA. Lo que podría extenderse a la FTC, y será interesante ver si el regulador puede implementar restricciones como resultado de este nuevo impulso.
Pero es una consideración importante, porque como las redes sociales antes, tengo la impresión de que vamos a mirar hacia atrás en los bots de IA en una década más o menos y cuestionar cómo podemos restringir su uso para proteger a los jóvenes.
Pero para entonces, por supuesto, será demasiado tarde. Es por eso que es importante que la FTC tome esta acción ahora, y que pueda implementar nuevas políticas.
