Este audio se genera automáticamente. Por favor, háganos saber si tiene algún comentario.
El spam generado por inteligencia artificial es un problema enorme para las redes sociales. Los modelos de IA cada vez más sofisticados son ahora capaces de replicar interacciones similares a las humanas y generar imágenes y videoclips realistas, todo lo cual ha enturbiado las aguas del discurso en línea.
Pero, ¿qué plataformas están sufriendo los peores impactos del spam de IA?
Según un informe reciente, es LinkedIn, donde el 41% de todas las publicaciones de formato largo en la aplicación muestran indicadores de que fueron creadas por herramientas de inteligencia artificial.
Los datos provienen de pangramauna empresa de tecnología que creó una extensión de navegador utilizada para detectar escritura en línea generada por IA. No existe ningún software de detección de IA que sea 100% preciso, por lo que es difícil obtener una medida real del alcance total del problema. Pero según el seguimiento de Pangram, que se basa en la medición promedio en las plataformas de redes sociales, LinkedIn alberga la mayor cantidad de contenido generado por IA, seguido de X, donde alrededor de un tercio de las publicaciones de formato largo aparentemente están escritas por IA.
Todas las plataformas se enfrentan al spam de IA. Pinterest ha trabajado para abordar las preocupaciones con respecto a la afluencia de publicaciones generadas por IA, que según algunos usuarios han inundado por completo el feed. Es la única plataforma hasta el momento para agregar una especie de interruptor de apagado de IAque ofrece a los usuarios la opción de limitar la prevalencia del contenido generado por IA.
Mientras tanto, Reddit recientemente ideas compartidas en sus esfuerzos por combatir el aumento de los comentarios y la actividad generados por la IA.
X también reconoció sus desafíos al lidiar con contenido generado por IA.
En marzo, Nikita Bier, directora de producto de X, anunció un cambio en los incentivos de monetización para creadores de la plataforma. La actualización fue diseñada para abordar un fuerte aumento de deepfakes generados por IA relacionados con la guerra en Irán.
Bier y el propietario de X, Elon Musk, también hablaron sobre el creciente impacto de los robots de inteligencia artificial en las aplicaciones sociales en general. Musk dijo en una publicación de marzo de 2023 en X que el desarrollo de la IA ha hizo imposible mantener a los ejércitos de bots fuera de las aplicaciones sociales, porque es “trivial crear 100.000 robots con apariencia humana por menos de un centavo por cuenta”.
La respuesta de Musk a esto fue cobrar a cada usuario por el acceso, asumiendo que incluso una pequeña tarifa sería suficiente para restringir la creación de cuentas de bot a escala.
Pero no había suficientes personas que mostraran interés en pagar por X. De hecho, las opciones sociales pagas en general han nunca resonó con el público.
En LinkedIn, se incluyen contramedidas de IA alcanzar sanciones cuando se detecta spam de IA.
No obstante, la mayoría de las plataformas sociales también invierten mucho en proyectos de IA. Como tal, en realidad quieren que los usuarios integren herramientas de inteligencia artificial en su experiencia en línea, en lugar de desactivarlas.
Meta, por ejemplo, tiene invirtió cientos de miles de millones de dólares en el desarrollo de la IA como parte de su esfuerzo por convertirse en el líder mundial en tecnología de IA.
Pero los usuarios de Meta no se han mostrado especialmente entusiasmados con las herramientas de inteligencia artificial que Meta les sigue ofreciendo.
Hoy en día, a los usuarios de Facebook e Instagram se les pide regularmente que utilicen Meta AI para hacer preguntas, generar imágenes de sí mismos y redactar publicaciones.
Sin embargo, cuando el jefe de Instagram, Adam Mosseri, anunció recientemente que IG estaba integrando las últimas herramientas de generación de imágenes Muse de la compañía en la aplicación, responde a su publicación fueron casi universalmente negativos.
Algunos de los comentarios incluyeron “deterioro de la IA”, “Necesitamos una opción para desactivar el contenido generado por IA” y “Literalmente, nadie quiere esto”. Estas respuestas de los usuarios reflejan la creciente reacción contra las herramientas de inteligencia artificial, al menos en lo que respecta al uso recreativo de los consumidores.
La respuesta no sorprende porque, en muchos aspectos, las herramientas de inteligencia artificial son la antítesis de la participación en las redes sociales.
Las redes sociales se construyeron sobre el concepto de conexión, que, al menos hasta ahora, ha significado conexión humana. Mientras tanto, las herramientas de IA solo pueden replicar esa interacción a través de personalidades y respuestas simuladas, mientras que las imágenes y videos generados por IA han comenzado a reemplazar las experiencias reales de las personas, las obras de arte reales y los eventos de la vida real.
¿De qué sirven las aplicaciones sociales si nada de lo que se publica es real y si ya no son un medio para mostrar experiencias personales y crear conexiones?
Si la mayor parte de lo que se comparte en línea termina siendo falso, eso erosiona la confianza en toda la red y debilita la propuesta de valor clave de las redes sociales hasta que desaparece.
Entonces las redes sociales se convierten en sólo entretenimiento, con plataformas que producen un flujo interminable de videos de personas que nadie conoce y reemplazan las pantallas de televisión por pantallas más pequeñas y programas más cortos.
Esa parece ser la tendencia. En ese caso, ¿qué es una aplicación de redes sociales en la era de la IA?
¿Las aplicaciones de mensajería son ahora redes sociales? Porque ahí es donde la gente se involucra. Para muchos usuarios, ese es ahora el único lugar donde participan en interacciones sociales reales en línea.
Pero eso también reduce el valor de las redes sociales como medio y las mueve más hacia una aplicación de entretenimiento curada que responde a los intereses de los usuarios. Y en ese paradigma, el contenido generado por IA probablemente no ganará, porque la gran cantidad de contenido de IA que se publica significa que la calidad seguirá siendo un problema. Por cada video genial de personajes de Harry Potter en estilos modernos, habrá miles de representaciones basura más olvidables con piernas en lugares extraños, expresiones faciales exageradas y sincronizaciones labiales desalineadas.
La IA mejorará, sin duda, pero hay una razón por la que la mayoría de los vídeos de IA exitosos utilizan IP establecida. Porque esas ideas originales todavía resuenan más de lo que a la mayoría de las personas se les ocurre, y potenciar una mayor creatividad podría eventualmente conducir a un menor interés de los usuarios.
