S铆, esto probablemente no sea demasiado sorprendente, pero a煤n sirve como un recordatorio 煤til sobre las limitaciones de la ola actual de herramientas de b煤squeda de IA generativas, que las aplicaciones sociales ahora te est谩n empujando a usar a cada paso.
Seg煤n un nuevo estudio realizado por TEl centro de remolque para el periodismo digitalla mayor铆a de los principales motores de b煤squeda de IA no proporcionan citas correctas de art铆culos de noticias dentro de consultas, y las herramientas a menudo inventan enlaces de referencia, o simplemente no proporcionan una respuesta cuando se cuestiona en una fuente.
Como puede ver en este cuadro, la mayor铆a de los principales chatbots de IA no fueron particularmente buenos para proporcionar citas relevantes, con Grok Chatbot de Xai, que Elon Musk ha promocionado como la IA “m谩s verdadera”, que est谩 entre los recursos m谩s inexactos o poco confiables a este respecto.
Seg煤n el informe:
“En general, los chatbots proporcionaron respuestas incorrectas a m谩s del 60% de las consultas. En diferentes plataformas, el nivel de inexactitud vari贸, con la perplejidad respondiendo al 37% de las consultas incorrectamente, mientras que Grok 3 tuvo una tasa de error mucho m谩s alta, respondiendo al 94% de las consultas de manera incorrecta.“
En otro frente, el informe encontr贸 que, en muchos casos, estas herramientas a menudo pod铆an proporcionar informaci贸n de las fuentes que se han bloqueado para el raspado de IA:
鈥淓n algunas ocasiones, los chatbots respondieron incorrectamente o se negaron a responder consultas de editores que les permitieron acceder a su contenido. Por otro lado, a veces respond铆an correctamente consultas sobre editores cuyo contenido no deber铆an haber tenido acceso “.
Lo que sugiere que algunos proveedores de IA no respetan los comandos de robots.txt que los impiden que accedan a las obras protegidas por derechos de autor.
Pero la preocupaci贸n de la l铆nea superior se relaciona con la confiabilidad de las herramientas de IA, que se utilizan cada vez m谩s como motores de b煤squeda por un n煤mero creciente de usuarios web. De hecho, muchos j贸venes ahora est谩n creciendo con ChatGPT como su herramienta de investigaci贸n de elecci贸n, y ideas como esta muestran que simplemente no puede confiar en las herramientas de IA para brindarle informaci贸n precisa y educarlo sobre temas clave de cualquier manera confiable.
Por supuesto, eso no es una noticia, como tal. Cualquiera que haya usado un chatbot Ai sabr谩 que las respuestas no siempre son valiosas o utilizables de ninguna manera. Pero nuevamente, la preocupaci贸n es m谩s que promocionamos estas herramientas como un reemplazo para la investigaci贸n real y un atajo al conocimiento, y para los usuarios m谩s j贸venes en particular, eso podr铆a conducir a una nueva era de personas mal informadas y menos equipadas, que externalizan su propia l贸gica a estos sistemas.
El empresario Mark Cuban sum贸 este problema con bastante precisi贸n en una sesi贸n en SXSW esta semana:
鈥淟a IA nunca es la respuesta. AI es la herramienta. Independientemente de las habilidades que tenga, puede usar IA para amplificarlas “.
El punto de Cuban es que, si bien las herramientas de IA pueden darle una ventaja, y todos deber铆an considerar c贸mo pueden usarlas para mejorar su rendimiento, no son soluciones en s铆 mismas.
AI puede crear un video para ti, pero no puede encontrar una historia, que es el elemento m谩s convincente. AI puede producir un c贸digo que lo ayudar谩 a crear una aplicaci贸n, pero no puede crear la aplicaci贸n real en s铆.
Aqu铆 es donde necesita sus propias habilidades y habilidades de pensamiento cr铆tico para expandir estos elementos en algo m谩s grande, y aunque las salidas de IA definitivamente ayudar谩n a este respecto, no son una respuesta en s铆 mismos.
La preocupaci贸n en este caso particular es que estamos mostrando a los j贸venes que las herramientas de IA pueden darles respuestas, que la investigaci贸n ha demostrado repetidamente que no es particularmente bueno.
Lo que necesitamos es que las personas comprendan c贸mo estos sistemas pueden extender sus habilidades, no reemplazarlas, y que para aprovechar al m谩ximo estos sistemas, primero debe tener investigaciones clave y habilidades anal铆ticas, as铆 como experiencia en campos relacionados.
