Las herramientas de IA más nuevas, creadas para ser más inteligentes, cometen más errores objetivos que las versiones más antiguas.
Como destaca el New York Times, las pruebas muestran errores tan altos como 79% en sistemas avanzados de compañías como OpenAI.
Esto puede crear problemas para los especialistas en marketing que confían en estas herramientas para el contenido y el servicio al cliente.
Rising tasas de error en sistemas de IA avanzados
Las pruebas recientes revelan una tendencia: los sistemas de IA más nuevos son menos precisos que sus predecesores.
El último sistema de Openai, O3, hizo que los hechos se equivocaron el 33% del tiempo al responder preguntas sobre las personas. Eso es el doble de la tasa de error de su sistema anterior.
Su modelo O4-Mini funcionó aún peor, con una tasa de error del 48% en la misma prueba.
Para preguntas generales, los resultados (enlace PDF) fueron:
- O3 O3 cometió errores de OpenAI el 51% del tiempo
- El modelo O4-Mini estaba equivocado el 79% del tiempo
Problemas similares aparecen en sistemas de Google y Deepseek.
Amr Awadallah, CEO de Vectara y ex ejecutivo de Google, le dice al New York Times:
“A pesar de nuestros mejores esfuerzos, siempre alucinarán. Eso nunca desaparecerá”.
Consecuencias del mundo real para las empresas
Estos no son solo problemas abstractos. Las empresas reales enfrentan una reacción violenta cuando la IA proporciona información incorrecta.
El mes pasado, Cursor (una herramienta para programadores) enfrentó a los clientes enojados cuando su soporte de IA Bot afirmó falsamente que los usuarios no podían usar el software en múltiples computadoras.
Esto no era cierto. El error condujo a cuentas canceladas y quejas públicas.
El CEO de Cursor, Michael Truell, tuvo que intervenir:
“No tenemos esa política. Por supuesto, es libre de usar el cursor en múltiples máquinas”.
Por qué la fiabilidad está disminuyendo
¿Por qué los sistemas de IA más nuevos son menos precisos? Según un informe del New York Times, la respuesta radica en cómo se construyen.
Empresas como OpenAI han utilizado la mayor parte del texto de Internet disponible para capacitación. Ahora están usando “aprendizaje de refuerzo”, que implica enseñar IA a través de prueba y error. Este enfoque ayuda con las matemáticas y la codificación, pero parece dañar la precisión objetiva.
La investigadora Laura Perez-Beltrachini explicó:
“La forma en que estos sistemas están capacitados, comenzarán a centrarse en una tarea y comenzarán a olvidarse de otros”.
Otro problema es que los nuevos modelos de IA “piensan” paso a paso antes de responder. Cada paso crea otra oportunidad de errores.
Estos hallazgos son preocupantes para los especialistas en marketing que utilizan IA para contenido, servicio al cliente y análisis de datos.
El contenido de IA con errores objetivos podría dañar sus clasificaciones de búsqueda y su marca.
Pratik Verma, CEO de Okahu, le dice al New York Times:
“Pasas mucho tiempo tratando de averiguar qué respuestas son objetivas y cuáles no. No lidiar con estos errores correctamente básicamente elimina el valor de los sistemas AI”.
Protección de sus operaciones de marketing
Aquí le mostramos cómo salvaguardar su marketing:
- Hacer que los humanos revisen todo el contenido de IA orientado al cliente
- Crear procesos de verificación de hechos para material generado por IA
- Use IA para estructura e ideas en lugar de hechos
- Considere las herramientas de IA que citan fuentes (llamada generación de recuperación augurada)
- Cree pasos claros a seguir cuando detecte información de IA cuestionable
El camino por delante
Los investigadores están trabajando en estos problemas de precisión. Operai dice que está “trabajando activamente para reducir las tasas más altas de alucinación” en sus modelos más nuevos.
Los equipos de marketing necesitan sus propias salvaguardas mientras usan los beneficios de AI. Las empresas con fuertes procesos de verificación equilibrarán mejor la eficiencia de la IA con la necesidad de precisión.
Encontrar este equilibrio entre la velocidad y la corrección seguirá siendo uno de los mayores desafíos del marketing digital a medida que AI continúe evolucionando.
Imagen destacada: El kong/Shutterstock
(Tagstotranslate) Noticias
