Sí, esto no parece genial.
Durante el fin de semana, el propietario de X y Xai, Elon Musk, marcó un próximo cambio a su Grok Chatbot, en el que eliminará el equipo de desarrollo de Grok “Información políticamente incorrecta, pero sin embargo, de hecho verdadera “de sus bancos de datos, para evitar que la aplicación esencialmente proporcione respuestas con las que Musk mismo no está de acuerdo.
El cambio ha estado llegando por algún tiempo, debido a Grok Chatbot de X, proporcionando repetidamente respuestas que contrarrestan las propias opiniones de Musk sobre ciertos temas. Por ejemplo, Grok ha dicho a los usuarios que a los niños se les debe permitir el acceso a la atención que afirma el género, algo de lo que Musk ha sido un oponente vocal, mientras que también son reclamos contrarrestados de violencia política perpetrada por partidarios de la izquierda (señalando que hay más evidencia de ataques de derecha).
Grok también ha nombrado a Musk como “el mayor difusión de desinformación en X”, entre sus diversas afirmaciones que han marcado a su creador.
Y durante el fin de semana, Musk indicó que había tenido suficiente. Después de que Grok hizo referencia a datos de Media Matters y Rolling Stone, Musk respondió diciendo que el “abastecimiento de Grok es terrible” y que “solo una IA muy tonta creería MM y RS”.
Luego, Musk siguió con una publicación que pidió a los usuarios de X a proporcionar ejemplos de “hechos divisivos para la capacitación de Grok”, que ha visto a la audiencia de X proporcionar más de 100k respuestas, que esperan ser eliminadas de la base de información de Grok.
Lo que hará que Grok esté más alineado con los puntos de conversación de derecha, e ignorante más de los informes y evidencia objetiva. En otras palabras, se convertirá en una IA de eco de la cámara, y con más y más personas que confían en la IA para obtener respuestas a todo tipo de preguntas, eso parece una preocupación significativa para el desarrollo de IA más amplio.
Aunque está en equilibrio, el uso de Grok es bastante limitado. Según los informes, ChatGPT tiene alrededor de 800 millones de usuarios activos, mientras que Meta recientemente afirmó que Meta AI es el chatbot de IA más utilizado del mundo, con mil millones de usuarios mensuales.
Grok, en comparación, solo es utilizado por una porción de los 600 millones de activos mensuales de X, y solo puede acceder completamente a los usuarios que pagan. Por lo tanto, no está en el mismo nivel de influencia que estas otras aplicaciones de IA, pero aun así, el hecho de que Musk afirma abiertamente que está editando sus fuentes para alinearse mejor con su propia ideología sigue siendo una preocupación, particularmente los problemas recientes con las respuestas de Grok.
El mes pasado, se descubrió que Grok proporcionaba respuestas inexactas sobre el número de muertos del Holocausto, al tiempo que empujaba respuestas aleatorias que incluían referencias al “genocidio blanco” en Sudáfrica, que se basan en teorías de conspiración desacreditadas.
X afirma que ambos errores se debieron a un cambio no autorizado al código de Grok por parte de un empleado deshonesto, y que el proceso ahora se ha actualizado para garantizar que existan más controles y equilibrios. Pero independientemente de la razón, el incidente subrayó cuánto pueden tener los programadores de Sway Xai sobre las respuestas del chatbot, si así lo desean, y con el mismo Elon muy interesado en desacreditar cualquier fuente que no esté de acuerdo con sus opiniones, eso parece una mezcla peligrosa.
De hecho, todo el proyecto XAI se fundó basado en la propia oposición de Elon a otros modelos de IA, que él cree que están siendo entrenados para ser “despertados”.
Según lo informado por el Washington Post:
“En una entrevista de abril de 2023 con Fox News, Musk dijo que OpenAi había estado” entrenando a la IA para mentir “incorporando comentarios humanos que dirigían al chatbot” a no decir lo que los datos realmente exigen que digan “. Se refirió a su nuevo proyecto como ‘Truthgpt’ “.
Entonces, todo el tiempo, el proyecto XAI ha sido tanto sobre las narrativas políticas como la evolución tecnológica, con Musk buscando inclinar sus propios proyectos de IA más hacia su propia ideología, en lugar de la verdad objetiva, basada en fuentes basadas en la web.
Y muchos de sus seguidores estarán de acuerdo con él. La pandemia Covid ha provocado un nuevo movimiento de medios anti-Mainstream, y el hecho de que las herramientas de IA se entrenan en lo que se considera fuentes convencionales es una afrenta a este impulso.
Como tal, el impulso antifactual de Musk será visto positivamente por muchos. Incluso si es defectuoso, incluso si conduce a la expansión ampliada de la información errónea.
Porque la verdad, al parecer, es lo que haces.
Es otro ejemplo de los posibles negativos de los avances tecnológicos, que a menudo se pasan por alto en medio de la exageración más amplia.
Lo mismo puede decirse de cada innovación significativa, que si bien hay aspectos positivos y beneficios que se obtienen, También a menudo sobrevaloramos los beneficios que traerá dicha tecnología ampliamente accesible.
Internet, por ejemplo, es una revolución en el aprendizaje, que brinda a miles de millones de personas acceso a casi toda la información del mundo, lo que a su vez debería hacer que la humanidad sea más educada, más informada y mejorar el nivel de inteligencia base de inteligencia.
Sin embargo, en el año 2025, el debate sobre la eficacia de la vacuna, el cambio climático e incluso la forma misma de la tierra como planeta, son más animados que nunca.
Se suponía que las redes sociales conectarían el mundo, permitiéndonos chatear con cualquier persona, en cualquier lugar, facilitar más unión, empatía y comprensión. Sin embargo, posiblemente se haga lo contrario, proporcionando un medio para que los grupos intolerantes, divisivos y odiosos se unan, conectando los peores elementos del mundo. Los mismos algoritmos que alimentan el compromiso de las redes sociales incentivan esto, y es difícil argumentar que las redes sociales, como concepto, han sido positivas netas.
Y ahora tenemos IA, la próxima gran esperanza, que democratizará la creatividad y facilitará los nuevos niveles de productividad humana, al proporcionar asistencia basada en máquinas para mejorar nuestro proceso cotidiano.
¿Cómo crees que va a funcionar en realidad?
Claro, claramente habrá beneficios, como ha habido con estos otros avances, particularmente desde una perspectiva comercial. Pero la idea utópica de que AI va a marcar una nueva era de oro de una oportunidad creativa e inteligente es realmente solo la cosa de las cubiertas de tono corporativo y las discusiones en la sala de juntas.
Ve a ver el contenido de IA que se comparte en línea en este momento. Videos con matices racistas que no pudiste crear con actores humanos. AI desnuda a semejanza de personas que no han dado su permiso para tal. Las personas que pasan el trabajo generado por la IA como suyo, engañando su camino en oportunidades no ganadas.
Esto no es bueno, estas no son cosas buenas que están siendo facilitadas por esta nueva tecnología, y lo que la historia nos muestra es que los peores elementos de la sociedad se benefician de manera tan significativa, si no más, de estos avances.
Lo que nos lleva de vuelta a Elon, y su decisión de editar esencialmente la historia para “mejorar” su chatbot. Ese es un precedente muy malo, y un cambio muy preocupante, especialmente porque más y más personas confían en estas herramientas de IA para respuestas.
¿Realmente pensamos que esto mejorará la sociedad o nos hará más inteligentes como especie?
Y si la respuesta, en cualquier frente, es no, ¿por qué estamos empujando la IA en cada elemento de cada aplicación?
