Google Deepmind ha compartido su plan para hacer que la inteligencia general artificial (AGI) sea m谩s segura.
El informe, titulado “Un enfoque de seguridad t茅cnica de AGI”, explica c贸mo detener los usos da帽inos de la IA mientras amplifica sus beneficios.
Aunque altamente t茅cnicas, sus ideas pronto podr铆an afectar las herramientas de IA que la b煤squeda de energ铆a, la creaci贸n de contenido y otras tecnolog铆as de marketing.
L铆nea de tiempo AGI de Google
DeepMind cree que AGI puede estar listo para 2030. Esperan que la IA trabaje en niveles que superan el rendimiento humano.
La investigaci贸n explica que las mejoras ocurrir谩n gradualmente en lugar de a saltos dram谩ticos. Para los especialistas en marketing, las nuevas herramientas de inteligencia artificial se volver谩n m谩s poderosas, dando tiempo a las empresas para ajustar sus estrategias.
El informe dice:
“Estamos muy inciertos sobre los plazos hasta que se desarrollen potentes sistemas de IA, pero de manera crucial, nos pareci贸 plausible que se desarrollar谩n para 2030”.
Dos 谩reas de enfoque clave: prevenir el mal uso y la desalineaci贸n
El informe se centra en dos objetivos principales:
- Detener el mal uso: Google quiere impedir que los malos actores usen una poderosa IA. Los sistemas ser谩n dise帽ados para detectar y detener actividades da帽inas.
- Detener la desalineaci贸n: Google tambi茅n tiene como objetivo garantizar que los sistemas de IA sigan los deseos de las personas en lugar de actuar de forma independiente.
Estas medidas significan que las futuras herramientas de inteligencia artificial en el marketing probablemente incluir谩n las verificaciones de seguridad incorporadas mientras trabajen seg煤n lo previsto.
C贸mo esto puede afectar la tecnolog铆a de marketing
Controles a nivel de modelo
DeepMind planea limitar ciertas caracter铆sticas de IA para evitar el mal uso.
T茅cnicas como supresi贸n de la capacidad Aseg煤rese de que un sistema de IA retenga voluntariamente funciones peligrosas.
El informe tambi茅n discute inofensiva posterior al entrenamientolo que significa que el sistema est谩 capacitado para ignorar las solicitudes que ve como da帽inas.
Estos pasos implican que las herramientas de contenido con IA y los sistemas de automatizaci贸n tendr谩n filtros 茅ticos fuertes. Por ejemplo, un generador de contenido podr铆a negarse a producir material enga帽oso o peligroso, incluso si lo empujan por indicaciones externas.
Protecciones a nivel de sistema
El acceso a las funciones de IA m谩s avanzadas puede estar estrechamente controlado. Google podr铆a restringir ciertas caracter铆sticas a los usuarios de confianza y usar el monitoreo para bloquear acciones inseguras.
El informe establece:
“Los modelos con capacidades peligrosas pueden restringirse a grupos de usuarios examinados y casos de uso, reduciendo el 谩rea de superficie de las capacidades peligrosas que un actor puede intentar acceder de manera inapropiada”.
Esto significa que las herramientas empresariales pueden ofrecer caracter铆sticas m谩s amplias para socios confiables, mientras que las herramientas orientadas al consumidor vendr谩n con capas de seguridad adicionales.
Impacto potencial en 谩reas de marketing espec铆ficas
Buscar y SEO
Las medidas de seguridad mejoradas de Google podr铆an cambiar la forma en que funcionan los motores de b煤squeda. Los nuevos algoritmos de b煤squeda podr铆an comprender mejor la intenci贸n del usuario y confiar en el contenido de calidad que se alinea con los valores humanos centrales.
Herramientas de creaci贸n de contenido
Los generadores avanzados de contenido de IA ofrecer谩n una salida m谩s inteligente con reglas de seguridad incorporadas. Es posible que los especialistas en marketing necesiten establecer sus instrucciones para que la IA pueda producir contenido preciso y seguro.
Publicidad y personalizaci贸n
A medida que AI se vuelve m谩s capaz, la pr贸xima generaci贸n de tecnolog铆a publicitaria podr铆a ofrecer una mejor orientaci贸n y personalizaci贸n. Sin embargo, los controles de seguridad estrictos pueden limitar cu谩nto el sistema puede impulsar las t茅cnicas de persuasi贸n.
Mirando hacia el futuro
La hoja de ruta de Google Deepmind muestra el compromiso de avanzar en la IA mientras lo hace seguro.
Para los especialistas en marketing digital, esto significa que el futuro traer谩 poderosas herramientas de IA con medidas de seguridad incorporadas.
Al comprender estos planes de seguridad, puede planificar mejor un futuro en el que la IA trabaje de manera r谩pida, segura y sintonizada con los valores comerciales.
Imagen destacada: Shutterstock/Iljanaresvara Studio
(Tagstotranslate) Noticias
