Estoy informando desde Davos, Suiza, donde miles de líderes empresariales y políticos han llegado al Foro Económico Mundial para darse la mano, hablar de negocios y tal vez incluso ir a algunas pistas de esquí.
Algunos ejecutivos con los que hablé esta semana tenían importantes preocupaciones sobre la inteligencia artificial, pero ninguna de ellas tenía nada que ver con una posible burbuja.
Raj Sharma, socio gerente global de EY para el crecimiento y la innovación, dijo que no se habla lo suficiente sobre la seguridad de la IA, específicamente la gestión de los agentes de IA y su ciclo de vida.
«Tiene acceso a sus datos. No tiene nombre, por lo que no hay identidad ni nada asociado con él», dijo Sharma.
Esto contrasta con los humanos, donde a menudo se rastrea cada sistema informático y cada dato que tocan.
«Necesitamos crear seguridad a nivel industrial para los agentes de IA en esa área. Para mí, esa sigue siendo una brecha en la que alguien necesita trabajar», dijo Sharma. «Todo el mundo habla de un buen partido. Pero si miras bajo las sábanas, todavía no está maduro».
«Me mantiene despierto por la noche», añadió Sharma.
No está solo. Tim Walsh, director general de KPMG US, me dijo que el mayor tema sobre el que habla regularmente con los directores ejecutivos es el riesgo cibernético, específicamente relacionado con la inteligencia artificial.
Los agentes de IA son el último giro en las preocupaciones constantes de los líderes sobre la ciberseguridad y están demostrando ser un problema increíblemente desafiante. Irónicamente, la única forma de combatir la amenaza es con… más IA.
En algunos casos, el riesgo se ha vuelto tan grande que está cambiando los cronogramas de los planes de IA de las empresas.
«No es que no estén avanzando, pero se están tomando un momento para asegurarse de que su entorno sea seguro, y tal vez incluso dejen los datos en las instalaciones un poco más para estar seguros de que tienen la seguridad de sus datos implementada», me dijo Walsh.
Walsh dijo que otra «preocupación real» es la amenaza que representan las computadoras cuánticas desde una perspectiva de seguridad.
Si bien reconoció que aún faltan algunos años para que la tecnología esté completamente desarrollada, su poder es increíble.
«La tecnología cuántica lo rompe todo», dijo Walsh. «Quiero decir, todo cifrado».
Esto ha provocado que las empresas revisen sus sistemas y vuelvan a cifrar las cosas, lo que no es una tarea fácil.
«También dedicamos mucho tiempo a ayudar a las empresas a pensar: ¿cómo se ve? ¿Cómo se estructura? ¿Cuánto tiempo llevará?». dijo Walsh.
