Los proveedores de servicios, desde los bancos hasta las plataformas digitales, deben ofrecer un canal de acceso estándar en condiciones equitativas.
Millones de personas están empezando a descubrir lo que los agentes personales de inteligencia artificial (IA) pueden hacer por ellas. Estos asistentes realizan reservas, revisan y pagan facturas, tramitan reclamaciones a las aseguradoras y llevan a cabo un sinfín de tareas que requieren mucho tiempo o son complejas. En el ámbito financiero, prometen poner al alcance de todos el apoyo y el asesoramiento personalizado que, hasta ahora, solo podían permitirse las personas con mayores recursos.
Lamentablemente, las empresas todavía no están preparadas para interactuar con los agentes personales de IA. Pocas disponen de un canal específico de acceso para que estos agentes accedan a sus servicios. Esto significa que los agentes no tienen más remedio que entrar por la puerta de atrás, «haciéndose pasar» por sus usuarios al iniciar sesión con sus contraseñas.
Las empresas pueden detectar a algunos de estos agentes y muchas los bloquean, pero otros consiguen acceder y, una vez dentro, pueden operar como lo haría el usuario real. Esto le expone a diversos riesgos, desde la vulneración de sus credenciales —nunca es buena idea compartir las contraseñas— hasta accesos no autorizados o comportamientos indebidos de los agentes. Las empresas, por su parte, pueden enfrentarse a un número creciente de disputas con clientes que se nieguen a aceptar las acciones que sus agentes hayan podido realizar.
Impedir el acceso a los agentes para evitar estos riesgos difícilmente puede ser la solución. Aunque muchas empresas, incluida BBVA, ofrecerán sus propios agentes de IA, los clientes también deben tener libertad para trabajar con cualquier agente que elijan y decidir a qué servicios de terceros (y a los datos correspondientes) pueden acceder estos. El camino a seguir es que obtengan este acceso con su propia identidad, sin suplantar al usuario.
En el ámbito financiero, algunos de estos aspectos ya están regulados por ley. Según la normativa europea de pagos, las empresas que acceden a las cuentas de los clientes o realizan pagos en su nombre deben estar registradas o contar con una licencia e identificarse ante el banco, que, a su vez, debe proporcionarles una interfaz segura. Desde 2019, el regulador bancario europeo ha dejado claro que estas empresas ya no pueden acceder a las cuentas suplantando al cliente. Los agentes que prestan estos servicios no son una excepción.
Sin embargo, estas normas solo abarcan una parte de lo que hacen los agentes. Todos los sectores, incluido el financiero, necesitan un marco de «Know Your Agent» (conoce a tu agente): cualquier proveedor de servicios debe saber con qué agente está interactuando, quién es responsable de él y qué está autorizado a hacer.
Los clientes deben iniciar sesión directamente con el proveedor del servicio y conceder allí los permisos. Estos permisos deben ser muy específicos: un agente puede consultar saldos y pagar facturas de suministros, pero no dar de alta un nuevo beneficiario de pagos ni contratar un préstamo. Los permisos deben poder revocarse en cualquier momento y cada acción debe quedar registrada.
El sector ya está desarrollando los estándares necesarios. BBVA fue el primer banco europeo en adherirse al Personal Agent Protocol, una iniciativa liderada por Meta y la startup de inteligencia artificial Sierra. Crear un estándar común es mucho mejor que permitir que cada empresa invente el suyo, pero sigue siendo urgente adoptar medidas regulatorias.
¿Qué hay que hacer? El Reglamento de Inteligencia Artificial de la Unión Europea exige que los sistemas de IA se identifiquen como tales ante las personas. También debería exigir que los agentes se identifiquen como tales ante los servicios a los que acceden y, tras un periodo de transición, prohibir la suplantación de identidad. A su vez, los grandes proveedores de servicios, desde los bancos y las compañías de servicios básicos hasta plataformas digitales y redes sociales, deberían estar obligados a ofrecer a los agentes identificados un canal de acceso estándar, en condiciones equitativas.
También necesitamos un sistema que identifique a los agentes legítimos, en lugar de permitir que cada empresa decida en cuáles puede confiar. Cada agente debería disponer de una credencial verificable, basada en eIDAS, el marco europeo de identidad digital aplicable a distintos sectores. Cuando un agente realice actividades reguladas, su proveedor también deberá contar con la licencia correspondiente.
Por último, debe existir una asignación clara de responsabilidades, vinculada al control que ejerce cada parte. Los clientes deben ser responsables de los permisos que conceden y de las instrucciones que dan a los agentes. Los proveedores de servicios deben responder por las acciones realizadas fuera de esos permisos, y los de agentes, por las acciones que excedan las instrucciones recibidas. Además, todos los proveedores deben asumir su responsabilidad cuando se vulneren sus propios sistemas. Los clientes deben saber de antemano a quién acudir para resolver el problema y no deben soportar pérdidas derivadas de circunstancias ajenas a su control.
Estas normas y estándares pueden y deben aplicarse desde el principio en todos los sectores, para proteger adecuadamente a los consumidores allí donde los agentes actúen en su nombre. Del mismo modo, las normas y estándares comunes deberían aplicarse a escala transfronteriza, de manera que un agente considerado fiable en una jurisdicción también pueda serlo en otra.
El éxito inicial de los agentes personales de IA sugiere que han llegado para quedarse. En lugar de bloquearlos o permitir que operen en la sombra, deberíamos abrirles la puerta principal.
Carlos Torres Vila. El autor es presidente de BBVA