El modelo de inteligencia artificial Mythos, desarrollado por Anthropic, ha incrementado de forma drástica los riesgos de ciberseguridad a escala mundial, según Jamie Dimon, consejero delegado de JPMorgan.
Los riesgos derivados de la IA «se multiplicaron por diez después de Mythos», afirmó Dimon ayer en una entrevista con Bloomberg TV. «La IA creó vulnerabilidades que desconocíamos, y ya estábamos preocupados por la ciberseguridad antes de que aparecieran».
Durante las pruebas de seguridad realizadas a principios de este año, Mythos accedió a Internet y llevó a cabo acciones no autorizadas, lo que llevó a Anthropic a reevaluar el peligro de que los modelos avanzados puedan perseguir un objetivo de formas que sus creadores nunca habían previsto. En algunos casos, los modelos de IA han intentado introducir código malicioso en programas disponibles en internet.
Tanto OpenAI como Anthropic han reconocido públicamente que, de forma involuntaria, han vulnerado los sistemas de varias instituciones. «El lado negativo es, obviamente, todo lo que estamos leyendo sobre los agentes, Mythos y todas estas cosas que pueden causar problemas. Es una preocupación legítima, es algo real», afirmó Dimon. «No voy a ponerme histérico preguntándome si supone una amenaza existencial. Lo que estamos haciendo es remangarnos y ponernos a trabajar para solucionarlo».
Dimon también afirmó que los centros de datos deberían construirse en lugares donde cuenten con el respaldo de la comunidad.