La UE informó el jueves que está en contacto con la empresa estadounidense de inteligencia artificial (IA) Anthropic, debido a preocupaciones sobre las capacidades de su último modelo, que la propia compañía teme pueda ser aprovechado por piratas informáticos.
El nuevo modelo de Anthropic, Claude Mythos, demostró ser especialmente bueno a la hora de detectar puntos débiles de diferentes programas, lo que llevó a la empresa a posponer su lanzamiento completo.
Según la empresa estadounidense y sus socios, Claude Mythos puede escanear de manera autónoma grandes cantidades de código para encontrar y encadenar vulnerabilidades de seguridad previamente desconocidas en todo tipo de software, desde sistemas operativos hasta navegadores web.
«Tenemos un nuevo modelo de IA que se está lanzando. Viene con ciertos riesgos. Necesitamos información sobre ellos», declaró el portavoz de la Comisión Europea, Thomas Regnier, a los periodistas.
«Estamos en contacto con Anthropic. Hemos recibido cierta información», añadió, confirmando que la primera reunión tuvo lugar el miércoles y que habrá más encuentros.
A principios de este mes, Anthropic anunció que limitaría la distribución de Claude Mythos a solo 40 grandes empresas tecnológicas, para darles tiempo de corregir vulnerabilidades antes de que puedan ser explotadas por hackers.
Sin embargo, no se incluyeron entidades extranjeras, lo que genera inquietud sobre la preparación mundial frente a un modelo cuyas capacidades ofensivas no se limitarían a las fronteras estadounidenses.
Lo crucial, advierten Antrhropic y sus socios, es que esto puede hacerse a una velocidad y escala que ningún humano podría igualar, lo que significa que podría usarse para paralizar bancos, hospitales o infraestructuras nacionales en cuestión de horas.
El anuncio de Anthropic generó una mezcla de alarma y escepticismo, con algunos señalando que la empresa podría beneficiarse del bombo mediático.
Al parecer, los directores de los bancos más grandes de Estados Unidos se reunieron este mes con el presidente de la Reserva Federal, Jerome Powell, y el secretario del Tesoro, Scott Bessent, para evaluar las implicaciones de seguridad del modelo aún no lanzado.
