La empresa de inteligencia artificial Anthropic propuso el jueves una pausa global en el desarrollo de sistemas de IA cada vez más potentes, ante los indicios de que los modelos más recientes muestran señales de que podrían escapar del control humano.
La firma con sede en San Francisco, desarrolladora de los modelos de IA de Claude, dijo en un informe que una desaceleración mundial en el desarrollo de IA de vanguardia sería «probablemente una buena idea». Pero advirtió que si solo una empresa frena, sus rivales podrían simplemente adelantarse en la carrera.
«Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología», dijo.
Una pausa real significaría que grandes compañías de IA en varios países, principalmente China y Estados Unidos, acuerden de manera unánime parar al tiempo, bajo reglas que todos puedan verificar, dijo Anthropic.
«Sin un mecanismo global de coordinación, empresas y gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas», señaló.
Pero la propuesta se enfrenta a una difícil batalla en Washington y en Silicon Valley. Funcionarios estadounidenses y ejecutivos de las grandes tecnológicas han argumentado que disminuir el desarrollo de la IA podría ceder una ventaja significativa a China.
Sin embargo, el presidente Donald Trump dijo que en su reciente visita a Pekín se discutió la posibilidad de cooperar con China en asuntos de seguridad de la IA.
Trump también firmó una orden ejecutiva esta semana que permitirá al gobierno realizar evaluaciones preliminares de los modelos de IA más poderosos de empresas estadounidenses antes de su lanzamiento.
Anthropic dijo que espera reunir en los próximos meses a funcionarios gubernamentales, científicos, grupos de defensa y empresas rivales para resolver cómo funcionaría ese sistema.
El llamado a la coordinación llega al tiempo que datos internos muestran que la IA acelera de manera dramática su propio desarrollo, dijo Anthropic.
La empresa advirtió que esa aceleración crearía un ciclo de retroalimentación que podría eventualmente llevar a lo que los investigadores llaman «mejora recursiva de sí misma».
Se trata de la idea de que un sistema de IA pueda ser capaz de enseñarse a sí mismo a ser más inteligente.
Anthropic descartó que ya se haya llegado a ese punto y negó que sea inevitable. Pero «la evidencia sugiere que el rol humano se está reduciendo en cada etapa del proceso de desarrollo de la IA».
