Más de 200 figuras prominentes, incluidos 10 laureados con el Nobel y científicos que trabajan en gigantes de la IA como Anthropic, Google DeepMind, Microsoft y OpenAI, firmaron una carta publicada al inicio de la sesión de la Asamblea General de las Naciones Unidas en Nueva York.
«La IA tiene un potencial inmenso para avanzar en el bienestar humano, pero su trayectoria actual presenta peligros sin precedentes», dicen en el texto.
Las líneas rojas de la IA serían prohibiciones internacionales acordadas sobre usos considerados demasiado riesgosos bajo cualquier circunstancia, según los firmantes.
Los ejemplos dados incluían confiar en sistemas de IA para comandar arsenales nucleares o cualquier tipo de sistema autónomo de armas letales.
Plantean además líneas rojas sobre permitir que la IA se utilice para vigilancia masiva, puntuación social, ciberataques o suplantación de personas.
Instaron a los gobiernos a tener líneas rojas sobre la IA establecidas para finales del próximo año, dado el ritmo al que avanza la tecnología con el fin de prevenir efectos devastadores para la humanidad.
En la misiva también exigen una colaboración entre líderes mundiales para llegar a «acuerdos internacionales sobre líneas rojas para la IA».
«La IA podría pronto superar con creces las capacidades humanas y escalar riesgos como pandemias diseñadas, desinformación generalizada, manipulación (…) y violaciones sistemáticas de los derechos humanos», afirman.
