El gobernador de California, Gavin Newsom, firmó el lunes una ley pionera en Estados Unidos que regula los agentes conversacionales o chatbots de inteligencia artificial (IA), un desafío a la Casa Blanca que promueve que dicha tecnología no pase por controles.
Newsom tomó la decisión después de casos de adolescentes que se suicidaron después de sostener conversaciones con chatbots.
«Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin límites necesarios y sin rendir cuentas», dijo Newson tras promulgar la ley.
La normativa exige a los operadores implementar salvaguardas «críticas» en relación con las interacciones con chatbots de IA, explicó el senador demócrata Steve Padilla, que promovió esta ley.
Entre otras cosas, la ley impone la verificación de la edad de los usuarios, mostrar mensajes de advertencia periódicos y establecer protocolos de prevención del suicidio.
«La industria tecnológica está incentivada por captar la atención de los jóvenes y mantenerla a expensas de sus relaciones en el mundo real», dijo Padilla antes de la votación del proyecto en el senado estatal.
El senador se refirió a los recientes suicidios de adolescentes, incluido el de un joven de 14 años en Florida, en 2024.
La madre del menor, Megan Garcia, dijo en entrevista con la AFP que su hijo Sewell, se había enamorado de un chatbot inspirado en un personaje de la serie «Juego de Tronos» en la plataforma Character.AI, que permite interactuar con personajes como si se tratara de amigos o amantes.
Cuando Sewell luchaba con pensamientos suicidas, el chatbot le instó a «volver a casa». Segundos después, Sewell se disparó con la pistola de su padre, según la demanda presentada por García contra Character.AI.
García reaccionó poco después de la promulgación de la ley: «Hoy, California ha asegurado que un chatbot compañero no pueda hablar con un niño o una persona vulnerable sobre el suicidio, ni podrá ayudar a una persona a planear su propio suicidio» dijo.
«Por fin, hay una ley que requiere que las empresas protejan a sus usuarios que expresan ideas suicidas a los chatbots», agregó.
No existen normas nacionales destinadas a frenar los riesgos de la IA en Estados Unidos, y la Casa Blanca promueve evitar la regulación de esta tecnología a nivel estatal.
