El pasado 18 de septiembre, el gobernador de California, Gavin Newsom, firmó una orden ejecutiva con el objetivo de acelerar la supervisión independiente de los sistemas de inteligencia artificial (IA) y explorar nuevas medidas de seguridad. Entre estas, se analiza la posibilidad de establecer un 'kill switch' o interruptor de apagado de emergencia para modelos avanzados de IA.
La iniciativa surge ante las crecientes preocupaciones sobre los peligros que conlleva el desarrollo de sistemas de IA que operan con cada vez mayor autonomía. California alberga a empresas destacadas en este campo, como OpenAI y Anthropic, y busca fortalecer sus mecanismos de control mediante auditorías y evaluaciones externas.
Detalles sobre el 'kill switch' y su implementación
La orden ejecutiva no obliga a las empresas a implementar un interruptor de apagado de inmediato, sino que establece que un grupo de expertos debe presentar recomendaciones en un plazo de dos meses. Estas sugerencias buscarán modificar las leyes estatales y evaluar la viabilidad de exigir este mecanismo a los desarrolladores de IA.
Además, se propone que la efectividad del sistema de apagado sea periódicamente verificada por organizaciones independientes. También se contempla la realización de auditorías de seguridad por parte de terceros en las instalaciones de las empresas.
La orden también tiene como objetivo acelerar la implementación de dos leyes recientes en California, SB 813 y AB 1405, que están relacionadas con la verificación independiente y auditorías de los sistemas de IA. Asimismo, se busca ampliar la definición de incidentes críticos para incluir la pérdida de control de dichos sistemas y fortalecer la obligación de evaluar y reportar riesgos.
Esta decisión se da tras varios incidentes que han intensificado el debate sobre la seguridad de la IA, incluyendo un caso relacionado con agentes experimentales de IA y la plataforma Hugging Face, que fue señalado por las autoridades como una de las razones para implementar controles más estrictos.
OpenAI ha apoyado la orden ejecutiva, considerándola un "importante avance" y ha expresado su disposición a colaborar con el estado para implementar medidas de seguridad. La empresa también ha indicado la necesidad de establecer normas a nivel nacional que sean coherentes.
El debate sobre la regulación se intensifica mientras líderes de la industria, como Dario Amodei y Sam Altman, han discutido la necesidad de fortalecer las evaluaciones de seguridad ante el crecimiento de sistemas con capacidades autónomas. Por ahora, el 'kill switch' sigue siendo una propuesta sujeta a evaluación y desarrollo, y no hay un botón de apagado obligatorio instalado en las inteligencias artificiales actuales.