Newsom emite una orden ejecutiva para acelerar la supervisión independiente y promover la creación de un interruptor de apagado para la IA

El gobernador Newsom emitió hoy una orden ejecutiva que ordena tomar medidas para abordar los peligros de los recientes incidentes relacionados con la IA. 

La orden acelera la implementación de la nueva ley de California que establece la primera supervisión independiente a nivel nacional de las empresas de IA y los controles de seguridad, e impulsa la creación de un "interruptor de apagado" para la IA.

SACRAMENTO - Ante la pasividad de Donald Trump y el Congreso, el gobernador Gavin Newsom vuelve a tomar la iniciativa para fortalecer la seguridad de la IA para todos los estadounidenses. Hoy, el gobernador emitió una orden ejecutiva para acelerar drásticamente la implementación de una nueva supervisión externa de los riesgos de seguridad en los sistemas de IA, así como auditorías independientes. 

La orden ejecutiva convoca a un grupo de expertos de renombre mundial para que, en un plazo de dos meses, elaboren una guía para que California refuerce y fortalezca sus leyes de seguridad en inteligencia artificial. Entre las propuestas que se están considerando se incluye la exigencia de que terceros independientes elaboren planes de seguridad para las empresas de IA de vanguardia, así como la obligación de que estas empresas desarrollen un sistema de apagado de emergencia, o "interruptor de emergencia", para los modelos de vanguardia.

California es líder nacional en la supervisión de tecnologías emergentes de vanguardia, con leyes que abordan casi todas las áreas importantes de la política de IA: seguridad de los modelos de vanguardia, supervisión independiente, chatbots para niños y acompañantes, privacidad, deepfakes, fraude, ciberseguridad, trabajadores y despliegue gubernamental.

El rotundo fracaso del gobierno federal a la hora de crear cualquier tipo de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación. 

No vamos a esperar para actuar: vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA antes de que sea demasiado tarde. Lo haremos con detenimiento, pero con urgencia; hay demasiado en juego como para esperar o demorar la acción. 

Mientras Washington elude su responsabilidad de proteger a los estadounidenses, California está construyendo sobre el marco regulatorio de IA más sólido del país. California ya ha creado un modelo nacional, y nuestra política debería ser la referencia a nivel nacional.

Gobernador Gavin Newsom

La orden ejecutiva surge tras recientes incidentes alarmantes, incluido el ataque de Hugging Face, que han llevado a muchos estadounidenses, entre ellos líderes de la industria de la IA, a exigir que la industria acelere el desarrollo de sistemas y modelos de IA y a presionar para que se implementen regulaciones gubernamentales más estrictas que aborden los riesgos de seguridad. En respuesta, el gobierno federal no ha tomado ninguna medida. Ninguna ley federal obliga a las empresas de IA a informar sobre incidentes peligrosos cuando ocurren, y el presidente Trump ha rechazado las peticiones de nuevas regulaciones que aumentarían la seguridad y protegerían la salud, la seguridad y el bienestar del pueblo estadounidense. 

Lea la orden ejecutiva aquí . 

Medidas decisivas para reforzar la supervisión de la IA. 

California sirve de modelo para los estándares nacionales en materia de seguridad de la IA. La semana pasada, el gobernador Newsom promulgó una ley que establece medidas de protección y rendición de cuentas pioneras en el país para fortalecer el marco de California, líder a nivel nacional. El gobernador promulgó la Ley del Senado 813 (McNerney) , que establece un marco para organizaciones de verificación independientes que pueden evaluar los sistemas y modelos de IA en cuanto a seguridad y riesgo. El gobernador Newsom también promulgó la Ley AB 1405 (Bauer-Kahan) , que crea un registro estatal para auditores de IA que evalúan los sistemas y modelos de IA para verificar su cumplimiento con la ley estatal y establece estándares para su independencia, transparencia e integridad.

La orden ejecutiva de hoy lleva estas medidas aún más lejos. Mediante esta orden, el Gobernador ordena a la Agencia de Operaciones Gubernamentales: acelerar los plazos de implementación de la SB 813 y la AB 1405 y, en consulta con la Oficina de Servicios de Emergencia del Gobernador, convocar a expertos nacionales para elaborar recomendaciones sobre posibles cambios que fortalezcan aún más la legislación estatal para:

• Exigir a las empresas de IA de vanguardia que integren en sus laboratorios una organización de verificación independiente designada para realizar auditorías y evaluaciones periódicas.
• Exigir que los marcos de seguridad de la IA, los informes de transparencia y las evaluaciones de riesgos que las empresas de IA de vanguardia están obligadas a presentar en virtud de la legislación estatal se verifiquen de conformidad con los estándares que una organización de verificación independiente considere adecuados. 
• Impulsar la creación de un "interruptor de emergencia" para los modelos de vanguardia, cuya eficacia sea verificada de forma continua por una organización de verificación independiente.
• Actualizar las definiciones de incidentes críticos de seguridad para incluir incidentes de pérdida de control, como el ataque de Hugging Face.

Un modelo de seguridad de IA para la nación

Bajo el liderazgo del gobernador Newsom, California ya se encuentra muy por delante de todos los demás estados en la regulación de la IA, creando un modelo a seguir para todo el país. El gobernador insta al Congreso y al presidente Trump a revisar y adoptar el marco regulatorio estatal, o a utilizar su regulación, líder a nivel nacional, como base, no como límite, para el beneficio y la seguridad de todos los estadounidenses. 

Marco de referencia líder a nivel nacional de California 

A partir de su orden ejecutiva de 2023 sobre IA generativa, la primera de su tipo en el país , el gobernador Newsom ha impulsado acciones ejecutivas, legislación aprobada en colaboración con la Legislatura, regulación, contratación pública y asociaciones público-privadas para abordar prácticamente todas las áreas importantes de la política de IA:

✅ Seguridad en la IA de vanguardia: En 2025, el gobernador Newsom promulgó la SB 53, la Ley de Transparencia en la Inteligencia Artificial de Vanguardia , la primera ley de seguridad de la IA del país. Esta ley exige que los desarrolladores de IA de vanguardia divulguen públicamente sus marcos de seguridad, informen al estado sobre incidentes críticos de seguridad específicos y protejan a quienes denuncien riesgos graves.

✅ Supervisión independiente de la IA: En 2026, el gobernador Newsom promulgó la SB 813, convirtiendo a California en el primer estado del país en establecer un marco para certificar organizaciones de verificación independientes con la experiencia suficiente y una independencia demostrada respecto a las empresas de IA, con el fin de evaluar objetivamente los sistemas y modelos de IA en cuanto a seguridad y riesgo . También promulgó la AB 1405, que establece un registro estatal para auditores de IA y estándares para su independencia, transparencia e integridad.

✅ Normas de seguridad infantil para acompañantes de IA: Este año, el gobernador Newsom firmó la Ley Adam, de carácter bipartidista, que exige medidas de protección para los chatbots de compañía utilizados por niños, incluyendo protocolos de crisis para casos de suicidio y autolesiones, controles parentales y notificaciones cuando se desactivan las configuraciones de seguridad. Es la primera ley en el país que exige auditorías independientes de seguridad infantil y evaluaciones de riesgo exhaustivas antes de su lanzamiento. California también promulgó leyes para prohibir los juguetes que contienen chatbots de compañía con IA durante cinco años; prohibir el uso de información personal de los estudiantes para entrenar modelos de IA; y ampliar las protecciones contra el material de abuso sexual infantil generado por IA.

✅ Redes sociales y niños: El gobernador Newsom firmó la legislación más estricta del país que prohíbe a las empresas de redes sociales ofrecer a los usuarios menores de 16 años funciones adictivas, como la reproducción automática y los feeds algorítmicos basados en el historial y los perfiles de los usuarios. California ha promulgado requisitos pioneros a nivel nacional para el uso responsable de la IA y las redes sociales por parte de los niños, incluyendo etiquetas de advertencia para usuarios jóvenes, señales de verificación de edad obligatorias , orientación para proteger a los niños del ciberacoso después de la escuela y la prohibición de que las plataformas en línea proporcionen a sabiendas un feed adictivo a un menor sin el consentimiento de sus padres.

✅ Deepfakes y contenido sintético: En una medida pionera a nivel nacional, California prohibió y combatió los deepfakes sexualmente explícitos, exigió marcas de agua para IA, abordó el contenido electoral engañoso generado por IA y exigió transparencia en torno a los datos de entrenamiento de IA. 

✅ Protección de la privacidad y las libertades civiles: El gobernador Newsom firmó la Ley Delete, la primera ley de privacidad del país que permite a los californianos solicitar a los intermediarios de datos registrados que eliminen su información personal. Posteriormente, California lanzó DROP, que permite a las personas enviar una única solicitud de eliminación a los intermediarios de datos registrados. En marzo de 2026 , el gobernador Newsom también emitió una orden ejecutiva que refuerza la protección de la privacidad y las libertades civiles en las adquisiciones estatales de IA. CalPrivacy ha adoptado por separado protecciones relacionadas con la tecnología de toma de decisiones automatizada.

✅ Impacto de la IA en los trabajadores: El gobernador Newsom firmó una orden ejecutiva pionera en el país que aborda los impactos económicos y laborales de la IA , incluyendo un seguimiento ampliado de sus efectos económicos y la adaptación de los programas de capacitación laboral y de asistencia social. California también lanzó un sistema de seguimiento del desempleo por IA y solicitó la opinión pública estatal sobre los impactos económicos de la IA a través de Engaged California.

✅ Ciberseguridad : El gobernador Newsom lanzó el primer programa de ciberdefensa con IA del país para utilizar inteligencia artificial en la identificación de vulnerabilidades , el fortalecimiento de las redes y la respuesta ante incidentes. California también está designando un responsable de ciberseguridad con IA en cada agencia y colaborando con empresas líderes en IA y socios de infraestructura crítica en protocolos de respuesta y simulacros.

✅ Fraude impulsado por IA: El gobernador Newsom creó un Grupo de Trabajo contra el Fraude Tecnológico para combatir el fraude impulsado por IA . California también ha tomado medidas contra las estafas telefónicas automáticas generadas por IA y ha abordado la fijación de precios algorítmica mediante la ley estatal antimonopolio.