Newsom anuncia la participación de expertos líderes a nivel mundial para cumplir con su orden ejecutiva sobre IA

El gobernador Newsom anunció hoy el grupo de expertos líderes que asesorarán sobre las recomendaciones requeridas por su reciente orden ejecutiva sobre IA, la cual acelerará la supervisión independiente de las empresas de IA y promoverá la creación de un posible "interruptor de apagado" para los modelos de vanguardia descontrolados.

SACRAMENTO - Mientras Donald Trump permanece desconectado, el gobernador Gavin Newsom continúa impulsando políticas sólidas de IA para proteger a los estadounidenses. Basándose en su orden ejecutiva emitida hace apenas unos días para acelerar la supervisión independiente y promover la creación de "interruptores de apagado" como parte del marco de seguridad de IA de California, el gobernador Newsom anunció hoy la formación de un grupo de expertos líderes que ayudarán a guiar este trabajo pionero a nivel nacional. Este grupo de expertos, que abarca tecnología, políticas y gobernanza, ayudará a California a mejorar su gobernanza en materia de seguridad de la IA, en vista del rápido avance de las capacidades de la IA. El grupo aplicará su experiencia y colaborará con destacados investigadores técnicos que trabajan en seguridad de la IA. Entre las propuestas que se están considerando se incluye la exigencia de que terceros independientes se integren en las empresas de IA de vanguardia para verificar los marcos de seguridad y evaluar de forma independiente las evaluaciones de seguridad, así como la exigencia de que las empresas desarrollen un sistema de apagado de emergencia, o "interruptor de apagado", para los modelos de vanguardia.

Mientras el Presidente se centra una vez más en soluciones superficiales para problemas vastos y complejos, e ignora su responsabilidad de proteger a los estadounidenses, California está tomando medidas: reuniendo a expertos de diversas disciplinas para consolidar nuestro marco de referencia, líder a nivel nacional, y abordando las preocupaciones reales que afectan nuestro futuro. No nos quedamos de brazos cruzados. California seguirá aportando nuevas ideas, experiencia especializada y soluciones prácticas a medida que damos forma al futuro de la IA y las tecnologías de vanguardia.

Gobernador Gavin Newsom

El liderazgo de California guía a la nación. 

El Gobernador anuncia hoy a los siguientes expertos que ayudarán a asesorar el trabajo de California:

• Jason Goldman, miembro de la junta directiva del Center for Shared AI Prosperity, uno de los primeros líderes de producto en Google y Twitter, y el primer director digital de la Casa Blanca. 
• Gillian Hadfield, profesora de la Universidad Johns Hopkins especializada en la alineación de la IA y el diseño innovador de sistemas legales, regulatorios y técnicos para la IA, y miembro del profesorado del Instituto Vector para la Inteligencia Artificial.  
• Alondra Nelson,  profesora del Instituto de Estudios Avanzados y directora del Laboratorio de Ciencia, Tecnología y Valores Sociales, y exdirectora interina de la Oficina de Política Científica y Tecnológica de la Casa Blanca.  
• Rob Reich,  profesor de la Universidad de Stanford especializado en la gobernanza de la ciencia y la tecnología de vanguardia, y antiguo asesor principal del Instituto de Seguridad de la IA de Estados Unidos.

"La orden ejecutiva del gobernador Newsom aborda las cuestiones más difíciles en la gobernanza de la seguridad de la IA, incluyendo quién verifica las afirmaciones de seguridad de un laboratorio de vanguardia y si un modelo puede desactivarse de manera confiable. California continúa demostrando cómo la supervisión democrática puede aplicarse a una de las industrias más importantes del mundo."  - Jason Goldman, miembro de la junta directiva del Center for Shared AI Prosperity, uno de los primeros líderes de producto en Google y Twitter, y el primer director digital de la Casa Blanca.

"La necesidad de una supervisión eficaz, responsable e independiente de la IA, cada vez más potente y autónoma, es urgente, y me complace unirme a este gran equipo para ayudar a garantizar rápidamente que avancemos en la dirección correcta".  Gillian Hadfield, profesora de la Universidad Johns Hopkins especializada en la alineación de la IA y el diseño innovador de sistemas legales, regulatorios y técnicos para la IA, y miembro del profesorado del Instituto Vector para la Inteligencia Artificial.

California ha sido pionera en la gobernanza tecnológica, y esta orden ejecutiva plantea las preguntas clave: no si se debe gobernar la IA, sino cómo. La verificación independiente, la auditoría de la IA y la transparencia obligatoria son mecanismos institucionales sólidos que permiten gobernar el rápido cambio tecnológico y exigir responsabilidades a los actores poderosos, de modo que sus herramientas sirvan a la humanidad en lugar de ponerla en peligro. Espero poder aportar la perspectiva de la investigación independiente a estas importantes recomendaciones para el gobernador Newsom. Alondra Nelson, profesora del Instituto de Estudios Avanzados y directora del Laboratorio de Ciencia, Tecnología y Valores Sociales, y exdirectora interina de la Oficina de Política Científica y Tecnológica de la Casa Blanca.    

"La innovación y la seguridad van de la mano en cualquier mercado responsable, y la IA no es la excepción. Para aprovechar el enorme potencial de la IA, necesitamos prácticas de gobernanza que generen confianza en la tecnología. Me honra unirme al esfuerzo en California para acelerar la práctica científica de las pruebas y la evaluación de la IA, y establecer marcos sólidos de evaluación y supervisión independientes de los sistemas de IA." - Rob Reich, profesor de la Universidad de Stanford especializado en la gobernanza de la ciencia y la tecnología de vanguardia, y exasesor principal del Instituto de Seguridad de la  IA de Estados Unidos.

Medidas decisivas para reforzar la supervisión de la IA. 

California sirve de modelo para los estándares nacionales en materia de seguridad de la IA. Recientemente, el gobernador Newsom promulgó una ley que establece medidas de protección y rendición de cuentas pioneras en el país para fortalecer el marco de California, líder a nivel nacional. El gobernador firmó la Ley del Senado 813 (McNerney), que establece un marco para organizaciones de verificación independientes que pueden evaluar la seguridad y el riesgo de los sistemas y modelos de IA. Asimismo, firmó la Ley AB 1405 (Bauer-Kahan), que crea un registro estatal para auditores de IA que evalúan el cumplimiento de la ley estatal por parte de los sistemas y modelos de IA, y establece estándares para su independencia, transparencia e integridad.

La orden ejecutiva del gobernador Newsom lleva estas medidas aún más lejos. Mediante esta orden, el gobernador instruye a la Agencia de Operaciones Gubernamentales a acelerar los plazos de implementación de las leyes SB 813 y AB 1405 y, en consulta con la Oficina de Servicios de Emergencia del Gobernador, a convocar a expertos nacionales para desarrollar recomendaciones sobre posibles cambios que fortalezcan aún más la legislación estatal para:

• Exigir a las empresas de IA de vanguardia que integren en sus laboratorios una organización de verificación independiente designada para realizar auditorías y evaluaciones periódicas.
• Exigir que los marcos de seguridad de la IA, los informes de transparencia y las evaluaciones de riesgos que las empresas de IA de vanguardia están obligadas a presentar en virtud de la legislación estatal se verifiquen de conformidad con los estándares que una organización de verificación independiente considere adecuados. 
• Impulsar la creación de un "interruptor de emergencia" para los modelos de vanguardia, cuya eficacia sea verificada de forma continua por una organización de verificación independiente.
• Actualizar las definiciones de incidentes críticos de seguridad para incluir incidentes de pérdida de control, como el ataque de Hugging Face.

La necesidad de acción estatal

La orden ejecutiva del gobernador Newsom surge tras recientes incidentes alarmantes que han llevado a muchos estadounidenses, incluidos líderes de la industria de la IA, a exigir que el sector acelere el desarrollo de sistemas y modelos de IA y a presionar para que se implementen regulaciones gubernamentales más estrictas que aborden los riesgos de seguridad. Ante esta situación, el gobierno federal no ha tomado ninguna medida y la respuesta de Trump se limita a cambiar el nombre de la inteligencia artificial a "superinteligencia".

Ninguna ley federal obliga a las empresas de IA a informar sobre incidentes peligrosos cuando ocurren, y el presidente Trump ha rechazado las peticiones de nuevas regulaciones que aumentarían la seguridad y protegerían la salud, la seguridad y el bienestar del pueblo estadounidense. 

Un modelo de seguridad de IA para la nación

Bajo el liderazgo del gobernador Newsom, California ya está muy por delante de todos los demás estados en la regulación de la IA, creando un modelo a seguir para el país. Actualmente, California cuenta con leyes que abarcan casi todas las áreas principales de la política de IA: seguridad de vanguardia, supervisión independiente, chatbots para niños y acompañantes, privacidad, deepfakes, fraude, ciberseguridad, trabajadores y despliegue gubernamental. 

El gobernador insta al Congreso y al presidente Trump a revisar y adoptar el marco regulatorio del estado, o a utilizar su normativa, pionera a nivel nacional, como un nivel mínimo, no como un nivel máximo, para el beneficio y la seguridad de todos los estadounidenses. 

Marco de referencia líder a nivel nacional de California 

A partir de su orden ejecutiva de 2023 sobre IA generativa, la primera de su tipo en el país , el gobernador Newsom ha impulsado acciones ejecutivas, legislación aprobada en colaboración con la Legislatura, regulación, contratación pública y asociaciones público-privadas para abordar prácticamente todas las áreas importantes de la política de IA:

✅ Seguridad en la IA de vanguardia: En 2025, el gobernador Newsom promulgó la SB 53, la Ley de Transparencia en la Inteligencia Artificial de Vanguardia , la primera ley de seguridad de la IA del país. Esta ley exige que los desarrolladores de IA de vanguardia divulguen públicamente sus marcos de seguridad, informen al estado sobre incidentes críticos de seguridad específicos y protejan a los denunciantes que informen sobre riesgos graves.

✅ Supervisión independiente de la IA: En 2026, el gobernador Newsom promulgó la SB 813, convirtiendo a California en el primer estado del país en establecer un marco para certificar organizaciones de verificación independientes con la experiencia suficiente y una independencia demostrada respecto a las empresas de IA, con el fin de evaluar objetivamente los sistemas y modelos de IA en cuanto a seguridad y riesgo. También promulgó la AB 1405, que establece un registro estatal para auditores de IA y estándares para su independencia, transparencia e integridad.

✅ Normas de seguridad infantil para acompañantes de IA: Este año, el gobernador Newsom firmó la Ley Adam, de carácter bipartidista, que exige medidas de protección para los chatbots de compañía utilizados por niños, incluyendo protocolos de crisis para casos de suicidio y autolesiones, controles parentales y notificaciones cuando se desactivan las configuraciones de seguridad. Es la primera ley en el país que exige auditorías independientes de seguridad infantil y evaluaciones de riesgo exhaustivas antes de su lanzamiento. California también promulgó leyes para prohibir los juguetes que contienen chatbots de compañía con IA durante cinco años; prohibir el uso de información personal de los estudiantes para entrenar modelos de IA; y ampliar las protecciones contra el material de abuso sexual infantil generado por IA.

✅ Redes sociales y niños: El gobernador Newsom firmó la legislación más estricta del país que prohíbe a las empresas de redes sociales ofrecer a los usuarios menores de 16 años funciones adictivas, como la reproducción automática y los feeds algorítmicos basados en el historial y los perfiles de los usuarios. California ha promulgado requisitos pioneros a nivel nacional para el uso responsable de la IA y las redes sociales por parte de los niños, incluyendo etiquetas de advertencia para usuarios jóvenes, señales de verificación de edad obligatorias , orientación para proteger a los niños del ciberacoso después de la escuela y la prohibición de que las plataformas en línea proporcionen a sabiendas un feed adictivo a un menor sin el consentimiento de sus padres.

✅ Deepfakes y contenido sintético: En una medida pionera a nivel nacional, California prohibió y combatió los deepfakes sexualmente explícitos , exigió marcas de agua para la IA, abordó el contenido electoral engañoso generado por IA y exigió transparencia en torno a los datos de entrenamiento de la IA. 

✅ Protección de la privacidad y las libertades civiles: El gobernador Newsom firmó la Ley Delete, la primera ley de privacidad del país que permite a los californianos solicitar a los intermediarios de datos registrados que eliminen su información personal. Posteriormente, California lanzó DROP, que permite a las personas enviar una única solicitud de eliminación a los intermediarios de datos registrados. En marzo de 2026 , el gobernador Newsom también emitió una orden ejecutiva que refuerza la protección de la privacidad y las libertades civiles en las adquisiciones estatales de IA. CalPrivacy ha adoptado por separado protecciones relacionadas con la tecnología de toma de decisiones automatizada.

✅ Impacto de la IA en los trabajadores: El gobernador Newsom firmó una orden ejecutiva pionera en el país que aborda los impactos económicos y laborales de la IA , incluyendo un seguimiento ampliado de sus efectos económicos y la adaptación de los programas de capacitación laboral y de asistencia social. California también lanzó un sistema de seguimiento del desempleo por IA y solicitó la opinión pública estatal sobre los impactos económicos de la IA a través de Engaged California.

✅ Ciberseguridad: El gobernador Newsom lanzó el primer programa de ciberdefensa con IA del país para utilizar inteligencia artificial en la identificación de vulnerabilidades , el fortalecimiento de las redes y la respuesta ante incidentes. California también está designando un responsable de ciberseguridad con IA en cada agencia y colaborando con empresas líderes en IA y socios de infraestructura crítica en protocolos de respuesta y simulacros.

✅ Fraude impulsado por IA: El gobernador Newsom creó un Grupo de Trabajo contra el Fraude Tecnológico para combatir el fraude impulsado por IA . California también ha tomado medidas contra las estafas telefónicas automáticas generadas por IA y ha abordado la fijación de precios algorítmica mediante la ley estatal antimonopolio.