El gobernador Newsom anuncia los resultados del proyecto pionero en California para involucrar a los californianos en las decisiones sobre inteligenci

A través de Engaged California, la primera plataforma de democracia digital del gobernador Newsom en el país, los californianos están contribuyendo a definir el futuro de las políticas de IA. 

El gobernador anunció un nuevo informe que recoge las opiniones y preocupaciones de los californianos. Su mensaje principal: los californianos deben tener voz y voto en cómo se desarrolla, utiliza y gestiona la IA.

SACRAMENTO — Los californianos están alzando la voz para dar forma al futuro de la IA. El gobernador Newsom anunció hoy un informe pionero a nivel nacional que recoge las prioridades de los californianos sobre cómo debería desarrollarse, utilizarse y regularse la inteligencia artificial, basado en la primera iniciativa estatal de participación pública a través de su innovador programa de democracia digital, Engaged California. Un mensaje quedó claro: los californianos quieren estar al tanto de las políticas de IA, no solo de cómo las personas la utilizan, sino también de cómo las empresas la desarrollan y cómo el gobierno la regula. Mientras Trump y el gobierno federal eluden su responsabilidad de proteger a la población de las disrupciones de la IA, California lidera el país en el establecimiento de salvaguardias para aumentar la transparencia y la rendición de cuentas a medida que la tecnología avanza rápidamente.

Estas recomendaciones ayudarán a orientar las decisiones políticas y se sumarán al marco normativo de IA del Gobernador, el más sólido del país, que incluye leyes pioneras a nivel nacional para proteger a los empleados en el lugar de trabajo.

La IA está transformando nuestra forma de vivir, trabajar, aprender y conectar, y los californianos merecen tener voz y voto en el futuro. Escuchamos directamente a la gente de todo el estado, recabamos sus opiniones y nos aseguramos de que esta tecnología se desarrolle y gestione de manera que amplíe las oportunidades, proteja a las personas y mantenga a los californianos en el centro de las decisiones futuras. A través de Engaged California, hacemos que el gobierno sea más accesible y garantizamos que cada californiano tenga voz y voto.

Gobernador Gavin Newsom

"California siempre ha sido un lugar donde las ideas audaces echan raíces. Y con la creación de Engaged California, el estado ha logrado algo verdaderamente histórico: construir una plataforma de democracia deliberativa pionera en el país que sitúa la voz del pueblo en el centro del gobierno", declaró Jeffery Marino, director de la Oficina de Datos e Innovación. "Esta es una victoria para los californianos. Este programa les da voz y voto en lo que respecta a las políticas y los programas que dan forma a sus vidas". 

Lo que escuchamos 

En la primera consulta pública del país, surgieron tres temas con mayor frecuencia y obtuvieron el mayor apoyo. 

Exigir responsabilidades a las empresas de IA por el daño que causan.

Proteger a las personas y al medio ambiente de las necesidades de recursos de la IA.

Establecer reglas sobre dónde y cómo se puede utilizar la IA de forma segura.

Los participantes ofrecieron diversas perspectivas sobre cómo California debería abordar la regulación de la IA. Un participante instó a que se implementaran sólidas protecciones para los trabajadores: «Garantizar que nuestros gobiernos rindan cuentas a los ciudadanos en cuanto a la transparencia en la construcción, edificación e implementación de centros de datos sería una política útil». 

Otros advirtieron sobre la excesiva regulación de la industria. Un participante comentó: "¿Quizás el requisito de publicar un modelo de IA exige que pase alguna prueba de sesgo?".

Algunos pidieron mayor transparencia por parte de las propias empresas de IA. Un participante afirmó: «Lo primero que creo que debemos hacer es obligar a las empresas de IA a que abran su caja negra y a que realicen más estudios revisados por pares sobre las afirmaciones que hacen, tal como hicimos al estudiar los daños que las redes sociales causan a los menores de 18 años. Se necesitan más estudios sobre cómo la IA está afectando nuestra capacidad de pensamiento crítico».

La lista completa de recomendaciones figura en el  informe final .

California comprometida

Bajo el liderazgo del gobernador Newsom, California puso en marcha Engaged California , la primera iniciativa de democracia digital del país. Comenzó con un programa piloto como parte de la respuesta del estado a los incendios forestales de Los Ángeles. El programa piloto buscó la opinión de miles de residentes locales para contribuir a la recuperación. Los residentes afectados ayudaron a identificar y priorizar las necesidades de recuperación,  lo que dio lugar a 19 recomendaciones para la acción gubernamental . Engaged California ofrece a los californianos una oportunidad única para compartir sus ideas y conectar con otros sobre temas que les importan. Crea nuevas oportunidades para que los californianos se conecten con su gobierno para informar y dar forma a las políticas a través de debates honestos y respetuosos. A medida que la IA se vuelve más común en nuestras vidas y el gobierno federal no actúa para proteger a la población de posibles interrupciones, el gobernador Newsom lanzó oficialmente el primer uso estatal de la herramienta en mayo de 2026, abierto a todos los residentes, dando a todos los californianos una voz más fuerte en la política de IA. La iniciativa pionera del gobernador Newsom empodera a los californianos para interactuar con el gobierno de una manera novedosa y crea un espacio para el diálogo que fomente la comprensión y dé forma a las decisiones políticas sobre IA. 

Inteligencia artificial, al estilo californiano.

A partir de su orden ejecutiva de 2023 sobre IA generativa, la primera de su tipo en el país , el gobernador Newsom ha impulsado acciones ejecutivas, legislación aprobada en colaboración con la Legislatura, regulación, contratación pública y asociaciones público-privadas para abordar prácticamente todas las áreas importantes de la política de IA:

✅ Impacto de la IA en los trabajadores: El gobernador Newsom firmó una orden ejecutiva pionera en el país que aborda los impactos económicos y laborales de la IA , incluyendo un seguimiento ampliado de sus efectos económicos y la adaptación de los programas de capacitación laboral y de asistencia social. California también lanzó un sistema de seguimiento del desempleo por IA y solicitó la opinión pública estatal sobre los impactos económicos de la IA a través de Engaged California.

✅ Seguridad en la IA de vanguardia : En 2025, el gobernador Newsom promulgó la SB 53, la Ley de Transparencia en la Inteligencia Artificial de Vanguardia , la primera ley de seguridad de la IA del país. Esta ley exige que los desarrolladores de IA de vanguardia divulguen públicamente sus marcos de seguridad, informen al estado sobre incidentes críticos de seguridad específicos y protejan a quienes denuncien riesgos graves.

✅ Supervisión independiente de la IA: En 2026, el gobernador Newsom promulgó la SB 813, convirtiendo a California en el primer estado del país en establecer un marco para certificar organizaciones de verificación independientes con la experiencia suficiente y demostrada independencia de las empresas de IA para evaluar objetivamente los sistemas y modelos de IA en cuanto a seguridad y riesgo. También promulgó la AB 1405, que establece un registro estatal para auditores de IA y estándares para su independencia, transparencia e integridad.

✅ Normas de seguridad infantil para acompañantes de IA: Este año, el gobernador Newsom firmó la Ley Adam, de carácter bipartidista, que exige medidas de protección para los chatbots de compañía utilizados por niños, incluyendo protocolos de crisis para casos de suicidio y autolesiones, controles parentales y notificaciones cuando se desactivan las configuraciones de seguridad. Es la primera ley en el país que exige auditorías independientes de seguridad infantil y evaluaciones de riesgo exhaustivas antes de su lanzamiento. California también promulgó leyes para prohibir los juguetes que contienen chatbots de compañía con IA durante cinco años; prohibir el uso de información personal de los estudiantes para entrenar modelos de IA; y ampliar las protecciones contra el material de abuso sexual infantil generado por IA.

✅ Redes sociales y niños: El gobernador Newsom firmó la legislación más estricta del país que prohíbe a las empresas de redes sociales ofrecer a los usuarios menores de 16 años funciones adictivas, como la reproducción automática y los feeds algorítmicos basados en el historial y los perfiles de los usuarios. California ha promulgado requisitos pioneros a nivel nacional para el uso responsable de la IA y las redes sociales por parte de los niños, incluyendo etiquetas de advertencia para usuarios jóvenes, señales de verificación de edad obligatorias , orientación para proteger a los niños del ciberacoso después de la escuela y la prohibición de que las plataformas en línea proporcionen a sabiendas contenido adictivo a un menor sin el consentimiento de sus padres.

✅ Deepfakes y contenido sintético: En una medida pionera a nivel nacional, el gobernador Newsom prohibió y combatió los deepfakes sexualmente explícitos , exigió marcas de agua para la IA, abordó el contenido electoral engañoso generado por IA y exigió transparencia en torno a los datos de entrenamiento de la IA. 

✅ Protección de la privacidad y las libertades civiles: El gobernador Newsom firmó la Ley Delete, una ley de privacidad pionera en el país que permite a los californianos solicitar a los intermediarios de datos registrados que eliminen su información personal. Posteriormente, California lanzó DROP, que permite a las personas enviar una única solicitud de eliminación a los intermediarios de datos registrados. En marzo de 2026, el gobernador Newsom también emitió una orden ejecutiva que refuerza la protección de la privacidad y las libertades civiles en las adquisiciones estatales de IA. CalPrivacy ha adoptado por separado protecciones relacionadas con la tecnología de toma de decisiones automatizada.

✅ Ciberseguridad: El gobernador Newsom lanzó el primer programa nacional de ciberdefensa con IA para utilizar la inteligencia artificial en la identificación de vulnerabilidades, el fortalecimiento de las redes y la respuesta ante incidentes. California también está designando un responsable de ciberseguridad con IA en cada agencia y colaborando con empresas líderes en IA y socios de infraestructura crítica en protocolos de respuesta y simulacros.

✅ Fraude mediante IA: El gobernador Newsom creó un Grupo de Trabajo contra el Fraude Tecnológico para combatir el fraude impulsado por IA. California también ha tomado medidas contra las estafas telefónicas automáticas generadas por IA y ha abordado la fijación de precios algorítmica mediante la legislación estatal antimonopolio. 

Socios en la innovación 

Para impulsar la iniciativa Engaged California, la Agencia de Operaciones Gubernamentales y la Oficina de Datos e Innovación de California (ODI)  colaboran con Carnegie California, la oficina y programa de la Costa Oeste de la Fundación Carnegie para la Paz Internacional, para liderar el desarrollo de este programa y sus herramientas de participación deliberativa. Otros socios y asesores en el diseño del programa incluyen a académicos y líderes de American Public Trust, el Instituto Berggruen, el Laboratorio de Democracia Deliberativa de la Universidad de Stanford, la Universidad de California en Berkeley, el Centro para Internet y la Sociedad de la Universidad de Harvard, la Fundación San Francisco, el Instituto Project Liberty y el Centro Kapor.