El gobernador Newsom firma las leyes más estrictas del país sobre chatbots y redes sociales para la seguridad infantil

CALIFORNIA.-  Hoy, el gobernador Gavin Newsom, junto con la primera dama Jennifer Siebel Newsom y los legisladores, firmaron una histórica ley bipartidista que fortalece las protecciones líderes a nivel nacional de California para los niños en línea y en el uso de inteligencia artificial (IA). Las nuevas leyes refuerzan las medidas de seguridad para los chatbots de acompañamiento, prohíben que las plataformas de redes sociales ofrezcan funciones adictivas a usuarios menores de 16 años y amplían la protección de la privacidad de los niños. 

La seguridad de nuestros hijos merece ser el centro de toda conversación sobre tecnología. A medida que la innovación avanza a pasos agigantados, nuestras medidas de protección deben mantenerse al día. La legislación actual deja claro que California no permanecerá impasible mientras la tecnología sin regular pone en riesgo a nuestros hijos. La innovación conlleva responsabilidad, y proteger a nuestros hijos es primordial.

Gobernador Gavin Newsom

Queremos que nuestros hijos —y todos los niños de California— crezcan en un mundo donde la tecnología contribuya a su bienestar, en lugar de explotar sus vulnerabilidades. Con esta legislación crucial, California envía un mensaje contundente: cuando se trata de nuestros hijos, la seguridad no debe ser una cuestión secundaria, sino que debe integrarse en el diseño y ser un requisito indispensable para toda innovación.

Primera Dama Jennifer Siebel Newsom

Con la firma del Gobernador en estos proyectos de ley, California está tomando la delantera, con las leyes más estrictas que regulan los chatbots y las redes sociales a nivel nacional. Esto consolida el liderazgo de California en la creación de sólidas salvaguardias para las tecnologías emergentes, que están siendo replicadas por estados en todo Estados Unidos. 

California se ha distinguido durante mucho tiempo como un líder audaz en la protección de los niños frente a los peligros de las nuevas tecnologías. Las leyes firmadas hoy se suman a otras iniciativas legislativas trascendentales para proteger a los niños de  la adicción a las redes sociales ,  los estrictos requisitos de privacidad y  las medidas de transparencia pioneras a nivel nacional . California también fue el primer estado en crear  protecciones de seguridad en línea para niños en relación con los chatbots de asistencia con IA  , las cuales se refuerzan nuevamente hoy.

Los proyectos de ley de hoy ayudarán a proteger a los niños mediante:

✅  Creando la normativa más estricta del país para chatbots de acompañamiento  : la "Ley de Adam", que lleva el nombre de Adam Raine, exige protecciones sólidas para los chatbots de acompañamiento infantiles, incluyendo protocolos de crisis en caso de ideación suicida, controles parentales y notificaciones si el niño desactiva la configuración de seguridad. Esta ley es también la primera en el país en exigir a las empresas que realicen auditorías independientes de seguridad infantil y evaluaciones de riesgos anuales. 

✅  Prohibición de funciones adictivas en las plataformas de redes sociales  : Prohíbe a las empresas de redes sociales proporcionar a los usuarios menores de 16 años funciones adictivas como la reproducción automática y las fuentes algorítmicas basadas en el historial y el perfil del usuario. 

✅  Protección de los niños contra la explotación y el abuso  : amplía el alcance de la explotación sexual infantil para incluir cualquier material alterado digitalmente o generado por IA que represente a una persona menor de 18 años participando en un acto de conducta sexual. 

✅  Máxima protección de la privacidad para niños  : protege a los niños de la publicidad dirigida y regula el uso de datos de alumnos de primaria y secundaria en sistemas de IA.

Imagen de Adam Raine, en cuyo honor se nombró la "Ley de Adán".

Nueva legislación para mantener a los niños seguros en internet.

• AB 1709 del asambleísta Josh Lowenthal (demócrata por Long Beach) - Plataformas cubiertas: restricción de edad: Comisión Asesora de Seguridad Electrónica.
• Proyecto de ley SB 1119 del senador Steve Padilla (demócrata por San Diego) y las asambleístas Buffy Wicks (demócrata por Oakland) y Rebecca Bauer-Kahan (demócrata por Orinda): Chatbots de acompañamiento: seguridad infantil.
• AB 2 del asambleísta Josh Lowenthal (demócrata por Long Beach) - Lesiones a menores: sanciones civiles.
• Proyecto de ley AB 1856 presentado por la asambleísta Buffy Wicks (demócrata por Oakland): Señales de verificación de edad: aplicaciones de software.
• AB 1946 La asambleísta Buffy Wicks (demócrata por Oakland) propone un mecanismo para denunciar material de abuso sexual infantil.
• AB 2246 de la asambleísta Buffy Wicks (demócrata por Oakland) - Servicio, producto o función en línea: acceso por parte de niños.
• AB 1159 de la asambleísta Dawn Addis (D-Morro Bay) - Información personal del estudiante.
• AB 2071 del asambleísta Josh Hoover (republicano por Folsom) - Instrucción estudiantil: bienestar digital.
• AB 302 de la asambleísta Rebecca Bauer-Kahan (D-Orinda) - Comunicación entre alumnos y padres: actividades extracurriculares: contenido adictivo. 
• Proyecto de ley SB 1276 de la senadora Susan Rubio (demócrata por Baldwin Park) - Delitos: explotación sexual de un menor.
• Proyecto de ley SB 1128 del senador Henry Stern (demócrata por Los Ángeles) - Alumnos: materiales basados en tecnología: dispositivos electrónicos proporcionados por la escuela.
• AB 2298 de la asambleísta Jacqui Irwin (D-Thousand Oaks) - Instrucción estudiantil: ciencias de la computación: estándares de contenido.
• Proyecto de ley SB 867 del senador Steve Padilla (demócrata por San Diego): Juguetes: chatbots de compañía.

Líderes nacionales en seguridad en línea

Bajo el liderazgo del gobernador Newsom y en colaboración con la Legislatura, California ha promulgado requisitos pioneros a nivel nacional para el uso responsable de la IA y las redes sociales para niños, incluyendo  etiquetas de advertencia  para usuarios jóvenes,  señales de verificación de edad obligatorias , orientación para proteger a los niños del ciberacoso después de la escuela y la prohibición de que las plataformas en línea proporcionen a sabiendas contenido adictivo a un menor sin el consentimiento de sus padres. En 2022, el gobernador Newsom también firmó una ley que exige a las empresas publicar públicamente sus políticas sobre discurso de odio, desinformación, acoso y extremismo en sus plataformas e informar datos sobre la  aplicación de dichas políticas . El gobernador Newsom también lanzó  Soluna y Brightlife Kids  para brindar recursos gratuitos de salud mental a niños en todo el estado y fue uno de los primeros defensores de limitar  el uso de teléfonos inteligentes durante el horario escolar . La Primera Dama Jennifer Siebel Newsom también lanzó recientemente un  Consejo de Tecnología para Adolescentes  para garantizar que las voces de los jóvenes ayuden a dar forma a la política estatal y para apoyar iniciativas de bienestar digital en todo el estado. 

Detener la explotación en línea  

Durante la administración de Newsom, California está tomando medidas para proteger a las personas de los ciberdelincuentes, incluyendo la obligación de que las plataformas de redes sociales  establezcan un mecanismo  para denunciar y eliminar el "robo de identidad digital con contenido sexual explícito" y la ampliación del alcance de las leyes existentes sobre pornografía infantil para incluir material alterado digitalmente o generado mediante inteligencia artificial. California también promulgó  sanciones más severas  para la pornografía deepfake, ampliando la causa de acción para permitir que las víctimas, incluyendo menores de edad, soliciten una indemnización civil de hasta 250.000 dólares por demanda contra terceros que, a sabiendas, faciliten o ayuden en la distribución de material sexualmente explícito sin consentimiento.

California está creando medidas de protección a medida que la IA se acelera.

California es líder nacional desde hace mucho tiempo en seguridad de la IA. En 2023, el gobernador Newsom emitió una orden ejecutiva sin precedentes   que instruía al estado a utilizar la IA de forma segura en beneficio de los californianos; identificar los riesgos potenciales para las personas, las comunidades, el gobierno estatal y los empleados estatales; e implementar salvaguardias para garantizar que el uso de la IA por parte del gobierno proteja los derechos y la seguridad de los californianos.

En  2024 , el Gobernador promulgó un paquete legislativo integral sobre IA, pionero a nivel nacional,   que abordaba temas como las falsificaciones profundas (deepfakes), las marcas de agua digitales, la infancia y los trabajadores. La Administración también convocó a destacados  académicos y expertos en IA  para desarrollar un marco científico que permitiera comprender las capacidades y los riesgos de los modelos de vanguardia.

En 2025, el gobernador Newsom promulgó la primera ley de seguridad de IA del país —la  SB 53 , Ley de Transparencia en Inteligencia Artificial de Frontera de California— que exige a los desarrolladores de IA de frontera divulgar públicamente sus marcos de seguridad, informar al estado sobre ciertos incidentes críticos de seguridad y protege a los denunciantes que informan sobre riesgos graves. California también reforzó  las regulaciones de privacidad de la tecnología de toma de decisiones automatizada . Ayer, el gobernador Newsom promulgó la SB 813 (McNerney), que establece un  marco pionero en el país para organizaciones de verificación independientes  que pueden evaluar sistemas y modelos de IA para verificar su cumplimiento con la ley estatal. El gobernador Newsom también promulgó la AB 1405 (Bauer-Kahan), que crea un registro estatal para auditores de IA y establece estándares para su independencia, transparencia e integridad. 

Preparando a California para los impactos de la IA

Este año, para preparar a los trabajadores y las empresas ante posibles interrupciones, el gobernador Newsom firmó una orden ejecutiva sin precedentes para  apoyar a los trabajadores de los sectores afectados por la transición a la IA  y ayudar a California a responder con mayor rapidez a posibles despidos y perturbaciones económicas. El gobernador Newsom también emitió una  orden ejecutiva  para fortalecer aún más la protección de la privacidad y las libertades civiles en torno a los procesos de contratación pública de California, elevando el listón para las empresas de IA que buscan hacer negocios con el estado. Asimismo, creó un  Grupo de Trabajo contra el Fraude Tecnológico  para colaborar con el sector privado en la lucha contra el fraude habilitado por la IA y firmó una ley  que previene  las estafas mediante llamadas automáticas generadas por IA . En agosto, el gobernador Newsom anunció un programa pionero a nivel nacional  de Ciberdefensa de la IA  dentro del Centro de Integración de Ciberseguridad de California para fortalecer las defensas contra las amenazas cibernéticas emergentes habilitadas por la IA. 

A medida que las capacidades de la IA continúan acelerándose, California sigue reforzando la transparencia, protegiendo a los denunciantes, defendiendo la infraestructura crítica y garantizando una supervisión humana eficaz.

Si bien California sigue a la vanguardia, la velocidad y la magnitud de la tecnología, junto con los riesgos asociados, exigen una respuesta nacional. El gobernador Newsom continúa instando al gobierno federal a establecer regulaciones nacionales sólidas que protejan a la ciudadanía y, al mismo tiempo, permitan el desarrollo de la innovación responsable.