Newsom firma proyectos de ley para fortalecer aún más el liderazgo de California en la protección de los niños en línea

El gobernador Newsom firmó una legislación para proteger aún más a los niños en línea y abordar las amenazas emergentes a medida que la tecnología continúa desarrollándose, manteniendo la posición del estado como líder nacional tanto en la protección de los niños como en el fomento de la innovación.

SACRAMENTO -  El gobernador Newsom firmó hoy una legislación histórica para fortalecer aún más la protección de los niños en línea en el estado y crear salvaguardas para las tecnologías nuevas y emergentes, como la inteligencia artificial (IA). La legislación añade funciones obligatorias para plataformas y productos, como la verificación de edad, protocolos para abordar el suicidio y la autolesión, advertencias sobre las redes sociales y los chatbots acompañantes, y sanciones más severas para quienes se lucren con deepfakes ilegales. Esto ayuda a garantizar que la seguridad de los niños siga siendo una prioridad.

Las tecnologías emergentes, como los chatbots y las redes sociales, pueden inspirar, educar y conectar; pero sin unas medidas de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros hijos. Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas sigan actuando sin los límites ni la rendición de cuentas necesarios. Podemos seguir liderando la IA y la tecnología, pero debemos hacerlo con responsabilidad, protegiendo a nuestros hijos en todo momento. La seguridad de nuestros hijos no está en venta.

Gobernador Gavin Newsom

Todo lo que hacemos comienza con nuestros niños: su seguridad, su salud y su bienestar. California siempre ha sido pionera en innovación, pero el verdadero liderazgo también implica establecer límites cuando más importa, porque nuestros niños merecen un mundo que los valore más que la tecnología que los rodea. Estos proyectos de ley establecen barreras que protegen la salud y la seguridad de nuestros niños, a la vez que garantizan que la innovación avance de forma responsable, demostrando que podemos lograr ambas cosas a la vez, siempre pensando en las generaciones futuras.

Primera socia Jennifer Siebel Newsom

California se ha mantenido durante mucho tiempo como un líder audaz en la protección de los niños contra los peligros de las tecnologías emergentes. Las leyes promulgadas hoy se suman a otras leyes históricas para proteger a los niños de la adicción a las redes sociales , estrictos requisitos de privacidad y medidas de transparencia líderes a nivel nacional .

Los proyectos de ley ayudarán a proteger a los niños en línea mediante la creación de:

✅ Nuevas salvaguardias para los chatbots de IA : se exige que las plataformas de "chatbots acompañantes" creen protocolos para identificar y abordar las ideas suicidas o las expresiones de autolesión de los usuarios. Las plataformas también deben informar que las interacciones se generan artificialmente, y se debe proporcionar a los menores recordatorios de descanso y evitar que vean imágenes sexualmente explícitas generadas por el chatbot. Las plataformas deberán compartir con el Departamento de Salud Pública los protocolos para abordar la autolesión y las estadísticas sobre la frecuencia con la que enviaron a los usuarios notificaciones de prevención del centro de crisis. La legislación también prohíbe que los chatbots se presenten como profesionales de la salud. 

✅ Verificaciones de edad requeridas por los proveedores del sistema operativo y de la tienda de aplicaciones para ayudar a evitar que los niños accedan a contenido inapropiado o peligroso en línea. 

✅ Etiquetas de advertencia en las redes sociales para ayudar a advertir a los usuarios jóvenes sobre los daños asociados con el uso prolongado de las plataformas de redes sociales. 

✅ Sanciones más severas para la pornografía deepfake al ampliar la causa de acción para permitir que las víctimas, incluidos los menores, busquen una reparación civil de hasta $250,000 por acción contra terceros que a sabiendas faciliten o ayuden en la distribución de material sexualmente explícito no consensuado.

✅ Orientación para prevenir el acoso cibernético mediante la exigencia de que el Departamento de Educación de California (CDE), el 1 de junio de 2026 o antes, adopte una política modelo sobre cómo abordar los actos denunciados de acoso cibernético que ocurren fuera del horario escolar, y requiere que las agencias educativas locales adopten la política resultante o una política similar desarrollada con aportes locales.

✅ Rendición de cuentas clara por los daños causados por la tecnología de IA impidiendo que quienes desarrollan, alteran o utilizan inteligencia artificial eludan la responsabilidad afirmando que la tecnología actuó de forma autónoma. 

La lista completa de proyectos de ley firmados para proteger a los niños y fortalecer la seguridad de la tecnología y las plataformas en línea incluye:

• AB 56 de la asambleísta Rebecca Bauer-Kahan (demócrata por Orinda). Redes sociales: etiquetas de advertencia.
• AB 316 de la asambleísta Maggy Krell (demócrata por Sacramento). Inteligencia artificial: defensas.
• AB 489 de la asambleísta Mia Bonta (demócrata por Oakland). Profesiones de la salud: términos o letras engañosas: inteligencia artificial.*
• AB 566 del asambleísta Josh Lowenthal (demócrata por Long Beach). Ley de Privacidad del Consumidor de California de 2018: señal de preferencia de exclusión voluntaria.*
• AB 621 de la asambleísta Rebecca Bauer-Kahan (demócrata de Orinda). Pornografía deepfake.
• AB 656 de la asambleísta Pilar Schiavo (demócrata por Santa Clarita). Cancelación de cuenta.*
• AB 772 del asambleísta Josh Lowenthal (demócrata por Long Beach). Ciberacoso: actos fuera del campus: política modelo.*
• AB 853 de la asambleísta Buffy Wicks (demócrata por Oakland). Ley de Transparencia de la Inteligencia Artificial de California. Puede encontrar un mensaje de firma aquí .
• AB 979 de la asambleísta Jacquie Irwin (demócrata por Thousand Oaks). Centro de Integración de Ciberseguridad de California: inteligencia artificial.*
• AB 1043 de la asambleísta Buffy Wicks (demócrata por Oakland). Señales de verificación de edad: aplicaciones de software y servicios en línea.
• SB 50 de la senadora Angelique Ashby (demócrata por Sacramento). Dispositivos conectados: solicitudes de protección de dispositivos.
• SB 53 del senador Scott Wiener (demócrata por San Francisco). Modelos de inteligencia artificial: grandes desarrolladores.*
• SB 243 del senador Steve Padilla (demócrata por San Diego). Chatbots complementarios. 
• SB 361 del senador Josh Becker (demócrata por Menlo Park). Corredores de datos: recopilación y eliminación de datos.*
• SB 446 de la senadora Melissa Hurtado (demócrata por Bakersfield). Violaciones de datos: notificación al cliente.*
• SB 524 del senador Jesse Arreguín (demócrata por Berkeley). Agencias policiales: inteligencia artificial.*

*previamente firmado