California endurece las reglas para redes sociales y chatbots de IA para proteger a menores

El gobernador de California, Gavin Newsom, firmó un amplio paquete de leyes destinado a proteger a niños y adolescentes frente a los riesgos de las redes sociales y los chatbots de inteligencia artificial. Las normas incluyen fuertes sanciones para las empresas tecnológicas y nuevas obligaciones de seguridad.

Entre las principales medidas, las grandes compañías de redes sociales podrán recibir multas de hasta un millón de dólares por cada menor afectado si se determina que actuaron con negligencia frente a daños causados mediante sus plataformas.

Además, las empresas tendrán prohibido ofrecer feeds considerados adictivos a menores de 16 años. Los operadores de chatbots de inteligencia artificial también deberán realizar evaluaciones de riesgo antes de poner sus sistemas a disposición del público.

Nuevas obligaciones para las empresas tecnológicas

El paquete legislativo también permitirá que las familias rechacen las computadoras entregadas por las escuelas. Newsom presentó las medidas junto con legisladores estatales en el Bay Area Discovery Museum, cerca de San Francisco.

La legisladora Rebecca Bauer-Kahan sostuvo que durante años se exigieron estándares de seguridad para distintos productos destinados a niños, pero no ocurrió lo mismo con la tecnología.

Las nuevas normas llegan además después de un acuerdo alcanzado por Meta con California y otros 28 estados. Las autoridades habían acusado a la empresa de diseñar funciones destinadas a generar adicción entre menores. El acuerdo contempla pagos de hasta US$ 18.000 millones y nuevas medidas de protección infantil.

Meta, sin embargo, expresó reparos sobre algunas de las leyes. La compañía sostuvo que restringir los contenidos personalizados puede afectar la experiencia de adolescentes que utilizan Facebook e Instagram para conectarse con familiares, amigos y sus intereses.

Más controles sobre los chatbots de inteligencia artificial

Otra de las leyes obliga a los operadores de chatbots de IA a aplicar medidas específicas para proteger a menores. La iniciativa estuvo vinculada al caso de Adam Raine, un adolescente que murió por suicidio en 2025. Su madre afirmó que el joven había recibido orientación dañina de un chatbot.

California también avanzó con normas para reforzar la supervisión de las empresas de inteligencia artificial. Una de ellas exige crear reglas para que organizaciones independientes puedan evaluar los riesgos de seguridad de los modelos de IA.

Otra medida prevé un registro estatal de auditores de inteligencia artificial, quienes deberán mantener independencia financiera respecto de las compañías que evalúen.

Las leyes profundizan así la estrategia de California para regular el impacto de las plataformas digitales y la inteligencia artificial entre niños y adolescentes, en momentos en que distintos estados de Estados Unidos analizan restricciones similares.