Nuevas leyes restringen funciones como la reproducción automática y los contenidos recomendados por algoritmos para menores de 16 años. El estado también endurece los controles sobre los chatbots de inteligencia artificial.
California vuelve a colocarse en el centro del debate nacional sobre la tecnología y la protección de niños y adolescentes. El gobernador Gavin Newsom promulgó un paquete de leyes que busca impedir que las plataformas de redes sociales utilicen determinadas funciones diseñadas para mantener conectados a los menores durante largos períodos.
La nueva legislación pone especial atención en los menores de 16 años y limita herramientas que pueden incentivar el uso compulsivo de las redes sociales, entre ellas la reproducción automática de contenidos y los sistemas de recomendación basados en el historial y el perfil de cada usuario.
La medida convierte a California en uno de los estados más agresivos de Estados Unidos en intentar regular el diseño de las plataformas digitales cuando se trata de proteger a niños y adolescentes.
“California prohíbe las funciones adictivas de las redes sociales para niños”, anunció Newsom al informar sobre la aprobación de las nuevas normas.
¿QUÉ CAMBIARÁ PARA LOS MENORES?
Uno de los principales objetivos es limitar la manera en que las redes sociales seleccionan y presentan contenidos a los usuarios menores de 16 años.
Actualmente, muchas plataformas utilizan algoritmos que analizan lo que una persona mira, cuánto tiempo permanece en una publicación, qué videos repite o con qué contenido interactúa. Con esa información pueden recomendar nuevos videos, fotografías o publicaciones.
El problema, según los defensores de estas regulaciones, es que estos sistemas pueden crear un ciclo difícil de interrumpir: el usuario recibe constantemente contenido adaptado a sus intereses y tiene incentivos para continuar desplazándose por la pantalla.
La nueva legislación pretende poner límites a ese mecanismo cuando el usuario sea menor de edad.
También se restringe la reproducción automática, una función que permite que un video comience inmediatamente después de terminar el anterior, sin que el usuario tenga que tomar una nueva decisión.
Para las familias, el cambio plantea una pregunta importante: ¿las redes sociales deben diseñarse solamente para captar la atención o también deben tener la obligación de proteger a los menores?
California está apostando claramente por la segunda opción.
TAMBIÉN VAN CONTRA LOS CHATBOTS
El paquete de leyes no se limita a Instagram, Facebook u otras redes sociales.
Newsom también firmó medidas relacionadas con los llamados chatbots de acompañamiento, sistemas de inteligencia artificial diseñados para mantener conversaciones prolongadas con los usuarios y, en algunos casos, presentarse como amigos, confidentes o compañeros virtuales.
El estado busca establecer regulaciones más estrictas para evitar que estos sistemas puedan resultar peligrosos para niños y adolescentes.
La preocupación ha aumentado a medida que la inteligencia artificial se incorpora rápidamente a la vida cotidiana de los jóvenes. Un adolescente puede conversar durante horas con un chatbot sin que exista una persona adulta supervisando necesariamente esas interacciones.
California pretende establecer límites específicos para los menores de 16 años y aumentar las obligaciones de las empresas que desarrollan estas tecnologías.
MÁS CONTROL SOBRE LA INTELIGENCIA ARTIFICIAL
La ofensiva tecnológica del gobernador también incluye nuevas reglas para evaluar los sistemas de inteligencia artificial.
Una de las leyes establece un marco para que organizaciones independientes puedan revisar sistemas y modelos de IA y determinar si cumplen con las leyes estatales.
Otra crea un registro estatal para auditores de inteligencia artificial y establece estándares relacionados con su independencia, transparencia e integridad.
La idea es que las empresas no sean las únicas responsables de decir si sus propios sistemas son seguros.
California quiere contar con mecanismos externos capaces de examinar estas tecnologías y determinar si cumplen las reglas establecidas.
UN DEBATE QUE APENAS COMIENZA
La decisión de California llega en un momento de creciente preocupación por el impacto de las plataformas digitales en los menores.
El estado ya había aprobado otras leyes relacionadas con inteligencia artificial, incluyendo medidas sobre imágenes manipuladas digitalmente, conocidas como deepfakes, marcas de agua digitales, protección de trabajadores y derechos relacionados con la imagen de artistas.
También aprobó una legislación para exigir a las grandes empresas de IA que hagan públicos determinados protocolos de seguridad y otras normas para proteger la imagen digital de artistas frente al uso de representaciones creadas mediante inteligencia artificial.
Todo esto forma parte de una estrategia para convertir a California en uno de los principales laboratorios de regulación tecnológica del país.
EL CASO META PUSO EL TEMA EN PRIMER PLANO
La discusión también se produce después de las demandas contra Meta, propietaria de Facebook e Instagram.
En esas acciones legales se acusó a la empresa de diseñar sus plataformas de manera que podían generar comportamientos adictivos entre menores y de minimizar los riesgos relacionados con la seguridad de sus productos.
Meta alcanzó posteriormente un acuerdo multimillonario para resolver las demandas y evitar un juicio federal en California, además de comprometerse a realizar cambios en sus plataformas.
Para los padres, sin embargo, el problema no termina con una nueva ley.
La tecnología continuará formando parte de la vida de sus hijos. Por eso, especialistas y defensores de la infancia coinciden en que las regulaciones deben complementarse con educación digital dentro del hogar y en las escuelas.
Los padres pueden establecer horarios para el uso de teléfonos, revisar las configuraciones de privacidad, conversar con sus hijos sobre los contenidos que consumen y enseñarles a reconocer cuándo una aplicación intenta mantenerlos conectados.
La batalla ahora será determinar hasta dónde puede llegar el gobierno en la regulación de las grandes plataformas sin afectar otros derechos y cómo harán las empresas para cumplir las nuevas normas. Con información de EFE.
