Entornos Digitales Seguros

La discusión sobre cómo proteger a niños, niñas y adolescentes en los entornos digitales ha dejado de ser exclusivamente tecnológica. Hoy es también un desafío social, institucional y regulatorio que exige encontrar un equilibrio entre protección, innovación y libertad.

Los recientes acontecimientos relacionados con Meta y el debate internacional sobre el funcionamiento y los efectos de las grandes plataformas digitales han vuelto a poner esta discusión en el centro. No se trata solamente de preguntarnos cuánto tiempo pasan los menores frente a una pantalla, sino de comprender cómo están diseñadas las herramientas que utilizan, qué mecanismos emplean para captar su atención y qué responsabilidades deben asumir quienes desarrollan y administran estas plataformas.

En este contexto, valoramos positivamente el impulso que el Gobierno está dando al proyecto de ley de Entornos Digitales Seguros, particularmente por algunos de los énfasis planteados por la ministra de Desarrollo Social y Familia, María Jesús Wulf.

Desde Gofirmex creemos que la transformación digital necesita reglas. Pero también creemos que esas reglas deben construirse comprendiendo la realidad tecnológica sobre la que buscan intervenir.

‍

Una regulación que no choque con la realidad

‍

Uno de los aspectos más relevantes del enfoque planteado por la ministra Wulf es la necesidad de que la normativa no termine chocando con la realidad tecnológica y social.

La tecnología evoluciona a una velocidad considerablemente mayor que los procesos legislativos (esto lo vemos claramente en las distintas propuestas legislativas de Inteligencia Artificial). Una plataforma puede modificar sus funcionalidades, incorporar nuevas herramientas o incluso cambiar completamente su modelo de interacción en cuestión de meses.

Pero aquí también resulta importante recordar algo que planteamos recientemente en nuestra columna “Esto no es una pipa, ni la IA una amenaza publicitaria”: una tecnología no es necesariamente el problema por sí misma. Muchas veces estamos frente a herramientas cuyo impacto depende de cómo son diseñadas, utilizadas y del contexto en que se incorporan.

Una misma funcionalidad puede tener usos completamente distintos y producir efectos diferentes dependiendo de quién la utiliza, con qué propósito y bajo qué condiciones. Por eso, reducir el debate a plataformas, aplicaciones o tecnologías específicas puede llevarnos rápidamente a una regulación que quede obsoleta frente al próximo cambio tecnológico.

En este sentido, una regulación efectiva no debería preguntarse solamente “¿qué plataforma estamos regulando?”, sino también “¿qué funcionalidad, comportamiento o riesgo estamos buscando abordar?”.

Si mañana cambia el nombre de una plataforma, aparece una nueva aplicación o una tecnología incorpora una determinada funcionalidad que antes no existía, el riesgo que buscamos prevenir no desaparece ni necesariamente cambia de naturaleza.

La propia ministra ha planteado la necesidad de que las obligaciones consideren las funcionalidades y los riesgos de las plataformas, en lugar de centrarse exclusivamente en el nombre o categoría de una aplicación.

En definitiva, una forma de legislar que reconoce que las herramientas cambian, pero los desafíos que queremos abordar pueden permanecer.

La regulación debe ser capaz de acompañar esa evolución sin caer en la tentación de convertir cada nueva tecnología en una nueva amenaza.

‍

Gradualidad: proteger sin desconocer cómo funciona la sociedad digital

‍

Otro elemento que consideramos positivo es la importancia de avanzar de manera paulatina.

Una regulación puede tener una finalidad completamente legítima y, sin embargo, generar problemas si su implementación no considera las condiciones reales en las que debe aplicarse.

En materia digital esto es particularmente importante. Las plataformas forman parte de la vida cotidiana de millones de personas y cumplen funciones que van mucho más allá del entretenimiento: comunicación, educación, trabajo, información, comercio y participación social.

Por eso, establecer nuevas obligaciones requiere también considerar los procesos de adaptación necesarios para las familias, establecimientos educacionales, empresas y las propias plataformas.

La protección de niños, niñas y adolescentes no debería depender de una prohibición aislada, sino de un sistema que permita prevenir riesgos, generar capacidades y establecer responsabilidades claras.

La gradualidad, en este sentido, no significa renunciar a la protección. Significa hacer que las medidas adoptadas puedan implementarse, evaluarse y perfeccionarse en el tiempo.

‍

Una buena norma necesita capacidad para hacerse cumplir

‍

En cualquier proceso regulatorio existe una diferencia fundamental entre tener una norma y lograr que esa norma sea efectiva.

Por eso, otro aspecto que consideramos indispensable es que el debate legislativo incorpore desde el comienzo mecanismos adecuados de fiscalización y cumplimiento.

Si las plataformas tienen responsabilidades específicas, debe existir también una institucionalidad capaz de verificar que estas se cumplan, detectar incumplimientos y aplicar consecuencias proporcionales cuando corresponda.

Este punto adquiere especial relevancia frente a servicios digitales de alcance global. La regulación no puede descansar exclusivamente en la buena voluntad de las empresas ni trasladar toda la responsabilidad a las familias. La protección efectiva requiere reglas claras, pero también capacidad institucional para hacerlas cumplir.

Y esta es una lección que trasciende la discusión sobre los entornos digitales (y en  muchos otros temas de política pública). Una legislación que no cuenta con mecanismos adecuados de fiscalización corre el riesgo de convertirse en una declaración de buenas intenciones.

‍

Aprender de la experiencia internacional

‍

Regular un fenómeno nuevo no significa necesariamente partir de cero. Hay que recurrir a la experiencia comparada en otros países. 

Existe una creciente experiencia internacional respecto de la protección de niños, niñas y adolescentes en plataformas digitales. Distintos países han implementado medidas que van desde restricciones de acceso y mecanismos de verificación de edad hasta obligaciones específicas para las plataformas respecto de sus sistemas de recomendación y diseño. 

Chile tiene una oportunidad importante de observar esas experiencias, identificar qué ha funcionado, qué dificultades han aparecido y cuáles son las soluciones que podrían adaptarse a nuestra propia realidad.

La experiencia comparada no significa calcar y/o copiar modelos extranjeros. Significa aprender antes de legislar.

En una materia tan dinámica como la tecnología, donde los efectos de una política pueden tardar años en hacerse evidentes, contar con evidencia internacional puede ayudar a disminuir errores y mejorar el diseño de las políticas públicas.

‍

Una ley que mire las funcionalidades y no solamente las aplicaciones

‍

Quizás uno de los elementos más interesantes del enfoque planteado por el Ejecutivo es precisamente este cambio de perspectiva.

Regular Instagram, TikTok, una plataforma de streaming o un videojuego específico puede resultar insuficiente si el verdadero problema está asociado a determinadas funcionalidades y conductas de programación.

Sistemas de recomendación algorítmica, reproducción automática, scroll infinito, notificaciones, mecanismos de monetización basados en la atención o herramientas de interacción social pueden aparecer en múltiples servicios digitales.

Por eso, una legislación construida sobre las funcionalidades y los riesgos tiene una ventaja evidente la cual es mantener su vigencia durante más tiempo.

Aquí vuelve a aparecer la reflexión de nuestra columna “Esto no es una pipa”. Una herramienta no debe confundirse con los efectos que puede producir en determinadas circunstancias.

La pregunta regulatoria no debería ser simplemente si una tecnología es buena o mala. Debemos preguntarnos qué hace, cómo lo hace, con qué propósito, sobre quiénes impacta y qué mecanismos existen para prevenir sus riesgos.

Esta aproximación permite escapar de dos extremos igualmente problemáticos: asumir que toda innovación tecnológica es una amenaza o, en sentido contrario, considerar que toda innovación debe quedar fuera de cualquier regulación. 

La tecnología es una herramienta. La responsabilidad está en su diseño, su uso y en las condiciones que establecemos para su utilización.

‍

El valor de construir sobre un trabajo legislativo transversal

‍

Existe además otro elemento que merece ser destacado en este proyecto del Ejecutivo. Recoge y refunde distintas iniciativas parlamentarias que ya venían trabajando esta problemática.

Esto es relevante porque demuestra que la preocupación por los entornos digitales seguros no pertenece exclusivamente a un sector político ni comenzó con el actual proyecto del Gobierno.

Entre las iniciativas que están refundidas en el proyecto del Ejecutivo, se encuentra el proyecto de Protección Digital Infantil, liderado por el diputado Diego Schalper, además de otros proyectos impulsados por parlamentarios como la diputada Lorena Fries y el diputado Daniel Manoucheri.  Todas estas iniciativas son transversales en su representatividad política. A su vez, recientemente la presidenta del Senado, Paulina Núñez y el senador Diego Ibáñez han confluido en una columna de opinión esperanzadora en términos de legislar con responsabilidad.

Que estas propuestas puedan encontrarse representa una oportunidad para aprovechar el conocimiento y el trabajo legislativo que ya existe.

La buena regulación no necesita partir de cero, pues recoge el debate, la evidencia y las distintas aproximaciones que se han desarrollado previamente. En una materia que requiere acuerdos de largo plazo, esta transversalidad es especialmente valiosa.

Chile necesita que la discusión sobre tecnología y protección no quede atrapada en ciclos políticos de corto plazo. Los entornos digitales seguirán evolucionando independientemente de quién gobierne y, por lo mismo, las respuestas institucionales requieren una mirada que sea capaz de trascender una administración determinada.

‍

Corresponsabilidad: el Estado no puede hacerlo solo

‍

Hay una última dimensión que consideramos especialmente importante. La seguridad digital no puede construirse únicamente desde el Estado.

La protección de niños, niñas y adolescentes requiere involucrar a las familias, comunidades educativas, plataformas tecnológicas, organizaciones de la sociedad civil y al propio Estado, cada uno desde las responsabilidades que le corresponden.

Las familias tienen un rol insustituible, pero no pueden ser responsables de conocer cada algoritmo, configuración o cambio de cada plataforma. Las escuelas cumplen una función formativa esencial, pero tampoco pueden asumir por sí solas los riesgos generados por servicios diseñados y operados por grandes compañías tecnológicas.

Y las empresas tecnológicas, por su parte, debemos asumir responsabilidades acordes con las capacidades que tenemos para diseñar nuestros productos, modificar funcionalidades y anticipar los riesgos asociados a ellos. La protección efectiva requiere que cada actor asuma la parte que le corresponde.

Por eso valoramos que el proyecto avance bajo una lógica de corresponsabilidad, entendiendo que la construcción de entornos digitales seguros no puede depender de una sola institución.

‍

Tecnología con confianza

‍

En Gofirmex creemos que la transformación digital solo puede consolidarse cuando existe confianza.

Esa confianza no surge únicamente de que una tecnología funcione. También depende de que existan reglas claras, mecanismos de seguridad, protección de datos, trazabilidad, responsabilidad y capacidad institucional para responder cuando algo falla.

Por eso, valoramos que la discusión sobre Entornos Digitales Seguros avance desde una perspectiva que busque equilibrar protección y realidad tecnológica. Chile tiene la oportunidad de construir una regulación que no persiga a la tecnología, pero que tampoco deje a las personas solas frente a sus eventuales riesgos.

Una regulación gradual, fiscalizable, basada en evidencia y experiencia comparada, que considere funcionalidades de las plataformas en lugar de perseguir aplicaciones específicas y que sea capaz de recoger el trabajo parlamentario previo y construir acuerdos transversales, puede convertirse en una buena base para enfrentar un desafío que seguirá evolucionando.

‍