La Ley de Seguridad en Línea y la Cumbre de IA: Impactos en la vida digital de los niños

Cambios recientes en la seguridad en línea

Como dice el viejo refrán, esperas mucho tiempo un autobús y luego llegan dos al mismo tiempo.

Quienes trabajamos en seguridad en línea ciertamente nos sentimos así después de quince días muy ocupados, en los que sucedieron dos momentos clave:

• el proyecto de ley sobre seguridad en línea recibió la aprobación real y, por tanto, se convirtió en ley;
• El Reino Unido ocupó un lugar central con la Cumbre Mundial de IA.

¿Qué es la Ley de seguridad en línea?

Lo que comenzó como un "libro verde" (una serie de ideas para una nueva política gubernamental) en 2017 se convirtió en un "libro blanco" más concreto en 2019. Eso condujo a un borrador completo de las nuevas propuestas. el proyecto de ley de seguridad en línea, que se produjo en 2021. Pero este no fue el final de su evolución, con muchos cambios y revisiones realizados a medida que el proyecto de ley avanzaba en el Parlamento.

La Ley de Seguridad en Línea es una pieza legislativa histórica con el potencial de transformar las experiencias en línea de los niños. Con la Ley, las Plataformas tendrán una responsabilidad mucho mayor de mantener seguros a los niños:

• identificando y anticipando los riesgos e implementando sistemas y procesos para abordarlos; y/o
• impedir que los niños accedan a contenidos que sean totalmente inapropiados para ellos.

Los daños específicos identificados que las plataformas deberán abordar incluyen contenido sobre trastornos alimentarios, contenido de autolesiones y suicidio, pornografía e intimidación.

¿Cómo afectará la Ley de Seguridad en Línea a las familias?

La Ley de Seguridad en Línea no eliminará todos los riesgos de Internet ni es una ley perfecta. Por ejemplo, a Internet Matters le hubiera gustado ver un mayor apoyo a los padres.

Sin embargo, es el resultado de seis años de intenso escrutinio y un grado sin precedentes de colaboración entre partidos. Por primera vez, los padres deben esperar servicios predeterminados apropiados para su edad y controles de edad rigurosos. Podría marcar una gran diferencia, con la implementación adecuada.

¿Qué papel jugará Internet Matters a medida que se implemente la ley?

Internet Matters (y el sector más amplio de la seguridad en línea) todavía tienen un papel que desempeñar. El testigo ha pasado ahora a Ofcom, el nuevo regulador de seguridad en línea, que tiene una inmensa cantidad de trabajo por hacer para desarrollar los detalles del nuevo régimen regulatorio.

Por ejemplo, Ofcom comenzará analizando cómo las plataformas deberían abordar el material de abuso sexual infantil (CSAM) en línea, un tema explorado en nuestro Investigación reciente sobre la misoginia en línea y el intercambio de imágenes sexuales.. Esperamos continuar nuestra estrecha colaboración con Ofcom, compartiendo nuestros conocimientos de investigación para defender las voces de los niños y sus padres.

Cómo el gobierno está abordando la inteligencia artificial

Los días 1 y 2 de noviembre, el Reino Unido fue anfitrión de una muy esperada cumbre mundial sobre Inteligencia Artificial. Durante el año pasado, apenas ha pasado un día sin que la IA aparezca en los titulares, ya sea para bien o para mal. El objetivo de la cumbre del Primer Ministro fue reunir a las naciones para reflexionar sobre estos acontecimientos y discutir los beneficios y riesgos a largo plazo en muchas áreas de la vida, desde la salud hasta la defensa, desde los negocios hasta la democracia, por nombrar sólo algunas.

Es positivo que los responsables políticos y los líderes industriales de todo el mundo estén pensando en los grandes problemas que podría plantear la IA. Después de todo, las últimas dos décadas nos han mostrado lo que sucede cuando no se reflexiona lo suficiente sobre los impactos sociales de las nuevas tecnologías, y muchos niños sufren daños en línea. Sin embargo, esta cumbre es el comienzo de un viaje, no el final.

A medida que se desarrolla la conversación sobre la IA, nos gustaría ver dos cosas:

• Un enfoque mucho mayor en el impacto de la IA en las vidas de los niños y las familias, no solo en las empresas, la economía y el país en su conjunto.
• Consideración y acción sobre oportunidades y cuestiones a corto plazo, no sólo pensar en el largo plazo.