La loi sur la sécurité en ligne et le sommet sur l'IA : impacts sur la vie numérique des enfants

Changements récents en matière de sécurité en ligne

Comme le dit le vieil adage, on attend longtemps un bus et puis deux arrivent en même temps.

Ceux d'entre nous qui travaillent dans le domaine de la sécurité en ligne ressentent certainement cela après une quinzaine bien remplie, au cours de laquelle deux moments clés se sont produits :

• le projet de loi sur la sécurité en ligne a reçu la sanction royale et est ainsi devenu loi ;
• le Royaume-Uni a occupé le devant de la scène lors du sommet mondial sur l’IA.

Qu'est-ce que la loi sur la sécurité en ligne ?

Ce qui a commencé comme un « livre vert » (une série d'idées pour une nouvelle politique gouvernementale) en 2017 est ensuite devenu un « livre blanc » plus concret en 2019. Cela a conduit à une ébauche complète des nouvelles propositions, le projet de loi sur la sécurité en ligne, qui a été produit en 2021. Mais ce n’était pas la fin de son évolution, avec de nombreux changements et révisions apportés au fur et à mesure que le projet de loi parcourait le Parlement.

La loi sur la sécurité en ligne est une loi historique susceptible de transformer les expériences en ligne des enfants. Avec la loi, les plateformes auront une bien plus grande responsabilité pour assurer la sécurité des enfants :

• en identifiant et en anticipant les risques, et en mettant en place des systèmes et des processus pour y faire face ; et/ou
• empêcher les enfants d’accéder à des contenus totalement inappropriés pour eux.

Les préjudices spécifiques identifiés auxquels les plateformes devront s'attaquer incluent les contenus sur les troubles de l'alimentation, les contenus sur l'automutilation et le suicide, la pornographie et l'intimidation.

Quel sera l’impact de la loi sur la sécurité en ligne sur les familles ?

La loi sur la sécurité en ligne ne supprimera pas tous les risques liés à Internet et ne constitue pas non plus une loi parfaite. Par exemple, Internet Matters aurait aimé voir un plus grand soutien aux parents.

Néanmoins, c’est le résultat de six années d’examen minutieux et d’un degré sans précédent de collaboration entre partis. Pour la première fois, les parents doivent s’attendre par défaut à des services adaptés à leur âge et à des contrôles d’âge rigoureux. Cela pourrait faire une énorme différence – avec une bonne mise en œuvre.

Quel rôle Internet Matters jouera-t-il dans la mise en œuvre de la loi ?

Internet Matters – et le secteur plus large de la sécurité en ligne – ont toujours un rôle à jouer. Le relais est désormais passé à l'Ofcom, le nouveau régulateur de la sécurité en ligne, qui a un immense travail à faire pour étoffer les détails du nouveau régime réglementaire.

Par exemple, l’Ofcom commencera par examiner la manière dont les plateformes devraient lutter contre les contenus pédopornographiques en ligne (CSAM) – un sujet exploré dans notre recherches récentes sur la misogynie en ligne et le partage d'images sexuelles. Nous sommes impatients de poursuivre notre engagement étroit avec l'Ofcom, en partageant nos connaissances en matière de recherche pour défendre les voix des enfants et de leurs parents.

Comment le gouvernement aborde l’intelligence artificielle

Les 1er et 2 novembre, le Royaume-Uni a accueilli un sommet mondial très attendu sur l’intelligence artificielle. Depuis un an, il ne se passe pratiquement pas un jour sans que l’IA fasse la une des journaux, que ce soit pour le meilleur ou pour le pire. L'objectif du sommet du Premier ministre était de rassembler les nations pour réfléchir à ces évolutions et discuter des avantages et des risques à long terme dans de nombreux domaines de la vie – de la santé à la défense, des affaires à la démocratie, pour n'en citer que quelques-uns.

Il est encourageant que les décideurs politiques et les leaders industriels du monde entier réfléchissent aux problèmes majeurs que l’IA pourrait poser. Après tout, les deux dernières décennies nous ont montré ce qui arrive lorsqu'on ne réfléchit pas suffisamment aux impacts sociaux des nouvelles technologies, et que de nombreux enfants subissent des préjudices en ligne. Toutefois, ce sommet est le début d’un voyage, pas la fin.

Alors que la conversation sur l’IA se déroule, nous aimerions voir deux choses :

• Mettre davantage l’accent sur l’impact de l’IA sur la vie des enfants et des familles, et pas seulement sur les entreprises, l’économie et le pays dans son ensemble.
• Réflexion et action sur les opportunités et les problèmes à court terme, et pas seulement en pensant au long terme.