L’Ofcom, le régulateur internet britannique, vient de franchir une étape majeure dans la mise en œuvre de la loi sur la sécurité en ligne. Lundi, l’organisme a publié les premières directives finales à l’intention des fournisseurs de services en ligne soumis à cette législation. Cette annonce marque le début du compte à rebours vers la première échéance de conformité de cette loi tentaculaire, que le régulateur prévoit dans trois mois.

Plus de 100 000 entreprises concernées

Selon l’Ofcom, plus de 100 000 entreprises technologiques pourraient être concernées par les obligations de la loi en matière de protection des utilisateurs contre divers types de contenus illégaux. Cela couvre plus de 130 « infractions prioritaires » définies par la loi, dans des domaines tels que le terrorisme, les discours de haine, les abus et l’exploitation sexuels des enfants, ainsi que la fraude et les délits financiers.

Les entreprises concernées vont des géants de la tech aux tout petits fournisseurs de services, avec divers secteurs impactés comme les réseaux sociaux, les sites de rencontres, les jeux, les moteurs de recherche et la pornographie. Le non-respect de la loi s’expose à des amendes pouvant atteindre 10 % du chiffre d’affaires annuel mondial (ou jusqu’à 18 millions de livres sterling, selon le montant le plus élevé).

Des obligations différenciées selon la taille et les risques

L’approche de la loi britannique est à l’opposé du « taille unique ». En général, davantage d’obligations pèsent sur les grands services et plateformes où de multiples risques peuvent survenir, par rapport aux petits services présentant moins de risques. Cependant, les petits services à faible risque ne sont pas non plus exemptés d’obligations.

De nombreuses exigences s’appliquent à tous les services, comme disposer d’un système de modération du contenu permettant un retrait rapide des contenus illégaux, d’un mécanisme permettant aux utilisateurs de signaler des contenus, de conditions d’utilisation claires et accessibles, de supprimer les comptes des organisations proscrites, et bien d’autres encore. Bien que bon nombre de ces mesures générales soient des fonctionnalités que les services grand public, du moins, sont susceptibles de proposer déjà.

Responsabilité pénale des cadres dirigeants

Un levier clé pour impulser le changement est l’introduction par la loi d’une responsabilité pénale des cadres supérieurs dans certaines circonstances. Cela signifie que les PDG de la tech pourraient être tenus personnellement responsables de certains types de non-conformité.

Les entreprises technologiques vont devoir commencer à prendre des mesures appropriées. Elles doivent changer la façon dont les algorithmes fonctionnent. Elles doivent les tester afin que les contenus illégaux comme la terreur et la haine, les abus d’images intimes, et bien d’autres encore, n’apparaissent pas dans nos fils d’actualité.

– Melanie Dawes, PDG de l’Ofcom

Vérification de l’âge et filtres pour protéger les enfants

L’Ofcom travaille encore sur d’autres mesures et obligations liées à d’autres aspects de la loi, notamment ce que Dawes a qualifié de « protections plus larges pour les enfants » qui, selon elle, seraient introduites au cours de la nouvelle année.

En janvier, le régulateur présentera ses exigences en matière de vérification de l’âge afin de savoir où se trouvent les enfants. Puis, en avril, il finalisera les règles sur les protections plus larges pour les enfants, concernant la pornographie, les contenus sur le suicide et l’automutilation, les contenus violents, qui ne doivent tout simplement pas être montrés aux enfants comme c’est devenu si normal aujourd’hui mais qui est vraiment néfaste.

S’adapter aux évolutions technologiques comme l’IA générative

L’Ofcom indique également que d’autres mesures pourraient être nécessaires pour suivre le rythme des développements technologiques tels que l’essor de l’IA générative. Le régulateur continuera à évaluer les risques et pourra faire évoluer les exigences imposées aux fournisseurs de services.

D’autres aspects sont aussi à l’étude comme des protocoles de réponse aux crises pour les événements d’urgence tels que les émeutes de l’été dernier, des propositions pour bloquer les comptes de ceux qui ont partagé des contenus pédopornographiques, et des conseils pour utiliser l’IA afin de lutter contre les préjudices illégaux.

Conclusion

Cette première série de directives de l’Ofcom marque une étape cruciale dans la mise en place d’un cadre réglementaire pour la sécurité en ligne au Royaume-Uni. Les entreprises technologiques vont devoir s’adapter et apporter des changements substantiels pour se conformer à ces nouvelles obligations légales visant à mieux protéger les utilisateurs, en particulier les plus vulnérables comme les enfants, contre divers préjudices en ligne. L’enjeu est de taille et l’Ofcom se dit prêt à faire appliquer la loi.