Lawrence Lessig, le fameux premier avocat d’Internet, le disait il y a quelque temps lors d’une visite à Paris :

Internet peut être la meilleure comme la pire de toutes les technologies – ce sera ce que nous lui demanderons d’être.

Plus le temps passe, plus nous nous rendons compte que la balance est à un équilibre dangereux, et qu’elle peut basculer à tout moment d’un côté comme de l’autre.

La lutte contre le contenu illicite

Aujourd’hui, le nerf de la guerre semble être la prévention de la prolifération de contenus illicites. Dès les débuts d’Internet, il était évident que ce réseau planétaire de communications instantanées allait permettre la diffusion de contenus illicites d’une manière bien plus rapide et importante qu’auparavant. Par contenu illicite, il faut comprendre injures, diffamation, contrefaçons, mais aussi revenge porn, pédopornographie et autres contenus terroristes. C’est pourquoi, dès 2000, une Directive européenne aménageait les conditions auxquelles on peut, ou non, rechercher la responsabilité des intermédiaires d’Internet, les acteurs techniques qui rendent le réseau possible et permettent la diffusion de tous les contenus, licites comme illicites. Cette responsabilité allégée dont bénéficient les fournisseurs d’accès à Internet, les fournisseurs de cache et les hébergeurs qui mettent à disposition leurs serveurs est aujourd’hui attaquée de tous les côtés.

La France, au travers de ses projets de référé anti-fake news et de responsabilisation des grandes plateformes, fait ainsi figure de chef de file des détracteurs modernes du régime de responsabilité allégé des intermédiaires techniques. Mais la Commission Européenne n’est pas en reste : elle fait monter la pression depuis maintenant plus d’un an sur les géants du web afin qu’ils œuvrent à retirer les contenus illicites plus rapidement. Et là où jusqu’à présent la Commission semblait privilégier la voie de la coopération, le communiqué rendu public cette semaine laisse présager de nouveaux textes à venir. En effet, tout en constatant les progrès effectués, la Commission annonce une liste de mesures à prendre rapidement, parmi lesquelles le retrait de contenus terroristes dans l’heure et le souhait que les géants du net adoptent une attitude plus proactive.

Le contradictoire et l’erreur mis sur le banc

Si l’on ne peut que souhaiter que le contenu terroriste soit supprimé le plus rapidement possible, ce genre de communiqués appelle néanmoins certains développements. Depuis la Directive eCommerce et sa mise en œuvre par les États membres, dont notamment la France par le biais de la Loi pour la confiance dans l’économie numérique de 2004, le retrait de contenus illicites sur Internet s’est articulé autour des intermédiaires techniques, pourtant censés rester neutres, puisqu’ils ne sont que des intermédiaires. La plupart des systèmes tournent ainsi autour d’une procédure de notification de la présence du contenu à l’hébergeur, qui doit ensuite choisir de retirer ou non. Le souhait de la Commission Européenne semble être de maintenir ce genre de procédures, tout en l’augmentant par des procédés algorithmiques, dont des intelligences artificielles, comme ContentID pour la contrefaçon sur YouTube.

Le problème de ces procédures sont qu’elles mettent complètement de côté le contradictoire et le droit à l’erreur. La procédure de notification met le demandeur face à l’hébergeur, et pas face à l’auteur du contenu illicite. Les algorithmes ont bien souvent raison, mais ne sont pas infaillibles et ne peuvent détecter les cas où le demandeur se tromperait ou serait de mauvaise foi. Ainsi, un documentaire sur le terrorisme pourrait facilement être signalé comme de la propagande, et être supprimé par un algorithme. Plus l’on tente d’accélérer le retrait de contenus illicites, plus l’on se prive de procédures contradictoires et moins l’on permet aux faux positifs de ressortir. Au fond, la lutte contre les contenus illicites met tout de même en jeu notre liberté d’expression, et il n’est pas certain que le retrait soit un but en soi.

L’actu en bref

Cette semaine, on a beaucoup de choses à vous dire, alors on vous propose de le faire rapidement et par thème. Données personnelles : la CNIL a mis la caisse assurance maladie en demeure pour des manquements à la sécurité des données ; la CEDH a considéré que les fichiers d’un salarié dans un dossier “données personnelles” n’étaient pas privés et pouvaient être consultés par l’employeur ; les données de 700 000 lecteurs de l’Express se sont retrouvées dans la nature. Finance/Fiscal/Crypto : la SEC s’est activée sur les ICOs et a lancé des procédures d’audition, notamment à l’encontre d’avocats ayant conseillé des ICOs ; Spotify va tenter une entrée en bourse risquée ; Bruno Le Maire a annoncé une directive européenne sur la fiscalité des GAFAM. Cybersécurité : Github a subi la plus forte attaque par déni de service (DDoS) de l’histoire, sans broncher ; la France a transposé la directive “NIS” sur la cybersécurité. Divers : arrestations préventives en Chine avec le big data #pasBlackMirror ; les comparateurs de sites de shopping non satisfaits des mesures de Google ; des opticiens se sont ligués contre UFC Que Choisir par le biais de notes et d’avis sur Facebook et les conducteurs Uber gagnent une misère.

Enfin, on vous conseille ce magnifique reportage photo du nouveau palais de justice – on pleurera l’ancien, mais le nouveau n’est pas mal quand même.

À ne pas rater cette semaine

Sinon, outre les nouvelles mesures souhaitées par la Commission pour lutter contre le contenu illicite en ligne, on vous recommande vivement la lecture d’un excellent article de The Verge qui dévoile un deal très douteux entre la police de la Nouvelle Orléans et Palantir pour la mise en œuvre d’algorithmes de police prédictive. Côté protection des données personnelles, Google a rendu publiques les statistiques des 3 ans de droit à l’oubli, et ce pendant que l’on apprend que le gouvernement a soutenu le Privacy Shield et la conservation de données pour la lutte contre le terrorisme. On vous parle également du projet du gouvernement relatif à la chronologie des médias, ce principe qui dicte la disponibilité d’un film sur les différents supports (cinéma, DVD, à la demande, etc). Outre-Atlantique, le combat pour restaurer la neutralité du net s’organise, notamment autour d’une proposition de loi. Enfin, on parle du rôle de la technologie dans nos vies : elle est désormais tellement ancrée que les moins techno-habiles se sentent rejetés, et l’utilisation croissante de technologies de persuasion ne va probablement pas arranger les choses. On se quitte avec un article de Mathias sur la détermination de ce que peut bien être un “risque élevé pour les droits et libertés d’une personne physique” au sens du GDPR.

Faites la Maj, et à la semaine prochaine !