En 1998, Lawrence Lessig a prononcé la fameuse maxime “Code is law“. Ce que Lessig cherchait à montrer, c’est qu’au-delà de nos règles de droit, d’autres normes s’appliquent au monde numérique, et parfois celles-ci sont si fortes qu’elles sont droit. Dans un tel cas, faut-il s’efforcer à trouver de nouvelles manières de dompter le numérique, ou faut-il chercher comment concilier avec l’indomptable ?
L’ineffectivité de la règle de droit
Les blockchains publiques, des registres complètement décentralisés d’enregistrements liés aux précédents enregistrements, ont cette particularité que si la majorité du réseau décide de changer le registre, celui-ci sera considéré comme ayant été modifié – ce qu’on appelle un “hard fork“. Cela a déjà eu lieu notamment sur la blockchain Ethereum pour effacer le vol de plusieurs centaines de millions de dollars de cryptomonnaies : afin de minimiser les dommages, la communauté a décidé d’effacer l’enregistrement en question, effectuant un véritable saut temporel dans le passé pour annuler le futur.
C’est précisément l’objet d’un contentieux de groupe qui a lieu aux États-Unis, certains détenteurs d’une cryptomonnaie qui a subi une pareille défaillance souhaitant forcer un tel hard fork afin de récupérer leurs biens. Au-delà des nombreuses questions juridiques soulevées par ce cas précis se pose clairement, plus largement, la question de l’effectivité du droit par rapport à un outil tel que la blockchain. Comment en effet faire exécuter une décision, quelle qu’elle soit (on pense notamment à des hard forks), quand l’exécution de la décision dépend du bon vouloir de la majorité d’un réseau entier ? Le droit se heurte ainsi parfois – souvent avec le numérique – à une barrière qui est celle du fonctionnement même des technologies qu’il tente d’appréhender : impossible de mettre la bride sur une blockchain publique. Un autre exemple d’actualité est celui de la Russie, qui n’arrive pas à bloquer Telegram malgré ses efforts à répétition.
Innover dans la création juridique
Le régulateur est alors forcé de lui-même faire preuve d’innovation – et oserons nous le dire – de disruption dans la matière juridique. On observe plusieurs mouvements concomitants, dont aucun ne semble être LA bonne solution, sans pour autant être foncièrement de mauvaises options. On voit ainsi les frontières s’estomper face à des textes qui étendent leur champ d’application territoriale (RGPD, Cloud Act) ; on voit les acteurs du numérique être astreints à des obligations de transparence renforcées (Loi pour une République Numérique, fake news) ; on voit le recours à l’autorégulation se développer (lutte contre les contenus illicites, codes de bonne conduite) ; on voit le développement des actions de groupe, qui sont consacrées en Europe et en France (Justice 21, RGPD). Toutes ces pistes montrent la réflexion qui a lieu sur la manière dont le droit peut muer pour mieux appréhender le numérique, mais restent toutefois assez sobres.
D’autres idées émergent par ailleurs pour bouleverser la donne – ou créer encore plus de problèmes. Certains avancent ainsi l’idée d’un serment des développeurs et des data scientists, pour imposer une déontologie à ces professions. On pense également au développement fulgurant des legaltechs, qui automatisent certains aspects du droit tout en permettant de mieux comprendre les données issues de la pratique juridique. Mais même avec la progression de ces solutions nouvelles et innovantes, le problème reste entier : comment réglementer une chose si la règle de droit ne peut pas, concrètement, être mise en pratique, parce que cela va à l’encontre des règles inhérentes à la chose elle-même ?
L’actu en bref
Cette semaine, comme on vous le disait, la Commission Européenne a dévoilé un nouveau texte sur l’accès aux preuves électroniques et serait aussi en train de concocter un texte sur la loyauté et la transparence des plateformes (#cocorico) ; le G29 a publié des guidelines sur le consentement et la transparence sous le GDPR ; Facebook, Microsoft et autres se sont engagés à ne pas collaborer avec des États sur la mise en œuvre de cyberattaques ; la CNIL et BPI France ont publié un guide pratique GDPR à destination des PME ; des sénateurs menacent de saisir le Conseil constitutionnel sur le projet de loi données personnelles ; pour la CADA, l’accès aux documents administratifs ne peut se faire sous forme de PDF scanné ; une blockchain publique (au sens étatique du terme) serait en préparation pour les fréquences libres.
À ne pas rater cette semaine
Sinon cette semaine, vous en apprendrez donc plus sur les actions de groupe, avec un premier article sur la tentative d’obtenir un hard fork judiciaire et un second sur l’action de groupe en matière de données personnelles en cours d’élaboration par la Quadrature du Net. On parle également de la proposition de serment d’Hippocrate pour les développeurs, on fait le point sur les cyberattaques auxquelles la France fait face, et on parle de l’effectivité du droit au travers du cas de Telegram en Russie. Aussi au programme, un article sur la normalisation algorithmique, à savoir l’impact négatif que l’automatisation est susceptible d’avoir sur la diversité – on en parle ici à propos du style. On conclut avec un article à nouveau un peu effrayant sur Palantir, ce géant du net de l’ombre qui est très friand de données, et sur un article optimiste sur l’impact de l’IA sur le travail.
Faites la Maj, et à la semaine prochaine !
Ce qu'on lit cette semaine
#blockchain
#crypto-monnaie
#innovationjuridique
#crypto-demandes
Il est toujours surprenant de voir à quel point les objets d’innovation et les manières avec lesquelles les acteurs du marché les appréhendent juridiquement et judiciairement peuvent donner lieu à des problématiques inouïes. Aux Etats-Unis, une action de groupe a ainsi récemment été introduite par les propriétaires d’une cryptomonnaie, le Nano, contre son développeur du même nom, une société texane, à la suite de l’annonce, par une société d’échange italienne, de ce que des transactions non autorisées avaient entrainé la perte de 17 millions de Nano. Leur demande ? La bifurcation (forking) de la blockchain sous-jacente qui consisterait à créer une seconde blockchain dont l’histoire aurait été réécrite pour compenser la perte des tokens et faire disparaitre les effets des transactions non autorisées. Les questions que la mise en œuvre d’une telle mesure suscite sont innombrables, comme celle de l’opposabilité de la mesure aux tiers à la procédure qui doivent eux aussi basculer sur la blockchain parallèle pour rendre la mesure efficace et rétablir le statu quo ante ou encore de la licéité des échanges effectués avec l’ancienne cryptomonnaie postérieurement à la bifurcation, mais n’en restent pas moins passionnantes.
#algorithme
#éthique
#codeducode
Poursuivant de semaine en semaine la question vertigineuse de la régulation des algorithmes, dont on aura bien compris désormais qu’elle transcende de beaucoup la classification juridique traditionnelle des différentes “branches du droit”, voire le discours juridique lui-même tout court, rencontrons cette semaine Cathy O’Neil, mathématicienne pionnière de l’idée d’un “serment d’Hippocrate” des data scientists. Il s’agirait en somme pour ces derniers de se forcer à ne pas oublier les conséquences sociétales de leur travail, d’autant plus insidieuses qu’elles sont souvent imperceptibles de prime abord, au gré d’une méthode qui n’est pas sans rappeler celle du fameux Privacy by design. O’Neil rappelle néanmoins, à juste titre, que cette autorégulation des chercheurs n’est pas la panacée, en ce qu’elle ne saurait aller sans une vraie régulation des acteurs économiques, les entreprises, véritables “propriétaires” des algorithmes.
#cybersécurité
#anssi
#arcep
#souslesradars
Tour d’horizon, non sans inquiétude, de l’état actuel de la cyber-menace en France, et des moyens mis en oeuvre pour la contrer, avec Guillaume Poupard, ingénieur spécialisé en cryptographie et directeur général de l’ANSSI. Où l’on apprend qu’au-delà de l’identification et du traitement des menaces, attaques et tentatives d’attaque des systèmes et réseaux, la difficile question reste celle de l’attribution, autrement dit de la désignation des auteurs et surtout de leurs motivations ; tel est notamment le cas des intrusions par ces “agents dormants” qui se bornent à vivoter dans les systèmes pour les explorer, les cartographier, mais pour l’heure ne passent pas à l’action. Menace privée ou venant d’un autre Etat ? Préparation d’un plan d’action massif ? Le DG de l’ANSSI rappelle l’importance à cet égard de disposer de moyens d’action efficaces légaux, dans un cadre récemment renforcé à ce titre par la loi de programmation militaire 2019-2025.
#censure
#vieprivée
#Russie
#l'amèrepatrie
L’acharnement pourrait sembler comique, tant il est désespéré, si ses conséquences n’étaient pas si désastreuses : après avoir tenté, en vain, d’enjoindre à Telegram de révéler des clés de cryptographie des messages échangés, la justice russe a choisi la voie offensive, en ordonnant le blocage du service sur l’ensemble du territoire. Une ambition d’autant plus herculéenne qu’elle se heurte à un obstacle technique de base, dont joue habilement l’éditeur du service : un tel blocage est rendu inefficace à chaque fois que le service migre vers de nouveaux serveurs, ce qu’il est manifestement capable de faire ad libitum. A l’heure actuelle, l’administration russe, ne reculant devant rien, aurait ainsi déjà bloqué 15 millions d’adresses IP dans le seul but de faire plier Telegram, égratignant au passage les connexions Internet de particuliers et d’entreprises qui n’avaient rien demandé. Le fondateur de Telegram, Pavel Dourov, en exil depuis 2014, s’est de son côté lancé dans un appel public à la résistance face à cette censure brutale et aveugle.
#gdpr
#rgpd
#actiondegroupe
#consommateursencolère2.0
Il n’aura pas fallu longtemps à la Quadrature du Net, association militante déjà bien connue en matière de données personnelles pour ses faits d’armes devant les juridictions administratives contre notamment le tristement célèbre fichier TES, pour se saisir des nouveaux moyens offerts par le GDPR en matière d’action contentieuse. La Quadrature lance donc un appel à mandat en prévision pour le 25 mai d’une action collective contre “les GAFAM” (comprendre : les différents services des GAFAM, selon une nomenclature “à la carte”), qui sera fondée en particulier sur la licéité du consentement requis par ces services. Si le discours politique est efficace, on attend donc désormais avec impatience les échanges d’arguments entre cette l’association et les entreprises concernées, qui constitueront à n’en pas douter un point important dans une jurisprudence civile encore assez pauvre en cette matière.
#IA
#esthétique
#IAisthenewblack
Est-ce que la curation algorithmique risque de tuer le style ? A l’instar de Spotify dont le but ultime est d’associer chaque instant de la vie avec la chanson que l’on voudra exactement écouter à ce moment précis, de nombreuses plateformes tentent de développer des services de suggestion de contenu en anticipant sur nos désirs à partir de modèles prédictifs. Cet article discute dans quelle mesure cette pratique, qui s’inscrit dans la marche de la modernité esthétique (+1 pour la référence à Benjamin), risque d’avoir pour effet de lisser les tendances en tissant à l’infini sur les mêmes thèmes, de donner à la nouveauté la saveur du réchauffé, et comment, malgré les apparences, le (bon) goût individuel continuera d’en constituer le rempart, de même que, ironiquement, l’anomalie. A méditer.
#techindustry
#donnéesperso
#surveillance
#illuminaticonfirmed
Il y a quelques Majs de cela, nous vous parlions de Palantir, l’entreprise phare du big data, et de sa collaboration « en sous-marin » avec la police de la Nouvelle Orléans pour prédire la commission d’infractions. L’on vous propose désormais de plonger en profondeur dans son histoire et ses zones d’ombres. Nées en partie de seed money de la branche d’investissement de la CIA, et après avoir gagné ses premiers faits d’armes à l’occasion des opérations en Afghanistan, c’est sans grande surprise que l’on constate que la surveillance est quelque peu ancrée dans l’ADN de la boîte, dans ses pratiques et ses problématiques. Ainsi d’un employé en roue libre qui réplique Prism chez JP Morgan alors qu’il y est en détachement, ainsi d’un autre qui travaillait avec Cambridge Analytica sur le sujet qu’il fallait pendant son temps libre, mais ainsi aussi de la création d’un comité consultatif interne sur la préservation de la vie privée et des libertés individuelles pour tout de même tenter de conscientiser tout ce petit monde. Une belle illustration de cette phrase de Gide (André, sinon ça n’aurait aucun sens) : « il est bon de suivre sa pente, pourvu que ce soit en montant ».
#IA
#travail
#L'humain:leparler,l'aimer,letravailler,l'être
Il semblerait que l’avenir soit peut-être un peu moins noir que certains aiment faire croire, ou du moins que tout n’est pas complètement perdu. C’est ainsi que l’on apprend que seulement 10% des emplois en France sont directement menacés de disparition par les technologies d’avenir, encore que 50% d’entre eux risquent tout de même de voir la moitié de leurs tâches automatisées. Plus qu’une discrimination par le niveau de qualification, il apparaît qu’un facteur déterminant de « survie » des postes sera la place qu’y occupera le relationnel ou plus généralement ce que les gens entendent par « humain » lorsqu’ils disent l’aimer. Plus qu’une discrimination par la connaissance brute ou la technicité du savoir, il apparaît également que l’avenir sera aux créatifs, ou plutôt, aux personnes ayant de la plasticité intellectuelle, capable de raisonner dans des univers sans règles. En bon enfant du capitalisme moderne et en homo economicus assumé, on conclura de cette fresque du travail du futur que quelque part, c’est aussi peut-être par la recherche de notre valeur ajoutée que l’on approchera d’une définition de l’être-humain.
