C’est l’une des scènes les plus mythiques du cinéma, en tout cas de celui de ces dernières années : Morpheus tend ses mains vers Neo, et lui propose deux pilules, une rouge, une bleue. Si Neo prend la bleue, il retourne à la réalité d’avant, son confort habituel, la réalité qui était sa vie jusque là ; s’il prend la rouge, il reste dans un monde bien moins sympathique que celui qu’il connaissait, mais qui est le monde réel. Morpheus l’avertit : la seule chose qu’il peut promettre, c’est la vérité – pas qu’elle sera plaisante. Neo a vécu toute sa vie, une vingtaine d’années, dans une réalité qui n’était pas véridique mais qui était bien la sienne : cette scène de Matrix illustre ainsi très frontalement à quel point les concepts de vérité et de réalité sont complexes à manier. À l’heure des fake news et des deepfakes, ils n’ont pourtant jamais été aussi nécessaires.
À la recherche de la pilule rouge
Notre situation actuelle est en effet assez comparable à celle de Neo : nous vivons dans un monde où la fausse information nous entoure, où elle est parfois impossible à distinguer du réel, comme dans le cas des deepfakes, ces vidéos ou images générées à l’intelligence artificielle, et nous cherchons à nous extraire de ces mensonges pour renouer avec la vérité. C’est du moins probablement votre cas, et celui de la majeure partie de votre entourage, mais peut-être connaissez-vous au contraire des personnes prêtes à vous persuader qu’en fait, c’est vous qui vivez dans le mensonge, et elles, qui ont déniché cette vidéo d’Obama, qui détiennent la vérité. C’est notamment ce que prétendent les suprémacistes blancs et hardcore supporters de Trump aux Etats-Unis, pour qui prendre la pilule rouge consiste justement à les rejoindre – ils nomment d’ailleurs cette transition “redpilling“. Quand deux personnes affirment être dans le vrai, et qu’elles peuvent toutes deux produire une version de la réalité, qui peut avoir raison ? Si la question se pose et qu’elle doit être résolue, c’est que la vérité est essentielle à la vie en société, le mensonge et la tromperie n’étant que troubles dans notre construction commune. Pour vous en convaincre, il suffit de vous confronter au paradoxe du menteur (« un homme déclare « Je mens ». Si c’est vrai, c’est faux. Si c’est faux, c’est vrai ») et de constater qu’il est impossible de s’en extirper, pour ainsi réaliser que la vie en société dépend de la vérité.
On touche ainsi les débats philosophiques sur les notions de réalité et de vérité. C’est tout le travail, d’abord du mouvement sceptique, puis de Descartes, que de déconstruire la réalité au fur et à mesure pour tenter de chercher une vérité primaire. Pour les sceptiques, elle n’existe pas. Pour Descartes, si l’on ne peut effectivement se fier à ses sens (Descartes prend l’exemple du rêve plus vrai que nature, mais les deepfakes marchent aussi) ni même à la vérité mathématique (un “malin génie” pourrait falsifier le fait que 2+2=4), le fait que l’on doute de tout, lui, est alors indéniable et traduit une pensée – d’où le fameux cogito ergo sum. Si l’on peut ainsi admettre notre existence comme une vérité, cela ne nous avance pas beaucoup plus sur la quête de sa définition. Traditionnellement, la vérité sera définie comme la conformité au réel, mais tout notre problème est bien que l’on ne parvient plus aujourd’hui à s’accorder sur le réel. Pour le philosophe Karl Popper, ce problème se règle avec le temps et le principe de réfutabilité : il faut tenter en permanence de réfuter la vérité et de démontrer qu’elle est fausse (et d’échouer à ce faire) pour consacrer son caractère véridique. Si la méthode est logique, le temps est une commodité de luxe à l’ère du numérique, et l’on ne peut donc se satisfaire de cette solution.
La couleur de la pilule “régulation”
Le droit peut-il nous sauver ? À première vue, cela risque d’être compliqué : le droit fonctionne principalement sur la base de définitions, et nous n’avons pas réussi à trouver une définition convenable de la vérité. Pourtant, celle-ci inerve déjà largement notre droit. Au civil, la fraude corrompt tout et permet ainsi à la victime de se désobliger d’obligations subies du fait d’une fraude ; au pénal elle est sanctionnée par diverses infractions comme l’escroquerie, le faux en écriture, le faux serment, l’usurpation, ou encore les chèques sans provision… Plus subtilement, la vérité fait aussi l’objet d’un contrôle sur la place publique par le biais de limitations à la liberté d’expression : c’est ainsi que l’on lutte contre la diffamation et que les lois mémorielles ont pénalisé les atteintes à des vérités communes trop essentielles pour qu’on permette qu’elles soient bafouées. Très récemment, c’est la loi fake news qui est venue défendre la vérité, du moins en période électorale, et sans toutefois se risquer à la définir.
Au vu de l’arsenal juridique précité, il est évident que le droit a un rôle à jouer dans la lutte contre toutes les fake news et contre les deepfakes, sans pour autant permettre des systèmes de censure étatique de masse ou d’imposition d’une vérité de gouvernement. Pour autant, la création de lois et de textes de droit dur n’est pas forcément la seule solution : une étude par Witness, une ONG mettant la vidéo au coeur de la lutte pour les droits humains, montre ainsi que le plus essentiel est la coopération et le partage technologique entre plateformes et l’intégration d’outils anti-fake news dès la conception, soit des mesures auxquelles une régulation souple peut répondre, potentiellement sous le contrôle d’un tiers comme une AAI. Le retrait pur et dur d’une information sur le fondement d’une illicéité ne peut en tout cas être notre seule réponse à la problématique à laquelle nous faisons face, notamment parce que les contenus seront de plus en plus partagés par le biais de conversations privées sur messageries chiffrées et parce que parfois, retirer un contenu ou le démystifier revient à multiplier sa portée et son audience. Si la recherche de la vérité est nécessaire à notre cohésion sociale, notre régulation doit être à la hauteur des enjeux : inventive, flexible et longuement mûrie, pour ne pas que notre pilule rouge se révèle violette, ou pire, bleue.
Ce qu'on lit cette semaine
#hadopi
#piratage
#Streaming
#droitd'auteur
#tartagueuleàlarécré
L’âge de raison ou l’âge ingrat ? A relire l’historique de la bataille des ayants droit pour sauver une industrie mise en péril par l’essor du web 2.0, on a peine à voir comment la Hadopi, autorité créée pour mettre un frein au “piratage” et ainsi réorienter les subsides vers les caisses de cette industrie, pourrait justifier aujourd’hui son bilan. La faute, sans doute, à un projet politique mal défini, peu assumé, mal expliqué ; à des techniques qui ont presque immédiatement dépassé le champ de compétence étroit de l’autorité ; à un sentiment de défiance, enfin, des citoyens, dans un monde où le libre accès à l’information et à la culture (de fait possible via Internet) s’accorde mal avec des sanctions pénales et des peines de suspension de la connexion. Toujours est-il que la Hadopi n’a pas rempli l’objectif de contrôle et de sanction que le législateur, poussé par les sociétés de gestion collective, avait cru pouvoir lui assigner, et qu’elle stagne aujourd’hui dans une économie orientée davantage vers le streaming que le téléchargement, où les nouveaux acteurs dominants (Spotify, Netflix et consorts) semblent donner raison à un modèle boudé en son temps par les mêmes ayants droit – celui de la licence globale. Et si tout était à refaire ?
#presse
#concurrence
#internet
#publicité
#cliquerpluspourgagnerplus
Les éditeurs de presse ont du plomb dans l’aile. Voilà un constat problématique, au-delà de tout débat sur la solution législative récemment introduite dans la fameuse directive Copyright, qu’on ne peut certes que partager : la presse en ligne peine encore et toujours à trouver son modèle économique, et le voisinage du mastodonte Google n’est que l’une des raisons du problème. Le secteur fait notamment face à un phénomène connu par ailleurs des plateformes de streaming musical, à savoir le plafonnement naturel du nombre d’abonnements, dû à la récalcitrance des utilisateurs (si ce n’est tout simplement l’impossibilité financière) de payer plus d’un abonnement pour un même type de service. Or, là où le marché de la musique en ligne s’est concentré autour de quelques acteurs, le nombre de titres de presse proposant un accès payant par abonnement est immense ; d’où la confrontation quotidienne de l’utilisateur avec ces débuts d’articles accrocheurs, achoppant à un inévitable message de blocage. D’où, également, la multiplication malheureuse d’articles à faible valeur ajoutée (c’est parfois le moins qu’on puisse dire), y compris chez des médias réputés pour leur sérieux et leur capacité d’enquête. Le sort de la presse est donc un enjeu citoyen – cela coûte hélas moins cher de le dire que d’acheter un abonnement à chaque site d’information ; il est urgent de trouver la formule qui lui permettra de vivre sereinement à l’ère numérique.
#interopérabilité
#concurrence
#positiondominante
#onveutjusteparler
Une petite leçon lumineuse d’un informaticien de l’AFNIC, Stéphane Bortzmeyer, sur le principe et l’importance de l’interopérabilité dans le développement du numérique alors que plus de 70 organisations ont lancé un appel à obtenir plus d’interopérabilité avec les grandes plateformes. L’appel décrie ainsi la tournure qu’a pris notamment le développement des réseaux sociaux et des services de messagerie instantanée dont le fonctionnement en silo limite la liberté des utilisateurs. Sous réserve que son principe soit accepté des (ou imposé aux) GAFAMs, le développement des protocoles d’interopérabilité pourrait prendre plusieurs chemins mais le plus préférable resterait le recours à un processus de normalisation ouvert à la consultation publique. Si la rédaction de normes n’empêcherait pas les GAFAMs et les autres opérateurs du marché de tenter de les contourner et d’imposer leurs règles autrement, au moins semble-t-il nécessaire de lancer la machine. C’est peut-être même la seule manière de ne pas renforcer leur position, comme ce que ferait incidemment la régulation. Notre petit doigt nous dit que ce genre de suggestions pourrait intéresser la DG COMP.
#internet
#culture
#IA
#naturallanguage
#lostintranslation
Y a-t-il un ethnocentrisme d’Internet ? Si depuis 2018, plus de la moitié de l’humanité dispose d’un accès pour se connecter au réseau, nous avons déjà pointé dans ces colonnes les limites qualitatives de cette statistique : disparités dans les qualités de connexion, absence de formation à l’usage de l’outil (digital literacy), etc. Le présent article ajoute à la liste un constat tout simple, dont nous faisons tous l’expérience quotidienne : la majeure partie du Web est composée de pages rédigées en anglais, ou à tout le moins dans une langue occidentale. Qui ne s’en est jamais aperçu ? La même notice Wikipedia apparaît très souvent plus complète, plus fouillée et mieux documentée en anglais qu’en français, pour n’en donner qu’un exemple. Ce problème (puisqu’il s’agit bien d’un problème) a naturellement plus d’une cause : construction de l’essentiel des ressources Internet historiques aux Etats-Unis, manque de ressources des communautés partageant les langues moins usitées… La solution, en l’état, ne peut donc être purement technique : si l’IA promet de grands progrès (et en a déjà accompli beaucoup) en matière de traduction, il ne s’agit pas, ici encore, d’une baguette magique qui agirait hors-sol ; l’intégration de langues et de discours variés sur Internet nécessite, à bien des égards, un effort de recherche et d’ouverture bien humain.
#surveillance
#société
#surveillance
#système
#lepanoptiquedesgafams
Un aperçu de la trajectoire intellectuelle de Shoshana Zuboff, une des premières enseignantes à la Harvard Business School et observatrice historique des mutations sociales qu’a entraîné le développement de l’informatique et du numérique. D’abord mitigée sur les effets de la technologie dans le monde du travail dans les années 80-90, permettant de faire circuler plus facilement l’information à tous les échelons de la hiérarchie tout en permettant au management de mieux la contrôler, Zuboff, comme de nombreux autres penseurs, s’est ensuite montrée optimiste au tournant des années 2000 alors que de nombreuses innovations, comme l’iPod, donnaient plus de champ à l’expression de la volonté des consommateurs. Aujourd’hui, avec son dernier essai, l’Age du Capitalisme de Surveillance, Zuboff revient sur sa lecture pour mettre en lumière la série d’événements qui a engendré le développement, à l’insu de la plupart du monde, de l’économie de la donnée personnelle et de la manière avec laquelle la surveillance opérée par les GAFAMs sur les comportements de leurs utilisateurs a engendré chez eux la faculté de les dicter. La solution ? Limiter le traitement des données comportementales. Est-ce à penser qu’il faudrait une extension de la règlementation e-Privacy ?
#IA
#US-CNwar
#biggerisnotalwaysbetter
Une opinion supplémentaire dans la guerre de l’IA entre la Chine et les Etats-Unis. De nombreux observateurs, parfois pour tenter de justifier la surveillance systématique de masse, estiment que la Chine remportera la course de la dominance de l’intelligence artificielle en considération du fait que les entreprises et l’Etat y sont beaucoup moins restreints qu’aux US dans la collecte et l’utilisation des données personnelles. Cependant, d’autres relèvent que la quantité de données avec laquelle les algorithmes sont entrainés est certes importante, mais que leur qualité l’est tout autant. Ainsi, un algorithme à qui l’on aura fournit un nombre important de données de piètre qualité sera moins performant qu’un algorithme à qui l’on aura fourni une quantité plus faible de données de meilleure qualité. Par ailleurs, l’établissement de fonctions permettant de guider l’évolution d’un algorithme au fil de son apprentissage est également crucial, et cet aspect ne peut pas être résolu en le gavant d’une plus grande quantité de données. Si cela rassurera quelque peu, on aurait quand même préféré que l’UE soit elle aussi dans la course.