Gargantua, héros du roman éponyme de François Rabelais, était un géant et un valeureux guerrier, mais également un père, celui de Pantagruel. Comme tout papa, Gargantua a tenté d’inculquer quelques bonnes leçons à son petit (qui ne l’était pas tant puisque, vous l’avez suivi, c’était un géant), parmi lesquelles on retient fréquemment la suivante : Science sans conscience n’est que ruine de l’âme.
La citation est souvent ainsi tronquée, alors qu’elle est la troisième d’un triptyque de préconisations éducatives : Rabelais recommande d’abord de cultiver son corps par le sport et son esprit par des études multidisciplinaires et poussées. C’est afin de garantir que les jeunes gens ainsi formés exercent leurs talents de manière morale et éthique que Rabelais insiste aussi sur un apprentissage religieux (la conscience, à l’époque, passait forcément par la morale religieuse). Aujourd’hui, la conscience ne se limite plus à la morale catholique, mais l’idée est ô combien d’actualité.
L’éthique sur le devant de la scène
Il semble en effet que la science a beaucoup évolué sans conscience, mais que celle-ci fait son grand retour sur le devant de la scène. Alors que Facebook a connu un développement fulgurant sans trop se poser de questions, voilà que ses algorithmes sont remis en cause pour leur rôle dans l’élection de Donald Trump. Alors que l’IA se développe frénétiquement en engloutissant des données personnelles, voilà que l’UE brandit le RGPD et la protection desdites données. Alors qu’une course à l’innovation fait rage pour mettre des voitures autonomes sur les routes, des philosophes proposent des algorithmes éthiques pour la prise de décision difficiles. Ce ne sont que trois exemples parmi ceux sélectionnés cette semaine du retour de l’éthique dans le développement de la technologie.
La première loi de Kranzberg
Au fond, ce qui était pointé par Rabelais, c’était peut-être déjà cette fameuse première loi de Melvin Kranzberg : la technologie n’est ni bonne, ni mauvaise, ni neutre. Elle a des incidences différentes selon les contextes dans lesquels elle est implémentée, et les conséquences peuvent être bonnes comme mauvaises. Le rôle de l’éthique est d’assurer que ces conséquences soient plus souvent bonnes que mauvaises. Le rôle du droit est d’assurer le respect de cette éthique. Et notre rôle à nous, juristes et acteurs des nouvelles technologies, c’est de mettre tout ça en pratique.
L’actu en bref
Cette semaine, la réforme de la loi informatique et libertés a été adoptée par l’Assemblée et a été envoyée au Sénat ; treize russes ont été inculpés d’ingérence dans l’élection américaine ; la CNIL a confirmé qu’elle adopterait une attitude collaborative pour les débuts du GDPR ; le gouvernement a annoncé avoir presque terminé son projet de loi anti-fake news pendant qu’un leak montre que la Commission Européenne souhaite que les contenus terroristes en ligne soient retirés en 1 heure ; la Cour de cassation a confirmé l’irrecevabilité à agir d’héritiers sur le fondement du droit à l’image de la personne décédé ; Airbnb a été condamnée pour non-respect de ses obligations légales, notamment en matière d’information ; une cyberattaque a frappé la cérémonie d’ouverture des JO. On signale également la levée de 16,1 millions de dollars par Lydia, l’appli de remboursement ; la signature d’un contrat inter-états pour Hyperloop et le lancement en France d’une mission e-santé. Enfin, Boston Dynamics refait parler d’eux avec une vidéo de robot-chien qui ouvre une porte.
À ne pas rater cette semaine
Sinon, on vous parle donc d’éthique. On vous propose d’abord un article de The Conversation qui suggère que l’UE puisse devenir leader en matière d’IA, mais responsable. En tout cas, des philosophes sont déjà en train de concevoir des algorithmes éthiques pour les prises de décision difficiles des voitures autonomes. Conscientes de la place que l’éthique prend désormais dans le développement de la technologie, les grandes universités américaines proposent désormais des cours d’éthique scientifique à leurs étudiants ingénieurs. On vous propose également un article qui met en garde sur le développement de l’utilisation des neurosciences à des fins judiciaires, ainsi qu’une lecture pour en apprendre plus sur les avancées dans la recherche sur la mémoire – et les potentielles conséquences que cette recherche peut avoir.
On évoque également la très sale semaine pour Facebook qui a perdu en Allemagne et en Belgique deux contentieux relatifs à son utilisation des données personnelles. Facebook est aussi évoqué dans un très long et très bon article de Wired, qui nous plonge justement dans la réalisation de son rôle et de son impact éthique. Également par Wired, une visite du monde d’Amazon Mechanical Turk, où des humains effectuent des tâches monotones et répétitives pour des salaires misérables, et ce paradoxalement pour le développement de l’IA. On vous conseille en plus la lecture d’un rapport de l’ARCEP sur la neutralité des terminaux. Enfin, on vous signale un magnifique arrêt de la Cour de cassation rendu pour la Saint-Valentin et mettant en œuvre le droit à l’oubli sur fond d’article 5 du code civil. Et l’article signé Aeon de la semaine est d’Adrien, qui vous guide dans les méandres de l’application de la loi française après le GDPR.
Faites la Maj, et à la semaine prochaine !
Ce qu'on lit cette semaine
#géopolitique
#techno-éthique
#IA
#soisjusteettaistoi
Nous parlons souvent de la geo-techno-politique de l’IA, et ce n’est jamais à propos de l’Europe. Pourtant, il semblerait qu’elle puisse tout de même avoir son mot à dire. Alors qu’il lui sera très difficile de rattraper son retard face aux USA et à la Chine, portés par les GAFAM et les BATX, peut-être est-il possible qu’elle trouve tout de même sa place sur l’échiquier mondial en dirigeant le mouvement de la responsabilisation de l’IA. Loin d’être une absurdité, cette hypothèse trouve un certain écho avec le positionnement qu’elle a déjà pris en matière environnementale et de protection des données. Avec l’Accord de Paris, l’Union Européenne et la France n’ont-elles pas réussi à orienter le développement économique mondial ? Avec le RGPD, l’Union Européenne et le France ne sont-elles pas en train de montrer l’exemple en adoptant des standards de protection de la vie privée les plus élevés au monde ? Peut-être est-il ainsi possible de considérer que la force de l’Union est celui de diffuser un soft power éthique. Bien entendu, tout reste encore à faire en matière de régulation de l’IA mais celle-ci ne pourra être couronnée de succès que si les Etats Membres savent à faire front commun. Il est tout de même permis d’espérer, car ils l’ont déjà fait.
#donnéespersos
#droitàl'oubli
#saintvalentin
C’est un beau cadeau de Saint-Valentin que la Cour de cassation nous a offert ce 14 février : quoi de plus romantique qu’un magnifique arrêt à la motivation enrichie qui détaille l’application jurisprudentielle du droit à l’oubli sur Internet ? Les faits sont devenus classiques : une personne physique avait obtenu en référé le déréférencement de deux liens sur le fondement du droit à l’opposition au traitement de données personnelles et de l’arrêt Google Spain de la CJUE. Cependant, cette injonction a été assortie d’une obligation de retirer dans un délai de 7 jours tout lien futur qui serait signalé par le demandeur comme portant atteinte à sa vie privée. Après avoir rappelé les détails de la jurisprudence Google Spain, qui requiert une mise en balance des intérêts en jeu, la Cour de cassation lève cette obligation générale qui pesait sur Google, sur le fondement de l’article 5 du Code civil qui défend aux juges de se prononcer “par voie de disposition générale et réglementaire“, rappelant au passage la nécessité de confronter le droit à la protection des données personnelles au droit à l’information. Un vrai bijou de Saint-Valentin.
#éthique
#bioéthique
#cerveau
#memorymanagement
Que nous le voulions ou pas, nous avançons, découverte après découverte, vers une humanité augmentée par la machine et un couplage du biologique et de l’artificiel. Récemment, des scientifiques américains ont ainsi développé une prothèse cognitive permettant de pallier les inefficiences cérébrales dans l’écriture et le stockage de nouvelles informations, comprendre, dans la constitution de la mémoire. Bien entendu, il est d’abord et avant tout question de traiter les maladies neurodégénératives ou les accidents cérébraux pour, par exemple, permettre aux personnes âgées de retarder la baisse de leur autonomie. Mais l’on ne peut s’empêcher de se poser la question de la limite, in fine ténue, entre le pathologique et le sain. Si l’on abolit ce que l’on considère aujourd’hui comme étant pathologique, le pathologique se déplacera-t-il vers ce que l’on considère aujourd’hui comme sain et le fait d’avoir des capacités cognitives non-augmentées ?
#éthique
#neuro-éthique
#pratiquejudiciaire
#cérébralismeisthenewracialisme
Les neurosciences et la vérité judiciaire font elles bons méninges ? C’est essentiellement la question que deux sociologues se posent à l’occasion des Etats généraux de la bioéthique lancé le 18 janvier dernier dans le cadre de la refonte des lois sur la bioéthique. Depuis 2011, en effet, le recours à l’imagerie médicale et aux neurosciences est autorisé à des fins d’expertise judiciaire. Pourtant, les neurosciences, domaine encore en gestation, n’a pour le moment pas réussi à produire une théorie unifiée du cerveau et de son fonctionnement de sorte qu’il n’existe pas, à ce jour, de consensus suffisamment stable pour pouvoir valablement employer des techniques d’imagerie pour, par exemple, déterminer la probabilité de récidive d’un mis en cause. De telles pratiques dans le domaine judiciaire pourraient ainsi donner lieu à des décisions indument discriminatoires et scientifiquement infondées. Des craintes légitimes, en somme, si l’on se rappelle que le racialisme européen du XIXème siècle s’est construit avec l’appui de disciplines scientifiques douteuses telles que l’anthropométrisme et le crâniométrisme.
#éthique
#IA
#sciencesansconsciencelaruinedelame
La Silicon Valley est en pleine phase de mea culpa et de redressement de la barre face au retour de bâton qu’elle subit en ce moment. À force de développer des technologies sans réfléchir à leurs implications, la plupart des grandes boites techs se retrouve à guérir plutôt que prévenir. C’est pour inverser la tendance à la source que les grandes universités américaines ont décidé de former les futurs ingénieurs non seulement à la science informatique mais également à l’éthique. Le but ? S’inspirer de la formation des médecins ou des avocats et implémenter au fur et à mesure une conscience éthique similaire à celle des professions réglementées, pour que les ingénieurs de demain soient conscients que la technologie n’est ni bonne, ni mauvaise, ni neutre : il faut donc prévoir ses potentiels dévoiements avant que ceux-ci ne surviennent.
#voitureautonome
#éthique
#IA
#paflechien
Les philosophes, plus particulièrement les éthiciens, commencent à mettre la main à la pâte pour essayer de déterminer comment les voitures autonomes devraient se comporter dans les situations où il est certain qu’un accident interviendra. Lorsqu’il est impossible de sauver tout le monde, faut-il privilégier le chauffeur ou le piéton ? Faut-il entrainer la mort d’un individu si c’est pour en sauver cinq ? Est-ce que la réponse serait différente si la situation impliquerait des personnes âgées, des enfants ou des femmes enceintes… le Président ? L’éthique des voitures autonomes polarisera nécessairement tant les grandes théories morales existantes s’opposent frontalement sans pour autant que l’une d’entre elles fasse consensus. C’est, pourtant, un débat qu’il est nécessaire d’avoir, société par société, car les enjeux sont d’importance. Il faudra trouver réponse aux questions ainsi posées et déterminer à qui faire porter la charge du risque de cette nouvelle technologie. Il est cependant dommageable que les constructeurs automobiles ne soient pas plus proactifs sur le sujet.
#dataset
#IA
#trèspetitesannonces
Plus que dans son algorithme, la valeur de l’intelligence artificielle se trouve dans le jeu de données qui l’a nourrit. C’est ce qu’illustre le développement d’un nouveau type d’emploi consistant à créer des données difficilement accessibles par des développeurs pour qu’ils puissent entrainer leurs programmes. Uberisation de la production de data sets, il est ainsi question de rémunérer, pour quelques centimes l’unité, la production de courtes vidéos faisant figurer, par exemple, quelqu’un qui tombe pour qu’une algorithme puisse mieux reconnaître la chute de personnes âgées en maison de retraite ou bien encore, l’action d’attraper un produit dans un rayon de supermarché pour mieux identifier les comportements des consommateurs dans les grandes surfaces. Avec une rémunération médiane de 2 $ de l’heure, on trouvera cependant mieux pour arrondir ses fins de mois.
#facebook
#GAFAM
#lesdifficultésdel'adolescence
Cela fait maintenant deux ans que Facebook fait face à des critiques croissantes sur son rôle dans notre société. De moyen de mise en relation des étudiants de Harvard uniquement à géant de l’Internet et de la publicité aux 2 milliards d’utilisateurs, la croissance de Facebook a été fulgurante, et on se rend désormais compte qu’à grandir trop vite, certains sujets n’ont pas été assez mûris. Wired vous propose un (très) long article de plongée au cœur de ces deux années où l’on a découvert le rôle de Facebook dans les élections américaines et dans la propagation de la haine et des fausses nouvelles. A coups d’interviews et de témoignages de salariés actuels ou anciens, cette perle de journalisme nous dévoile les rouages de la machine et la façon dont son maître, Mark Zuckerberg, tente désormais de la réparer.
#neutralité
#smartphone
#iot
#elitesniper
L’Arcep, dans le cadre de sa mission d’attribution de gardien de la neutralité du net, a étendu le champ de son viseur pour ne plus se limiter à la régulation de la partie réseau/FAI de l’accès à internet mais également prendre en considération les limitations imposées par les terminaux mobiles (et leurs fabricants), principalement les smartphones. Dans son rapport déposé au Secrétaire d’Etat chargé du numérique, l’Arcep s’attaque, sans vraiment se cacher, aux GA(f)A(m), à leurs écosystèmes fermés restreignant de beaucoup l’interopérabilité entre les appareils de différentes marques, les contraintes injustifiées des magasins d’app pesant sur les développeurs, l’opacité de leurs critères de référencement, l’impossibilité d’installer des applications tierces… Bref, la frappe est ciblée et risque, si elle est suivie par le législateur français ou européen, de bousculer bien des business models.
#facebook
#donnéespersos
#yadessemainescommeça
La semaine a été rude pour Facebook qui a subi deux débâcles en Allemagne et en Belgique. En Allemagne tout d’abord, où une cour Berlinoise a considéré que les paramètres standards de confidentialité ne permettaient pas aux utilisateurs de donner un consentement éclairé et a déclaré comme nulles plusieurs clauses de la politique de confidentialité. En Belgique ensuite, où la CNIL belge a marché sur les pas de notre CNIL à nous et a intenté une action en justice contre Facebook, qui à abouti à une injonction de cesser de pister les internautes par le biais des boutons “Like” intégrés à des sites tiers et de supprimer les données ainsi collectées, sous astreinte de 250 000 euros par jour de retard, avec un maximum de 100 millions d’euros. Et ce alors que des voix s’élèvent sur le rachat d’un VPN qui peut être intégré aux applications mobiles de Facebook : une mauvaise semaine pour le réseau social et les données personnelles.
