C’était le mot de l’année 2017, et il semble probable que sa place sera tout aussi proéminente en 2018 : l’intelligence artificielle est sur toutes les lèvres, tant la progression du domaine est fulgurante et les potentialités sont nombreuses. Parmi ces potentialités, toutes ne sont néanmoins pas toutes roses. On se souvient encore de l’utilisation de réseaux neuronaux pour générer du faux porno mettant en scène n’importe qui ; encore plus inquiétantes sont les armes autonomes.
Tout déléguer à la machine, même la guerre ?
Le sujet des armes autonomes fait déjà l’objet d’un militantisme actif – cette vidéo parodique d’une keynote annonçant un nouveau drone tueur est à glacer le sang – et a notamment été sur le devant de la scène cette semaine en particulier. Le rapport de Cédric Villani et son site aiforhumanity ont été l’occasion pour Emmanuel Macron de donner une interview au magazine Wired, durant laquelle il s’est fermement opposé au développement d’armes autonomes. Cette semaine également, et à la suite de la découverte du projet Maven, dont nous vous parlions dans une Maj précédente, plus de 3000 salariés de Google ont cosigné une lettre à leur directeur, Sundar Pichai, lui rappelant que “Google ne devrait pas être dans le business de la guerre”. Parallèlement, des scientifiques ont obtenu d’une université sud-coréenne qu’elle s’engage à ne pas développer de telles armes après l’émergence de soupçons concordants qu’un tel développement était en cours. Enfin, un sommet intergouvernemental sur le développement d’armes autonomes a lieu cette semaine à Genève.
La problématique est simple d’apparence : faut-il autoriser, encadrer, ou interdire le développement d’armes autonomes ? Bien entendu, rien n’est aussi simple que ce qu’il parait. Ici en l’occurrence, une première question se pose : comment définir une arme autonome ? On parle en effet déjà d’armes automatiques pour des armes capables de tirer en rafale tant que la détente est appuyée. Les systèmes armés autonomes auraient un degré d’autonomie supplémentaire, à savoir que la décision de déclencher le tir ne serait pas prise par un humain. La forme qu’ils peuvent prendre, elle, est indéfinie : drones volants, robots armés de lames, l’imagination n’a pas de limites.
L’art de la guerre, et son droit
Si la guerre existe depuis toujours, la volonté de la réguler n’est pas si jeune que ça non plus. On trouve ainsi des traces de code de la guerre en ancienne Babylone, près de 2000 ans avant Jésus-Christ. D’une manière assez intéressante (causalité ou corrélation ? nous n’en savons rien), plus la démocratie a évolué, plus nos capacités militaires ont également progressé, et plus les règles encadrant l’utilisation de certaines armes ont proliféré. Aujourd’hui, la guerre n’est pas censée être sans limites : les Conventions de Genève doivent permettre de garantir le respect des victimes, les Nations Unies ont pour mission de veiller sur le respect des droits de l’Homme, et de multiples traités et conventions (notamment de La Haye et de Paris) limitent l’utilisation de certaines armes, telles que les armes chimiques.
Les nouvelles formes de guerre et d’armes
En pratique, le terrorisme et la guérilla sont deux exemples parmi tant d’autres des nombreux conflits qui s’extraient de ce cadre somme toute très théorique. La guerre est aussi de plus en plus dématérialisée, comme le reste de notre société, et les règles de La Haye ne prennent pas en compte les méthodes de guerre “cyber”. Enfin, de nouvelles armes telles que les armes autonomes sont toujours en production.
Reste donc à déterminer si les armes autonomes méritent une adaptation de la réglementation. Très schématiquement, les grandes thèses en opposition sont similaires à celles relatives à l’automatisation de la justice, avec potentiellement dans les deux cas des vies humaines à la clef : souhaitons-nous déléguer à une machine la décision de tuer/juger quelqu’un ? Certains peuvent espérer que l’automatisation permettra de diminuer le nombre de victimes collatérales/de rendre la décision de justice plus neutre et objective, avec peut-être moins de biais. D’autres s’interrogeront : n’est-ce pas aussi le propre de l’humain que de changer d’avis, d’aller à l’encontre de ce qui était prévu ?
L’actu en bref
Cette semaine, Spotify a réussi son entrée en bourse ; ça va mal entre Trump et Amazon ; on a détecté une étoile à 9 milliards d’années-lumière, la regarder c’est donc voir 9 milliards d’années dans le passé ; Lastminute.com condamnée pour «parasitisme» du site de Ryanair ; une jeune femme a blessé plusieurs personnes au siège de YouTube ; Mark Zuckerberg va témoigner devant le Parlement américain pendant qu’il est révélé que Facebook a tenté d’obtenir des données de santé auprès d’hôpitaux. Côté législatif, notons que la CMP n’a pas abouti à un accord sur le projet de loi données personnelles, qui retourne en lecture et une proposition de loi visant à créer un droit voisin aux éditeurs de presse en ligne a été déposée.
À ne pas rater cette semaine
Sinon, on vous conseille vraiment la lecture du millésime de cette semaine, qui est un très bon cru. Outre l’interview d’Emmanuel Macron à Wired et un article relatant les péripéties de la lettre des 3000 salariés de Google à leur CEO, nous vous avons également sélectionné un article sur l’explicabilité de l’intelligence artificielle et la manière dont celle-ci peut s’appréhender par une comparaison avec l’esprit humain (convergence NBIC quand tu nous tiens), et un autre expliquant pourquoi il ne faut pas de droit d’auteur sur les créations issues de l’IA. Également au programme, la relation de je-t’aime-pas-moi-non-plus-mais-j’ai-besoin-de-toi entre Intel et Apple, cette dernière étant désormais décidée à quitter cette première. On en avait longuement parlé, mais l’affaire Microsoft v. FBI n’ira pas plus loin, les USA ayant adopté une loi permettant peu ou prou au FBI de faire ce qu’il veut. Enfin, Le Monde nous livre deux très belles lectures : la première sur le développement de la réalité virtuelle, la seconde sur des pro-gamers de plus de 70 ans qui vivent la passion du jeu vidéo de manière professionnelle.
Faites la Maj, et à la semaine prochaine !
Ce qu'on lit cette semaine
#IA
#google
#armesautonomes
#guerreetpaix
On vous en parlait il y a quelques semaines : le partenariat Google-Pentagone dans le cadre du “Projet Maven”, dédié au développement de l’intelligence artificielle des drones de l’armée américaine, n’a pas manqué de faire scandale, et ce jusqu’en interne. Lettre ouverte des employés à Sundar Pichai, PDG de Google, qui défendent l’idéal historique de l’entreprise, contre cette militarisation de leur propre travail : please “don’t be evil”. Dans un contexte où la course à l’IA se joue sur la capacité à attirer les meilleurs talents, une image écornée pourrait coûter cher à Google ; l’article rappelle en effet que si les autres GAFAM ne se cachent pas de leur propre activité pour l’armée américaine (notamment concernant les infrastructures cloud), Google bénéficie à cet égard de cette position idéaliste des débuts, que beaucoup lui attribuent encore. Crises des valeurs ? La firme s’en défend en rappelant que sa participation au Projet Maven est strictement limitée aux aspects non offensifs ; le sujet de l’éthique des usages de l’IA n’en est pas moins sur la table, et mérite à l’évidence d’être abordé au-delà du simple cas de Google.
#algorithme
#transparence
#cestgravedocteur?
Une approche originale de la problématique des biais et autres erreurs de verdict des algorithmes dont dépendent de plus en plus nos vies et sociétés : et si, parce que leur modèle de développement est celui du cerveau humain, les algorithmes de deep learning, avec leurs réseaux de neurones artificiels, étaient, de même que ce modèle, susceptibles de pathologies mentales ? La comparaison n’est pas gratuite dans l’esprit de l’auteur : elle justifierait d’explorer de nouvelles méthodes pour tâcher de découvrir quand et pourquoi les algorithmes se trompent – des méthodes inspirées de l’analyse de ces mêmes pathologies mentales dans l’esprit humain. Au coeur de cette réflexion est en effet la problématique de l’explicabilité, auquel la prospective juridique récente, entre rapport de la CNIL et rapport Villani, a clairement fait la part belle.
#IA
#frenchtech
#techindustry
#ayezconfIAncesvp
Dans la continuité du rapport Villani sur l’avenir de l’intelligence artificielle déposé il y a peu et de sa conférence de présentation, Emmanuel Macron a accordé une longue interview au magazine américain Wired. C’était l’occasion pour lui de parler de sa volonté de faire de la France et de l’Union Européenne un acteur clef du développement de l’IA afin de rester économiquement pertinent et de lui inculquer certaines valeurs structurelles de nos sociétés mais également, en creux, de tenter de faire taire quelques doutes de l’industrie. Car, derrière la promesse aux français de ce que l’IA ne sera pas néfaste, il y a également celle faite aux investisseurs, start ups et autres acteurs du marché, qu’ils trouveront en France plus qu’ailleurs, terre favorable à leurs entreprises (et leur argent).
#donnéespersos
#USA
#géopolitique
#somewherebeyondthesea
Il fallait s’y attendre : le Cloud Act, adopté fin mars par le Congrès américain, vient de mettre un terme à l’affaire à retentissement qui oppose Microsoft au Department of Justice devant la Cour Suprême, autour de la question de la communication au second par la première de données relatives à un utilisateur stockées en Europe. Les juges suprêmes américains ayant eux-mêmes suggéré de s’en remettre au législateur, ce dernier a donc remédié au “problème”, dû à l’ancienneté de la loi, en facilitant le transfert et l’accès aux données situées sur des territoires étrangers ; l’administration a ainsi pu produire un nouveau mandat à portée extraterritoriale, rendant de fait sans objet le litige antérieur. Après de nouvelles révélations sur l’étendue du contrôle exercé par la NSA sur les internautes et citoyens à travers le monde, voici qui n’est pas de nature à rendre les autorités outre-atlantiques plus rassurantes.
#droitd'auteur
#copyright
#IA
#lelibreparkour
Un retour aux fondamentaux rafraîchissant autour de l’épineuse question de la protégeabilité des oeuvres créées par l’intelligence artificielle au titre du droit d’auteur : tandis que le devant de la scène est occupé par des controverses relatives à l’identité de celui qui en bénéficie (le concepteur de l’IA ? son utilisateur ?), nous voici renvoyés à la question première – pourquoi voudrions-nous, et devrions-nous vraiment vouloir, un droit exclusif sur les créations de l’IA ? L’occasion de rappeler, à l’heure où de nombreux pays ont entrepris d’adapter leur droit à cet égard, que le droit d’auteur, peut-être plus que tout autre objet juridique, a été et continue d’être façonné au gré de luttes éminemment politiques, entre des intérêts éminemment économiques. Aussi la question précédente mérite-t-elle d’être posée, et l’on ne saurait prétendre y répondre sans questionner à leur tour les fondements idéologiques du domaine public comme du “tout-protéger”. Le débat est ouvert !
#techindustry
#mac
#processeur
#coupd'étatdanslamachine
Apple, connu pour avoir constamment lutté pour gagner de plus en plus de contrôle sur ses écosystèmes tant software que hardware, est en quête d’un ultime morceau de souveraineté. C’est ainsi que la firme américaine a récemment annoncé ne plus vouloir reposer sur Intel pour la fabrication des processeurs de sa ligne d’ordinateurs, le tout couplé de l’espoir de pouvoir sortir un unique système d’exploitation intégré pour tous ses différents appareils. Outre les doutes sur la capacité d’Apple de concurrencer en qualité et en puissance de calcul les produits d’Intel qui ne fait que ça depuis 50 ans, le A de GAFA (on ne se souvient jamais vraiment duquel il s’agit) va devoir composer avec la réticence des développeurs MAC à réécrire leurs applications mais aussi contre les habitudes des utilisateurs finaux. C’est jouer gros, donc, mais la chandelle se vaut.
#e-sport
#jeuxvidéo
#formation
#médailledevermeil
L’on parle souvent du fossé générationnel qui sépare les digital natives et les personnes âgées dans la compréhension et l’utilisation des outils numériques. Voici un exemple de ce que celui-ci n’est pas infranchissable. Il s’agit donc du récit d’une compétition d’e-sport, de bowling sur Wii Sports pour être exact, entre joueurs de maison de retraite, une compétition d’e-sport comme une autre, avec des fans enthousiasmés, des ascenseurs émotionnels, des favoris et des underdogs. Il n’est certes pas question de matchs sur des jeux tels que Starcraft II ou sur League of Legends, complexes et requérant un niveau de dextérité élevé, mais cet évènement et l’engouement qu’il suscite, tant pour les joueurs que pour les spectateurs, montre que la formation peut avoir un effet décisif pour éviter un décrochage complet des seniors que ce soit dans les loisirs ou ailleurs. On espèrera tous, le temps venu, être aussi “impérial” que Raymonde et cool que Marie avec ses oreilles de chat.
#réalitévirtuelle
#techindustry
#hypecycle
#virtualitéd'uneréalité
L’image n’est pas d’Epinale mais elle n’est pas pour autant morose. Comme il arrive parfois avec la communication sur des technologies encore naissantes, la réalité virtuelle/augmentée/mélangée avait, au début de la décennie, bénéficié d’une vague de hype qui avait atteint un public bien plus large que celui, plus habituel, constitué d’early adopters. Quelques années plus tard, avec la lucidité de l’expérience et la mise à l’épreuve du marché, le bilan est différent de celui qu’on avait prédit : la technologie et les produits n’ont pas encore été adoptés par les masses. Pourtant certains secteurs, plus professionnels, plus de pointe, ont tout de même permis à la VR de se développer dans l’attente que les consommateurs puissent à leur tour trouver casque désirable à leur tête. La VR est morte, longue vie à la VR.
