Emergence Robotique

Dominer le monde? (SVP, cliquer Accepter)

Prenez note. La crainte que l’intelligence artificielle (IA) puisse poser un sérieux risque pour « l’existence de l’humanité » n’est plus induite par des films hollywoodiens, mais par des avancées technologiques bien réelles. Mais le danger ne viendra pas de la machine. Mais de ce que ceux qui la contrôlent pourraient bien vouloir garder pour eux seuls: la compréhension du monde devenu déplié.
Faites-vous couler un bon café. Vous aurez besoin d’être réveillé pour la suite.

Temps de lecture : 15 minutes (3200 mots)

watson-monolith

Sommaire (TL;DR)

Un aperçu de ce que vous trouverez dans ce (long) billet:

Au commencement était la peur

Où l’Intelligence Artificielle (AI) fait peur même aux plus puissants. Ça devrait vous concerner aussi, je crois. Aller à cette section…

Échec du maître des échecs

Où Kasparov perd devant la machine et ouvre involontairement la voie à une redéfinition de qui nous sommes. Et ce n’est pas celle que vous pensez. Aller à cette section…

Le fameux coup #44

Où un bogue, oui un bogue, rend la machine plus humaine, ce qui n’augure pas bien pour la définition de qui nous sommes. Aller à cette section…

La réflexion logique est mieux simulée par un ordinateur

Où vous comprendrez pourquoi seuls les novices sont surpris du coup fatal qu’ils n’ont pas vu venir. Aller à cette section…

Cacher ce jeu que je ne saurais gagner

Petite pause vidéo pour respirer, le temps de rétrograder les échecs au niveau d’un simple jeu. Aller à cette section…

Fritz, le cousin germain de Deep Blue

Où le point ici est de faire remarquer que la force brute peut s’attaquer à tout plein d’autres domaines autres que le jeu d’échecs. Aller à cette section…

Watson, Watson, dis-moi qui est le plus intelligent?

Où je ne sais même plus si je dois vous répéter à quel point la victoire de Watson est une blessure pour l’orgueil des humains. Aller à cette section…

Ladies and gentlemen, Watson hasn’t left the building

Où vous allez comprendre que l’AI ne se présentera pas comme un équivalent de HAL, mais bien sous forme d’une multitude d’apps irrésistibles. Aller à cette section…

Le trou noir de la connaissance

Où j’enfonce le clou, si vous n’avez pas compris la section précédente, en insistant que l’AI sera invité à nous dominer par notre accord bien volontaire. Aller à cette section…

Un enjeu non trivial

Où j’insiste pour dire le rapport de force asymétrique joue en faveur de la centralisation de l’IA. Aller à cette section…

Posséder la carte, c’est posséder le territoire

Où je pense que les gens qui auront accès aux connaissances du monde déplié en garderont peut-être les clés juste pour eux seuls. Aller à cette section…

N’oubliez pas de commenter ici ou sur mon compte Twitter @martinlessard

Au commencement était la peur

commencement

Bill Gates, Elon Musk et Stephen Hawking, que l’on ne peut considérer comme des luddites, l’ont exprimé récemment. Mais c’était en des termes peu spécifiques.

Les médias n’ont relayé que les phrases les plus vagues et les plus croustillantes («a threat to humanity», «summoning the demon», «survival of the human race») .

Les « avertissements » concerneraient donc une certaine « fin des humains« . Quand l’intelligence nous dépassera, il en sera fini de nous.

«Once you start to make machines that are rivaling and surpassing humans with intelligence, it’s going to be very difficult for us to survive»  –Clive Sinclair

Ça donne au moins de très bons linkbaits!

gizmodead

Peut-être. Pourquoi pas? On n’est jamais trop prudent! Mais de quelle IA parle-t-on? Quelles menaces? Quand, comment? Ça c’est moins clair.

Comme souligné par Jean-Philippe Louis dans LesÉchos.fr, qui citait le physicien Alexander Wissner Gross, ne serait-ce pas «la tentative de domination du monde qui pourrait bien être un précurseur d’intelligence et non le contraire». Alors, ne serait-on pas en train de projeter nos craintes?

La « domination du monde » me semble de loin une velléité trop humaine pour qu’on la laisse aux robots.

Même si Gates, Musk et Hawking n’ont pas tort de s’inquiéter (une IA qui augmente exponentiellement est effectivement inquiétante), avant d’en arriver là, il y a bien d’autres étapes qui pourraient représenter une menace.

Comme pour l’échec et mat, ce n’est pas le dernier coup qui est dangereux, mais bien la situation plusieurs coups à l’avance qui mène à l’échec et mat.

Il y a la menace sur nos emplois. J’en ai parlé ici. Sujet vaste et complexe, mais qui ne devrait être une surprise pour personne.

Cette menace en implique une autre, moins connue : que faire des hommes « moyennement intelligents » au milieu du siècle en cours, «dans un univers où l’intelligence numérique sera supérieure à l’intelligence biologique?». Le «transhumanisme» est sur notre chemin critique.  Mieux vaut commencer à se renseigner sur la question et lisez le lien que je vous ai mis quelques lignes plus haut.

Elle revient à répondre à cette question que j’ai déjà posée dans le passé: faut-il abdiquer l’intelligence aux robots? Tout dépend de notre définition du mot « intelligence ».

Ici, selon moi, et dans le cadre de ce billet, si « menace » il y a, elle viendrait avant de tout de ces gens qui contrôleront « l’intelligence artificielle », l’accès aux « Big Data », la gestion du « cloud ».

Après tout, si «le pouvoir absolu corrompt absolument», je ne vois pas en quoi il en serait autrement quand ces puissants outils seront concentrés dans les mains de quelques-uns.

Laissez-moi expliquer la genèse de cette hypothèse.

Échec du maître des échecs

echec
Mon histoire commence quand IBM, avec son superordinateur Deep Blue, battit en 1997 Garry Kasparov, champion du monde des échecs à l’époque.

Ce même Garry Kasparov avait pourtant battu cette machine l’année précédente. L’Homme avait montré sa supériorité sur le tas de ferraille.

Il faut savoir que le maître des échecs était devenu la cible des ingénieurs informatiques depuis qu’il avait déclaré quelques années auparavant qu’aucun ordinateur ne pouvait le battre. Ça sonnait comme un défi à leurs oreilles!

Confiant, voilà pourquoi un an plus tard, Kasparov acceptait de se mesurer à nouveau au supercalculateur.

Mais Deep Blue avait été amélioré entre-temps depuis son dernier combat, et en 1997 il infligea donc cette défaite historique à Kasparov.

Contrairement à la croyance populaire, Deep Blue n’utilisait pas « l’intelligence artificielle », mais reposait entièrement sur la force brute de calcul.

La loi de Moore jouait en faveur de la machine : leur puissance augmente de façon exponentielle. Un an de plus est significatif dans le monde des machines.

Lors du match de 1997, Kasparov s’avoua vaincu par la force brute. Mais il fut battu non sans accuser l’équipe de Deep Blue d’avoir triché pour le battre. Il affirma que des humains se cachaient pour jouer à la place de Deep Blue.

Cette sortie émotive mettait la table pour les années à venir: l’humain n’est pas prêt voir sa faiblesse face à la machine.

Or il semble que ce soit un bogue qui ait été à l’origine de cette sortie, un bogue qui donnait l’impression que des humains jouaient à la place de la machine.

Quelle ironie.

Le fameux coup #44

44
Ce qui avait mis la puce à l’oreille de Kasparov était le fameux coup #44.

C’était un coup faible, sans vision à long terme, ni à court terme d’ailleurs. Deep Blue semblait avoir joué ce coup #44  comme un humain pris de panique.

On sait maintenant que le coup #44 de Deep Blue était la résultante d’une indécision entre toutes les possibilités qui s’offraient au programme : la sélection d’un mouvement au hasard a été la réponse par défaut. Dans ce cas, un roque.

Or, ce roque déstabilisa Kasparov. Sachant que la machine prévoyait jusqu’à une vingtaine de coups à l’avance, et que ce roque ne montrait aucun signe d’une stratégie sensée, Kasparov en déduit ceci:

“The machine refused to move to a position that had a decisive short-term advantage, [It was] showing a very human sense of danger.” (Source 1 et 2)

Pour Kasparov, Deep Blue semblait réagir comme un humain et non plus simplement comme une machine avec une force de calcul brut hors du commun.

Un bogue, oui un bogue, rendait la machine…plus humaine.

Mais le véritable enjeu n’était pas que la « machine jouait de façon plus humaine ». L’enjeu était de reconnaître que la force brute de calcul de la machine était simplement supérieure pour simuler la réflexion logique.

La réflexion logique est mieux simulée par un ordinateur

reflexion
La machine, créée par l’homme, venait de battre son maître. Qui plus est, elle l’a battu sur un territoire qui jusqu’à lors représentait le summum de l’intelligence des humains.

En effet, symboliquement, du moins dans la culture populaire, un maître des échecs représentait la supériorité de l’esprit humain.

Visionnez le classique Blade Runner et vous verrez comment le robot (un « réplicant« ) tue son créateur, mais pas avant de le battre aux échecs.

C’est toujours la même chose. Le personnage hollywoodien propose un coup qui semble banal à première vue, mais qui pourtant change la donne d’une façon non prévue.

En général ça ressemble à ça:

  • – Pion en A4
  • – Mais qu’est-ce que cette manoeuvre, mon cher?
  • – Échec et mat
  • – Bon sang, mais vous êtes incroyablement fort!

Évidemment, tout joueur d’échecs compétent sait très bien que l’échec et mat, cette manoeuvre finale et fatale, est prévisible au moins quelques coups à l’avance.

Seuls les novices sont surpris du coup fatal qu’ils n’ont pas vu venir.

Quand on est du calibre de Kasparov, tout ce qu’on peut espérer, c’est que l’adversaire ne pense pas à faire cette série de coups afin de réussir à s’en échapper. Mais les novices ne voient rien venir.

Mon point, ici, c’est que chaque fois qu’un scénariste cherchait à identifier rapidement un personnage comme un « geek » au pouvoir cognitif hors norme, il nous le présentait par une « prouesse » au jeu d’échecs.

En 1997, voilà que la machine venait de nous dire « Échec et mat! » à nous, humains!

Cette victoire venait de blesser notre orgueil.

Cacher ce jeu que je ne saurais gagner

cacherjpg
Aujourd’hui, on a rétrogradé les échecs au niveau d’un simple jeu.

Le jeu qui semblait montrer la supériorité humaine a disparu des radars. Non finalement, ce n’était pas la preuve de la supériorité de l’intelligence humaine, mais on a regardé ailleurs pour trouver cette preuve.

Et le geek dans les films est devenu un programmeur. Le geek programmeur est le nouveau symbole de la supériorité humaine.

Matrix, sortie comme par hasard 2 ans après la chute de Kasparov, présente son héros sous les traits d’un programmeur.

Fritz, le cousin germain de Deep Blue

fritz14
Quelques années avant, en 1995, Deep Fritz, un jeu d’échecs, avait battu une version prototype de Deep Blue et avait remporté le Championnat du monde d’échecs des ordinateurs.

Deep Fritz n’est pas relié à Deep Blue. Mais on peut dire qu’il en est un cousin éloigné. Et vous savez quoi? En novembre 2003, une version de Deep Fritz, fit match nul en quatre parties contre Garry Kasparov, le même qui avait perdu contre Deep Blue.

Le match nul n’est pas une défaite, mais on peut dire que Deep Fritz a tenu tête au champion humain.

Aujourd’hui le niveau de compétence similaire que l’on retrouvait dans Deep Blue (tenir tête à un champion du monde des échecs) peut maintenant s’acheter sur Amazon!

Deep Fritz est vendu pour moins de 100$ et peut battre n’importe quel champion, ou presque.

Capture d’écran 2015-02-17 à 09.29.23

Oui. 15 ans après la victoire de Deep Blue, avoir un logiciel capable d’affronter les maîtres des échecs est devenu une commodité, accessible à n’importe qui ayant un PC.

Mon point ici est de faire remarquer que la force brute peut s’attaquer à tout plein d’autres domaines autres que le jeu d’échecs.

Comme Hubert Guillaud nous le rappelait l’an passé dans InternetActu, quand Garry Kasparov a perdu contre Deep Blue, The Economist titrait “si votre métier ressemble aux échecs, il faut vous préparer à changer de métier”.

Parcourir un arbre de possibilités dans un environnement contrôlé et stable est une prérogative de  la machine. Elle écrasera tout ce qui se trouve sur son territoire

Watson, Watson, dis-moi qui est le plus intelligent?

IBM-Watson-1En 2011, IBM a répété l’affront, au grand dam une fois de plus de l’égo des humains.

Le superordinateur Watson battit les champions du monde au jeu Jeopardy.

«Quoi? Une machine peut nous battre dans les connaissances générales?»

Watson s’est montré supérieur à simuler la connaissance générale. Je dis bien simuler.

Les connaissances générales, qui semblaient être le summum de l’information non structurée, là où supposément le cerveau humain bat à plat couture les machines, ont été formalisées d’une façon ou d’une autre pour être interprétables par la machine.

Toute information formalisée, c’est-à-dire comestible pour la machine, dit possibilité d’être traitée par la force brute du calcul. Mais cette fois-ci, ce n’était pas que la force brute, mais l’intelligence artificielle.

Répondre à des questions d’ordre général sera-t-il un domaine que l’on va abandonner un jour à la machine, comme on l’a fait pour les échecs?

L’enjeu avec Watson, ici, n’est pas anodin. Il s’agit probablement d’une révolution cognitive importante.

Mais comme pour Deep Fritz 14, l’équivalent de Deep Blue de l’époque, verra-t-on une version cousine à Watson vendue pour une poignée de dollars en ligne dans 15 ans?

Aurons-nous sur nos portables une app à la Watson? (Appelons-la apptson, pour s’amuser).

Non, inutile d’attendre 15 ans. Car Watson est déjà disponible (en apptsons, justement!).

Ladies and gentlemen, Watson hasn’t left the building

watson2
IBM a annoncé ce mois-ci qu’elle venait d’ajouter 5 nouveaux modules de services sous forme d’API pour accéder à la puissance de Watson!

Deux modules (pas vraiment des apptsons, puisque ce sont des API) m’ont particulièrement intéressé. Ils sont révélateurs, à mon avis, du type de défis que pose l’intelligence artificielle sur le marché du travail.

J’en ai glissé un mot sur mon autre blogue, mais ça vaut la peine de le rappeler ici:

New-services-e1422814890751

Les deux derniers du bas du tableau sont:

  • Concept Insight: Ce module explore les liens conceptuels cachés dans la masse d’information ingurgitée par Watson au-delà de la simple comparaison de texte mot-à-mot.
  • Tradeoff Analytics: Ce module permet de prendre des décisions en temps réel basé sur des paramètres statiques ou évolutifs afin d’identifier les alternatives optimales dans la prise de décision.

Je ne sais pas pour vous, mais ces modules simulent des compétences qui me semblent être celles qu’on accorde généralement à des directeurs, des conseillers ou des analystes dans des domaines comme le marketing, la publicité ou le service à la clientèle.

Imaginez: le middle-manager, celui avec le plus d’ancienneté pourrait voir son poste aboli. Ni son patron, ni ses employés n’auront besoin de lui.

J’ai en tête par exemple un poste de directeur-conseil ou de planificateur en publicité, celui (ou celle) qui normalement a l’expertise de dire : avec tel moyen, dans telle circonstance, avec tel effet, on a x% de chance d’atteindre le but Y avec un budget Z$.

Cette personne se verra challengée par une intelligence artificielle. Du moins sur cette partie de son expertise. Ses employés pourront accéder à son savoir. Le patron n’a pas besoin d’engager une personne avec ce savoir.

Ces modules de Watson montrent qu’une partie de ces connaissances seront du ressort de l’intelligence artificielle dans un avenir prévisible!

C’est la promesse. Il reste à voir sur le terrain.

Au moins IBM a l’honnêteté de mentionner que les modules sont en « beta ». Mais même dans les échecs, Watson peut s’améliorer. Avec le «Deep Learning», toutes les expériences sont cumulatives.

Le trou noir de la connaissance

connaissance

Un trou noir, c’est ce qui attire toute la matière, inexorablement. Il garde tout ce qu’il absorbe et devient à chaque fois encore plus massif.

L’approche infonuagique pour les modules de Watson pour IBM  ou pour le Google Cloud Plateform ou pour toute autre compagnie capable de centraliser tous les apprentissages, les bonnes comme les mauvaises, pour nourrir un superordinateur d’intelligence artificielle, c’est s’assurer d’absorber comme un trou noir toute la connaissance qui passe à l’horizon.

Plus il y a aura de gens qui vont l’utiliser, plus ce type de service deviendra fort, puissant et incontournable.

Avec les API de Watson (ou mes hypothétiques watpsons) nous sous sommes en train d’éduquer un géant capable de comprendre le monde mieux que nous-mêmes, comme on a éduqué Google à deviner ce qu’on pense (recherche) et à Facebook quels sont nos désirs (comportement). Plus on utilise ces plateformes, plus elles s’améliorent dans leur compréhension du monde.

Le Watson d’IBM suivra le même chemin.

Déjà un projet Kickstarter propose des jouets pour enfants, des cognitoys, qui se brancheront directement sur les API de Watson. Ces jouets connectés engageront des dialogues avec enfants — poseront des questions, raconteront des blagues, partageront des histoires, etc.

Capture d’écran 2015-02-19 à 22.28.51

« La technologie permet aux jouets d’écouter, de parler et d’évoluer, d’apprendre et grandir avec l’enfant ».

Mais par la bande, c’est Watson qui va s’éduquer…

Un enjeu non trivial

enjeu
Une de mes craintes concerne ces compagnies qui possèdent un avantage déloyal sur nous.

Déloyal dans le sens qu’elles ont un rapport de force asymétrique :  chacun de nos petits gestes anodins (pour nous) devient une force cumulée incroyable (pour eux).

  • Déjà Google peut modifier notre connaissance du monde simplement en modifiant ses algorithmes. À la rigolade, on dit qu’il est notre mémoire. Mais en faisant monter ou descendre des résultats, il peut jouer avec notre mémoire. La Chine l’a bien compris. Voilà pourquoi elle ne laisse pas Google décider quels sont les résultats de recherche pour Tian’amen. Celui qui détient l’accès aux résultats de recherche détient l’histoire.
  • Déjà Facebook peut modifier nos comportements simplement en modifiant ses algorithmes. On sait qu’ils font continuellement des tests pour améliorer leurs algorithmes. En nous exposant plus ou moins à certains contenus, on se fait influencer dans nos comportements. Dans un test grandeur nature (A 61-million-person experiment in social influence and political mobilization). on a tenter d’influer le taux de participation au vote. Facebook a offert à «certains usagers un bouton «J’ai voté» et une indication de l’endroit où se trouve leur bureau de vote, des photos de leurs propres « amis » ayant déclaré avoir déjà voté. Résultat :  une augmentation de 2 % de la participation chez les usagers. Celui qui détient l’accès à nos liens sociaux contrôle nos comportements sociaux.

IBM offre de nouveaux modules qui nous donnent accès, nous aussi, à «l’intelligence» de Watson — mais nous les aidons sûrement davantage en améliorant la performance de Watson. IBM traitera, engrangera et distribuera cette intelligence. Celui qui détient des données sur le marché aura-t-il une position privilégiée?

Comme Google et Facebook, IBM pourrait accéder au stade de divinité omnisciente sur nos connaissances d’affaires. Plus on nourrit la bête, plus elle devient forte.

C’est un énorme pouvoir que nous laissons entre les mains de ces géants –on ne sait juste pas encore lequel.

Ces modules deviennent incontournables, car ils nous offriront un pouvoir plus grand pour comprendre la complexité de notre entreprise ou de notre domaine de travail.

L’ensemble de l’équation leur sera visible, mais pour nous, ce sera à la pièce que nous verrons le monde. Par le petit bout de la lorgnette.

IBM, Google, Amazon, ou tout autre géant du Big Data et du IA qui aura accès au recoupement de toutes les informations, tous azimuts, se verra accéder à une compréhension inégalée du monde.

Dans la théorie sur les systèmes dynamiques, chaotiques même, on appelle « attracteur » cet « espace » vers lequel un système évolue de façon irréversible en l’absence de perturbation.

Ces firmes sont des « attracteurs » vers lesquels tend l’accumulation d’un pouvoir d’un nouvel ordre.

Capture d’écran 2015-02-28 à 07.21.02

Posséder la carte, c’est posséder le territoire

carte
Avec un accès privilégié à l’information en temps réel, de telles compagnies auront (ont?) un pouvoir infiniment plus grand que celui de tous les empires depuis le début de l’humanité. Ils sont capables de prendre de meilleures décisions que n’importe qui d’entre nous.

Si tout le monde s’y met, comme on l’a fait avec Google et Facebook, IBM aura un bien meilleur portrait pour comprendre, deviner, anticiper le monde qui nous entoure.

Ce type de pouvoir se voit dans le domaine de la finance avec les transactions à haute fréquence (high-frequency trading). Ce sont des exécutions de commandes d’achat/vente de transactions financières faites par des algorithmes informatiques (basés sur la décision statistique de données boursières devenues inaccessibles à l’analyse humaine).

hifrenquency

Ces algorithmes voient, font, savent des choses dans ce temps minuscule entre deux transactions — on n’a même pas idée! C’est comme avoir le pouvoir d’arrêter le temps pour anticiper nos actions!

La force asymétrique permet à quelques un de s’insérer dans l’arrière-plan du décor. Les transactions à haute fréquence ne manipulent pas à proprement parler les ficelles de la bourse. Dans l’infiniment rapide, ces algorithmes ont tout simplement le temps de prendre la meilleure décision (statistique).

Avec Watson, ou la promesse de l’intelligence artificielle, quelques privilégiés accèderont à l’arrière-plan du décor du monde pour comprendre mieux –ou plus vite– la réalité qu’eux seuls perçoivent dans les grandes lignes.

Les gens qui auront accès aux connaissances du monde déplié, en garderont-ils les clés que pour eux seuls?

Google et Facebook en sont déjà là. IBM y arrive à grands pas. Dans tous les cas, nous les aidons à aller dans cette direction.

Je m’inquiète surtout qu’éventuellement certains puissent en profiter pour changer le cours de la partie à leur seul avantage.

Je vois deux métaphores pour résumer mon point.

C’est comme si, en 1491, certains avaient accès à une carte du continent.

Ou, c’est comme posséder des HoloLens au royaume des aveugles.

Si vous avez aimé, n’oubliez pas de commenter ci-dessous, lire mes autres billets ou me suivre sur Twitter @martinlessard

Martin Lessard
Conférencier, consultant en stratégie web et réseaux sociaux, chargé de cours. Nommé un des 8 incontournables du Montréal 2.0 (La Presse, 2010). Je tiens ce carnet depuis 2004.
http://zeroseconde.com

2 thoughts on “Dominer le monde? (SVP, cliquer Accepter)

  1. À peu près au même moment où je publiais ce billet sont sortis 2 nouvelles.

    Intelligence artificielle : Google Deepmind apprend à exceller dans des tâches variées: Une même architecture a été capable d’apprendre et de s’adapter à différents jeux vidéo (alors que rien n’avait été programmé pour comprendre le jeux). C’est une nouvelle étape dans le développement de programmes d’intelligence artificielle.

    L’aveuglement éthique des algorithmes: L’enjeu de l’analyse des données n’est donc pas tant qu’il catégorise la société que de permettre de trouver les moyens pour rétroagir sur le comportement de tous.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *