Saurons-nous maîtriser les machines

David Brooks, Éditorialiste le New York Times

Les Pages Opinion – 30 octobre 2014

Il m’arrive certains jours de penser que personne ne me connaît aussi bien que Pandora, cette radio sur l’Internet qui tente de personnaliser une perception de nos goûts. Si je crée une nouvelle chaîne de musique autour de certains groupes musicaux ou d’une chanson, Pandora me pourvoit automatiquement toute une série de refrains que j’aime tout autant. En fait, il m’approvisionne souvent en chansons que j’avais déjà téléchargées sur mon téléphone à partir d’iTunes. Soit mon goût musical est extrêmement classique ou Pandora sait vraiment bien reconnaître ce que j’aime. Dans le dernier numéro de Wired, le magazine mensuel américain publié sur papier et sur l’Internet, qui rend compte de la façon dont les technologies émergentes transforment la culture, l’économie et la politique, Kevin Kelly, l’écrivain chargé de la technologie, affirme que nous avons tout avantage à nous habituer à ce niveau de prouesses prédictives. Kelly affirme que l’âge de l’intelligence artificielle est enfin à portée de main. Il déclare que les machines intelligentes de l’avenir ne seront pas des génies anthropomorphiques tels que HAL 9000 dans le film « 2001:. L’Odyssée de l’Espace ». Elles seront des machines plus modestes qui seront les moteurs de nos voitures, qui traduiront des langues étrangères, organiseront nos photos, recommanderont des choix de divertissement et peut-être diagnostiqueront nos maladies.

« Tout ce qu’auparavant nous avons électrifié sera transformé en utilisant les sciences cognitives [psychologie, linguistique, neurobiologie, logique, intelligence artificielle]», écrit Kelly. Plus encore qu’aujourd’hui, nous mènerons nos vies, embringuées à des machines qui feront pour nous une partie de nos tâches de réflexion. Cette percée de l’intelligence artificielle, soutient-il, sera entraînée par des technologies de calcul parallèle à prix abordables, par d’énormes collections de données et de meilleurs algorithmes. Le résultat est clair: «Les plans d’affaires des prochaines 10.000 start-ups seront faciles à prévoir: Prendre X et y ajouter l’intelligence artificielle [I.A.] ». Deux grandes conséquences découleront de cette situation. La première est sociologique. Si connaissance égal pouvoir, nous sommes sur le point de voir une plus grande concentration de pouvoir.

L’Internet est déjà annonciateur d’une nouvelle ère de centralisation. Comme Astra Taylor souligne dans son livre, «The People’s Platform» [la Plate-forme des peuples], les 10 sites Internet en tête du classement en 2001 ont représenté 31% de toutes les pages vues aux États-Unis, mais en 2010, ces 10 sites représentaient 75% d’entre eux. De géantes entreprises tel que Google absorbent les plus petites. L’Internet a créé une longue queue, mais presque tous les revenus et le pouvoir sont entre les mains de cette petite élite.

Les progrès de l’intelligence artificielle accéléreront cette tendance centralisatrice. En effet, les compagnies d’I.A. seront en mesure de récolter les fruits des effets de réseau. Plus leurs réseaux seront importants, et plus les données quelles amassent seront importantes et plus elles seront intéressantes et efficaces.

Comme dit Kelly, «Une fois qu’une entreprise entrera dans ce cercle vertueux, elle tendra à se développer si rapidement et à devenir si énorme qu’elle submergera tous les concurrents. Par conséquent, l’avenir de notre intelligence artificielle est susceptible d’être gouverné par une oligarchie de deux ou trois grandes intelligences commerciales d’usage général, basées sur le « Cloud » [ ce stockage de données et d’informatique].

De façon encore plus menaçante, les ingénieurs de quelques entreprises gigantesques auront un immense pouvoir bien dissimulé, celui de façonner la manière dont les données sont collectées et assemblées ; de récolter d’énormes quantités d’informations, d’édifier le cadre dans lequel le reste d’entre nous prendra ses décisions et orientera ses choix. Si vous imaginez que ce pouvoir sera utilisé à des fins tout à fait bienveillantes, vous ne connaissez pas suffisamment l’Histoire.

La deuxième conséquence est philosophique. I.A. va redéfinir ce qu’être humain signifie. Notre identité en tant qu’êtres humains est façonnée par ce que les machines et les animaux ne peuvent accomplir. Au cours des siècles, la raison a été considérée comme l’ultime faculté humaine. Mais aujourd’hui, les machines accomplissent mieux que nous un grand nombre de tâches que nous associons à la pensée – tel que jouer aux échecs, gagner au jeu de Jeopardy [en péril], et faire des mathématiques.

D’autre part, les machines ne peuvent nous vaincre sur les opérations que nous faisons sans consciemment y penser: développer des goûts et de l’affection, nous imiter l’un l’autre, créer des liens affectifs; imaginer des percées créatives, formuler des sentiments spirituels.

La technologie et les découvertes peuvent avancer… Mais le comportement humain demeure le même.

A l’âge des machines I.A. ne remplacera jamais l’intuition humaine, la créativité humaine ou comment comprendre la nature physique d’un animal.

À l’ère des machines intelligentes, nous ne sommes pas humains parce que nous avons un cerveau développé. Nous sommes humains parce que nous avons des compétences sociales, une capacité émotionnelle et de intuition spirituelle.

Je peux imaginer deux formes d’I.A. divergentes, à terme, l’une profondément humaniste, et l’autre utilitaire et sans âme.

Sous leur forme humaniste, les machines nous libèreront des corvées mentales de sorte que nous pourrons nous concentrer sur des tâches plus élevées et plus heureuses. Dans ce futur-là, les différences en intelligence innée seront moins importantes. Tout le monde possède Google sur son téléphone de sorte qu’avoir une très bonne mémoire ou la capacité de calculer de grands chiffres n’est pas aussi utile qu’il l’a été.

Dans ce futur, l’accent sera de plus en plus sur les facultés morales et personnelles: être sympathique, travailleur, digne de confiance et d’affection. Les gens seront davantage évalués sur ces traits qui supplémenteront la pensée des machines, que sur ceux qui les imiteront.

Par contre, dans la froideur de l’I.A. utilitaire, les gens deviendront moins singuliers. Si la structure du choix derrière de nombreuses décisions est basée sur les données d’une immense foule d’individus, chacun suivra les instructions et choisirait d’être aussi commun qu’un autre. La machine nous inciterait à perpétuer ce qui est populaire, ce qui est facile et mentalement peu exigeant.

Je suis heureux que Pandora puisse m’aider à trouver ce que j’aime. Mais je suis quelque peu inquiet si cela doit non seulement façonner mon écoute, mais déterminer aussi ce que j’aime. Je crois que nous voulons tous maîtriser ces machines et non pas que ce soit elles qui nous maîtrisent.