Magazine, Vol. 3: Passage au numérique
Leave a comment

« L’intelligence en elle-même ne s’intéresse pas au concept de pouvoir »

0 1 #9 © Max Dauven

« Le robot gentil d’à côté » : Une approche positive quant à l’intelligence artificielle

 

Devons-nous nous méfier de l’intelligence artificielle ? Dans son interview avec le magazine 42, le professeur Robert Trappl nous fait part de son analyse sur les interactions entre rationalité et émotion, et sur une possible cohabitation entre Homme et Machine. Il nous explique pourquoi il y a de quoi être optimiste.

Prof. Dr Trappl – Avec quels préjugés sur l’intelligence artificielle voudriez-vous en finir ?

Je voudrais en finir avec le préjugé que la poursuite du développement de l’intelligence artificielle contienne le risque de créer une super-intelligence qui dominerait le monde et réduirait les Hommes à l’esclavage, voire les anéantirait complètement. Je ne pense pas que cela puisse être le cas. Même si cette position est défendue par des personnes, brillantes dans d’autres domaines, tel qu’Elon Musk ou bien Stephen Hawking.

Pourquoi doutez-vous qu’il puisse exister une super-intelligence hostile ?

L’expression « super-intelligence » accorde à l’intelligence une qualité qui ne lui est pas propre, celle de l’intention. L’intelligence est avant tout l’effort lié à la résolution de problèmes et à la survie dans un environnement imprévisible. Motifs et objectifs connexes – naturellement adaptés à leur propre environnement de vie – trouvent leur origine en nous, les Hommes, dans un autre système. L’intelligence en elle-même ne s’intéresse pas au concept de pouvoir. Il est vrai cependant qu’au CARIA aussi, nous travaillons actuellement à la modélisation de personnalités. Je n’exclus pas complètement la possibilité que ce genre de simulations de personnalités puisse un jour s’avérer problématique pour l’humanité.

 

« D’après cela, les robots en tant que conjoints devraient, jusqu’à un certain point, être imprévisibles pour rester intéressants. Il leur faut pour ainsi dire le caractère humain »

 

Comment se développent les relations entre les Hommes et les machines avec l’humanisation grandissante de l’intelligence artificielle ?

Voici un exemple : le livre Love and Sex with Robots de l’auteur anglais David Levy met en scène un futur où il serait possible de se marier avec un robot. Parce que j’étais curieux, j’ai alors étudié la loi matrimoniale autrichienne. D’après celle-ci, les robots ne sont aucunement exclus en tant qu’époux potentiels. La loi requiert cependant que les deux partenaires aient minimum seize ans. Et qui voudrait épouser un robot vieux de seize ans ? Un autre livre qui adresse d’intéressantes hypothèses à cet égard est The Intimate Machine, datant des années 1980 et écrit par Neil Frude. D’après celui-ci, les robots en tant que conjoints devraient, jusqu’à un certain point, être imprévisibles pour rester intéressants. Il leur faut pour ainsi dire le caractère humain. Les algorithmes des sites de rencontres se fondent sur un principe similaire : essayer de trouver des personnes qui se ressemblent mais dont les petites différences font tout le charme. L’aventure de la rencontre fortuite est ainsi remplacée par le choix planifié d’un partenaire similaire. De là, il ne reste qu’un pas à faire avant d’en arriver à une union entre Hommes et robots.

Par le passé, l’ère de l’intelligence artificielle a déjà souvent été proclamée, sans qu’elle soit pour autant survenue. Qu’est-ce qui est différent cette fois ?

Entre temps, les avancées nécessaires ont été faites dans le développement technologique et les personnes en ont pris conscience. Lors d’une partie d’échec contre l’ordinateur IBM Deep Blue en 1997, la défaite de Garry Kasparov était prévisible, du fait que le développement de la puissance de traitement suivait la loi Moore, et doublait alors toujours dans une période de 12 à 24 mois. En revanche, la défaite de Lee Sedol, champion mondial du jeu de go, contre le logiciel « AlphaGo » a bluffé les experts. Pour la première fois, des principes de Deep Learning, ou « apprentissage profond », ont alors été appliqués pour susciter un impact médiatique. Le Deep Learning fait partie du domaine du Machine Learning qui combine une grande quantité de données avec la structure des réseaux neuronaux du cerveau humain tels que nous les connaissons. Grâce à cette structure en réseau, un algorithme, par exemple, peut constamment relier ce qu’il a appris avec de nouveaux contenus et ainsi se développer davantage par lui-même. Bien que ces approches aient déjà été utilisées dans les années 1970-80, leur potentiel ne pouvait pas être déployé parce que les ordinateurs n’étaient pas suffisamment rapides, n’avaient pas assez de mémoire et parce que la connexion internet n’existait pas encore. Ce sont surtout les possibilités offertes par l’apprentissage profond qui amènent les personnes à penser que « tout ceci est un véritable danger », les machines et les algorithmes pouvant, sur le long terme, effectivement remplacer la main d’œuvre humaine. En effet, beaucoup d’emplois deviennent superflus. Ce que l’on remarque c’est que, contrairement à ce qu’on aurait pu penser, ce phénomène est moins visible du côté des ouvriers et des artisans mais plus présent chez les salariés. De nos jours, lorsqu’on va à la banque, il n’y a presque plus personne. Les postes n’existent tout simplement plus. Naturellement, ceci est tout de même inquiétant. Des pronostics comme ceux effectués par McKinsey & Company, conseiller en gestion d’entreprise, prévoient que 40 à 50% des métiers pourront être remplacés par la numérisation.

Des pronostics de ce type fluctuent parfois considérablement. Dans l’ensemble, ils soulignent surtout que la numérisation introduit une transformation dans le monde du travail.

Oui, absolument, mais en fait, nous sommes tous d’accord pour dire qu’il y a quelque chose de disruptif. Le développement de la numérisation, c’est-à-dire la capacité grandissante de traitement et le degré de connexion, ce sont là des avancées qui ont rendu saisissable la thématique de l’intelligence artificielle.

Le mot clé est « Deep Learning » : Alan Turing avait déjà développé l’idée de la « Child Machine », un algorithme basique, capable d’apprendre par lui-même. Est-ce que cela signifie que le futur de l’intelligence artificielle va subir un processus de croissance semblable à celui d’un enfant ?

Actuellement, nous travaillons sur deux projets qui étudient comment les enfants apprennent à parler en interagissant avec leur environnement. Ces projets apportent beaucoup à notre recherche sur comment enseigner à un robot à effectuer certaines tâches, comme par exemple réparer le moteur d’une voiture. Pour cela nous devons d’abord créer un vocabulaire commun, pour qu’Homme et Machine puissent interagir efficacement. Cela peut être étendu, en présentant certaines choses de la manière suivante, par exemple en disant : « Ceci est un tuyau et non un tube ». C’est de cette façon qu’un robot, semblable à un apprenti ou bien aussi un enfant, va comprendre le contexte et mettre en application des instructions. Cela est, certes, bien plus difficile que l’on ne le pense mais cela reste possible.

Le développement vers la Personnalité Augmentée (Augmented Personality) ou bien la Réalité Augmentée (Augmented Reality) est évident, puisque finalement mon Smartphone n’est rien d’autre qu’une extension de moi-même, mis à part le fait que l’interface tactile est en comparaison encore assez simple.

Oui, c’est vrai, mais cette technologie est constamment améliorée. En revanche, on est encore très éloigné de ce que l’on voit dans les films de science-fiction. L’idée qu’à l’avenir nous pourrions télécharger notre « moi » sous la forme d’un logiciel cérébral est dans un certain sens une illusion, parce que dans notre cerveau, Hardware et Software sont inséparables, et sont parfois même appelés Wetware. Je ne peux donc rien télécharger. Contrairement à l’ordinateur, pour lequel je sais que si j’ai telle configuration de Hardware et de système d’exploitation, je peux y télécharger n’importe quel programme. Nous, en tant qu’Hommes, n’avons pas toutes ces possibilités. Actuellement, cette vision ne semble pas réalisable mais qui sait à quoi ressembleront les choses dans cinquante ans ?

 

« L’idée initiale de considérer la rationalité et l’émotivité comme deux pôles distincts est donc fausse, parce que celles-ci se complètent pour diverses raisons »

 

Les recherches ont maintenant montré que nous avons aussi besoin de l’intelligence émotionnelle, pour prendre de bonnes décisions.

Je pense que nous avons commis une grosse erreur dans les études sur l’IA en considérant l’intelligence comme quelque chose de purement rationnel et en délaissant son caractère émotionnel. Depuis la moitié des années 1990, au plus tard, nous savons que les personnes moins émotives prennent de moins bonnes décisions rationnelles. L’idée initiale de considérer la rationalité et l’émotivité comme deux pôles distincts est donc fausse, parce que celles-ci se complètent pour diverses raisons. Pas seulement en communication, où le caractère interpersonnel est extrêmement important, mais aussi pour récupérer du contenu mnésique. Ce qui porte une charge émotionnelle et qui a des liens avec la mémoire épisodique est récupéré en priorité. Donc, lorsque l’on réfléchit sur l’intelligence artificielle, on ne peut pas passer à côté de l’émotivité. Pour le moment, les ordinateurs n’ont très probablement pas d’émotions. Mais ce qu’ils savent très bien faire, c’est reconnaître les émotions, les travailler, et les exprimer. C’est donc ce que fait un acteur, il exprime et met en avant des émotions qu’il ne ressent pas forcément lui-même. Il joue un rôle et ça, les ordinateurs, robots, et Synthetic Actors en sont aussi capables, et de mieux en mieux.

Peut-il déjà y avoir entre Homme et Machine des relations similaires et une compréhension mutuelle semblable à ce qui existe entre les Hommes ?

Honnêtement, je ne sais pas. Mais je pense que dans cette perspective beaucoup de choses sont possibles, étant donné que les Hommes aiment déjà des objets qui n’ont absolument aucune intelligence comme par exemple des simulations de vie animale. Cela a commencé avec « Paro », le robot-phoque. Puis le chien-robot, « Aibo » a suivi. Celui-ci est néanmoins un contre-exemple. Les robots métalliques ou plastiques ne se laissent pas appréhender de façon aussi sympathique que ceux en fourrure, même si elle est synthétique. Mais je ne peux naturellement pas exclure l’éventualité qu’il y ait un jour un robot qui fasse l’expérience du moi. Il existe déjà l’hypothèse que les robots ont peut-être une forme antérieure de conscience qui fonctionne sur une forme de sensibilité, parce qu’ils savent où ils se trouvent et où ils doivent aller. Ils disposent d’une représentation spatiale du monde extérieur, sans laquelle ils se cogneraient constamment. Mais ils ne disposent très probablement pas d’une véritable conscience. Peut-être que cela arrivera un jour. Peut-être qu’un jour, les robots devront avoir quelque chose comme une conscience, parce que certaines tâches ne peuvent être réalisées autrement. Bien que plus de 90% de nos actions soient inconscientes, nous les avons, en majorité, apprises au moins une fois. À ce moment-là, elles étaient conscientes et nous les avons intériorisées. Cela pourrait aussi fonctionner de cette manière pour les robots.

 

« Nous sommes si enthousiastes à l’idée de voir le danger ! »

 

Existe-t-il des différences culturelles dans l’acceptation des robots et de l’intelligence artificielle, ou plutôt dans l’interaction avec eux ?

Oui, elles existent. Les Allemands, les Autrichiens aussi, sont probablement les plus grands techno-sceptiques au monde vis-à-vis de la technologie avancée, qui durant la Seconde Guerre mondiale a servi au meurtre dans les camps de concentration. Lorsque des chercheurs de renom, issus du domaine de la cybernétique, se rendent en Allemagne, on ne parle souvent que des dangers et des horreurs associés à celle-ci. Nous sommes si enthousiastes à l’idée de voir le danger ! Contrairement à d’autres nations qui y voient plutôt quelque chose de positif et qui, en prenant l’exemple de l’automobile, vont plutôt dire des choses telles que : « Oui, bien sûr que des personnes en sont mortes, mais cela a également permis d’améliorer la mobilité de façon significative ». Les Allemands sont actuellement coincés dans un système de pensée que je ne peux pas accepter. Il faut que je dise ça très clairement, les Allemands et les Autrichiens courent le risque de prendre du retard sur le plan technologique. Par exemple, au Japon, le rapport à la technologie est très différent. Là-bas, les robots-soigneurs sont plus facilement acceptés parce que cela les embarrasse de montrer leurs faiblesses. Être dans son lit d’hôpital et être pris en charge par un robot-soigneur est pour cette raison beaucoup plus agréable pour le patient que si un être humain s’occupait de lui. Chez nous, on dirait plutôt que la caisse sociale essaye de faire des économies en envoyant un robot alors que l’on aurait préféré avoir madame XY pour parler de la pluie et du beau temps. Personne n’a tort ou raison dans les deux cas, il existe tout simplement une différence culturelle dans la manière d’appréhender la technologie. J’ai moi-même été surpris que l’un des chercheurs japonais des plus connus en robotique ait écrit un livre intitulé The Buddha in the Robot. Si une personne de l’Église catholique parlait du « Christ dans le robot », ce serait perçu comme purement blasphématoire. Je me suis récemment permis un peu d’humour en réaction au livre d’Harari Homo Deus et j’ai tenu une conférence sur le « Robot Deus ». Puisque tout le monde dit déjà que les robots vont devenir les maîtres du monde, nous devrions commencer dès maintenant à créer une théologie du dieu robot. Cette idée a déjà été mise en pratique à la Silicon Valley, où Anthony Levandowski a fondé l’église « Way of the Future », qui met l’intelligence artificielle au centre de ses pratiques religieuses.

Vous n’avez visiblement aucunement peur d’un futur où l’intelligence artificielle jouerait un rôle grandissant au sein de la société. D’où vous vient cet optimisme ?

Cela tient sûrement à mon histoire personnelle. Je suis né en 1939 et j’ai ainsi consciemment fait l’expérience de la Seconde Guerre mondiale et tout aussi naturellement de la reconstruction. Notre vie s’est énormément améliorée grâce aux progrès technologiques, ils nous ont beaucoup apporté. Nous vivons plus longtemps et dans de meilleures conditions, nous ne devons plus avoir froid en hiver, nous travaillons moins et nous transportons l’Encyclopédie Britannica partout avec nous grâce à notre Smartphone. Cela ne veut pas dire qu’on doit accueillir chaque nouveauté technique les yeux fermés. On doit tout de même rester sceptique et questionner de façon critique les effets des nouvelles technologies comme cela a été mis en évidence par le phénomène des « Fake News ». Néanmoins, en Europe centrale, une grande partie de la population vit déjà dans des conditions paradisiaques. Les personnes qui ne le voient pas ainsi, n’ont, j’en ai peur, aucune conscience historique.

La plus grande menace pour notre futur nous vient-elle de l’Homme ou bien de l’intelligence artificielle ?

Depuis l’élection de Donald Trump, je suis plutôt sûr qu’elle nous vient de l’Homme. D’après moi, l’intelligence artificielle ne représente actuellement pas une menace.

Quel rôle peut jouer l’intelligence artificielle dans le développement positif de notre société ?

Dans l’idéal, nous travaillerons encore moins et profiterons encore plus de la vie. Je peux déjà imaginer que ce qui a trait au personnel et au corporel sera plus important si nous avons plus de temps et que nous utilisons ce temps de façon positive. Mon pronostic pour l’avenir est le suivant : plus de liberté, plus d’indépendance, de focalisation sur l’émotionnel, l’artistique, la personnalité et la littérature. Je pense que l’art et la création vont avoir une importance encore plus grande que maintenant. Cela nous ouvre un champ infini de possibilités. Et, si ça ne cause pas de pertes matérielles, je trouve ça très tentant de se libérer des corvées.

Quels progrès sont encore nécessaires pour que nous puissions réaliser ce potentiel positif en termes de cybernétique et de robotique ?

Je pense qu’il faut changer la façon déplorable dont on parle souvent des mathématiques et de l’informatique. Nous avons besoin d’un changement de mentalité, vers la beauté et l’esthétique de ce qui est abstrait. Une formule mathématique peut par exemple être ressentie comme quelque chose de très beau et d’intuitivement juste sans que l’on ne connaisse sa dérivation. Bien sûr, on ne devrait pas seulement créer des formules d’après le ressenti esthétique, mais le résultat peut être inspirant. Et c’est exactement de la même manière qu’un algorithme peut être stimulant, nous devons rendre tangible cette esthétique qui se trouve dans les sujets de MINT. Je verrais très bien une éducation allant dans ce sens. Parce que c’est une tragédie que jusqu’à présent l’interaction se limite à essuyer une surface en verre avec ses doigts.

Nous avons donc besoin d’une meilleure valorisation de ce qui est technologique sans pour autant dévaloriser ce qui ne l’est pas ?

Absolument. On doit savoir apprécier les deux sans les mettre en concurrence. Mais justement, à cause de toutes ces règles et prescriptions, on donne encore beaucoup trop de place à la peur de la technologie, dans l’espace germanique comme dans le reste de l’Union européenne. Bien qu’il ait existé un groupe de travail intéressant dirigé par Mady Delvaux, qui a développé l’idée que les ordinateurs intelligents pourraient aussi avoir quelque chose comme une personnalité juridique.

Ce qui signifie le besoin d’un cadre juridique clair pour permettre une interaction naturelle avec l’intelligence artificielle.

Oui, mais surtout cela permet de donner une indépendance juridique aux ordinateurs intelligents. Cela pourrait signifier qu’on ne puisse plus tirer sur la prise comme ça. Mais dans le cas d’une mauvaise conduite, comme lors d’un accident de voiture, cela pourrait alors entraîner des répercussions directes pour l’ordinateur.

Cela veut dire que nous allons attribuer le principe de responsabilité à l’intelligence artificielle ?

Oui, bien sûr, nous allons même le devoir. Auparavant, il nous avait bien semblé absurde d’attribuer la responsabilité à une construction imaginaire telle que l’entreprise. Aujourd’hui, c’est un aspect évident de notre système économique et de notre société. Naturellement, nous allons souvent attribuer la responsabilité aux êtres humains. Il nous faut, malgré tout, le concept de responsabilité personnelle, pour permettre une interaction naturelle avec des objets agissants de façon indépendante et quotidienne au sein notre société.

Interview : Kurt Bille

Traduction : Zina Eberlein

 

 

Robert Trappl est le directeur du Centre Autrichien de Recherche sur l’Intelligence Artificielle (CARIA). En Europe, il est considéré comme un pionnier dans le domaine de la cybernétique et de l’intelligence artificielle. Un point central de son travail repose sur l’analyse du rôle des émotions dans la poursuite du développement de l’intelligence artificielle (IA).

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.