Apres nous etre interesses au fonctionnement de l’intelligence artificielle, nous avons voulu nous pencher i  propos des questions et les craintes que soulevait celle-ci.

Depuis des annees, nos ?uvres de fiction abordent la question et toutes les derives possibles, mais ces questions se posent egalement serieusement dans la vraie vie. L’IA signerait-elle vraiment la fin de l’humanite ?

En fevrier soir, nous nous sommes penches sur l’intelligence artificielle dans le but de mieux comprendre comment celle-ci fonctionnait. Cette plongee dans un ocean de concepts et de termes aussi differents que complexes, entre reseaux de neurones et machine learning, a souleve de multiples questions.

Nous sommes persuades que bon nombre de ingenieurs et scientifiques qui travaillent via l’intelligence artificielle ont des meilleures intentions et aspirent a votre monde meilleur. Neanmoins, claque de se penser qu’une machine reste capable d’apprendre de nouvelles choses toute seule, sans l’aide de personne, n’est pas toujours tres rassurant.

Et si les machines, un coup qu’elles nous auront surpassees, deviennent malveillantes ? Puisqu’elles seront destinees a etre tout i  fait autonomes et intelligentes, comment peut-on s’assurer qu’elles restent dans « le droit chemin » ?

L’intelligence artificielle est votre vaste theme, aussi intelligent que complexe a apprehender. On en entend beaucoup parler, aussi bien dans la presse specialisee que generaliste et les grandes entreprises de l’informatique ne jurent plus que…Lire J’ai suite

L’IA dans la pop culture

Ce sentiment de crainte est d’ailleurs largement partage dans l’imaginaire collectif. Vous devez penser que ce dernier est nourri avec de multiples ?uvres de fiction generalement pessimistes dans lesquelles les schemas narratifs paraissent assez simples a saisir : quand une machine intelligente creee avec des hommes fait part des protagonistes principaux de l’histoire, depuis de grandes chances que ca finisse en baston Afin de la sauvegarde de l’humanite.

Des lors, on associe tres facilement l’intelligence artificielle a une entite froide, impitoyable et intransigeante. Celle-ci est assez eveillee concernant mener des raisonnements logiques, mais reste denuee de toute estime pour l’espece humaine. Ainsi, si elle considere que des etres humains sont la cause d’un probleme — c’est d’ailleurs souvent la situation, dans la fiction comme dans la vraie vie —, elle deduira qu’il faut purement et juste eradiquer l’humanite.

Certes, l’ensemble des histoires seront differentes, mais ils font toujours la meme idee sous-jacente que l’on pourrait resumer ainsi :

Petit tour d’horizon — non exhaustif — pour s’en persuader (avec de tres legers spoilers) :

Les trois lois d’Asimov

Dans toute la bibliographie d’Isaac Asimov, genial pionnier d’la science-fiction, des trois fameuses lois d’Asimov censees regir le comportement des robots (dans le but de les empecher de s’en prendre a toutes les humains) ont ete etablies par l’auteur limite uniquement dans le but d’etre enfreintes (et donc de i?tre capable de ecrire une affaire).

HAL 9 000 dans 2001, l’Odyssee de l’espace

HAL 9 000 au sein d’ 2001, l’Odyssee de l’espace, creee dans un laboratoire scientifique de l’Illinois, represente l’ennemi principal des protagonistes. Dans ce cas, votre seront des dysfonctionnements de l’intelligence artificielle qui convainc les astronautes une debrancher. Mais HAL 9 000 reussit a nos empecher apres avoir intercepte leur conversation en parcourant via leurs levres. Petit bonus Afin de flipper : dans la vraie vie, Google Deepmind maitrise egalement tres bien la lecture labiale.

VIKI dans I,Robot

Dans le film I,Robot avec Will Smith, les robots font part en life quotidienne et obeissent a toutes les memes trois lois d’Asimov. Mais un superordinateur du nom de VIKI, apres moult observations, estime que nos etres humains ne semblent pas capables de s’autogerer. Dans le but de prevenir la planete contre davantage de guerres et de pollution, l’IA conclut qu’elle devra prendre le controle de l’humanite.

LoveMachine dans Summer Wars

La soiree d’animation Summer War suit les aventures d’un petit garcon tres doue pour des mathematiques qui fait face a une intelligence artificielle malveillante infectant le plus grand reseau social du monde — non ce n’est pas Facebook. Plusieurs milliards de donnees sont compromises et le logiciel ne tarde gui?re a provoquer un chaos complet. Baptisee LoveMachine, l’IA proprement dit reste ici carrement representee sous la forme d’un dieu-monstre effrayant.

Salut, moi c’est LoveMachine.

On s’arretera ici, mais des fictions de ce genre, il en existe beaucoup. Tant et si bien, qu’il pourrait etre impossible de l’ensemble des lister. Leur objectif premier releve du divertissement, mais la problematique soulevee merite reflexion. Faut-il avoir peur de l’intelligence artificielle ?

La peur de l’IA

Le sujet a deja ete posee. Parmi les 2 000 gens interrogees dans le cadre d’une etude en British Science Association, 36 % estimaient que l’essor de l’intelligence artificielle est une menace pour la survie de l’humanite sur le long terme. Pragmatique, le celebre physicien Stephen Hawking a, quant a lui, declare en octobre 2016 que l’IA serait « soit la meilleure, soit la pire chose qui ne soit jamais arrivee a l’humanite ». Il va meme jusqu’a penser qu’il s’agira du plus grand evenement de l’histoire de notre civilisation. De votre fait, si les intelligences artificielles nourrissent de mauvais desseins, nous sommes l’ensemble de dans le petrin.

Au fond, une telle inquietude reste due au fera que malgre une capacite cognitive egale — voire superieure — aux hommes et aux jeunes filles, une intelligence artificielle parait a priori depourvue d’une qualite indispensable que l’on prete trop volontiers a l’etre humain : l’empathie. Or, a l’instar de l’integralite des sentiments, on a bien des difficultes a voir comment l’IA est en mesure de concevoir une telle emotion. Complexe d’imaginer comment i§a pourrait ressentir cela par l’intermediaire d’une suite chiffres plutot que via l’experience de la vie. L’IA pourrait i?tre donc psychopathe. Manque tres rassurant, n’est-ce gui?re ?

Neanmoins, l’histoire de l’humanite a prouve que la science pouvait sans cesse repousser ses limites et les IA paraissent deja en train d’apprendre le sens de l’humour. A terme, il ne serait donc nullement si etonnant qu’elles se mettent a assimiler des notions propres a l’etre humain telles que l’empathie ou — soyons fous — le sentiment amoureux ou l’apprehension de la mort. Encore plus loin dans l’avenir, des intelligences artificielles et nos robots pourraient aussi aussi developper leurs propres personnalites.