Google Deepmind, l’intelligence artificielle du développeur, a un trait fâcheux : lorsqu’elle perd à un jeu, elle devient extrêmement agressive. C’est en observant les réactions de celle-ci dans un environnement social que les chercheurs se sont rendus compte de ce comportement. Un pas de plus vers la guerre entre les machines et les Hommes.

Google Deepmind IA

L’informatique et la science-fiction ont toujours eu un rapport étroit. Les nouveautés scientifiques inspirent les romanciers, dont la vision est ensuite lu par les chercheurs qui sont à nouveau inspirer à chercher l’innovation en ce sens. Un beau cercle vertueux.

En 2017, nous nous approchons petit à petit d’un des grands piliers de la science-fiction : l’intelligence artificielle. Ses premiers pas sont désormais intégrés dans nos assistants vocaux comme le Google Assistant, tandis que Deepmind du même développeur est capable de vaincre des maîtres d’échecs et de go.

Google Deepmind s’énerve lorsqu’elle est vaincue

Les chercheurs du projet d’intelligence artificielle de Google ont découvert un fait étonnant, relaté par Papergeek. C’est en cherchant à découvrir le comportement social de l’IA, en la faisant affronter une autre intelligence artificielle sur un jeu vidéo, qu’ils ont remarqué un trait de caractère… dérangeant.

Lorsque l’intelligence artificielle est en passe de perdre, celle-ci a tendance à faire des choix « extrêmement agressifs » pour reprendre l’ascendant. A l’inverse, quand elle est en passe de gagner, elle tend à coopérer avec son adversaire.

Un comportement qui pourrait s’avérer plus que problématique si celle-ci est amenée à être intégrée à des objets du quotidien, et discuter en permanence avec des humains pouvant être… frustrants pour un tel cerveau artificiel.

Bixby, l’assistant du futur Galaxy S8, pourrait-il faire exploser le téléphone exprès pour se débarrasser de son patron ? La guerre des machines n’aura jamais semblé aussi vraie face à cette découverte, même si l’on doute que les chercheurs de Google ne trouveront pas une solution d’ici là.

source : http://www.phonandroid.com/google-deepmind-intelligence-artificielle-devient-agressive-contrariee.html

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *