À LA UNEtechnologie

Google planche sur une solution pour « éteindre » une intelligence artificielle à son insu

De plus en plus fréquemment, on peut lire à la « Une » de l’actualité que les intelligences artificielles sont capables de faire des choses très souvent mieux que les humains. Beaucoup de scientifiques ou d’hommes d’affaires commencent toutefois à s’inquiéter des rapides avancées qui sont effectuées dans le seul but de dépasser la concurrence, sans se préoccuper des risques potentiels d’une perte de contrôle des machines.

Google tente de mettre au point un bouton d’arrêt d’urgence des intelligences artificielles

Les deux personnalités qui s’inquiètent le plus de ces avancées, sont Elon Musk et de Stephen Hawking qui évoquent régulièrement des scénarios ou l’homme ne parviendrait plus à gérer la machine. Google n’a pas été totalement insensible à ces craintes et a d’ailleurs dédié une équipe chargée de mettre au point une sorte de bouton « off » sur les intelligences artificielles, afin de les déconnecter si elles risquent de nuire aux hommes, voire à elles-mêmes.

Au départ on aurait pu penser que la tâche serait aussi simple que de mettre un bouton arrêt sur un aspirateur ou un ordinateur, en réalité il s’avère que la tâche est plus complexe que prévue car l’intelligence ayant une tâche à accomplir, résiste à ce que l’on nuise à sa mission !

Installer un bouton d’urgence devra donc se faire à l’insu de la machine. Laurent Orseau, qui travaille chez DeepMind et Stuart Armstrong, de l’université d’Oxford expliquent : « Si la machine à un but à atteindre et peut prédire qu’elle va être arrêtée, elle va essayer de résister afin de réussir ce pour quoi elle a été conçue », ajoutant : «Notre système permet à un humain de prendre temporairement le contrôle de la machine tout en lui faisant croire qu’elle choisit elle-même d’interrompre son activité. ».

Ce système fonctionne sur certaines intelligences, mais pas sur d’autres car certaines sont encore plus intelligentes, comme celles de type SARSA (State-Action-Reward-State-Action). En effet, ces intelligences sont capables de créer deux états simultanément, en fonction des résultats qui sont récompensés ou non.

Espérons que Google parviendra à mettre au point un simple interrupteur, car vu sous cet angle il est vrai que les intelligences ont tout pour être effrayantes, surtout si elles viennent un jour à représenter une menace pour le genre humain.

 

Related Articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Close