Hinton contre Murdoch : l'histoire de deux IA

Nouvelles

MaisonMaison / Nouvelles / Hinton contre Murdoch : l'histoire de deux IA

Aug 22, 2023

Hinton contre Murdoch : l'histoire de deux IA

Lors de Collision 2023, qui s'est tenu à Toronto fin juin, on a beaucoup parlé de l'intelligence artificielle (IA) et plus particulièrement du chatbot ChatGPT, mais rien n'illustre la situation actuelle.

Lors de Collision 2023, qui s'est tenu à Toronto fin juin, il y a eu de nombreuses discussions sur l'intelligence artificielle (IA) et plus particulièrement sur le chatbot ChatGPT, mais rien n'a mieux illustré la situation actuelle que les discours d'ouverture distincts prononcés par Colin Murdoch et le Dr Geoffrey Hinton.

Murdoch, directeur commercial de Google DeepMind, une organisation lancée par Google en avril lorsque DeepMind et l'équipe Brain de l'organisation ont uni leurs forces, a déclaré qu'au cours des six derniers mois, le monde a connu un « moment d'eurêka » en matière d'IA.

« Pour ceux d'entre vous qui ne le savent pas, notre mission est de faire progresser la science et de bénéficier à l'humanité », a-t-il déclaré. « Et lorsque l'on pense à certains des plus grands défis mondiaux, le changement climatique est au premier plan. Il s'agit d'un énorme défi mondial. Et nous devons mettre à profit toute la force de la créativité et de l’expertise de l’humanité pour aider à résoudre ce problème, et je crois que l’IA peut jouer un rôle très important. »

Murdoch a ajouté que les chercheurs de Google DeepMind utilisent l’IA pour « aider à prévoir la météo avec plus de précision et plus rapidement, afin d’aider les entreprises et les communautés du monde entier à mieux réagir aux conditions météorologiques les plus extrêmes et à l’impact dévastateur que cela peut avoir ».

Selon un blog d'entreprise intitulé Utiliser l'IA pour lutter contre le changement climatique, « l'infrastructure informatique actuelle, y compris l'IA elle-même, est énergivore. Pour aider à résoudre certains de ces problèmes, nous avons développé une IA capable d'améliorer les systèmes existants, notamment en optimisant le refroidissement industriel et en rendant les systèmes informatiques plus efficaces.

« Étant donné que nos réseaux énergétiques ne fonctionnent pas encore avec de l'énergie propre, il est important que nous utilisions nos ressources aussi efficacement que possible pendant que nous travaillons à la transition vers les énergies renouvelables. Accélérer la transition mondiale vers des sources d’énergie renouvelables peut également réduire considérablement les émissions de carbone.

Dans son discours d'ouverture, Murdoch a déclaré : « Je sais que de plus grandes avancées se profilent à l'horizon et que leur impact sera énorme. Mais il est vraiment important que nous le fassions d'une manière sûre, éthique et inclusive et que nous construisions un avenir positif pour tous.

Hinton, quant à lui, qui s'est entretenu avec Nick Thompson, PDG d'Atlantic, devant un public bondé lors d'une séance de questions et réponses sur la scène centrale du Centre Enercare, s'est montré beaucoup moins positif.

"Nous entrons dans une période d'énorme incertitude, personne ne sait vraiment ce qui va se passer", a-t-il déclaré. « Et les gens dont je respecte l’opinion ont des convictions très différentes des miennes.

« Yann LeCun pense que tout ira bien. Ils (les chatbots IA) vont juste nous aider, tout va être merveilleux. Mais je pense que nous devons prendre au sérieux la possibilité que, s’ils deviennent plus intelligents que nous, ce qui semble très probable, et qu’ils ont leurs propres objectifs, ce qui semble tout à fait probable, ils pourraient bien développer l’objectif de prendre le contrôle. Et s’ils font cela, nous aurons des ennuis.

Hinton, qui avec Yoshua Bengio et LeCun, basés à Montréal, sont connus comme les « parrains de l’IA » après avoir remporté le très convoité prix Turing en 2018, et qui a démissionné de son poste chez Google en raison de préoccupations concernant l’IA, a été interrogé par Thompson : « Si un chatbot IA a été construit par de bons humains à de bonnes fins, s'il a été formé sur de bons livres et de bons textes, alors il aura un penchant pour le bien à l'avenir. Le croyez-vous ou non ?

Hinton a répondu que « l’IA formée par de bonnes personnes aura un penchant pour le bien, l’IA formée par de mauvaises personnes comme Poutine ou quelqu’un comme ça aura un penchant pour le mal. Nous savons qu'ils vont fabriquer des robots de combat. Ils sont occupés à le faire dans de nombreux ministères de la Défense. Ils ne seront pas nécessairement bons, puisque leur objectif principal sera de tuer des gens.

« Même si l'IA n'est pas super intelligente, si les ministères de la Défense l'utilisent pour fabriquer des robots de combat, cela deviendra une chose très désagréable et effrayante. Et ce sera le cas, même s’il n’est pas super intelligent, et même s’il n’a pas ses propres intentions, il fait simplement ce que Poutine lui dit. Il sera par exemple beaucoup plus facile pour les pays riches d’envahir les pays pauvres.