Le « parrain de l’I.A » Geoffrey Hinton met en garde contre l’utilisation à des fins de manipulation de l’information
Le « parrain de l’IA » a démissionné de son poste chez Google, où il travaillait depuis plus de dix ans.
Il s’est joint à un nombre croissant de critiques qui mettent en garde contre le risque existentiel que les systèmes d’intelligences artificielles font peser sur les êtres humains.
Informaticien chez Google
Lundi 1er mai, Geoffrey Hinton, pionnier de l’I.A, informaticien chez Google, a tweeté :
Dans le NYT d’aujourd’hui, Cade Metz laisse entendre que j’ai quitté Google pour pouvoir critiquer Google. En fait, j’ai quitté l’entreprise pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact sur Google. Google a agi de manière très responsable. »
Dans un entretien avec The New York Times, M. Hinton a déclaré que ce n’est qu’après avoir quitté Google qu’il a pu parler ouvertement des dangers de l’IA.
Il continue de croire que les systèmes d’intelligences artificielles sont inférieurs au cerveau humain à certains égards, mais il pense qu’ils éclipsent l’intelligence humaine à d’autres égards.
« Peut-être que ce qui se passe dans ces systèmes est en fait bien meilleur que ce qui se passe dans le cerveau. ».
« Au fur et à mesure que les entreprises améliorent leurs systèmes d’IA, ils deviennent de plus en plus dangereux. Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui. Prenez la différence et mettez-la en perspective. C’est effrayant. ».
– New York Times
Jusqu’à l’année dernière, a-t-il dit, Google a agi en tant que « gestionnaire approprié » de la technologie, veillant à ne pas diffuser quelque chose qui pourrait causer du tort.
Mais aujourd’hui, alors que Microsoft a enrichi son moteur de recherche Bing d’un chatbot – cela remet en cause le cœur de métier de Google – Google se précipite pour déployer le même type de technologie.
« Les géants de la technologie sont engagés dans une compétition qu’il pourrait être impossible d’arrêter. ».
– New York Times
L’une de ses préoccupations les plus immédiates est qu’Internet soit inondé de fausses vidéos, photos et informations, et que le citoyen moyen « ne puisse plus savoir ce qui est vrai ou faux ».
Hinton craint que l’automatisation ne perturbe le marché du travail.
Les chatbots, comme le ChatGPT d’OpenAI, peuvent déjà remplacer les assistants personnels, les traducteurs et d’autres personnes qui s’occupent de tâches routinières.
« Cela enlève le travail de corvée et pourrait enlever bien plus que cela. ».
– New York Times
Une récente note de recherche de Goldman Sachs prédit que l’I.A. pourrait entraîner quelque 300 millions de licenciements parmi les travailleurs non-ménagers hautement rémunérés aux États-Unis et en Europe.
Comme l’a déclaré Jan Hatzius, économiste en chef de Goldman :
« En utilisant des données sur les tâches professionnelles aux États-Unis et en Europe, nous constatons qu’environ deux tiers des emplois actuels sont exposés à un certain degré d’automatisation par l’I.A, et que l’I.A. générative pourrait remplacer jusqu’à un quart du travail actuel. ».
« L’extrapolation de nos estimations au niveau mondial suggère que l’I.A. générative pourrait exposer l’équivalent de 300 millions d’emplois à temps plein à l’automatisation, et jusqu’à deux tiers des professions pourraient être partiellement automatisées par l’I.A. ».
Les conséquences d’une telle technologie
Lundi, le PDG d’IBM Arvind Krishna a déclaré que l’I.A. allait remplacer 30 % de ses emplois de back-office au cours des cinq prochaines années.
Mais pour en revenir aux propos du Docteur Geoffrey Hinton sur les dangers d’une mauvaise utilisation de l’I.A, il avertit que dans ces conditions, l’I.A finira par éclipser l’intelligence humaine :
« L’idée que ces objets puissent devenir plus intelligents que les gens, quelques personnes l’ont crue. ».
« La plupart des gens pensaient que c’était une erreur. Je pensais qu’il fallait attendre 30 à 50 ans, voire plus. Évidemment, ce n’est plus le cas aujourd’hui. ».
Il a expliqué qu’il n’avait pas signé la lettre en mars lorsque plus de 1 000 leaders technologiques, dont Elon Musk, Steve Wozniak, et le pionnier de l’I.A. Yoshua Bengio, ont appelé à un moratoire de six mois sur le développement de nouveaux outils d’I.A plus puissants que le GPT-4.
La raison principale était qu’il ne voulait pas critiquer ouvertement les grandes entreprises technologiques lorsqu’il travaillait pour Google.
En 2018, Hinton et deux autres collègues ont reçu le Turing Award, ou « prix Nobel de l’informatique », pour leurs travaux sur les réseaux neuronaux.
Google a acquis sa société en 2018 pour 44 millions de dollars, qui a développé des technologies puissantes qui ont conduit à la création des chatbots.
Dans une autre interview, M. Hinton a déclaré :
« J’en suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons. ».
« La grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde. ».
« Toutes ces copies peuvent apprendre séparément et partager leurs connaissances instantanément. C’est comme si vous aviez 10 000 personnes et que chaque fois qu’une personne apprend quelque chose, tout le monde le sait automatiquement. C’est ainsi que ces chatbots peuvent en savoir beaucoup plus qu’une seule personne. ».
– BBC NEWS
L’un des plus importants risques qu’il perçoit est que des dirigeants autoritaires puissent utiliser la technologie de l’I.A pour « manipuler » les masses.
Les préoccupations du Docteur Geoffrey Hinton arrivent peut-être un peu tard, car la technologie est déjà utilisée à des fins autoritaires.
Des préoccupations similaires ont été exprimées par des ingénieurs et des scientifiques dans le passé, en relation avec l’énergie nucléaire et la biochimie.
Il est indéniable que le monde finira par être confronté à une crise provoquée par l’I.A.
Découvrez les vecteurs de la résilience et les actions à mettre en place :
Source : ZeroHedge
