Le PDG d’OpenAI met en garde contre les dangers de l’IA
Sam Altman, PDG d’OpenAI, et Fang Bingxing, considéré comme le « père du grand pare-feu chinois », se joignent à Elon Musk, cofondateur d’OpenAI, pour dénoncer les dangers de l’intelligence artificielle (IA).
« Nous devons être prudents », a déclaré M. Altman, 37 ans, à ABC News la semaine dernière, ajoutant : « Je pense que les gens devraient être heureux que nous ayons un peu peur de cela ».
« Je crains particulièrement que ces modèles ne soient utilisés à des fins de désinformation à grande échelle […]. Maintenant qu’ils savent mieux écrire des codes informatiques, [ils] pourraient être utilisés pour des cyber-attaques offensives ».
Cela dit, M. Altman pense également qu’il pourrait s’agir de « la plus grande technologie que l’humanité ait jamais mise au point ».
OpenAI est la société à l’origine du Chat GPT, qui a lancé « GPT-4 » il y a moins de deux semaines.
Ce chatbot très sophistiqué peut obtenir des résultats presque parfaits aux tests de mathématiques du SAT et obtenir 90 % à l’examen du barreau américain.
Et il a des concurrents… D’autres startups basées sur l’IA réalisent également des avancées surprenantes dans ce domaine. RAD AI a récemment lancé la première plateforme de marketing par IA conçue pour comprendre les émotions, et certaines des plus grandes entreprises de la planète l’utilisent déjà.
GenesisAI est une startup qui crée une place de marché permettant à toute entreprise d’intégrer l’IA et l’automatisation dans son activité. Bientôt, l’IA pourrait faire partie intégrante de l’entreprise au même titre que les employés eux-mêmes.
– Benzinga
Cependant, selon Altman, le ChatGPT-4 utilise le raisonnement déductif plutôt que la mémorisation, ce qui peut conduire à des résultats inexacts.
Ce que j’essaie de mettre le plus en garde, c’est ce que nous appelons le « problème des hallucinations », a déclaré M. Altman à ABC News. « Le modèle affirme avec assurance des choses comme s’il s’agissait de faits, alors qu’elles sont entièrement inventées. »
M. Altman estime qu’il est nécessaire de réglementer l’IA en général.
« Il y aura d’autres personnes qui ne respecteront pas certaines des limites de sécurité que nous imposons », a-t-il déclaré. « Je pense que la société dispose d’un temps limité pour déterminer comment réagir à ce phénomène, comment le réglementer et comment le gérer. »
Le fondateur de la censure chinoise est lui aussi inquiet
Fang Bingxing, le père de ce que l’on appelle le « Grand Pare-Feu » chinois, est lui aussi préoccupé par Chat GPT-4 et les IA similaires. Selon M. Fang, ces chatbots peuvent conduire à un « carcan d’information » (par opposition à la libre circulation de l’information en Chine ?).
« Les perspectives des gens peuvent être manipulées car ils cherchent toutes sortes de réponses auprès de l’IA », a-t-il déclaré à Red Star News, un média affilié au Chengdu Economic Daily, soutenu par l’État, comme l’a rapporté le SCMP.
Fang, informaticien et ancien fonctionnaire, est largement considéré comme le principal concepteur du célèbre système chinois de censure et de surveillance de l’internet. Il a joué un rôle clé dans la création et le développement du « Great Firewall », un système sophistiqué de filtres et de blocages de l’internet qui permet au gouvernement chinois de contrôler ce à quoi ses citoyens peuvent accéder en ligne.
La Grande Muraille a été renforcée au cours de la dernière décennie, bloquant l’accès des internautes chinois à un large éventail de sites web et de services en ligne étrangers, dont Facebook, Twitter et Google.
– SCMP
M. Fang a également mis en garde contre la menace que l’IA pourrait faire peser sur l’humanité lorsqu’elle évoluera davantage :
« Aujourd’hui, il s’agit simplement d’un logiciel utilisé dans un scénario de discussion en ligne. S’il est incorporé dans des robots et des voitures, nous devons rester vigilants quant aux dommages potentiels qu’ils pourraient causer aux humains. »
Pour tout savoir sur les dangers de l’intelligence artificielle,
visionnez notre dernier entretien avec Bertrand Sholler :
Source : ZeroHedge
IMPORTANT - À lire
Vous voulez aller plus loin que cet article et comprendre tous les enjeux géopolitiques actuels ? Chaque mois, notre revue papier décortique l'actualité géopolitique et économique pour vous offrir des analyses approfondies.
Ne vous laissez plus manipuler par des élites déconnectées du réel. Abonnez-vous à notre revue dès maintenant et recevez chaque mois des informations exclusives, des décryptages précis et des révélations sur les véritables enjeux qui se cachent derrière les décisions de nos dirigeants.
Reprenez le contrôle de votre épargne et de votre avenir !
