Elon Musk et des centaines d’experts réclament une pause dans l’IA

Publié le 29/03/2023 à 11:46

Elon Musk et des centaines d’experts réclament une pause dans l’IA

Publié le 29/03/2023 à 11:46

Par AFP

Dans cette pétition parue sur le site futureoflife.org, ils réclament un moratoire jusqu’à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera ».(Photo: Getty Images)

Elon Musk et des centaines d’experts mondiaux ont signé mercredi un appel à une pause de six mois dans la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4, le modèle d’OpenAI lancé mi-mars, en évoquant « des risques majeurs pour l’humanité ».

Dans cette pétition parue sur le site futureoflife.org, ils réclament un moratoire jusqu’à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera ».

La pétition réunit des personnalités qui ont déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui surpasseraient l’être humain, dont Elon Musk, propriétaire de Twitter et fondateur de SpaceX et de Tesla, et Yuval Noah Harari, l’auteur de « Sapiens ».

Également signataire, Yoshua Bengio, pionnier canadien de l’IA, a exprimé ses préoccupations, lors d’une conférence de presse virtuelle à Montréal: « je ne pense pas que la société est prête à faire face à cette puissance-là, au potentiel de manipulation par exemple des populations qui pourrait mettre en danger les démocraties ».

« Il faut donc prendre le temps de ralentir cette course commerciale qui est en route », a-t-il ajouté, appelant à discuter de ces enjeux au niveau mondial, « comme nous l’avons fait pour l’énergie et les armes nucléaires ».

Sam Altman, patron d’OpenAI, concepteur de chatGPT, a lui-même reconnu être « un petit peu effrayé » par sa création si elle était utilisée pour de « la désinformation à grande échelle ou des cyberattaques ».

« La société a besoin de temps pour s’adapter », avait-il déclaré à ABCNews mi-mars.

« Ces derniers mois ont vu les laboratoires d’IA s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne — pas même leurs créateurs — ne peut comprendre, prédire ou contrôler de manière fiable », estiment-ils.

« Devons-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer? Devons-nous risquer de perdre le contrôle de notre civilisation? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus », concluent-ils.

Les signataires comprennent aussi le cofondateur d’Apple Steve Wozniak, des membres du laboratoire d’IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d’OpenAI, ainsi que des experts en IA et universitaires américains, ingénieurs-cadres de Microsoft, groupe allié de OpenAI.

 

 

 

 

Sur le même sujet

Elon Musk discutera à Jérusalem «d'antisémitisme en ligne» avec le président israélien

Mis à jour le 27/11/2023 | AFP

La Maison-Blanche a accusé la semaine dernière Musk d'avoir fait une «promotion de la haine antisémite» sur X.

Dirigeants politiques et stars de la tech réunis face aux dangers de l’IA

02/11/2023 | AFP

Parmi les grands patrons présents, le milliardaire et star de la tech Elon Musk pourrait bien voler la vedette.

À la une

CGI a mis à pied 55 personnes à Montréal

Mis à jour il y a 21 minutes | La Presse Canadienne

L’entreprise avait mis à pied 19 employés à ses bureaux de Québec, en octobre.

Ottawa déposera un cadre de plafonnement des émissions du secteur pétrolier et gazier

Mis à jour il y a 7 minutes | La Presse Canadienne

La cible ne sera pas aussi stricte que le plafond d'émissions estimé l'année dernière.

La désinformation climatique est financée par la publicité en ligne

Les négationnistes du climat peuvent empocher beaucoup d’argent sur X , YouTube et les autres plateformes numériques.