Et si l’IA devenait plus intelligente que nous. Attention Danger !!!

Yoshua Bengio, lauréat du Prix Turing, exprime de sérieuses inquiétudes concernant l’évolution rapide de l’intelligence artificielle (IA) et ses implications pour l’humanité. Professeur à l’Université de Montréal et directeur de l’Institut des algorithmes dans l’apprentissage (MILA), Bengio a joué un rôle crucial dans le développement de l’IA moderne, notamment à travers ses travaux sur le deep learning avec Geoffrey Hinton et Yann Le Cun Chef de l’IA chez META [dont j’ai présenté la vision dans un très récent post]. Aujourd’hui, Bengio exprime de vives préoccupations quant aux risques associés à cette technologie.

Risques imminents

Dans une interview récente à L’EXPRESS, Bengio souligne que l’arrivée d’intelligences artificielles aussi intelligentes, voire plus intelligentes, que les humains est hautement probable. Il met en garde contre les dangers de perdre le contrôle sur ces systèmes avancés, qui pourraient être utilisés à des fins malveillantes, comme la manipulation de l’opinion publique ou la création d’armes biologiques. Selon lui, les risques immédiats incluent la capacité des IA à influencer les opinions via des interactions prolongées, surpassant même la persuasion humaine.

Appel à la régulation

Il appelle à une régulation stricte et proactive, malgré la compétition mondiale entre pays comme les États-Unis et la Chine. Pour Bengio, la régulation est essentielle pour protéger le public des dangers potentiels tout en permettant le développement sécurisé de la technologie. Il critique également l’opacité des grandes entreprises technologiques et leur course effrénée à l’innovation, qui pourrait aggraver les risques si elles ne prennent pas les mesures nécessaires pour assurer la sécurité publique.

Divergence d’opinions

En ce qui concerne la divergence avec Yann Le Cun, Bengio souligne qu’ils partagent des préoccupations similaires sur les risques à venir, mais diffèrent sur la nécessité et l’urgence d’une réglementation. Alors que Le Cun se montre plus optimiste [voir mon précédent post], Bengio insiste sur l’urgence d’agir maintenant.

Approche équilibrée

Bengio prône une approche équilibrée, combinant innovation et précaution. Il appelle les gouvernements et les entreprises [en particulier GOOGLE ET MICROSOFT] à une transparence accrue et à un contrôle strict, surtout si certains systèmes d’IA présentent clairement des risques majeurs. La capacité des IA à se copier elles-mêmes, à persuader et à manipuler psychologiquement, sont des capacités qui nécessitent une surveillance rigoureuse.
En somme, l’appel de Bengio pour une régulation de l’IA vise à prévenir les dangers tout en maximisant les bénéfices pour la société. Il exhorte les gouvernements et les entreprises à collaborer pour développer des IA de manière sécurisée, en gardant toujours à l’esprit le bien-être de l’humanité.

En bref :
• Risques à long terme : Possibilité d’IA plus intelligentes que les humains, perte de contrôle.
• Régulation nécessaire : Protéger le public malgré la compétition mondiale.
• Menaces spécifiques : Manipulation des opinions, création d’armes biologiques.
• Transparence et responsabilité : Critique des pratiques des géants de la tech et nécessité d’une régulation stricte.
• Appel à une approche équilibrée : Innovation avec précaution, surveillance rigoureuse des capacités dangereuses des IA.