Naviguer dans les risques urgents de l'IA incontrôlée : Appels à une gouvernance mondiale

Les progrès rapides de l'intelligence artificielle (IA) ont apporté à la fois des possibilités passionnantes et des risques préoccupants. L'une des principales préoccupations est le potentiel des systèmes d'IA, en particulier des modèles de langage de grande taille comme ChatGPT, de générer de la désinformation très convaincante et de manipuler le comportement humain à grande échelle.

Ces systèmes d'IA peuvent créer des récits plausibles et des preuves factices, rendant de plus en plus difficile, même pour les rédacteurs professionnels, de distinguer la vérité de la fiction. L'exemple de ChatGPT fabriquant un scandale de harcèlement sexuel à propos d'un vrai professeur met en évidence le potentiel alarmant de ces systèmes à répandre de fausses informations.

Un autre problème est le biais inhérent présent dans de nombreux modèles d'IA, comme le démontre l'exemple où le système a recommandé des emplois liés à la mode pour une femme et des emplois d'ingénierie pour un homme. De tels biais peuvent perpétuer des stéréotypes néfastes et compromettre l'équité et l'inclusivité que ces technologies devraient viser.

En outre, le développement rapide des capacités de l'IA, comme la capacité de concevoir des produits chimiques et potentiellement des armes chimiques, soulève de graves préoccupations quant à la possibilité d'une utilisation abusive et la nécessité de cadres de gouvernance solides.

Pour atténuer ces risques, une approche à deux volets est nécessaire. Tout d'abord, sur le plan technique, il est nécessaire de réconcilier les forces de l'IA symbolique, qui excelle dans la représentation des faits et le raisonnement, avec les capacités d'apprentissage des réseaux neuronaux. En combinant ces approches, il peut être possible de développer des systèmes d'IA plus véridiques et fiables à grande échelle.

Deuxièmement, la mise en place d'une organisation mondiale, à but non lucratif et neutre, pour la gouvernance de l'IA est cruciale. Cette organisation traiterait le manque de gouvernance et d'outils de recherche nécessaires pour comprendre et gérer les risques croissants posés par l'IA. Elle pourrait établir des lignes directrices pour le développement et le déploiement responsables de l'IA, y compris des exigences en matière d'évaluations de sécurité et de déploiements par étapes, similaires à l'industrie pharmaceutique.

Le bras de recherche de cette organisation serait également essentiel, car il travaillerait à développer les outils et les métriques nécessaires pour mesurer l'étendue et la croissance de la désinformation, ainsi que les contributions spécifiques des modèles de langage de grande taille à ce problème.

La réalisation de cette vision nécessitera la collaboration et l'engagement de diverses parties prenantes, notamment les gouvernements, les entreprises technologiques et le grand public. Le récent sondage montrant que 91% des personnes conviennent que l'IA devrait être gérée avec soin fournit une base solide pour cet effort.