Morning Chronicle - L'Assemblée générale de l'ONU appelle à réguler l'AI et ses risques

"Aujourd'hui, nous sommes à un point d'inflexion. L'intelligence artificielle (IA) pose des défis existentiels universels", a déclaré l'ambassadrice américaine Linda Thomas-Greenfield, évoquant notamment les "deepfakes" qui risquent de "saper l'intégrité du débat politique en cette année où plus de la moitié du monde va élire ses dirigeants".

"Mais l'IA présente également des opportunités universelles importantes pour accélérer la lutte contre la pauvreté, sauver des vie, protéger notre planète", a-t-elle ajouté, décrivant les "bénéfices" déjà constatés pour le diagnostic médical ou l'agriculture.

Le texte préparé par les Etats-Unis et co-sponsorisé par des dizaines de pays a été adopté sans vote, par consensus, après plusieurs mois de négociations.

"Cela montre que cette question de l'IA est tellement profonde en termes de transformation, non seulement en termes de technologie mais aussi en termes d'opportunités, que cela transcende les divisions géopolitiques habituelles à l'ONU", a commenté un haut responsable américain.

La résolution, qui exclut l'IA relevant du domaine militaire, souligne "qu'il faut établir des normes permettant de garantir que les systèmes d'intelligence artificielle soient sûrs, sécurisés et dignes de confiance".

Et ce, dans le but de "favoriser plutôt que d'entraver, la transformation numérique et l'accès équitable aux avantages que procurent ces systèmes", pour atteindre les Objectifs de développement durable de l'ONU qui visent à assurer un avenir meilleur pour l'humanité toute entière d'ici 2030.

La résolution est en effet principalement concentrée sur les gains potentiels de l'IA en matière de développement, et se dit "résolue à combler le fossé numérique" entre les pays et à l'intérieur des pays.

"L'accent sur le développement est un effort délibéré des Etats-Unis pour gagner la sympathie" de pays pauvres, a commenté auprès de l'AFP Richard Gowan, analyste à l'International Crisis Group.

C'est "plus facile" que "d'attaquer de front les questions de sécurité, pour une première initiative".

- "Algorithmes dominés par les hommes" -

Le texte souligne toutefois les menaces posées par des technologies conçues ou utilisées "à mauvais escient ou avec l'intention de nuire". Il reconnaît aussi que sans la mise en place de "garanties", l'IA risque de nuire aux droits humains, de renforcer les préjugés et les discriminations et de mettre en danger la protection des données personnelles.

Il demande ainsi à tous les Etats membres et autres parties prenantes de "s'abstenir ou de cesser de se servir des systèmes d'intelligence artificielle qu'il est impossible d'utiliser dans le respect des droits humains ou qui présentent des risques excessifs pour l'exercice des droits humains".

Les mises en garde se multiplient concernant en particulier les outils d'IA générative et les risques qu'ils présentent pour la démocratie et la société, notamment via la création de fausses images et discours qui s'immiscent dans les campagnes électorales.

Le secrétaire général de l'ONU Antonio Guterres a fait de la régulation de l'IA une de ses priorités, appelant à la création d'une entité onusienne sur le modèle par exemple de l'Agence internationale de l'énergie atomique (AIEA).

Soulignant régulièrement les menaces liées à la désinformation et aux préjugés, il a la semaine dernière alerté sur les "partis pris" de technologies conçues principalement par des hommes et qui "ignorent" les besoins et les droits des femmes.

"Des algorithmes dominés par les hommes pourraient littéralement programmer des inégalités dans des activités comme la planification urbaine, la solvabilité ou l'imagerie médicale, pour des années".

"Je ne pense pas que les Etats-Unis veuillent laisser Guterres mener cette conversation si sensible, alors ils entrent en jeu pour modeler le débat", a estimé Richard Gowan, décrivant une "course" entre divers Etats pour être aux avant-postes sur cette question de société.

Le Parlement européen a lui adopté en mars une législation unique au monde pour encadrer les systèmes d'IA comme ChatGPT.

En octobre, la Maison Blanche avait dévoilé des règles et principes censés assurer que l'Amérique "montre la voie" dans la régulation de l'IA, le président Joe Biden insistant sur la nécessité de "gouverner" ces technologies.

E.M.Hall--MC-UK