Après le discours virtuel d'un opposant pakistanais en prison, les dérives de l'intelligence artificielle en politique se précisent

Au Pakistan, la campagne bat son plein, puisque les législatives auront lieu en février 2024. Là-bas, l’ex-Premier ministre et principal rival du leader actuel, utilise une voix clonée pour faire campagne, depuis la prison où il est incarcéré depuis août, pour corruption. Âgé de 71 ans, il a été mis derrière les barreaux pour plusieurs affaires, notamment des soupçons de fuite de documents d'État. Mais ces accusations, selon lui, ne servent qu'à le tenir à l'écart des élections nationales.

Son parti, le Pakistan Tehreek-e-Insaf (PTI), a donc fabriqué une vidéo, à base d'images d'archives, avec un message sonore reconstituant la voix du leader. Grâce à l'intelligence artificielle, le leader a pu atteindre les citoyens et plus de 4,5 millions de personnes l'ont vue malgré les coupures et des restrictions d'accès à internet, vues comme des tentatives supplémentaires de censure.

Une première historique

Dans le message, diffusé sur les réseaux sociaux, la voix d'Imran Khan commence par féliciter son équipe pour avoir réalisé cette première : "Mes chers compatriotes, je voudrais d’abord féliciter notre équipe réseaux sociaux pour cette tentative historique". À ceux qui se demandent ce qu’il fait en prison, le faux enregistrement explique que le gouvernement actuel veut le réduire au silence, mais qu’il reste déterminé pour le pays et pour son peuple.

C’est donc sa voix, mais ce n’est pas lui qui parle. Il a seulement transmis ses notes sur un papier. Et son équipe a fait déclamer le texte par un outil qui l’imite à la perfection grâce à des techniques d’intelligence artificielle.

Qu’un opposant emprisonné arrive à participer à un meeting sur internet est une première historique. Et on voit tout de suite les dérives potentielles. On pourrait, de la même manière, faire parler n’importe qui et faire croire à un message de soutien, par exemple.

Le danger des campagnes téléphoniques

Aux États-Unis, où certains comme en Californie se méfient de plus en plus de la désinformation, on redoute le même risque de dérives. Pour la première fois, une candidate démocrate au congrès s’appuie sur un robot pour appeler des électeurs au téléphone et les inciter à voter pour elle. L'accroche dit : "Bonjour, vous allez bien ?" Puis, la voix enchaîne : "Est-ce que vous êtes au courant de la campagne de Shamaine Daniels pour le congrès ?" Ensuite, c’est interactif, comme avec ChatGPT. On peut lui poser des questions, elle répond. Exactement comme un militant qui fait du démarchage téléphonique.

La voix est quand même très robotique, mais c’est fait exprès, par souci de transparence. L'équipe de communication signale bien qu’il s’agit d’une intelligence artificielle et ils ont gardé le manque de naturel dans l'élocution pour qu’il n’y ait vraiment aucune ambiguïté. Mais là encore, rien n’empêcherait d’utiliser une voix très humanisée ou la voix d’une célébrité. Un clone de célébrité qui pourrait appeler des centaines de personnes par jour pour les inciter à voter pour tel ou tel. Nous vivons donc nos premières élections à l’ère de l’intelligence artificielle. Et on n’est pas au bout de nos surprises.