Cet article date de plus d'un an.

Intelligence artificielle : la recherche pour détecter un auteur androïde renonce à une fiablité à 100%

Aujourd'hui c'est demain Anicet Mbida Du lundi au vendredi à 5h51 et 7h26

On ne compte plus les outils capables de rédiger des textes grâce à l’intelligence artificielle. Mais si la riposte s’organise avec des outils de détection de plus en plus performants, on ne peut pas être tout-à-fait sûr.

franceinfo, Anicet Mbida

Radio France

Publié le 30/01/2024 13:38

Temps de lecture : 2min

Le meilleur outil actuel permet une marge d'erreur à 0,01%. (PIERRE DESTRADE / MAXPPP)

Le dernier outil créé pour détecter un texte rédigé par une intelligence artificielle s’appelle Binoculars. Il a été mis au point par des chercheurs de l’université du Maryland, aux États-Unis, et promet de limiter ce que l’on appelle "les faux positifs". Ces faux résultats concernent des détections de textes attribués à une intelligence artificielle, alors qu’ils ont été écrits par un humain. Si l'on se fie à certains outils de détection actuels, on découvre par exemple, que Macbeth de Shakespeare a été écrit par un logiciel !

Cela peut faire sourire. Mais des élèves peuvent être accusés à tort de tricherie et recevoir une note éliminatoire. Il est donc indispensable d’avoir une détection plus fiable. Actuellement, le taux d'erreur tournait autour de 1% de faux positifs. Mais avec l’outil Binoculars, on tomberait à 0,01%. Mais si c’est fiable, ce n'est toujours pas infaillible et ne satisfait donc pas la question des étudiants. Plusieurs universités ont d’ailleurs cessé d’utiliser ce genre d’outil.

Accepter l'incertitude

Finalement il est possible de ne jamais savoir si un texte a été écrit ou non par une intelligence artificielle. OpenAI, le créateur ChatGPT, avait commencé à travailler sur un outil de détection. Il semble le mieux placé pour le faire. Pourtant, il a fini par renoncer. Lui aussi s'est estimé incapable d’arriver à un outil fiable à 100%.

On n’en a donc pas terminé avec les polémiques autour des devoirs rédigés avec ChatGPT. Peut-être que le secteur éducatif finira par s’adapter. L’école a bien réussi à intégrer la calculatrice, en privilégiant le raisonnement plutôt que le résultat brut. Elle y arrivera peut-être aussi avec ChatGPT.

Un outil comme Binoculars pourrait tout de même intéresser d’autres secteurs, où les faux positifs sont moins critiques. Par exemple pour faire le tri dans ce qui est publié en entreprise ou sur internet. Cela permettra de lever certains doutes ou, simplement, de prendre un peu de distance avec ce qu’on lit.