Cet article date de plus de six ans.

Nouveau monde. Ces algorithmes incapables de détecter le malheur

Nouveau monde Jérôme Colombain Le samedi à 17h50, 20h20 et 22h22, le dimanche à 17h52, 20h55 et 22h52

Les algorithmes sont parfois cruels. Une jeune femme qui avait perdu un bébé à la naissance a continué à recevoir des publicités destinées aux jeunes mamans.

franceinfo, Jérôme Colombain

Radio France

Publié le 13/12/2018 14:57

Temps de lecture : 2min

Une femme enceinte tape sur le clavier de son ordinateur. (MAXPPP)

C’est l’histoire de Gillian Brockell, éditrice vidéo au Washington Post. Elle raconte, dans cet article bouleversant, qu’elle a été enceinte et qu’elle avait partagé la nouvelle sur les réseaux sociaux. Sur Facebook, elle avait cliqué sur des publicités pour des vêtements de femme enceinte et utilisé des hashtags appropriés sur Instagram. Du coup, elle a vu apparaître, logiquement, des publicités destinées aux futures mamans. Malheureusement, Gillian Brockell a perdu son bébé, mort-né. Lorsqu’elle a recommencé à aller sur les réseaux sociaux pour se changer les idées, elle a pris en pleine figure des dizaines de publicités pour des poussettes, des soutiens-gorges d'allaitement, ou des DVD sur la meilleure manière de faire dormir les bébés.

Si les algorithmes semblaient avoir "compris" qu’elle était enceinte, en revanche, ils n’ont "pas compris" qu’elle n’avait pas eu son bébé. La jeune femme dit qu’elle avait pourtant donné des signaux. Elle avait tapé dans les moteurs de recherche des noms de maladies et des mots comme "bébé ne bouge pas". Elle avait aussi reçu des messages de compassion de ses amis, avec des centaines d’émoticônes de larmes. Comment se fait-il alors, s’interroge-t-elle, que ces informations n’aient pas été détectées et n’aient pas été interprétées ?

Algorithmes inadaptés au malheur

C’est navrant mais on pourrait aussi trouver, d’un autre côté, que c’est presque rassurant. Cela prouve que Google ou Facebook, finalement, ne savent pas tout de nous et surtout ne comprennent rien à rien. Ces outils qui envoient de la publicité ciblée sont conçus sur des modèles basés sur le plus grand nombre et n’ont pas été programmés pour des situations qui sortent de l’ordinaire. Surtout, la publicité est faite pour vendre et elle est totalement inadaptée au malheur. Ce genre de situation s’est déjà produit plusieurs fois, par exemple avec des personnes décédées dont les proches continuaient à recevoir des messages complètement inappropriés.

Gillian Brockell "implore" les entreprises de technologie de faire en sorte que ce genre de problème ne se reproduise pas. Facebook lui a répondu en expliquant qu’il existait pourtant un paramètre, certes imparfait, permettant de désactiver ce genre de publicités. Malheureusement, dans la douleur, la jeune femme n’a jamais trouvé ce réglage.