Nouveau monde. Ces algorithmes incapables de détecter le malheur

C’est l’histoire de Gillian Brockell, éditrice vidéo au Washington Post. Elle raconte, dans cet article bouleversant, qu’elle a été enceinte et qu’elle avait partagé la nouvelle sur les réseaux sociaux. Sur Facebook, elle avait cliqué sur des publicités pour des vêtements de femme enceinte et utilisé des hashtags appropriés sur Instagram. Du coup, elle a vu apparaître, logiquement, des publicités destinées aux futures mamans. Malheureusement, Gillian Brockell a perdu son bébé, mort-né. Lorsqu’elle a recommencé à aller sur les réseaux sociaux pour se changer les idées, elle a pris en pleine figure des dizaines de publicités pour des poussettes, des soutiens-gorges d'allaitement, ou des DVD sur la meilleure manière de faire dormir les bébés.

Si les algorithmes semblaient avoir "compris" qu’elle était enceinte, en revanche, ils n’ont "pas compris" qu’elle n’avait pas eu son bébé. La jeune femme dit qu’elle avait pourtant donné des signaux. Elle avait tapé dans les moteurs de recherche des noms de maladies et des mots comme "bébé ne bouge pas". Elle avait aussi reçu des messages de compassion de ses amis, avec des centaines d’émoticônes de larmes. Comment se fait-il alors, s’interroge-t-elle, que ces informations n’aient pas été détectées et n’aient pas été interprétées ?

Algorithmes inadaptés au malheur

C’est navrant mais on pourrait aussi trouver, d’un autre côté, que c’est presque rassurant. Cela prouve que Google ou Facebook, finalement, ne savent pas tout de nous et surtout ne comprennent rien à rien. Ces outils qui envoient de la publicité ciblée sont conçus sur des modèles basés sur le plus grand nombre et n’ont pas été programmés pour des situations qui sortent de l’ordinaire. Surtout, la publicité est faite pour vendre et elle est totalement inadaptée au malheur. Ce genre de situation s’est déjà produit plusieurs fois, par exemple avec des personnes décédées dont les proches continuaient à recevoir des messages complètement inappropriés.

Gillian Brockell  "implore" les entreprises de technologie de faire en sorte que ce genre de problème ne se reproduise pas. Facebook lui a répondu en expliquant qu’il existait pourtant un paramètre, certes imparfait, permettant de désactiver ce genre de publicités. Malheureusement, dans la douleur, la jeune femme n’a jamais trouvé ce réglage.