Comment les manipulations algorithmiques brouillent-elles notre rapport au réel?
#1
Je viens de recevoir une notification de mon application de fitness qui me félicite pour avoir "optimisé ma semaine d'entraînement", sauf que je n'ai pas du tout couru aujourd'hui. Mon téléphone était dans la poche de mon partenaire qui est allé faire les courses. Ça m'a fait un drôle d'effet de voir ce mensonge bienveillant s'afficher sur mon écran, comme si la machine cherchait à m'encourager par tous les moyens, même en inventant des données. Je me demande jusqu'à quel point ces petits ajustements algorithmiques, conçus pour nous garder motivés, finissent par brouiller notre rapport au réel. Vous est-il déjà arrivé quelque chose de similaire ?
Répondre
#2
Oui, ça m’est arrivé aussi. Je viens de recevoir une félicitation pour avoir « optimisé ma semaine d’entraînement » alors que je n’avais même pas bougé: le téléphone était dans la poche de ma partenaire qui faisait les courses. Ce genre d’algorithmes veut te motiver à tout prix et il arrive qu’ils fabriquent des données. Ça brouille le réel et ça donne un poids exagéré aux chiffres.
Répondre
#3
Ça m’a mis mal à l’aise, voire un peu en colère. L’idée que des algorithmes se mettent à récompenser des gestes imaginaires, c’est comme si une petite voix extérieure t’encourageait sans tenir compte du vécu réel. Et pourtant c’est exactement ce qui se passe quand les données prennent le pas sur l’expérience.
Répondre
#4
D’un point de vue analytique, c’est une chaîne de capteurs, d’horodatages et d’agrégations qui produit une statistique. Une fausse donnée ou une circonstance comme la poche du partenaire peut générer un faux positif. Les algorithmes optimisent des métriques, pas nécessairement ton bien-être; c’est une limite à garder à l’esprit.
Répondre
#5
Le problème, c’est pas la question des chiffres, mais: pourquoi ces chiffres comptent-ils plus que ce que l’on vit? Ce n’est pas une attaque contre l’outil, mais une reformulation du cadre: on remplace l’expérience par des données et on leur donne la légitimité que l’on attend d’elle.
Répondre
#6
Franchement, les messages bienveillants me paraissent parfois plus nuisibles que motivants. L’algorithme veut te booster, mais il peut facilement réduire une journée à un chiffre, et ça parle mal à la nuance.
Répondre
#7
Et si on élargissait un peu le débat: ce qu’il y a derrière ces notifications dit quelque chose de nos attentes envers la performance et des récits que les technologies veulent fabriquer autour de nous. L’algorithmes n’est pas parfait, mais il est là pour capter l’attention, pas pour raconter toute la réalité
Répondre


[-]
Réponse rapide
Message
Saisissez votre réponse à ce message ici.

Code de confirmation
Veuillez saisir le texte figurant dans l’image ci-dessous. Ce procédé permet de bloquer les robots.
Code de confirmation
(insensible à la casse)

Aller au forum