Points forts
- Vous n’échapperez pas à l’algorithme
- Ne faites pas défiler la page. L’Aglorithm vous connaît déjà.
- Il sait tout et voit tout.
L’algorithme sait tout et voit tout. Il nous connaît mieux que nous-mêmes. Avant même que nous ayons eu une pensée, l’algorithme l’a déjà pensée pour nous et nous fournit un contenu qui nous rassasie.
Mis à part le cauchemar dystopique que représente la technologie qui comprend toutes les facettes de notre personnalité, la plupart du temps, cela fonctionne plutôt bien. Vous organisez votre flux sur la plateforme en ligne que vous utilisez, l’algorithme vous aide en fournissant un contenu similaire, et la relation semble symbiotique. Mais que se passe-t-il lorsque vous détestez votre propre algorithme ?
L’algorithme apprend ce que vous aimez et vous en donne plus
Pour la plupart, l’algorithme me comprend. Sur Twitter (X n’est tout simplement pas en train d’arriver, laissez tomber), il sait que j’utilise principalement la plateforme pour voir ce qu’écrivent mes pairs du journalisme sportif, pour voir quelle chanson surprise Taylor Swift a jouée ce week-end et pour me tenir au courant de l’actualité du football, en particulier de la Premier League et, plus particulièrement, de Newcastle United. Depuis l’arrivée d’Elon Musk, il semble penser que j’ai un intérêt particulier pour les appâts de colère et le racisme, mais c’est clairement le signe que la plateforme pêche l’engagement et peut heureusement être largement ignoré.
Mon algorithme Instagram est similaire : je suis moins intéressé par le contenu de jeu plus influencé, mais Taylor Swift (et le contenu général sur les célébrités) et le football y sont très présents. L’algorithme m’a également servi des mecs qui se posent des questions sur le personnage de dessin animé le plus grand ou sur la meilleure entreprise de restauration rapide avec du bleu dans son logo, et je me régale à chaque fois.
Je n’utilise pas TikTok, mais on m’a souvent dit que c’est l’algorithme le plus impressionnant (ou peut-être le plus terrifiant) de tous. Il suffit de quelques clics sur TikTok pour qu’il connaisse votre groupe sanguin, vos rêves, vos phobies, il sache quelles peluches se cachent entre vos orteils. Étant donné que la plupart des contenus que je vois sur Instagram sont constitués de TikToks republiés, je peux déjà deviner ce que l’algorithme m’enverrait, mais le fait que nous soyons si conscients que les entreprises ont d’énormes serveurs qui incluent simplement une liste de moyens de nous manipuler et considèrent cela comme un argument de vente de n’importe quelle application montre à quel point l’algorithme a pris le dessus.
Il n’y a pas d’échappatoire à l’algorithme
Bien qu’il y ait un côté effrayant à être perçu aussi clairement par l’algorithme, alors que les pensées sur la façon dont il peut être utilisé au-delà des bobines amusantes de mèmes de Taylor Swift tourbillonnent dans ma tête (la manipulation des électeurs par Cambridge Analytica était essentiellement l’algorithme utilisé pour la politique), cela rend finalement la vie quotidienne plus facile. Il existe de nombreux créateurs de contenu, de publications, de vidéos, d’articles et, à partir de là, de liens vers de la musique, des jeux et des films, que je n’aurais pas découverts sans une machine qui me dit « Je te connais. Tu aimes ça » et s’assure que je le vois. Dans le meilleur des cas, l’algorithme est comme cet ami qui vous envoie une recommandation de film et vous livre à chaque fois un tube après l’autre.
Cependant, lorsque l’algorithme se dérègle, il est presque impossible de le démêler. J’ai récemment découvert cela avec Pinterest. Pour une raison quelconque, Pinterest semble se considérer comme un véritable site de médias sociaux, de la même manière que Letterboxd parle parfois de lui-même, plutôt que de faire face à sa propre réalité. Personne ne fait défiler Pinterest sans fin, jour après jour, semaine après semaine, à la recherche de choses avec lesquelles interagir. Il est utilisé de manière bien plus spécifique que cela.
Certains l’utiliseront pour trouver des idées de rénovations à la maison. D’autres l’utiliseront comme album numérique pour planifier un mariage. J’ai déjà utilisé Pinterest de manière assez occasionnelle pour ces deux objectifs dans le passé, et dans ces cas-là, l’algorithme a fonctionné. Lorsque je cherchais des moyens d’installer un meuble TV dans la pièce de devant qui soit plus long mais plus étroit que la plupart, l’algorithme m’a donné des idées après que j’en ai trouvé quelques-unes moi-même. Lorsque j’ai conçu ma propre papeterie de mariage, l’algorithme a vite compris la mission. Mais ensuite, j’ai commencé à l’utiliser davantage, et tout s’est effondré.
Comme je l’ai déjà écrit à maintes reprises (« trop ! » me dit une voix discordante au dos), j’écris mes propres aventures de Donjons et Dragons. J’utilise beaucoup d’illustrations de personnages à la fois pour inspirer des idées et pour montrer mon groupe, et au fil du temps, la destination naturelle pour cela est devenue Pinterest. Au début, l’algorithme fonctionnait comme d’habitude. Je construisais des villes qui avaient besoin d’un look spécifique, et l’algorithme comprenait. Je me déplaçais d’un endroit à l’autre, changeant mes termes de recherche, et l’algorithme m’obligeait.
Mais au bout du compte, mes goûts personnels ont pris le dessus. L’algorithme est censé répondre à mes goûts personnels, mais Pinterest est devenu beaucoup trop agressif. J’aime avoir de la diversité dans mes jeux, en termes de style artistique, d’espèce, de couleur de peau et de sexe, et cela signifie souvent que je dois sélectionner l’intrus. Si vous recherchez « D&D Knight character art », la plupart des résultats sont des hommes blancs. Je ne veux pas que des hommes blancs dans mon jeu, donc je clique souvent sur les femmes et/ou les personnes de couleur pour les ajouter à ma pile d’inspirations.
Cependant, je voulais toujours des hommes blancs, mais l’algorithme a jugé que je n’en étais plus digne. Tout à l’heure, j’ai essayé « art de personnage masculin de D&D », « homme personnage fantastique », « héros masculin de D&D » et « Donjons et Dragons, monsieur », et dans tous les cas, il y avait au moins un portrait féminin dans les dix premiers. La recherche de « personnage dnd » m’a donné les dix premiers résultats comme étant des femmes et le 11e était un chat. L’algorithme influence désormais vos recherches, ne tirant pas les meilleures réponses à ce que vous recherchiez réellement, mais en devinant ce que vous recherchez. vraiment je veux chercher et vous les donner à la place.
Sans parler du fait que quelque part en chemin, j’ai cliqué sur un nombre trop important de pièces d’IA et que la moitié des résultats que j’obtiens maintenant sont des bêtises informatisées. En fin de compte, je ne vais pas perdre le sommeil si une IA se glisse inaperçue parmi les centaines de pièces d’art de personnages en ligne que j’utilise dans chaque aventure, mais l’algorithme a maintenant décidé que je la recherche. Après avoir été trompé une fois par un elfe d’anime IA, je dois maintenant vivre avec le but exprès de voir un gnome de dessin animé laid avec sept doigts.
Peut-être que c’est juste l’utilisation de l’algorithme par Pinterest, mais je ne suis pas sûr que ce soit vrai. C’est plutôt comme si l’algorithme avait besoin d’être entretenu. En tant que relation symbiotique, il a besoin d’une interaction constante de votre part pour éviter de devenir fou. Utilisez-le de façon saisonnière et il devient agité et malveillant, réagissant de manière excessive à tout ce que vous dites et faites. Il passe d’une relation véritablement symbiotique à une relation parasitaire. Il sait exactement ce que vous aimez. Et, apparemment, il sait exactement comment vous faire du mal.