IV. UN ALGORITHME DE RECOMMANDATION TRÈS PERFORMANT MAIS OPAQUE
A. L'ALGORITHME DE RECOMMANDATION : LE POINT FORT INCONTESTÉ DE TIKTOK
Le fil algorithmique « Pour Toi » a été lancé en 2018 sur la plateforme TikTok. Il est basé sur l'apprentissage automatique (machine learning) pour personnaliser les recommandations de contenu pour chaque utilisateur. Ce fil suggère des vidéos en utilisant les interactions des utilisateurs, telles que les likes, les partages et les commentaires, de même que les préférences et les tendances personnelles, selon le site TikTok.
Ainsi que le relève M. Marc Faddoul, l'algorithme de recommandation de TikTok travaille sur un fil d'une seule vidéo à la fois, à comparer avec le premier fil de Facebook, qui proposait cinq ou six posts associés à la recherche, ce qui donnait une certaine liberté de choix à l'utilisateur. Ce design a deux conséquences : il diminue la « charge cognitive » (l'effort de réflexion) pour l'utilisateur, qui n'a plus qu'à suivre ou à rejeter la proposition, et il fournit à l'algorithme des données d'entraînement bien supérieures à la fois en nombre et en qualité. Chaque vidéo est ainsi évaluée toutes les cinq ou dix secondes par le simple fait qu'elle est visionnée ou que l'utilisateur est passé à la suivante, fournissant ainsi une donnée d'entrainement pour savoir si la vidéo correspond à son intérêt ou pas. Là où YouTube collectait une dizaine de « points d'entraînement » par heure, TikTok en collecte ainsi plusieurs centaines, voire un millier de points par heure.
De plus, ainsi que l'a souligné M. Tariq Krim, l'espace sur TikTok étant contraint, « un peu comme dans une pièce de théâtre » (vidéo verticale, centrée sur la personne, qui raconte une histoire avec un début, un milieu et une fin...)153(*), l'algorithme peut très facilement analyser le contenu.
La promesse de TikTok d'être une source de découvertes n'a pas été tenue : l'application enferme bien les utilisateurs dans une « bulle de filtres »
M. Éric Garandeau, lors de son audition par la commission a vanté l'algorithme de recommandation comme étant une « source de découvertes » qui teste de nouveaux contenus pour voir si l'utilisateur va y adhérer. L'algorithme vise, selon lui, à stimuler l'utilisateur, en lui proposant des choses qui ne sont pas forcément dans ses préférences exprimées ou dans son historique de parcours sur l'application.
TikTok indique avoir ajouté en mars 2023 une nouvelle fonctionnalité permettant aux utilisateurs d'actualiser leur fil « Pour Toi » - « et voir un nouvel assortiment de vidéos populaires, comme si tu venais de t'inscrire sur TikTok »154(*) - si les recommandations ne leur semblent plus « pertinentes », ce qui laisse penser que son algorithme n'échappe pas au phénomène de bulle de filtres.
Le représentant de l'UFC-Que Choisir, auditionné par la commission, en a une vision plus prosaïque : le fil « Pour Toi » « donne la becquée » aux utilisateurs, en leur soumettant immédiatement une masse de documents et de vidéos, une sorte de processus de gavage numérique. Selon lui, le caractère addictif de l'application est lié à une sensation de facilité créée grâce au portrait-robot extrêmement fin qu'elle dresse de chaque utilisateur pour lui fournir des contenus.
De même, lors de son audit, M. Jean-Noël Barrot, ministre délégué chargé de la transition numérique et des télécommunications, a déclaré que la promesse deTikTok d'être une source de découvertes, n'a pas été tenue : l'application enferme bien les utilisateurs dans une « bulle de filtres ».
Les autres algorithmes de TikTok
Au-delà de son algorithme de recommandation qui est le plus connu, TikTok utilise l'intelligence artificielle à d'autres fins.
Ainsi, selon M. Romain Badouard, maître de conférences en sciences de l'information et de la communication à l'Université Panthéon-Assas, TikTok a parié sur l'intelligence artificielle pour automatiser la modération : elle entraîne des algorithmes à partir des bases de données constituées de vidéos retirées par les modérateurs humains pour que ces algorithmes apprennent à reconnaître des contenus illégaux ou qui contreviennent aux standards de publication. Entre 85 et 95 % des vidéos de TikTok sont modérées automatiquement par des algorithmes, qui sont performants pour la nudité ou la violence. La détection des contenus haineux, et a fortiori le cyberharcèlement, s'avère plus difficile. Mme Marlène Masure a également indiqué que les vérifications de majorité se faisaient sur la base d'outils algorithmiques, permettant notamment de lire des informations insérées dans les biographies d'utilisateurs ou des informations arrivant par signalements.
Un algorithme est également mis en oeuvre pour détecter les vidéos faisant du placement de produit afin de proposer au créateur de signaler que cette vidéo fait l'objet d'une promotion155(*).
* 153 Voir les conseils aux créateurs : https://www.TikTok.com/creators/creator-portal/en-us/TikTok-creation-essentials/elements-of-a-TikTok-video/
* 154 https://support.TikTok.com/fr/account-and-privacy/account-privacy-settings/refresh-your-for-you-feed
* 155 Voir les déclarations de M. Éric Garandeau lors de son audition du 8 juin 2023.