Les données des utilisateurs de Slack
La plateforme de messagerie professionnelle est depuis peu accusée d’utiliser les données de ses utilisateurs, sans leur consentement explicite, afin d’entraîner et améliorer ses modèles d’intelligence artificielle.
En outre, les utilisateurs de Slack ont pu observer que la politique de confidentialité de l’entreprise, disponible sur son site, indique que
«Pour développer des modèles d’IA/AA pour des fonctionnalités telles que les recommandations d’émoji et de canal, nos systèmes analysent les données des clients (par exemple, les messages, le contenu et les fichiers) soumises à Slack ainsi que d’autres informations (y compris les informations d’utilisation), dans le cadre défini dans notre Politique de confidentialité et dans votre contrat client ».
Ainsi, plusieurs fonctionnalités de l’application, comme les suggestions de chaînes, les résultats de recherche ou la complétion automatique, s'appuient sur ces données.
Les informations collectées dans les conversations et documents sont diverses, puisqu’elles sont issues à la fois des messages, des fichiers partagés, et d'autres interactions.
L’alimentation de la base d’apprentissage par des échanges confidentiels
Dès lors, Slack utilise les échanges confidentiels de ses utilisateurs pour alimenter la base d’apprentissage de ses algorithmes, alors même qu’ils n’étaient pas informés de manière claire et n’avaient pas consenti explicitement à de telles pratiques.
En effet, Slack fonctionne sur un modèle de consentement implicite où les utilisateurs sont automatiquement inclus dans un programme de collecte de données. Pour être retiré de ce programme, la démarche est quelque peu complexe :
Il convient d’envoyer un courriel à Slack en indiquant l’URL de son espace de travail et « Slack Global model opt-out request » en objet d’e-mail, afin de demander la désactivation de l’utilisation des données.
Ainsi, seuls les administrateurs d’espaces de travail peuvent demander l’exclusion de leurs données, aucune option n’étant proposée aux utilisateurs individuels.
Inscrivez-vous à la newsletter Livv
et recevez chaque semaine des informations exclusives en droit des affaires. En savoir plus
Des données anonymisées et contrôlées selon Slack
De son côté, Slack assure procéder à des contrôles et affirme que ces données sont anonymisées et agrégées pour éviter toute identification individuelle. L’entreprise fait également valoir le fait que ces données n’alimentent que des outils d’IA gratuits, et qu’elle propose également un produit distinct nommé « Slack AI », qui utilise des modèles de langage développés par des tiers, notamment ChatGPT, et non les données des utilisateurs de Slack.
Cette pratique va à l’encontre des règles de protection des données posées par le RGPD et du respect de la vie privée qui préconisent un consentement explicite et éclairé des utilisateurs (article 6 du RGPD qui prévoit que le traitement des données personnelles doit être légitime et nécessaire).
L’entraînement des IA et les bases de données, un air de déjà-vu
Pour rappel, ce n’est pas la première fois qu’une entreprise entraîne son IA en exploitant les données de ses utilisateurs.
Ainsi, Reddit donne accès aux conversations de son forum à OpenAI et Google, Squarespace récupère les contenus publiés sur ses sites web à des fins d’entraînement, quand WordPress vend le contenu créé par ses utilisateurs à des laboratoires d’IA.
