Dans le cinquième volet de la série «La Suisse, pôle d’innovation», Philip Michel, de Swiss Post Advertising, et le Dr Stefan Oglesby, président de Swiss Insights, expliquent comment les entreprises peuvent utiliser les données de manière responsable. L’accent est mis sur le label «Data Fairness» de Swiss Insights, qui aide notamment les PME à porter un regard critique sur leurs décisions fondées sur les données.
En prenant l’exemple de Swiss Post Advertising, les auteurs expliquent comment intégrer les questions d’équité des données dans les processus de travail existants. Cet article montre également pourquoi la protection et la sécurité des données ne suffisent pas à elles seules, et comment de simples questions de vérification peuvent contribuer à une utilisation plus responsable des données.
Cet article paru dans le magazine « KMU-Magazin » fait partie de la série « La Suisse, pôle d’innovation », qui a vu le jour dans le prolongement de la publication de la SATW intitulée « Orientation IA : défis et opportunités pour les PME suisses ».
Son contenu a été élaboré en collaboration avec des acteurs et actrices du réseau SAIROP (Swiss AI Research Overview Platform) et du réseau d’experts de la SATW. SAIROP encourage la collaboration entre la recherche, l’industrie et l’administration et soutient le transfert de connaissances au sein de l’écosystème suisse de l’IA.
Une utilisation équitable des données implique que les entreprises ne se contentent pas de vérifier la légalité de leur traitement, mais qu'elles prennent également en compte la finalité, la base de données et les conséquences possibles d'une telle utilisation. Il s'agit notamment de déterminer si des personnes ou des groupes pourraient être involontairement désavantagés ou exclus.
Le label « Data Fairness » offre un cadre de référence pour une gestion responsable des données. Il aide les entreprises à remettre systématiquement en question les hypothèses, les risques et les responsabilités liés aux applications basées sur les données, et à documenter leurs décisions de manière transparente.
Les modèles basés sur des données clients existantes peuvent reproduire les biais qui y sont présents. De plus, les centres d'intérêt ou les affinités calculés reposent souvent sur des probabilités et non sur des connaissances avérées. Il en résulte un risque que certains groupes de personnes soient involontairement désavantagés ou exclus.
La protection et la sécurité des données portent notamment sur le traitement légal des données, les droits d'accès et la protection contre les abus. L'équité en matière de données complète ces perspectives et s'interroge sur les raisons pour lesquelles les données sont utilisées à une fin précise, sur les hypothèses qui sous-tendent cette utilisation et sur les conséquences qui peuvent en découler.
Les PME peuvent commencer par un simple questionnaire. Il est essentiel, avant toute utilisation, de clarifier la finalité et l'origine des données, d'évaluer les répercussions possibles et de définir les responsabilités. Ces questions peuvent être intégrées dans les processus de travail existants sans qu'il soit nécessaire de mettre en place des structures de gouvernance supplémentaires complexes.
| Rôle | Titre + Nom |
|---|---|
| Texte par | Philip Michel, Stefan Oglesby |
