Dans le sixième volet de la série « La Suisse, pôle d’innovation », Johan Poccard et le Dr Iason Kastanis, du Centre Suisse d’Électronique et de Microtechnique (CSEM), expliquent dans quelles conditions l’apprentissage automatique peut atteindre des performances supérieures à celles de l’être humain et pourquoi une grande précision ne suffit pas à elle seule à garantir la fiabilité d’un système d’IA.
À l’aide d’exemples concrets tirés du traitement d’images industriel, de la robotique et de l’automatisation des laboratoires, les auteurs montrent comment les entreprises peuvent évaluer de manière réaliste les systèmes d’IA. Ils expliquent l’importance de benchmarks adaptés, de décisions de modélisation transparentes et de données d’entraînement de haute qualité. Les limites des grands modèles linguistiques et la nécessité d’un contrôle humain sont également abordées.
Cet article paru dans le magazine « KMU-Magazin » fait partie de la série « La Suisse, pôle d’innovation », qui a vu le jour dans le prolongement de la publication de la SATW intitulée « Orientation IA : défis et opportunités pour les PME suisses ».
Son contenu a été élaboré en collaboration avec des acteurs et actrices du réseau SAIROP (Swiss AI Research Overview Platform) et du réseau d’experts de la SATW. SAIROP encourage la collaboration entre la recherche, l’industrie et l’administration et soutient le transfert de connaissances au sein de l’écosystème suisse de l’IA.
Oui, pour des tâches clairement définies et mesurables, les systèmes d'IA peuvent surpasser les performances humaines. Par exemple, ils permettent d'analyser de grandes quantités d'images plus rapidement et avec plus de cohérence que ne le pourraient des êtres humains. On ne peut toutefois pas en déduire une supériorité générale. Les performances dépendent de la tâche concernée, des données d'entraînement et des conditions d'utilisation.
Les benchmarks sont des procédures de test standardisées qui permettent de comparer les performances de différents modèles d'IA. Ils définissent les données, les méthodes d'évaluation et les indicateurs utilisés. Il est essentiel que les tests reproduisent des conditions d'utilisation aussi réalistes que possible, car de bons résultats en laboratoire ne garantissent pas automatiquement des performances fiables au quotidien.
L'explicabilité aide les experts à comprendre quelles informations un modèle d'IA utilise pour établir ses prédictions. Cela permet d'identifier les hypothèses erronées, les biais ou les données d'apprentissage inadaptées. C'est particulièrement important dans le cas des applications critiques pour la sécurité, afin d'évaluer la fiabilité et de renforcer la confiance dans la technologie.
Les grands modèles linguistiques peuvent faciliter la réalisation de tâches complexes, mais ils génèrent parfois des réponses formulées de manière convaincante, bien qu'erronées sur le fond. C'est pourquoi ils ne devraient pas être utilisés comme des experts autonomes, en particulier dans le cadre d'applications critiques pour la sécurité ou aux conséquences importantes. Un contrôle humain et des possibilités d'action clairement définies contribuent à limiter les risques.
La plupart des systèmes d'IA utilisés dans l'industrie ne continuent pas à apprendre de manière continue. Une fois l'entraînement terminé, les paramètres de leurs modèles restent généralement inchangés. Pour apporter des améliorations, il faut collecter de nouvelles données, les traiter et les utiliser pour un nouvel entraînement. Il est ensuite nécessaire de procéder à une vérification minutieuse dans des conditions réalistes avant de mettre en service le modèle mis à jour.
| Rôle | Titre + Nom |
|---|---|
| Texte par | Iason Kastanis, Johan Poccard |
