De quoi Michaël Pilaeten parlera-t-il ?
Le lancement du syllabus ISTQB CTAL-Agile
L’IA générative transforme la façon dont nous concevons, construisons et testons les logiciels, mais cette avancée s’accompagne d’une nouvelle catégorie de risques : des résultats biaisés, un comportement incohérent, des angles morts culturels et des cas extrêmes imprévisibles. Il ne s’agit pas simplement de défauts techniques ; ce sont des échecs de qualité qui se produisent lorsque les systèmes ne sont pas testés en tenant compte de tout l’éventail de la diversité du monde réel. Dans cette présentation, Romina Pierce, directrice des opérations chez Sixsentix et titulaire d’un MBA en conformité, protection des données et informatique, explique pourquoi la diversité, l’équité et l’inclusion (DEI) sont devenues des composantes essentielles de l’ingénierie de la qualité moderne.
Romina illustre le fait que de nombreux échecs de l’IA ne résultent pas d’un mauvais codage, mais de perspectives étroites lors de la conception et des tests. Les équipes homogènes passent souvent à côté des nuances culturelles, des comportements alternatifs des utilisateurs, des variations linguistiques, des besoins en matière d’accessibilité ou des considérations d’équité. Pour les testeurs et les ingénieurs qualité, cela crée une opportunité : une réflexion axée sur la DEI élargit la couverture des tests et expose les risques que les méthodes traditionnelles négligent.
Cette session examine où les biais pénètrent dans les systèmes d’IA (dans les données d’apprentissage, les invites, les cas extrêmes et les boucles de rétroaction humaine) et comment des perspectives diverses améliorent la robustesse, la fiabilité et la confiance des utilisateurs. Romina montre comment la DEI conduit à des scénarios de test plus représentatifs, à des stratégies de validation plus larges et à des résultats de meilleure qualité pour les systèmes intelligents.
Les participants exploreront également comment GenAI modifie la signification de la « qualité ». Au lieu de vérifier uniquement l’exactitude fonctionnelle, les tests doivent désormais évaluer l’équité, la cohérence, l’explicabilité et l’inclusivité. Romina fournit des exemples de la façon dont les testeurs peuvent intégrer une réflexion inclusive dans les stratégies de test axées sur l’IA, en s’assurant que les modèles se comportent de manière prévisible pour tous les utilisateurs, et pas seulement pour la majorité.
Il en résulte une nouvelle perspective sur la façon dont la DEI renforce l’ingénierie de la qualité : en réduisant les angles morts, en découvrant les risques cachés et en veillant à ce que les systèmes d’IA reflètent le monde réel qu’ils servent.
