Tout miser sur l’IA en étant responsables des résultats
Dans notre quête des derniers miracles de la science, l’IA devient un outil de plus en plus important. Cependant, sans l’implication humaine, l’IA ne dispose pas des qualités nécessaires pour garantir des impacts équitables et justes. La responsabilisation est donc une véritable pierre angulaire de notre approche de l’IA responsable.
L’IA représente un défi en matière de responsabilité. Un système d’IA prend souvent des décisions qui semblent provenir d’un choix humain. Cependant, il ne possède pas de caractéristiques humaines telles que la conscience, l’intentionnalité ou un libre arbitre qui le rendraient capable d’assumer la responsabilité de ses propres actions.
Les systèmes d’IA peuvent également s’avérer complexes et opaques, ce qui les rend difficiles à expliquer. Chez Sanofi, nous pensons qu’un humain doit être impliqué et qu’il y a toujours un responsable pour les résultats d’un système d’IA.
L’approche responsable de l’IA est une exigence de la loi actuelle et à venir. Toutefois, et en particulier dans le cas de l’IA, les réglementations peuvent évoluer à un rythme plus lent que le développement, le déploiement et les utilisations de l’IA.
Par conséquent, au-delà de la déontologie légale, nous, membres de Sanofi, nous considérons comme responsables du respect continu de nos « piliers pour une IA responsable » en matière de transparence et d’explication, d’équité et d’éthique, de solidité et de sécurité, d’éco-responsabilité et de responsabilité vis-à-vis des résultats. La responsabilité vis-à-vis des résultats est considérée comme un pilier global. Nos principes éthiques correspondent aux principes énoncés dans les réglementations récentes et à venir à travers le monde.
Cultiver une culture de la responsabilisation basée sur l’IA
En avril 2023, Sanofi a lancé le Comité de travail sur la responsabilité en matière d’IA (Responsible AI Working Committee), une équipe transversale composée d’experts en matière de droit, confidentialité, achats, éthique, politique et cybersécurité, ainsi que d’experts en IA et données dans toute la chaîne de valeur pharmaceutique, avec pour mission de définir la vision, les normes et les processus pour rendre pratique et opérationnelle la gouvernance de l’IA chez Sanofi.
En décembre 2023, un document de politique interne a été publié pour annoncer notre engagement en tant qu’entreprise à concevoir, développer, déployer et utiliser l’IA conformément à nos piliers pour une IA responsable. Ce document a souligné l’importance du risque en matière de gouvernance de l’IA dans notre approche. Cette politique figure dans notre code de conduite des collaborateurs ainsi que dans notre code de conduite des fournisseurs.
En outre, une campagne mondiale a été lancée en avril 2024 pour informer les Sanofiens sur l’IA, les principes d’IA responsable et les risques des systèmes d’IA, avec plus de 15 000 collaborateurs Sanofi concernés à travers le monde.
Faciliter la gestion des risques liés à l’IA avec la création de nouveaux outils et organes de gouvernance
En octobre 2023, un organisme pluridisciplinaire de gouvernance responsable de l’IA (Interim Responsible AI Governance ou « IRAG ») a été créé afin d’examiner les cas d’utilisation de l’IA considérés comme à haut risque et de donner des conseils sur les stratégies d’atténuation des risques appropriées, sous la forme d’un ensemble de contrôles qui rendraient le cas d’utilisation acceptable. À ce jour, environ 20 cas d’utilisation ont été examinés.
L’évaluation du risque d’IA de Sanofi a été lancée en février 2024. Il s’agit d’un outil visant à normaliser la classification des risques des cas d’utilisation de l’IA en cours de développement chez Sanofi. La classification des risques dépend de l’utilisation prévue, des données à utiliser dans le système, du modèle d’IA et du déploiement du système d’IA. Un cas d’utilisation à haut risque serait par exemple un logiciel basé sur l’IA et l’apprentissage par machine en tant que dispositif médical (tel qu’un système d’imagerie tirant parti de l’IA et de l’apprentissage par machine pour diagnostiquer les cancers de la peau).
L’évaluation des risques d’IA de Sanofi est initiée par les responsables de produits IA pendant la phase de conception du cycle de vie du produit. Elle leur garantit les conseils nécessaires pour atténuer les risques identifiés au sein de leur système d’IA, tout en minimisant les retouches du produit IA. À ce jour, environ 50 systèmes d’IA au sein de Sanofi ont été soumis à une évaluation des risques.
Favoriser la responsabilisation au niveau du système d’IA
Outre les initiatives touchant l’organisation dans son ensemble, la responsabilisation du système d’IA est également encouragée chez Sanofi au niveau du système d’IA.
Voyons comment Turing, un système d’IA qui fournit des informations à nos représentants commerciaux, a rendu la responsabilité en matière d’IA opérationnelle grâce à quelques exemples de contrôles mis en œuvre par l’équipe. Voici quelques-uns de ces contrôles :
Documentation
Rester responsables des résultats des systèmes d’IA que nous concevons, développons, déployons et utilisons témoigne des normes morales et éthiques élevées que nous, Sanofiens, respectons au quotidien.
Chez Sanofi, nous avons une ambition : poursuivre les miracles de la science pour améliorer la vie des gens. Nous avons un devoir de vigilance envers ceux que nous servons, et nous veillons à ce que les patients et les professionnels de santé puissent interagir avec nos systèmes de manière sûre et transparente.
Nous sommes convaincus qu’au-delà des réglementations légales, chacun d’entre nous, chez Sanofi, est responsable de la façon dont notre technologie impacte nos patients et le monde.
En savoir plus
Tout miser sur l’IA écologiquement responsable
Sanofi à VivaTech
