L’IA et la gestion de la sécurité

Résumé

L’intelligence artificielle à base d’apprentissage profond, comme l’analyse de données massives, font depuis quelques années l’objet d’avancées scientifiques et technologiques fulgurantes. Ces technologies sont introduites dans de nombreuses situations de travail avec l’espoir d’augmenter la performance et la productivité. Cette dimension de la transition numérique des entreprises et des administrations offre à la fois de nombreuses opportunités, mais aussi des risques, pour les pratiques de gestion de la sécurité industrielle. En effet, si de nombreux avantages sont à attendre de la capacité à traiter d’importantes quantités de données de fiabilité ou des rapports d’anomalie disponibles en langage naturel non structurée, l’opacité structurelle des grands réseaux de neurones, leur nature non déterministe et leur capacité à apprendre de nouvelles données font que les techniques de démonstration de sécurité utilisée pour les logiciels classiques ne sont pas opérantes. D’autre part, l’augmentation du périmètre des tâches automatisables, et l’évolution progressive vers des collectifs de travail composés d’acteurs humains qui collaborent avec différentes machines et agents intelligents, sont de nouveaux facteurs à articuler avec les facteurs organisationnels et humains de la sécurité.

Quels sont les principaux enjeux en termes de gestion des compétences, de bien-être au travail, de respect de la vie privée, de recherche d’une performance qui soit respectueuse des attentes sociales, que posent ces nouvelles technologies ? Quelles modifications nécessaires de nos manières de penser la sécurité des activités à forts enjeux, de démontrer et vérifier l’absence de risques inacceptables, d’anticiper les dérives possibles ?

Ce document propose un survol synthétique des dernières informations disponibles, les mettant en regard des travaux de recherche conduits depuis plusieurs décennies sur l’automatisation dans les systèmes à risque d’accident majeur. Il se focalise sur les impacts pour les industries à risque d’accident majeur à l’horizon de 10 ans.