Gouvernance de l'IA : le cadre que les COMEX n'ont pas encore posé
La majorité des organisations pilotent l'IA au niveau des cas d'usage, pas au niveau de la gouvernance. C'est l'inverse qu'il faut faire.
Par Ludivine Gustave Dit Duflo
Le problème n'est pas l'IA. C'est l'absence de cadre.
Depuis deux ans, c'est la question qui revient dans la plupart des discussions, lectures et rencontres avec des dirigeants sur ce sujet : "Quels cas d'usage IA devons-nous prioriser ?" C'est la mauvaise question.
Avant de choisir des cas d'usage, une organisation doit répondre à trois questions de gouvernance :
- Qui décide ? Quelles décisions liées à l'IA restent au niveau exécutif, lesquelles sont déléguées, et selon quels critères ?
- Qui rend des comptes ? En cas de défaillance d'un système IA, biais, erreur, dérive, qui porte la responsabilité, et devant qui ?
- Qu'est-ce qui est mesuré ? Sans indicateurs de gouvernance (pas seulement de performance), l'organisation pilote à l'aveugle.
Ce que j'observe sur le terrain
Les organisations les plus avancées ne sont pas celles qui ont déployé le plus de cas d'usage. Ce sont celles qui ont posé un cadre de gouvernance avant de généraliser les déploiements, un cadre qui distingue clairement l'expérimentation encadrée de l'industrialisation.
Ce qu'il faut décider maintenant
Trois arbitrages ne peuvent plus attendre :
- Le niveau de risque acceptable par catégorie de décision (opérationnelle, stratégique, réglementée).
- Le rôle du conseil d'administration dans la supervision de l'IA, souvent absent des chartes de gouvernance actuelles.
- La frontière entre automatisation et décision humaine, qui ne peut pas être laissée à l'appréciation de chaque équipe.
Ces trois arbitrages relèvent de la gouvernance, pas de la technique. C'est pour cela qu'ils remontent au COMEX, et qu'ils ne peuvent pas être délégués à la seule direction technique.
Sujets liés