IA en entreprise : la gouvernance n'est plus une option

Les régulateurs ont fini de demander poliment.

Pendant des années, la gouvernance de l'intelligence artificielle reposait sur des principes. Des chartes. Des bonnes intentions. Volontaires, toutes. Ce temps est révolu.

Du principe à la loi

Le Règlement européen sur l'intelligence artificielle, le Règlement (UE) 2024/1689, ne demande pas votre avis. Il impose. Une approche fondée sur le risque. Des obligations échelonnées. Des sanctions réelles. Les systèmes à haut risque doivent être recensés, documentés, évalués et surveillés. Ce n'est plus une suggestion. C'est une exigence.

De l'autre côté de l'Atlantique, le cadre de gestion des risques de l'IA du NIST, le AI Risk Management Framework, commence par une fonction unique avant toute gestion : cartographier. Savoir ce que l'on possède. La norme ISO/IEC 42001, premier système de management dédié à l'IA, repose sur la même fondation.

Tous ces cadres partent du même point. Pas de tests de modèles sophistiqués. Un inventaire. Car une gouvernance qui ne commence pas par la question « que possédons-nous réellement ? » n'est que du théâtre.

Pourquoi c'est devenu une question de survie

La plupart des organisations utilisent déjà l'IA d'une manière que la direction ne voit pas entièrement. Des outils publics pour rédiger, résumer, trier des candidatures, évaluer des dossiers. Souvent sans contrôle. Souvent sans inventaire.

Certaines de ces usages présentent peu de risque. D'autres décident du sort de personnes réelles : un emploi, un crédit, un accès à un service. Ces cas exigent une surveillance sérieuse. Le risque dépend du contexte. La même capacité peut être anodine dans un cas et lourde de conséquences dans un autre.

La question n'est plus « pouvons-nous l'utiliser ? ». La bonne question est : « pouvons-nous l'utiliser de manière responsable, l'expliquer clairement, et défendre notre décision si elle est contestée ? »

Les compétences recherchées

Les organisations recherchent des professionnels capables d'allier gouvernance, gestion des risques et conformité à une compréhension réelle de l'IA. Cartographie des systèmes. Évaluation des risques. Documentation des modèles. Tests d'équité et de biais. Supervision humaine. Gestion des tiers. Communication auprès de la direction et des régulateurs.

La compétence technique seule ne suffit pas. Les meilleurs profils traduisent un risque complexe en décisions concrètes que les dirigeants et les conseils d'administration peuvent comprendre.

Un métier, pas une contrainte

Quelqu'un doit trouver l'IA. L'évaluer. La documenter. Décider ce qui reste et ce qui s'arrête. Construire le processus pour que le prochain outil non approuvé soit repéré en une semaine, pas au moment d'un incident.

Ce quelqu'un, c'est un métier. Un métier qui se développe vite, en Europe comme ailleurs. Non pas pour freiner l'IA. Pour la rendre sûre et permettre d'avancer vite.

Ceux qui gouvernent l'IA sont recrutés. Les organisations qui l'ignorent finissent citées en exemple.

Découvrez les postes en gouvernance, risque et conformité de l'IA sur GRC Careers, et les rôles liés au Règlement européen sur les emplois EU AI Act.