Un modèle déployé peut rarement être considéré comme un produit inerte, « fini ». Une bonne gouvernance de l’IA implique une surveillance continue des indicateurs de performance des modèles et des retours des utilisateurs.
Dans une application réelle, il est presque inévitable que des problèmes imprévus et des cas extrêmes surviennent, peu importe la minutie avec laquelle vous planifiez, testez et utilisez la red team au préalable. En outre, même un modèle entraîné de manière optimale peut, au fil du temps, subir une dégradation de sa performance en raison de problèmes tels que la dérive.
Les modèles déployés nécessitent donc généralement d’être entraînés à nouveau périodiquement pour maintenir un niveau de performance adéquat et s’adapter à l’évolution des circonstances. Là encore, des schémas de versionnage bien pensés sont importants pour le débogage, la responsabilisation et une mise à jour sécurisée des systèmes critiques.