Le ministère de l'Économie a mis fin à l'expérimentation du modèle d'IA chinois Qwen AI, utilisé depuis début juin par une centaine d'agents de la direction générale du Trésor. En cause, des réponses jugées biaisées sur des sujets relatifs à la Chine, qui ont conduit Bercy à lui substituer un modèle de Mistral AI.
Le quotidien Le Monde et l'AFP ont révélé que le ministère de l'Économie a interrompu l'expérimentation de Qwen AI, un modèle d'IA du géant chinois du commerce en ligne Alibaba. En test depuis plusieurs semaines, il a été débranché le mardi 24 juin. La raison ? Des alertes de hauts fonctionnaires sur des « biais chinois » présents dans les réponses générées par le modèle, selon des informations transmises par Bercy à l’AFP.
Le modèle était employé dans un assistant conversationnel nommé « HéphAIstos », référence au dieu du feu, de la forge et de la métallurgie dans la mythologie grecque. Il était testé depuis le début du mois par une centaine d'agents de la direction générale du Trésor (DGT), pour les assister dans leurs tâches quotidiennes, telles que la transcription. L’outil a suscité la surprise de certains agents face à des « réponses orientées » ou « biaisées » sur des sujets concernant la Chine.
Le Monde rapporte les propos d'un haut fonctionnaire qui a jugé le choix de ce modèle « gravissime pour la manière dont on conseille le gouvernement français sur la politique commerciale de la Chine », car « il y a nécessairement un biais prochinois avec un logiciel développé sous le regard attentif des autorités chinoises ». Au modèle chinois a succédé un modèle du français Mistral AI.
Un test contradictoire ?
Si les biais des IA sont loin d'être le seul apanage des modèles chinois, le fait qu'ils concernent ici des sujets relatifs à la Chine laisse planer le doute quant à des ajouts volontaires de la part des développeurs pour ne pas froisser Pékin. À noter toutefois qu'aucun exemple des biais relevés par les fonctionnaires de la DGT n'a été dévoilé.
Autre sujet non moins sensible : quid de la sécurité des données partagées avec ce modèle ? Bercy a assuré que le modèle fonctionnait en local, sans accès internet, porte dérobée ou tout autre moyen ayant pu conduire à une fuite de données. Reste qu'en termes de communication, on a vu mieux. Alors même que la DGT testait un modèle chinois, le gouvernement a présenté un plan de déploiement d'IA souveraines auprès de ses agents.
L'État compte en effet généraliser l'utilisation d'outils tels que l'Assistant, un agent conversationnel souverain développé par la DINUM en partenariat avec Mistral AI sur l'infrastructure Outscale SecNumCloud. Selon un bilan du programme d'expérimentation, des tests auraient démontré des gains de temps de l'ordre de 12 % sur les tâches de rédaction et jusqu'à 16 % sur les tâches de synthèse documentaire. Globalement, 75 % des agents publics ont jugé l'Assistant utile pour leur métier, mais 57 % estiment que d'autres IA génératives répondent mieux à leurs besoins.
