Walhain adopte une charte pour encadrer l’utilisation de l’intelligence artificielle: “Tout citoyen conserve le droit d’interagir avec un agent réel”
"On parle beaucoup de l'intelligence artificielle (IA) qui modifie nos modes de fonctionnement, notre travail et qui aura peut-être un impact sur notre fiscalité", a commenté Xavier Dubois, le bourgmestre de Wa...
"On parle beaucoup de l'intelligence artificielle (IA) qui modifie nos modes de fonctionnement, notre travail et qui aura peut-être un impact sur notre fiscalité", a commenté Xavier Dubois, le bourgmestre de Walhain (Avenir Communal), en guise d'introduction.
Ce lundi 19 octobre, les élus ont en effet voté à l'unanimité une charte"relative à l'utilisation d'une intelligence artificielle responsable et digne de confiance au sein de l'administration communale".
Ce sont en fait huit principes qui ont été édictés. "Tout citoyen conserve le droit d'interagir avec un agent réel. C'est un principe essentiel à rappeler et à garantir vu l'évolution de l'IA", a ajouté le bourgmestre.
Le deuxième principe concerne la transparence: le citoyen doit être informé lorsque l'IA a été utilisée dans une communication. Le troisième point précise que "l'IA ne remplace jamais le jugement final de l'agent administration. Un humain doit finalement valider l'action ou la décision."
Cette charte stipule également, dans son volet "Droit d'explication et recours", que l'administration doit pouvoir apporter des explications sur la logique d'un processus qui a été utilisé par l'intelligence artificielle. "À ce stade, l'IA n'est pas utilisée dans un processus décisionnel, il s'agit plutôt d'un outil d'élaboration", a indiqué Xavier Dubois.
Il y a aussi tout le volet "Protection des données" qui est abordé:"Il est interdit d'introduire des données à caractère personnel dans l'IA." Un point très important, car ces données risqueraient d'être rendues publiques. Or, l'administration regorge de données confidentielles.
La Commune veillera aussi à "ce que les outils utilisés ne reproduisent pas de biais discriminatoires", que ce soit sur le genre, l'origine ou l'âge.
Elle sera également attentive à ce que les agents soient conscients de l'impact environnemental de l'utilisation de l'IA, très énergivore. Des formations seront données pour intégrer tous ces aspects.
Un travail salué par l'opposition
Aurélie Maréchal, cheffe de file du groupe Écolo (opposition), a salué le très bon travail et s'est notamment arrêtée sur les deux derniers principes:"On est tous observateurs de la vitesse des changements liés à l'IA. C'est super d'avoir un cadre très général, car la donne change vite. Il est bon de rappeler qu'il y aura toujours un jugement humain, mais aussi que la question environnementale soit prise en compte, de même que les très nombreux biais présents dans l'IA."
Le bourgmestre Xavier Dubois a encore glissé que cette charte "permettait de rassurer le citoyen sur ce qui est fait et sera fait, concernant l'intelligence artificielle".
Pour accéder à cet article, veuillez vous connecter au réseau internet.