Le Comité national pilote d’éthique du numérique (CNPEN) rend public son avis portant sur les enjeux éthiques des agents conversationnels. Il énonce une série de recommandations à destination des pouvoirs publics, des industriels, des chercheurs et des usagers. Cet avis répond à une saisine que lui a adressée le Premier ministre en 2019.

Les agents conversationnels (aussi appelés « chatbots ») sont des systèmes numériques capables d’interagir avec leurs utilisateurs en langage naturel, à l’écrit comme à l’oral. Aujourd’hui, on en trouve dans de nombreux objets de notre quotidien (smartphones, enceintes connectées, voitures, sites internet) : ils apportent des conseils de santé, facilitent le recrutement, gèrent des services après-vente, forment à distance, aident les personnes vulnérables, etc. L’utilisation de ces systèmes ne cesse de croître. Leur performance grandit aussi très vite : l’utilisation des « transformeurs » — gigantesques réseaux de neurones très performants — révolutionne le traitement automatique du langage et tout particulièrement la conception des agents conversationnels. Les concepteurs de ces systèmes envisagent de nouveaux développements capables de bouleverser certains aspects de notre vie : des « amis virtuels », des « anges gardiens » ou encore des « deadbots » (chatbots entraînés à partir des données d’une personne défunte).

Lire la suite du communiqué de presse

Lire l’avis n°3 du CNPEN