Contexte et avertissements de l’AP sur les chatbots
Cette pratique consistant à privilégier les échanges via des interfaces de chat pilotées par l’IA n’est pas une exclusivité des Pays-Bas et se retrouve aussi en Suisse. Sur les sites des entreprises, il peut arriver qu’une fenêtre de dialogue invite les visiteurs à poser leur question sans passer par un conseiller humain, phénomène constaté et signalé par l’AP.
Préserver le contact humain et clarifier l’usage des robots
L’Autorité néerlandaise pour la protection des données (AP) a rappelé que les organisations qui utilisent des chatbots dans leurs services doivent toujours offrir aux gens la possibilité de parler à un représentant, afin de maintenir un contact humain lorsque cela est nécessaire.
Elle s’inquiète de la disparition progressive du contact humain et demande que le fait de dialoguer avec un robot soit clairement indiqué, les avancées technologiques rendant de plus en plus difficile de distinguer un interlocuteur humain d’une IA.
Après une première interaction insatisfaisante avec un chatbot, les consommateurs se voient souvent redirigés vers un autre chatbot plutôt que vers un humain, ce qui peut accroître leur frustration.
Perspectives et mesures possibles
Si la situation ne s’améliore pas, les régulateurs néerlandais envisagent d’imposer des règles plus strictes sur l’utilisation des chatbots.
Les autorités néerlandaises ont par ailleurs exhorté la Commission européenne à établir des lignes directrices claires pour la conception des chatbots alimentés par l’IA.
«Elles doivent être équitables, reconnaissables et accessibles. Et les gens ne doivent pas être induits en erreur», a rappelé l’AP.
