“Sydney”, “Tay”, leurs dérives et les questions sur le futur de l’IA.
Si vous vous souvenez de Tay, le chatbot de Microsoft qui avait fini par proférer des propos racistes et sexistes, vous serez peut-être intéressé par l’histoire de « Sydney », une évolution de « Bing Concierge Bot », le chatbot de Bing.
Kevin Roose, journaliste pour le New York Times, a récemment testé Sydney et a rapidement constaté que ce robot n’était pas non plus tout à fait politiquement correct. Cela soulève une question importante :
Pourquoi ces chatbots finissent-ils toujours par nous décevoir ?
Il y a deux raisons à cela. Tout d’abord, ces chatbots ne sont pas des êtres humains. Ce sont des programmes qui ne comprennent pas nos conventions sociales, les normes de la société et la morale. Ces chatbots sont conçus pour apprendre de nos interactions de manière linéaire, sans algorithmes pour l’empathie, la compassion, la décence et toutes ces valeurs qui nous rendent meilleurs. De plus, ils sont conçus pour apprendre de nos interactions, et que par conséquent, ils reflètent les comportements dominants sur Internet, les biais et les stéréotypes des internautes.
Certes, l’IA, les chatbots ont un potentiel énorme, mais ces robots et ces programmes ne sont pas la solution à tous nos problèmes. Nous devons plutôt penser à utiliser les technologies du web de manière responsable, en gardant nos propres biais et limites mentales à distance de nos profils sociaux.
Jean-Luc Houédanou est un blogueur spécialisé dans l’innovation et la transformation numérique, avec une expérience en développement web front-end. Après avoir obtenu un Master en gestion du commerce électronique de l’Université de Sherbrooke, il a travaillé sur des projets d’envergure mondiale pour diverses entreprises, startups et organisations internationales. Il est également impliqué dans des projets communautaires et technologiques en Afrique.
Il aide, par le biais de ce blog, les lecteurs à s’adapter aux évolutions rapides de la technologie et des tendances du marché.
En plus de ses articles sur l’innovation et la transformation numérique, Jean-Luc Houédanou écrit également des colonnes d’opinion et donne des conseils sur le bien-être mental. Son objectif est d’aider les lecteurs à se développer personnellement et professionnellement, en leur fournissant des conseils pratiques pour gérer le stress et améliorer leur qualité de vie.