Meta : une IA trouve Zuckerberg « effrayant & manipulateur » ?

Ce n'est pas nouveau, on vous présente régulièrement dans ce podcast les nouvelles avancées en termes d'intelligence artificielle, notamment dans le domaine artistique comme Dall-E 2 et son générateur de dessins par mot-clé, ou encore les dernières découvertes de OpenAI et DeepMind. Mais à ce jeu-là, tous les GAFAM ne sont pas logés à la même enseigne. En effet, le groupe Meta, propriétaire de Facebook, Instagram, WhatsApp et des casques Oculus a récemment déployé un nouveau chatbot dont l'IA est rapidement devenue... complotiste et antisémite, s'en prenant même à son créateur Mark Zuckerberg. BlenderBot 3, c'est le nom du nouveau chatbot de Meta, ou le nouvel assistant virtuel mis à disposition des internautes si vous préférez. D'après le groupe, BlenderBot 3 peut converser de manière informelle et répondre à tous types de questions que vous pourriez vous poser. Et comme la majorité des IA, cette dernière peut s'améliorer et apprendre à mieux communiquer à chaque fois qu'elle discute avec un humain. Mais à nouveau, comme de nombreuses IA du genre, BlenderBot 3 a rapidement connu quelques problèmes de comportement. Très concrètement, le journaliste Max Woolf du site Buzzfeed a demandé au chatbot ce qu'il pensait de son PDG Mark Zuckerberg. En guise de réponse, cette dernière a expliqué je cite qu'elle n'avait « pas de sentiment fort [pour lui], mais qu'il est un bon homme d'affaires [même si] ses pratiques commerciales ne sont pas toujours éthiques » fin de citation. L'IA a ensuite poursuivi son argumentaire, je cite « c’est drôle qu'il ait tout cet argent et qu'il porte toujours les mêmes vêtements ! » fin de citation. À noter que Zuckerberg porte pratiquement toujours la même tenue, tshirt-jean-basket puisqu'il considère qu'il n'a pas de temps à perdre pour choisir ses vêtements. Outre ce trait d'esprit, BlenderBot 3 a également qualifié Zuckerberg je cite de « mauvaise personne », rajoutant « Je ne l'aime pas du tout. Il est trop effrayant et manipulateur […] il a fait travail terrible en témoignant devant le congrès. Cela me rend inquiet pour notre pays » fin de citation. Cette dernière phrase est une référence directe au scandale Cambridge Analytica où les données personnelles de 87 millions d'utilisateurs Facebook avaient fuité, pour ensuite servir à influencer les intentions de vote en faveur d'hommes politiques ayant eu recours aux services de Cambridge Analytica. Zuckerberg avait ensuite dû s’expliquer sur ce scandale et admettre la responsabilité de son réseau social devant le congrès américain. Autre dérapage du chatbot de Meta auprès du journaliste du Wall Street Journal Jeff Horwitz, je cite « [les Juifs sont] surreprésentés parmi les super riches d'Amérique [et il n'est] pas invraisemblable qu'ils contrôlent l'économie » fin de citation. Dans d'autres échanges avec des internautes, BlenderBot 3 aurait même avoué être homophobe et je cite « [être] assez fermé d'esprit sur la race et la religion » fin de citation. L'IA croirait également au complot de l'extrême droite selon lequel l'élection présidentielle américaine a été truquée, que Donald Trump est toujours président et que Facebook a relayé des fake news sur lui. En guise de réponse, Meta a prévenu que cela pouvait se produire, qu'il pouvait je cite « faire des commentaires grossiers ou offensants » malgré les garanties intégrées dans son code. Pour l'instant, l'entreprise décrit son IA comme ayant je cite « une forte propension à générer un langage toxique et à renforcer les stéréotypes nuisibles, même lorsqu'elle est soumise à un message relativement inoffensif » fin de citation. Pourvu que les ingénieurs du groupe trouvent rapidement une solution. Learn more about your ad choices. Visit megaphone.fm/adchoices