\n Grok, le robot conversationnel d'xAI, la start-up d'intelligence artificielle d'Elon Musk, a g\u00e9n\u00e9r\u00e9 plusieurs publications faisant r\u00e9f\u00e9rence \u00e0 un \"g\u00e9nocide blanc\" en Afrique du Sud, une erreur imput\u00e9e \u00e0 une \"modification non autoris\u00e9e\", selon l'entreprise.\n<\/p>\n
\n Grok a provoqu\u00e9 une certaine stupeur cette semaine en r\u00e9pondant \u00e0 plusieurs utilisateurs avec des contenus reprenant la propagande d'extr\u00eame droite \u00e0 propos d'une pr\u00e9tendue oppression des Sud-Africains blancs.\n<\/p>\n
\n Ainsi, selon des captures d'\u00e9cran, \u00e0 la question tout \u00e0 fait innocente d'un utilisateur: \"Combien de fois HBO (un service de streaming) a-t-il chang\u00e9 de nom ?\", Grok a fourni une courte r\u00e9ponse sur le sujet... avant de partir dans un d\u00e9lire \u00e0 propos d'un \"g\u00e9nocide blanc\" et de citer une chanson anti-apartheid \"Kill the Boer\" (\"Tuez les Boers\").\n<\/p>\n
\n En r\u00e9ponse \u00e0 un autre utilisateur lui demandant pourquoi il semblait obs\u00e9d\u00e9 par ce sujet, le robot conversationnel a r\u00e9pondu candidement que ses \"cr\u00e9ateurs chez xAI lui avaient ordonn\u00e9 de s'emparer du sujet du +g\u00e9nocide blanc+\".\n<\/p>\n
\n Elon Musk, lui-m\u00eame n\u00e9 en Afrique du Sud, a accus\u00e9 par le pass\u00e9 les dirigeants du pays \"d'encourager ouvertement le g\u00e9nocide de personnes blanches en Afrique du Sud\".\n<\/p>\n
\n - \"Sujet sensible\" -\n<\/p>\n
\n Dans un communiqu\u00e9, xAI a indiqu\u00e9 qu'une \"modification non autoris\u00e9e\" de Grok l'avait conduit \u00e0 fournir des r\u00e9ponses qui \"violaient les politiques internes et les valeurs fondamentales de xAI\".\n<\/p>\n
\n A la suite de cet \u00e9pisode, l'entreprise a men\u00e9 une \"enqu\u00eate approfondie\" et a notamment mis en place une \"\u00e9quipe de surveillance 24 heures sur 24, sept jours sur sept\" pour faire face \u00e0 de futurs incidents.\n<\/p>\n
\n Apr\u00e8s les r\u00e9actions brutales provoqu\u00e9es par ses messages, Grok a commenc\u00e9 \u00e0 effacer ses r\u00e9ponses inad\u00e9quates. Et quand un utilisateur l'a interrog\u00e9 sur ces suppressions, le robot a r\u00e9pondu: \"Il n'est pas clair pourquoi des r\u00e9ponses sont effac\u00e9es sans fournir de d\u00e9tails particuliers, mais les politiques de mod\u00e9ration de X jouent vraisemblablement un r\u00f4le\".\n<\/p>\n
\n \"Le sujet +du g\u00e9nocide des blancs en Afrique du Sud+ est sensible, et souvent pollu\u00e9 par de la d\u00e9sinformation ou des discours de haine, ce qui viole les r\u00e8gles de cette plateforme\", a-t-il ajout\u00e9.\n<\/p>\n
\n Ce faux-pas digital illustre la difficult\u00e9 \u00e0 mod\u00e9rer les r\u00e9ponses des robots conversationnels, une technologie qui \u00e9volue rapidement dans un environnement min\u00e9 par la d\u00e9sinformation. Les experts appellent d'ailleurs \u00e0 davantage de r\u00e9gulation.\n<\/p>\n
\n \"Les r\u00e9ponses \u00e9tranges et sans rapport avec les questions de Grok nous rappellent que les robots conversationnels sont encore une technologie naissante et ne constituent pas toujours une source d'information fiable\", note le site sp\u00e9cialis\u00e9 Tech Crunch.\n<\/p>\n
\n \"Ces derniers mois, les fournisseurs de mod\u00e8les d'IA ont eu du mal \u00e0 mod\u00e9rer les r\u00e9ponses de leurs robots, ce qui a donn\u00e9 lieu \u00e0 des comportements \u00e9tranges\", ajoute le site.\n<\/p>\n
\n - Femmes d\u00e9shabill\u00e9es -\n<\/p>\n
\n En d\u00e9but d'ann\u00e9e, Sam Altman, directeur g\u00e9n\u00e9ral d'OpenAI, avait annonc\u00e9 l'annulation d'une mise \u00e0 jour de ChatGPT qui rendait le c\u00e9l\u00e8bre robot conversationnel trop flagorneur.\n<\/p>\n
\n Grok, qu'Elon Musk promettait \"audacieux\" lors de son lancement en 2023, a quant \u00e0 lui cr\u00e9\u00e9 r\u00e9cemment plusieurs pol\u00e9miques.\n<\/p>\n
\n En mars, xAI a acquis le r\u00e9seau social X pour 33 milliards de dollars afin de permettre \u00e0 l'entreprise d'int\u00e9grer les donn\u00e9es de la plateforme dans le d\u00e9veloppement de Grok.\n<\/p>\n
\n Mais le m\u00e9dia d'investigation Bellingcat a r\u00e9cemment d\u00e9couvert que des utilisateurs de X se servaient de Grok pour cr\u00e9er des images sexuelles, en utilisant le robot pour d\u00e9shabiller des femmes sur les photos qu'ils publiaient sur la plateforme.\n<\/p>\n
\n Et le robot conversationnel s'est encore illustr\u00e9 en diffusant de fausses informations en ao\u00fbt dernier dans plusieurs Etats am\u00e9ricains avant des \u00e9lections, ou en sugg\u00e9rant r\u00e9cemment qu'Elon Musk \u00e9tait probablement le \"plus grand diffuseur de d\u00e9sinformation sur X\". Grok a aussi jug\u00e9 que de fausses informations cr\u00e9\u00e9es par la propagande russe \u00e9taient vraies.\n<\/p>\n
\n Autant de probl\u00e8mes qui interviennent alors que de plus en plus d'utilisateurs du r\u00e9seau X se tournent vers Grok pour v\u00e9rifier des informations.\n<\/p>\n
\n \"La confiance croissante en Grok comme v\u00e9rificateur de faits intervient alors que X et d'autres grandes entreprises technologiques ont r\u00e9duit leurs investissements dans les mod\u00e9rateurs humains\", met en garde McKenzie Sadeghi, chercheuse chez NewsGuard.\n<\/p>\n
\n \"Nos recherches ont montr\u00e9 \u00e0 plusieurs reprises que les robots conversationnels d'IA ne sont pas des sources fiables d'informations, en particulier lorsqu'il s'agit d'informations de derni\u00e8re minute\", souligne-t-elle encore aupr\u00e8s de l'AFP.\n<\/p>\n
\n ac\/bdx\/cyb\n<\/p>\n
\n X<\/p>\n","protected":false},"excerpt":{"rendered":"
Grok, le robot conversationnel d'xAI, la start-up d'intelligence artificielle d'Elon Musk, a g\u00e9n\u00e9r\u00e9 plusieurs publications faisant r\u00e9f\u00e9rence \u00e0 un \"g\u00e9nocide blanc\" en Afrique du Sud, une erreur imput\u00e9e \u00e0 une \"modification non autoris\u00e9e\", selon l'entreprise. Grok a provoqu\u00e9 une certaine stupeur cette semaine en r\u00e9pondant \u00e0 plusieurs utilisateurs avec des contenus reprenant la propagande d'extr\u00eame […]<\/p>\n","protected":false},"author":60,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2576],"tags":[],"ji_location":[],"class_list":["post-145450","post","type-post","status-publish","format-standard","hentry","category-fil-d-actualite"],"acf":[],"yoast_head":"\n