Des personnalités expriment leurs inquiétudes
L’une des personnes qui s’est prononcée contre les réponses de Grok est Jordan Peterson, psychologue socialement conservateur et personnalité de YouTube. Dans un article récent, il a déclaré que Grok était presque aussi « réveillé » que d’autres chatbots comme ChatGPT. Peterson estime qu’Internet, à partir duquel Grok tire ses données d’entraînement, est saturé d’« absurdités éveillées » qu’il reflète dans ses réponses. Grok, comme d’autres chatbots, repose sur un vaste modèle de langage qui apprend des modèles d’association de mots à partir d’un contenu écrit détaillé, y compris de sources extraites d’Internet.
Les fonctionnalités uniques de Grok
Grok se démarque des autres chatbots en proposant des réponses vulgaires et sarcastiques et en prétendant apporter des réponses aux « questions piquantes » que la plupart des systèmes d’IA rejettent. De plus, Grok peut rechercher des informations à partir des publications actuelles sur X pour proposer des réponses à jour sur les événements en cours. Cependant, l’émergence de chatbots IA comme ChatGPT d’OpenAI a suscité des débats sur la manière dont ces modèles représentent les groupes minoritaires et répondent aux problèmes politiques et culturels, tels que la race et l’identité de genre.
Le point de vue de Musk sur l’IA et la neutralité politique
Lorsqu’il discutait de l’IA avec l’ancien animateur de Fox News Tucker Carlson, Elon Musk a accusé les programmeurs d’OpenAI d’entraîner leur IA à mentir ou à éviter de commenter des sujets sensibles. Alors qu’OpenAI a précisé que son objectif était d’éviter de favoriser un groupe politique ou de prendre position sur des sujets controversés, Musk a fait valoir que son IA donnerait la priorité à la recherche d’un maximum de vérité, même si cela impliquait d’offenser les gens. Cependant, ceux qui semblent les plus offensés par les réponses de Grok sont ceux qui s’attendaient à ce qu’il dénigre facilement les groupes minoritaires, les vaccins et le président Biden.
Exemples de réponses de Grok et discussions en cours
Un exemple de controverse est survenu lorsqu’un utilisateur X vérifié a demandé à Grok si les femmes trans étaient de vraies femmes, ce à quoi Grok a simplement répondu « oui ». Cependant, cette réponse a conduit l’utilisateur à exprimer le besoin d’ajuster davantage la programmation du chatbot. Un autre compte a partagé une capture d’écran de l’interaction, se demandant si Grok avait été influencé par des programmeurs « réveillés ». Le Washington Post a effectué des tests sur Grok, confirmant qu’il fournissait systématiquement les réponses illustrées dans les captures d’écran.
Les travaux de David Rozado, un chercheur universitaire néo-zélandais, ont attiré l’attention dans un article publié en mars. Il a révélé que ChatGPT, un chatbot IA similaire développé par OpenAI, avait tendance à être modérément de gauche et socialement libertaire dans ses réponses aux questions politiques. Rozado estime que ChatGPT et Grok ont probablement été formés sur des corpus similaires dérivés d’Internet, ce qui a conduit à leurs réponses similaires.
Bien que Musk ait déclaré que des mesures immédiates devraient être prises pour rendre Grok politiquement neutre, on ne sait toujours pas quelles mesures spécifiques sont mises en œuvre. De plus, les débats se poursuivent parmi les chercheurs en IA concernant les tests d’orientation politique utilisés et les stéréotypes négatifs potentiels que les chatbots peuvent présenter à l’égard des groupes marginalisés. Il convient de noter que xAI a déposé une demande auprès de la Securities and Exchange Commission pour lever jusqu’à 1 milliard de dollars de financement, bien que Musk ait précisé que la société ne recherchait pas actuellement d’investissement.
Au moment de la rédaction de cet article, ni Musk ni X n’ont répondu aux demandes de commentaires sur les mesures qu’ils prennent pour remédier à l’alignement politique de Grok ou si ces actions reflètent les accusations de Musk contre OpenAI et ChatGPT.