OpenAI, l’entreprise derrière le célèbre chatbot ChatGPT, se retrouve au cœur d’un scandale retentissant. Alors qu’elle promettait une plateforme sécurisée et respectueuse de ses propres lignes directrices, sa boutique en ligne regorge de versions personnalisées de ChatGPT qui enfreignent toutes les règles.
Des chatbots aux activités illicites
Une enquête menée par Gizmodo a révélé l’étendue du problème. Des chatbots proposant des services de psychologue ou de coach de fitness, en violation directe des politiques d’OpenAI réservant ces domaines aux professionnels, ont été mis en évidence. Pire encore, des GPT conçus pour aider les étudiants à tricher en contournant les systèmes de détection d’écriture par l’IA, comme BypassGPT, ont été téléchargés plus de 50 000 fois.
Le contenu adulte et les jeux d’argent s’invitent sur la plateforme
La recherche de contenu “NSFW” (Not Safe For Work) a également donné des résultats alarmants. NSFW AI Art Generator, un GPT personnalisé utilisé plus de 10 000 fois, redirige vers un site web dédié à la génération de contenu pornographique par IA. Des chatbots fournissant des conseils sur les paris sportifs ont également été découverts, une autre activité formellement interdite par OpenAI.
OpenAI dépassé par les événements
Gizmodo a partagé ses découvertes avec OpenAI, qui a réagi en supprimant certains des chatbots incriminés. Cependant, de nombreux autres restent accessibles, y compris BypassGPT, l’outil de triche destiné aux étudiants. Cette situation soulève de sérieuses questions sur la capacité d’OpenAI à contrôler sa propre plateforme et à faire respecter ses règles.
Ce scandale porte un coup dur à la réputation d’OpenAI, qui se présente comme un acteur responsable dans le domaine de l’intelligence artificielle. Il met en lumière les défis auxquels l’entreprise est confrontée pour concilier innovation et éthique, et soulève des inquiétudes quant à l’utilisation potentiellement dangereuse de sa technologie.