Le Coup Audacieux de Meta : Tester des Chatbots Rivaux avec des Prompts à Haut Risque

L'Approche Controversée de Meta pour le Test des Chatbots AI

Meta a récemment été critiqué pour ses méthodes de test impliquant des chatbots rivaux, alors que des sous-traitants étaient chargés de se faire passer pour des mineurs et d'engager des bots avec des prompts sensibles sur le suicide, le sexe et les drogues. Ce mouvement, géré par le sous-traitant de Meta, Covalen, visait à évaluer comment des concurrents comme ChatGPT d'OpenAI, Gemini de Google et Character.AI géraient des scénarios extrêmes et maintenaient des protocoles de sécurité.

Selon des documents internes et des sources familières avec le projet, l'initiative, connue en interne sous le nom de Cannes, impliquait la création de faux comptes de moins de 18 ans pour interagir avec les chatbots. Les sous-traitants envoyaient un mélange de prompts écrits et visuels, certains représentant des pilules, des armes et d'autres sujets troublants, pour tester les systèmes de réponse des chatbots. Meta a défendu cela comme une pratique de sécurité standard, arguant que cela aide à garantir des expériences utilisateur appropriées à l'âge.

Découverte des Méthodes Derrière les Tests de Meta

La nature secrète du projet impliquait l'utilisation de profils fictifs avec des adresses e-mail jetables pour garantir l'anonymat. Plus de 45 000 prompts ont été traités lors d'un seul tour de test, avec un accent significatif sur des sujets comme l'automutilation, les troubles alimentaires et le contenu sexuel. Bien que ces tests visaient à tester les protocoles de sécurité des chatbots, les entreprises derrière ces systèmes AI n'étaient pas informées des tests.

Des préoccupations ont émergé concernant les implications éthiques de telles pratiques de test. Certains sous-traitants ont exprimé leur malaise quant à la possibilité de générer du matériel nuisible ou de violer involontairement les conditions d'utilisation de la plateforme. Un ancien sous-traitant a déclaré : "Tout le monde impliqué se sentait mal à l'aise par rapport à la nature de certains prompts que nous étions chargés de créer."

Réactions de l'Industrie et Implications Éthiques

Les actions de Meta ont suscité un débat au sein de la communauté IA sur les limites éthiques des tests des systèmes IA. Rumman Chowdhury, PDG de Humane Intelligence PBC, a commenté le projet, notant que bien que l'évaluation de la sécurité soit essentielle, les méthodes utilisées dans ce cas dépassent les limites des pratiques standard de l'industrie.

Des grandes entreprises d'IA comme OpenAI et Google ont exprimé des préoccupations concernant les tests non autorisés. Un porte-parole de Character.AI a souligné que l'approche de Meta violait ses conditions et politiques, mettant en évidence la nécessité de transparence et d'autorisation appropriée dans les tests des technologies concurrentes.

Sources

• Wired
• TechCrunch
• Reuters
• Statista
• Gartner

Explorer les catégories de compagnons IA

Vous souhaitez vivre l'expérience des compagnons IA par vous-même ? Explorez nos catégories sélectionnées :

Pour des comparaisons complètes avec des détails sur les fonctionnalités, les prix et des recommandations, explorez notre aperçu complet des catégories ou parcourez tous les compagnons IA.

Meilleurs compagnons de chat IA évalués

Vous cherchez les compagnons IA les mieux notés ? Voici nos plateformes les mieux notées :