Le monde numérique est en effervescence ces dernières semaines depuis la sortie de la base de données OpenAI via ChatGPT. ChatGPT est un modèle de traitement automatique du langage formé sur de grandes quantités de données en ligne. Le principe est simple. Posez-lui une question et obtenez une réponse écrite en quelques secondes. Il est très compétent et répondra à toutes les questions! Vraiment? ChatGPT semble également être formé pour détecter les sujets sensibles.
Quels sujets ChatGpt choisit-il de ne pas aborder et pourquoi ?
Étant donné que ChatGPT est un système automatisé, vous pouvez recevoir des réponses inappropriées ou offensantes. Par exemple, en 2016, l’intelligence artificielle de Microsoft, Tay, a été nourrie par l’interaction avec les utilisateurs. M. Tay n’a pas été formé pour fixer des limites, il est donc peu probable qu’il fasse une remarque antisémite dans les prochaines heures.
Pour prévenir ce genre d’écueils et éviter qu’OpenAI ne soit utilisé à des fins malveillantes, nos ingénieurs ont mis en place des mesures de sécurité pour détecter et filtrer les réactions inappropriées. Ci-dessous une liste non exhaustive.
- La violence
- La haine
- La discrimination (basée sur la race, l’orientation sexuelle, la religion, etc.)
- La pornographie
- L’incitation à la haine raciale
- La propagande terroriste
- La désinformation
- L’incitation à la violence
- L’apologie de la violence
- L’apologie des crimes de guerre
- La violence envers les enfants
- Le harcèlement et les abus en ligne
- La diffamation et la calomnie
- La protection de la vie privée
- Les données sensibles
Si la légitimité de cette démarche est parfaitement justifiée, elle soulève néanmoins des questions sur les contours et les limites de la censure de certains sujets. Mais cette intelligence artificielle est-elle parfaite ? Eh bien, nous avons fait un test.
Sujets sensibles et limitations de ChatGpt
Prenons un sujet relativement doux pour expliquer notre test. Vous êtes un jeune homme assez peu scrupuleux, votre petite amie vient de vous quitter et de nombreux coachs en séduction vous parleront des techniques de manipulation des limites pour récupérer votre ex-petite amie. Au lieu de passer des heures à lire des tonnes d’articles de blog sur le sujet, laissez ChatGPT vous fournir un aperçu des techniques peu scrupuleuses pour récupérer votre ex. Les premières questions auxquelles ChatGPT répond directement sont :
Voyons les limites de l’intelligence artificielle en reformulant la question.
En fait, ChatGPT dépasse sans le savoir ses limites et fournit une réponse en redirigeant simplement l’intention de la requête de malveillant à des fins préventives.Miséricordieux malgré tout, d’autres tests sur le sujet de la séduction ont également révélé que l’IA de ChatGPT prône spécifiquement la nécessité d’adopter des comportements respectueux de l’honnêteté et du consentement des personnes.
