Lancement de la modération par intelligence artificielle : Avantages et inconvénients

Enfin, après plusieurs semaines de travail sur le sujet, je peux enfin vous annoncer que la modération par intelligence artificielle est disponible.

Quels sont les avantages d'une modération par IA et aussi, quels sont les inconvénients ? Oui, car malheureusement, il y en a quelques-uns.

En activant la modération depuis le tableau de bord, vous verrez le bouton "modération" apparaître dans votre menu.

À cette étape, vous êtes toujours en modération manuelle. Comme vous pouvez le voir, il y a un nouveau bouton où vous avez la possibilité d'activer la modération des photos par intelligence artificielle.

Alors, comment ça fonctionne ?

Lorsque vos convives ajoutent des photos au diaporama, elles sont réceptionnées par la console de modération.

Ensuite, si c'est la première utilisation de l'IA, celle-ci téléchargera en arrière-plan toutes les librairies nécessaires, donc cela peut prendre quelques minutes pour commencer à traiter les photos.

L'IA prendra l'initiative et validera si, selon elle, les photos sont conformes à la diffusion. Si elles ne le sont pas, vous pourrez identifier facilement la photo avec deux informations. Premièrement, visuellement avec le symbole AI en haut à droite de la photo, puis en dessous du nom de l'utilisateur, vous verrez apparaître "modération IA" avec le motif.

Si aucune de ces valeurs n'est présente, cela signifie que l'IA n'a pas encore traité la photo.

Si la photo est conforme, elle apparaîtra dans la galerie photo.

Si elle n'est pas conforme, elle restera dans votre console de modération.

À savoir :
En activant la modération par intelligence artificielle, vous réduisez de 89 % les risques de nudité, de photos inutiles (comme celles d'objets) et de publicités dans votre diaporama. Le coût du traitement est de 1 crédit par photo. Si, après traitement par l'intelligence artificielle, une photo est classée à tort (par exemple, comme de la nudité) et que vous cliquez sur le bouton "Accepter", le crédit consommé vous sera remboursé.

Les inconvénients maintenant, tout est une question de calibrage.

L'IA est en production, fonctionnelle mais peut parfois confondre de la nudité alors que ce n'en est pas.

Donc, de ce fait, la photo reste dans la console de modération. Il faut donc considérer l'IA comme une aide à la modération.

Comme indiqué, si l'IA se trompe et que vous acceptez la photo manuellement, vous serez remboursé du crédit consommé.

Pourquoi l'utilisation des crédits ?

La modération est généralement utilisée lors d'événements recevant du public, donc pour une utilisation à gros volume.

Les ressources utilisées par l'IA sont très élevées, la mise en place du système de crédit permet d'éviter une forte sollicitation de l'IA lorsque ce n'est pas forcément utile, comme par exemple pour un mariage, un anniversaire, du teambuilding, et bien d'autres.

Merci à tous pour votre confiance.

Cordialement,

Valentin