Itch.io : le domaine supprimé par un logiciel de protection de marque basé sur l’IA

Le site de jeux indépendants Itch.io a été temporairement mis hors ligne durant le week-end en raison d’une demande de retrait automatique déclenchée par une page créée par des fans pour un jeu vidéo Funko Pop.

Cette situation est issue d’une page dédiée au jeu Funko Fusion, élaborée par des passionnés. Selon PCGamer, le créateur d’Itch.io, Leafo, a qualifié la page de “inoffensive”, contenant des liens vers le site officiel et diverses captures d’écran. Pourtant, le service de protection de marque automatisé BrandShield, utilisé par Funko, a identifié la page comme étant « frauduleuse et de phishing », entraînant ainsi des demandes de retrait auprès du fournisseur d’hébergement d’Itch.io (Linode) et du registraire de domaine (iwantmyname).

Leafo a obéi à la demande de Linode et a supprimé la page litigieuse. Cependant, le système automatisé d’iwantmyname a désactivé le domaine d’Itch.io sans test humain. Cela a entraîné la mise hors ligne de l’ensemble du site, perturbant le service pour de nombreux développeurs indépendants et joueurs.

Les dangers de l’automatisation

Cette affaire met en évidence les dangers potentiels d’une dépendance excessive aux systèmes automatisés pour la modération de contenu et les demandes de retrait. L’absence de contrôle humain dans le processus de BrandShield ainsi que la réponse automatisée d’iwantmyname ont conduit à un retrait excessif et erroné d’un site légitime. Heureusement, Itch.io a depuis été restauré, permettant ainsi aux développeurs de reprendre leurs activités.

Pour une intervention humaine nécessaire

Ce genre d’incident nous rappelle les conséquences possibles d’une automatisation incontrôlée et souligne l’importance de l’intervention humaine dans les processus décisionnels tests. Bien que l’intelligence artificielle puisse faciliter certaines tâches, ses capacités actuelles ne peuvent pas entièrement remplacer l’expertise humaine.

Cette situation pourrait encourager les plateformes à revoir leurs procédures et à intégrer davantage de vérifications humaines dans le traitement des demandes de retrait. En effet, il est crucial d’assurer un équilibre entre l’efficacité offerte par l’automatisation et la prudence inhérente à une évaluation humaine. Ce n’est qu’ainsi qu’on pourra protéger réellement les droits des créateurs et des utilisateurs.