Discord espère libérer des modérateurs humains pour les problèmes plus généraux dans les communautés qu’ils gèrent.
“Les modérateurs passent un temps assez décent à surveiller leurs serveurs, mais je pense que le véritable super pouvoir des modérateurs est lorsqu’ils cultivent davantage la culture et organisent des événements. [rather than policing individual comments]Jesse Wofford, directeur du marketing produit du groupe Discord, a déclaré au Washington Post. “Il y a beaucoup de choses qu’ils font chaque jour que nous pouvons automatiser.”
Le point de vue de Discord sur AutoMod peut automatiquement détecter, bloquer et alerter les modérateurs de mots, de phrases et même de portions de mots jugés inappropriés avant qu’ils ne deviennent visibles pour les autres utilisateurs. Il peut également exclure automatiquement les utilisateurs qui tentent de publier des insultes ou des spams ; un modérateur humain peut décider de leur sort à une date ultérieure.
L’AutoMod de Discord est un cran au-dessus des robots créés par les utilisateurs que des parties de la communauté Discord ont adoptés essentiellement dans le même but, mais qui – en raison de leur manque d’accès au fonctionnement interne de Discord – ne peuvent supprimer les messages nuisibles qu’après leur apparition. moins une fraction de seconde. De plus, les utilisateurs doivent rechercher des bots et les installer sur leurs serveurs, où AutoMod de Discord est intégré à la plate-forme, ce qui la rend plus accessible.
Cependant, plutôt que de forcer les communautés Discord patrouillées par des bots à jeter leurs listes de mots-clés soigneusement préparées et à recommencer, Discord partage la possibilité de supprimer des messages avant qu’ils ne soient transmis à des développeurs tiers, mettant ainsi à niveau efficacement les bots de modération créés par les utilisateurs.
“S’ils utilisent des outils qui rendent leur communauté plus sûre et plus facile à gérer, que ce soit via un tiers ou via nous, c’est une victoire pour nous quoi qu’il en soit”, a déclaré Wofford. Il a également ajouté que bien que Discord AutoMod partage des fonctionnalités avec la variation de Twitch sur le thème, Discord s’est inspiré non pas d’autres plates-formes, mais de “parler à nos développeurs et à nos administrateurs”.
Cette nouvelle fonctionnalité axée sur la sécurité arrive à un moment où Discord fait l’objet d’un examen minutieux de la part de ses propres utilisateurs et de politiciens comme La procureure générale de New York, Letitia James suite à la révélation que le tireur de Buffalo a présenté de manière préventive ses plans d’attaque sur un petit serveur Discord, que Discord a depuis déclaré avoir gardé entièrement privé jusqu’à seulement 30 minutes avant l’attaque. Malgré le timing, Wofford a expliqué qu’AutoMod est en préparation depuis “un certain temps” et que son lancement n’est pas une réaction à la tragédie.
Pourtant, a-t-il dit, l’équipe de confiance et de sécurité de l’entreprise – qui s’efforce d’atténuer les problèmes plus vastes à l’échelle de la plate-forme impliquant des dommages et de la violence comme la fusillade de Buffalo – est impliquée dans de nombreuses initiatives à travers Discord, AutoMod inclus.
“La collaboration croisée entre nos deux équipes est assez constante”, a déclaré Wofford. “Même des choses comme la liste prédéterminée de mots [AutoMod initially suggests for users to block] a été travaillé avec notre équipe de sécurité et les experts qu’ils ont à la fois en interne et en externe.
Mais la liste suggérée par Discord n’est qu’un début. Les mèmes sont en constante évolution, tout comme les sifflets de chien, les messages de spam et d’escroquerie et les fautes d’orthographe délibérées de mots qui dépassent même les filtres les plus vigilants. Un mot totalement innocent sur un serveur Discord peut être une remarque raciste sur un autre. Wofford et sa société espèrent que les listes de mots clés personnalisées d’AutoMod permettront aux modérateurs de réagir si rapidement et de manière si complète que même les trolls créatifs perdent tout intérêt.
“Nous investissons autant sinon plus d’efforts de notre côté pour nous occuper des problèmes de sécurité même sans les modérateurs”, a-t-il déclaré. « Mais nous savons aussi que les modérateurs ont souvent le plus de contexte pour ce qu’ils font ou ne veulent pas dans leur communauté. Et ces types d’outils en particulier visent à leur donner des moyens plus puissants de mettre en œuvre cela par eux-mêmes.
La nouvelle version d’AutoMod de Discord est loin d’être un produit fini. Wofford a déclaré qu’en ce qui concerne les fonctionnalités futures, l’équipe envisage une fonctionnalité AutoMod plus nuancée qui pourrait, par exemple, permettre à certaines règles de n’entrer en vigueur qu’à des moments précis de la journée lorsque les modérateurs sont absents. Mais tout dépendra des utilisateurs.
“Une fois que nous aurons publié cela, nous voulons comprendre combien de personnes l’utilisent réellement”, a-t-il déclaré. “Et si les gens ne l’utilisent pas, quelles sont les choses qui nous manquent?”