Nous développons un MMO en utilisant Smartfox Server. Le public ciblé est les enfants de 7 à 12 ans.
Il existe une option de discussion globale dans ce MMO.
Peu importe ce que l'utilisateur tape dans une zone de texte, il sera affiché à côté de l'avatar de l'utilisateur après avoir cliqué dessus.
Nous aimerions filtrer le langage abusif / profanations de ce chat.
Nous pourrions capturer le chat et lire le texte. Le problème est d'obtenir la liste des blasphèmes elle-même.
Nos questions sont
- Où obtiendra-t-on une liste exhaustive de tous les blasphèmes?
- Quelle méthode est adoptée dans un scénario similaire pour les filtrer?
Réponses:
Ne pas
Les filtres ne fonctionnent pas. Au moins, seuls les filtres ne fonctionnent pas. Listes blanches, listes noires, peu importe. Aucune de ces solutions n'empêchera jamais les enfants de se harceler les uns les autres. La seule façon de faire ce travail serait de ne pas filtrer le chat, mais de fournir de gros blocs de construction pour les phrases. Par exemple, un enfant pourrait sélectionner "Voulez-vous ..." et les options "Aller à ..." et "Échanger ..." seraient affichées. Sélectionner "aller à ..." ferait apparaître une liste de lieux dans le jeu.
Disney a opté pour cette méthode pour son MMO "Toontown", après que son sujet de test de liste blanche âgé de 14 ans ait décidé de "coller [sa] girafe au long cou sur [son] lapin blanc moelleux". En termes simples, vous ne pouvez pas mettre sur liste noire ou sur liste blanche suffisamment de mots pour prévenir les abus.
En fin de compte, si je concevais un MMO pour enfant, je mettrais en place un filtre de liste noire très strict, mais uniquement en tant que deuxième ligne de défense. Votre première ligne de défense devrait toujours être les modérateurs et la capacité de signaler les abus. Je pondérerais les mots de la liste noire, chaque utilisateur obtenant un score secret indiquant à quel point il était profane.
Il y a de fortes chances que tout utilisateur qui tentera de contourner votre filtre le déclenchera en premier. Les blasphèmes les plus évidents (par opposition aux obscènes ou obsolètes) ou les tentatives de profanations répétées, les placent sur une liste de surveillance pour les modérateurs, ou une sorte de liste d'interdiction . Ainsi, les modérateurs peuvent se concentrer sur les utilisateurs qui semblent tenter de harceler les autres au lieu de perdre leur temps à lire les commentaires d'enfants encore innocents.
la source
En réponse aux gens qui disent de ne pas fournir le filtre, je dirais que vous devez fournir un filtre pour la seule raison que vous ne couvriez pas vos propres épaules vis-à-vis des parents de votre public cible. Assurez-vous simplement qu'il peut être désactivé par l'utilisateur. En mettant en place un filtre grossier (bien qu’il soit imparfait et totalement optionnel), vous pouvez dire que vous avez fait tout ce que vous attendiez de vous pour protéger les sensibilités de votre jeune public.
En rendant la désactivation possible, vous dissuaderez les utilisateurs d’essayer de la contourner en utilisant une ponctuation ou une substitution astucieuse, car ceux qui sont favorables à ce type de langage désactivent immédiatement le filtre sur leurs propres ordinateurs et oublient depuis longtemps qu’un filtre existe même. .
Avec cette compréhension, ne vous inquiétez pas trop de la mise en œuvre. Il n'a pas besoin d'être infaillible (ce qui est bien, car il ne peut l' être), mais il devrait être relativement complet et aussi peu intrusif que possible. C'est-à-dire que vous ne voulez pas vous assurer que vous ne commettez pas l' erreur " classique ".
La mise en œuvre peut être extrêmement simple: créez une liste de mots et remplacez tous les mots figurant dans la liste par des astérisques ou quelque chose de similaire. Il est préférable de rechercher uniquement des mots entiers.
Pour ce qui est d'une liste de mots, rien de plus simple: http://www.google.com/search?q=profanity+word+list
Rappelez-vous que cela ne doit pas nécessairement être exhaustif, il doit simplement être représentatif d'un effort courageux de votre part pour protéger les enfants.
la source
J'essaierais de mettre en œuvre une solution permettant une liste noire et une liste blanche, dans laquelle vous pourriez ajouter «minou» à la liste noire et «scunthorpe» à la liste blanche, par exemple.
Je ne crois pas que vous puissiez jamais mettre en œuvre une solution sécurisée. Je tenterais donc d'obtenir les mots les plus "populaires" de votre dictionnaire et de simplifier au maximum l'ajout de nouveaux mots aux listes.
La raison en est que les langues, en particulier l'anglais, évoluent constamment et que quelque chose d'inoffensif pendant des décennies pourrait devenir offensant dans le bon contexte.
Essayez d’obtenir le plus de mots possible et de partir de là, prenez des temps de réaction rapides lorsque les gens se plaignent et montrez qu’il s’agit généralement d’une préoccupation et que je doute que vous ayez des problèmes.
Ce serait une bonne idée de savoir exactement quelles sont les règles de censure aux États-Unis: MBNL! (moi ne sois pas avocat!)
la source
Comme je l'ai dit, filtrer tous les mots offensants est très difficile - mais vous pouvez le changer, et utiliser une liste blanche de mots autorisés . En effectuant une recherche google, il semble assez courant que les jeux pour enfants limitent ce qu’ils peuvent taper à une liste. Par exemple, Lego Universe utilise une liste blanche.
Voir aussi: Liste blanche pour le chat en jeu . Et notez que les listes blanches peuvent être contournées . Il n'y a pas de solution garantie.
Considérant que c'est pour les jeunes enfants, une mauvaise orthographe peut être un problème - en fonction de l'interface client, vous pouvez envisager l'achèvement automatique du mot . Au fur et à mesure que les joueurs commencent à taper des lettres, proposez une liste de mots possibles et laissez-les choisir le bon.
la source
There's an answer from Programmers describing one system for building a profanity filter. He doesn't explain how he actually built it in great detail, but it should be enough to get an idea for implementation.
la source
This is a problem best solved by humans and social design rather than code.
Your best source for an exhaustive list is a live human who is present in the game and monitoring the chat stream. Put people in your game and let them be your ultimate filter.
Spend some time looking into Lane Merrifield's ideas and philosophies behind Club Penguin and about providing service. Here are two writeups from his presentation at the Austin GDC in 2008. I saw it and remember being very impressed with his style of solving human problems with humans and not code.
http://gamasutra.com/php-bin/news_index.php?story=20234
http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/
Specifically because your game is aimed at kids, it's more than just swear filters you'll need to think about. You'll need to worry about people posing as kids who may or may not have bad motives. You'll need to assure parents that their kids are safe. You'll need to assure kids that they are safe too for that matter.
Another plus for humans is that they will understand context. You don't want some kid saying, "My Mom has breast cancer" and getting kicked.
la source
Simple solution to the problem:
la source
Some MMOs for children simply replace chat with a predefined list of emotes and phrases and simply doesn't allow free-form chat. Perhaps the game could be designed to accommodate that.
la source