Filtro de palavrões: um site seguro para toda a família

Os comentários voltaram à Raptware, com regras claras: nada é publicado sem que uma pessoa leia, nosso filtro de palavrões avisa o que não deveria estar ali e nenhum dado pessoal chega à página. Fizemos assim porque queremos que o site seja seguro para todos os públicos, começando pelas crianças que jogam nossos jogos.

Esta é a história de como montamos tudo, inclusive o dia em que nosso próprio filtro decidiu que «computador» era palavrão.

Por que tínhamos tirado os comentários

Há um tempo tiramos os comentários completamente. Um espaço aberto onde qualquer um escreve o que quiser não é um bom lugar para uma criança, e preferimos não ter comentários a tê-los sem cuidado.

Mas os comentários valem a pena: é ali que nos contam qual fase deu trabalho, o que gostariam de ver na próxima atualização ou simplesmente que se divertiram. Então não os trouxemos de volta «como antes»: trouxemos com um sistema pensado desde o início para um público familiar.

Como os comentários funcionam agora

• Tudo passa por moderação. Um comentário só aparece na página depois que alguém da Raptware o aprova.
• Podemos corrigir antes de aprovar. Se um comentário é bom mas menciona, por exemplo, o nome de uma escola ou de um bairro, tiramos esse dado e publicamos o resto. Assim não é preciso descartar uma mensagem inteira por um descuido.
• Só com conta. Para comentar é preciso entrar na conta. Isso deixa os bots de fora e dá um autor a cada mensagem.
• Dados pessoais são rejeitados, não só marcados. Se alguém escreve um telefone, um e-mail ou um endereço, a caixa apaga assim que a pessoa termina de digitar e explica o porquê. Um moderador cansado poderia aprovar um telefone por engano, e isso não tem volta; por isso esse dado nem chega à fila de revisão.
• Em público aparece só o seu primeiro nome. Muitas crianças escrevem o nome completo, e algumas contas do Google ou do Facebook já o trazem assim. «Roberto» não identifica ninguém; um nome com sobrenomes ao lado do que a pessoa escreveu, sim.

O problema de Scunthorpe

Para os nomes de usuário e os comentários criamos um filtro de palavrões em português, espanhol e inglês. A primeira versão era simples: procurar cada palavra proibida em qualquer parte do texto. E então palavras totalmente inocentes começaram a cair.

«Computador» esconde um palavrão de quatro letras. Em espanhol, «monóculo» e «vehículo» escondem outro, e em inglês acontece o mesmo com «therapist» e «class».

Não somos os primeiros a tropeçar nisso. Na programação isso se chama problema de Scunthorpe, por causa de uma cidade da Inglaterra cujos moradores não conseguiam abrir uma conta de e-mail nos anos noventa porque o nome da cidade contém um palavrão em inglês.

Como resolvemos

• Cada palavra diz como é procurada. Palavras curtas ou ambíguas só contam quando aparecem sozinhas. As que não têm outra leitura contam também dentro de outra palavra.
• Uma lista de palavras inocentes. Computador, monóculo, veículo e muitas outras são cobertas antes da busca. Cobrimos essas palavras em vez de ignorar o texto inteiro, então quem gruda um palavrão numa palavra inocente não consegue enganar o filtro.
• Disfarces também contam. Um palavrão escrito com números no lugar das letras, ou escondido no meio de um nome de usuário, também é encontrado.

E, ao escrever este artigo, encontramos um caso que tinha passado: «veículo» e «espetáculo» ainda eram marcados. Já está corrigido. É assim que funciona: melhora todo dia.

Preferimos errar do lado gentil

Um filtro de palavrões sempre erra para um dos dois lados: deixa passar algo que não devia ou bloqueia algo inocente. Escolhemos com cuidado de que lado queremos errar em cada caso:

• Nos nomes, o filtro bloqueia. Por isso ele é rigoroso com o que procura e generoso com a lista de palavras inocentes: se erra, alguém não consegue usar o próprio nome, e isso é muito injusto.
• Nos comentários, o filtro só marca. O comentário chega a quem modera com um aviso amarelo, e é uma pessoa que decide. Rejeitar palavrões automaticamente só ensina a escrevê-los de outro jeito; com uma pessoa lendo, isso não funciona.
• Se escondemos um nome, avisamos. Quando um nome não pode aparecer em público, no lugar dele aparece «####» e o dono recebe um aviso para trocá-lo. Ninguém fica sem saber o que aconteceu.

A classificação etária à vista

Um site para toda a família não significa que todos os nossos jogos sejam para crianças pequenas. Significa que pais, mães e quem joga sempre sabem o que têm pela frente. Por isso cada página de jogo mostra a sua classificação etária, com o selo de cada órgão classificador (ESRB, PEGI e os outros que o jogo tiver) e os descritores de conteúdo.

Se um dia publicarmos um jogo com conteúdo que não é para menores, a classificação vai dizer isso com clareza, na mesma página do botão de jogar. Você pode ver isso, por exemplo, na página de Animondos' Reversi.

O que vem por aí

Somos um estúdio pequeno, e construímos tudo isso nós mesmos: o filtro, a moderação e a forma de mostrar as classificações. Fizemos assim porque um site de jogos deveria ser um lugar onde uma criança pode entrar sem que ninguém precise se preocupar.

Se você encontrar uma palavra inocente que nosso filtro está marcando, ou algo que escapou, conte para a gente nos comentários. Uma pessoa vai ler, prometemos.

Procurando algo para jogar agora mesmo? Dê uma olhada nos nossos jogos online grátis sem baixar.