Filtro de groserías: un sitio seguro para toda la familia

En Raptware los comentarios regresaron, pero con reglas claras: nada se publica sin que una persona lo lea, nuestro filtro de groserías avisa de lo que no debe estar ahí y ningún dato personal llega a la página. Lo hicimos porque queremos que el sitio sea seguro para todo público, empezando por los niños que juegan nuestros juegos.

Esta es la historia de cómo lo armamos, incluida la vez que nuestro propio filtro decidió que «monóculo» era una mala palabra.

Por qué habíamos quitado los comentarios

Hace tiempo los quitamos por completo. Un espacio abierto donde cualquiera escribe lo que quiere no es un buen lugar para un niño, y preferimos no tener comentarios a tenerlos sin cuidado.

Pero los comentarios valen la pena: ahí nos cuentan qué nivel les costó trabajo, qué les gustaría ver en la próxima actualización o simplemente que se divirtieron. Así que no los regresamos «igual que antes»: los regresamos con un sistema pensado desde el principio para un público familiar.

Cómo funcionan los comentarios ahora

• Todo pasa por moderación. Un comentario no aparece en la página hasta que alguien de Raptware lo aprueba.
• Podemos corregir antes de aprobar. Si un comentario es bueno pero menciona, por ejemplo, el nombre de una escuela o de una colonia, quitamos ese dato y lo publicamos. Así no hay que tirar un mensaje entero por un descuido.
• Solo con cuenta. Para comentar hay que iniciar sesión. Eso deja fuera a los bots y le da a cada mensaje un autor.
• Los datos personales se rechazan, no se marcan. Si alguien escribe un teléfono, un correo o una dirección, el recuadro lo borra en cuanto termina de escribirlo y le explica por qué. Un moderador cansado podría aprobar un teléfono por error, y eso ya no se puede deshacer; por eso ese dato ni siquiera llega a la fila de revisión.
• En público solo sale tu primer nombre. Muchos niños escriben su nombre completo, y algunas cuentas de Google o Facebook lo traen tal cual. «Roberto» no identifica a nadie; un nombre con apellidos junto a lo que esa persona escribió, sí.

El problema del monóculo

Para los nombres de usuario y los comentarios hicimos un filtro de groserías en español, inglés y portugués. La primera versión era sencilla: buscar cada palabra prohibida dentro del texto. Y entonces empezaron a caer palabras perfectamente inocentes.

«Monóculo», «vehículo», «músculo», «espectáculo»… todas llevan escondida una palabra de cuatro letras que en México no se dice en la mesa. «Computadora» esconde otra. De hecho, la palabra «artículo» también la trae: con ese primer filtro, este mismo artículo no habría pasado.

No somos los primeros en tropezar con esto. En programación se le conoce como el problema de Scunthorpe, por un pueblo de Inglaterra cuyos habitantes no podían abrir una cuenta de correo en los años noventa porque el nombre de su pueblo contiene una grosería en inglés.

Cómo lo resolvimos

• Cada palabra dice cómo se busca. Las palabras cortas o ambiguas solo cuentan si están solas. Las que no tienen otra lectura cuentan también dentro de otra palabra.
• Una lista de palabras inocentes. Monóculo, vehículo, computadora y muchas más se tapan antes de buscar. Las tapamos en vez de saltarnos el texto entero, así que alguien que pega una grosería a «monóculo» no se sale con la suya.
• Los disfraces también cuentan. Una grosería escrita con números en lugar de letras, o metida en medio de un nombre de usuario, también la encontramos.

Y al escribir este artículo encontramos un caso que se nos había pasado: en portugués, «veículo» y «espetáculo» todavía caían. Ya quedó corregido. Así es esto: se mejora todos los días.

Preferimos equivocarnos del lado amable

Un filtro de groserías siempre se equivoca de alguno de los dos lados: deja pasar algo que no debía, o bloquea algo inocente. Nosotros elegimos con cuidado de qué lado queremos fallar en cada caso:

• En los nombres, el filtro bloquea. Por eso es estricto con lo que busca y generoso con la lista de palabras inocentes: si se equivoca, hay alguien que no puede usar su propio nombre, y eso es muy injusto.
• En los comentarios, el filtro solo marca. El comentario llega a la persona que modera con un aviso amarillo, y es ella quien decide. Rechazar groserías en automático solo enseña a escribirlas de otra forma; con una persona leyendo, eso no funciona.
• Si ocultamos un nombre, te avisamos. Cuando un nombre no puede mostrarse en público, en su lugar sale «####» y su dueño recibe un aviso para cambiarlo. Nadie se queda sin saber qué pasó.

La clasificación por edad, a la vista

Un sitio para toda la familia no significa que todos nuestros juegos sean para niños pequeños. Significa que madres, padres y quien juega saben siempre qué tiene enfrente. Por eso cada ficha de juego muestra su clasificación por edad con el sello de cada autoridad (ESRB, PEGI y las demás que tenga el juego) y sus descriptores de contenido.

Si algún día publicamos un juego con contenido que no es para menores, la clasificación lo va a decir con claridad, en la misma página donde está el botón para jugar. Puedes verlo, por ejemplo, en la ficha de Animondos' Reversi.

Lo que sigue

Somos un estudio pequeño, y todo esto lo construimos nosotros: el filtro, la moderación y cómo se muestran las clasificaciones. Lo hicimos así porque un sitio de juegos debería ser un lugar donde un niño pueda entrar sin que nadie tenga que preocuparse.

Si encuentras una palabra inocente que nuestro filtro está marcando, o algo que se nos escapó, cuéntanos en los comentarios. Una persona los va a leer, te lo prometemos.

¿Buscas algo para jugar ahora mismo? Echa un vistazo a nuestros juegos online gratis sin descargar.