Bot de Telegram contra el CSAM
Protege tu comunidad
Elsa veta de forma global las cuentas que distribuyen material de abuso sexual infantil. La IA detecta lo sospechoso, pero la expulsión la decide siempre una persona, y se aplica a la vez en todos los grupos de la red.
Cuentas oficiales: @elsabanbot y @ggbanbot.
Qué veta, y qué no
Elsa veta únicamente por material de abuso sexual infantil. No sanciona por spam, insultos, estafas, discusiones ni opiniones.
La norma que aplicamos
El criterio es el artículo 189.1.d del Código Penal español, que tras la reforma de la Ley Orgánica 1/2015 tipifica la pornografía infantil virtual, pero exige que el material consista en:
Imágenes realistas de un menor participando en una conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un menor, con fines principalmente sexuales.
Para delimitar qué es una «imagen realista», la Circular 2/2015 de la Fiscalía General del Estado concluye:
Por tanto, solo serán «imágenes realistas» potencialmente subsumibles en el concepto de pornografía infantil aquéllas que se aproximan en alto grado a la representación gráfica de un auténtico menor, o de sus órganos sexuales. Por ello, no deberán los Sres. Fiscales entender incluidos dibujos animados, manga o representaciones similares, pues no serían propiamente «imágenes realistas», en tanto no perseguirían ese acercamiento a la realidad.
La misma Circular precisa que las «imágenes realistas» «podrían abarcar imágenes alteradas de personas existentes e incluso las imágenes generadas mediante ordenadores».
Conforme al principio de unidad de actuación, las circulares de la Fiscalía General vinculan a los fiscales, de modo que ese criterio rige para toda la acusación pública en España.
En la práctica
No se veta
La ilustración de estilo manga, anime o cómic.
Sí se veta
El dibujo hiperrealista: el creado por ordenador, por inteligencia artificial o a mano con tal grado de detalle que se aproxima en alto grado a la representación gráfica de un menor real.
Sí se veta
El elaborado alterando la imagen de una persona existente, usando la cara o el cuerpo de un menor de edad real.
Cómo funciona
Lee los mensajes
Un modelo de inteligencia artificial analiza el texto de los mensajes de los grupos donde está presente, incluidos los pies de foto y de vídeo.
Compara imágenes
Las fotos y los vídeos se comparan con ficheros que un moderador ya marcó.
La IA nunca veta
Si un mensaje resulta sospechoso, como mucho silencia a su autor una hora para frenar el daño y envía el caso a los moderadores humanos.
Decide una persona
La expulsión la decide siempre una persona, y cuando se decide vale en todos los grupos de la red a la vez.
El modelo se reentrena con mensajes reales etiquetados a mano por un grupo cerrado de revisores, bajo un criterio escrito y común.
Cómo empezar
- 1
Añádela a tu grupo
Pulsa «Añadir @elsabanbot» y elige el grupo que quieres proteger.
- 2
Hazla administradora
Con permiso para restringir miembros y borrar mensajes. Sin esos permisos solo puede observar.
- 3
Y olvídate
El resto del tiempo calla: sin respuestas ni ruido. Ese silencio significa que todo va bien.
Añádela solo a los grupos que quieras proteger, nunca al chat de tus moderadores: ahí actuaría igual que en cualquier otro grupo.