Informe Discurso Del Odio ES
Informe Discurso Del Odio ES
INTRODUCCIÓN
Se ha teorizado ampliamente sobre el potencial deliberativo y democratizador de
Internet, y más en concreto, de las redes sociales. Su potencial participativo es
innegable, y ha generado muchas esperanzas en las posibilidades de transformación
política y social que ofrecen. Las redes sociales proporcionan un amplio acceso a
fuentes de información ajenas al control de los gobiernos y las grandes corporaciones,
facilitan la generación y coordinación de redes de activistas, y constituyen un espacio
inmejorable para la deliberación y el intercambio de ideas. Las redes sociales, son, en
palabras del experto en tecnologías de la información y la comunicación, Manuel
Castells, una plataforma de “auto-comunicación de masas”, un espacio de autonomía
comunicativa idóneo para que los actores sociales propicien la transición de la
indignación a la esperanza. En este sentido, se considera la entonces denominada
Primavera Árabe, el 15-M, u Occupy Wall Street como ejemplos de cómo las redes
sociales pueden contribuir a transformar la indignación en acciones y movimientos
horizontales, transformadores y emancipadores (Castells 2012).
Sin embargo, no conviene pecar de un exceso de optimismo, porque lo cierto es que
internet y las redes sociales también pueden ser utilizadas con fines radicalmente
diferentes a los expuestos. Tal y como afirma el ciberescéptico Evgeny Morozov,
Internet no “conduce necesariamente al respeto universal de los derechos humanos”.
Internet no es liberador ni democratizador en sí, sino que puede producir “diferentes
resultados políticos en diferentes entornos”, y por tanto conviene no dejarse llevar por
cierto “solucionismo tecnológico” o ciberutopismo (Morozov 2012).
De la misma manera que algunos movimientos emancipadores han hecho un
esperanzador uso de las redes sociales, fuerzas de signo contrario han demostrado su
capacidad de aprovechar ese potencial de las redes para fines opuestos. Gracias a
Edward Snowden, se comprobó cómo utiliza Estados Unidos las nuevas tecnologías
para la vigilancia y el espionaje indiscriminado. Otro ejemplo del lado oscuro de la Red
es el denominado 50 Cent Army, el “ejército” de comentaristas contratado por las
autoridades chinas para circular mensajes propagandísticos y favorables al gobierno,
en los debates en las redes.
Pero quizás el ejemplo más trágico, de cómo pueden ser utilizados internet y las redes,
es el de la crisis desatada en Kenia tras las elecciones de diciembre de 2007. La
propagación de mensajes incitadores a la violencia, a través de una variedad de foros
en Internet, está documentada como “un canal determinante a través del cual la
violencia fue alimentada, llevándose las vidas de más de mil personas, y el
desplazamiento de más de 600.000” (Gagliardone et al. 2014: 5).
1. UN
DIAGNÓSTICO
DEL
PROBLEMA
Efectivamente, este tipo de mensajes incitadores a la violencia ha encontrado en
Internet y las redes sociales, el canal adecuado para su propagación. Aunque el
alcance real del problema no ha sido determinado cuantitativamente, más que de una
manera fragmentada y parcial, existe una sensación compartida por periodistas,
juristas, ONGs, investigadores, y usuarios de las redes, en general, de que el problema
del discurso extremo en las redes sociales es cada día más preocupante.
En toda Europa se está produciendo una gran proliferación de mensajes extremistas,
asociada al contexto de la crisis de refugiados, con preocupantes “picos” de odio
islamófobo detectados en las redes a raíz de los atentados de París, Bruselas, o Niza.
Tras los atentados de París, #matadatodoslosmusulmanes se convirtió durante algunas
horas en el tercer hashtag más utilizado en España (Jubany y Roiha 2016).
Según estudios del think tank Demos, en Twitter, hay aproximadamente unos 10.000
tuits por día con insultos racistas en lengua inglesa, lo que supone uno de cada 15.000
tuits (Gagliardone et al. 2014). En otro estudio realizado por Demos, sobre misoginia,
que es otro de los motivos recurrentes de intolerancia, durante tres semanas de abril
de 2016, entre usuarios británicos de Twitter, se encontraron más de 200.000 tuits con
las palabras “zorra” o “puta”; constatándose que cada diez segundos, alguien insulta
con esas palabras a una mujer en Twitter.
En el estado español el problema no es menor. A continuación, algunos ejemplos de
2016. Moha Gerehou, presidente de SOS Racismo Madrid, de origen gambiano, ha
sido objeto de múltiples ataques. En julio de 2016, se le “subastaba” en Twitter como
un esclavo o una pieza de caza, como respuesta a la campaña
#EstadoEspanolNoTanBlanco. En septiembre del mismo año, fue amenazado de
muerte tras colgar en Twitter, una foto de una concentración en contra de la retirada
del callejero de Madrid del nombre de Millán Astray, fundador de la Legión1.
En agosto de 2016, Jordi Ballart, alcalde de Terrassa recibió amenazas homófobas a
través de Twitter y Facebook, a raíz de su decisión de retirar el nombre de una calle
dedicada a un miembro de la División Azul2.
En septiembre de 2016, la transexual Carla Antonelli, diputada de la Asamblea de
Madrid, recibió amenazas de muerte a través de Twitter, por su defensa de los
derechos del colectivo LGTB.3 El mismo mes de septiembre, el árbitro de fútbol infantil,
Jesús Tomillero, presidente de la asociación contra la LGTBFobia en el deporte, recibió
insultos y amenazas de muerte en Twitter, por ser el primer colegiado auto-declarado
gay en España4.
Estos son solo algunos casos recientes de acoso individual por motivos de odio e
1
http://www.eldiario.es/sociedad/Nuevas-presidente-SOS-Racismo-Madrid_0_563094347.html
2
http://www.elperiodico.com/es/noticias/sociedad/jordi-ballart-alcalde-terrassa-denuncia-amenazas-
homofobas-redes-sociales-5473496
3
http://ccaa.elpais.com/ccaa/2016/09/04/madrid/1472990074_481479.html
4
http://www.elperiodico.com/es/noticias/deportes/arbitro-gay-jesus-tomillero-denuncia-amenazas-muerte-
5376384
intolerancia, que han llegado a los medios de comunicación, y que constituyen la punta
del iceberg de una situación que se ha convertido en habitual en las redes sociales. A
nivel colectivo, el antigitanismo prolifera con impunidad en las redes, la islamofobia se
convierte en tendencia de manera recurrente, a través de hashtags como #stopIslam,
#terroristaswelcome o #musulmanesterroristas; el antisemitismo, la homofobia, la
misoginia…Todas las ideologías intolerantes encuentran en las redes sociales un
espacio de expresión privilegiado, que ha generado una especie de cultura del odio5,
que contamina e intoxica las redes con lenguaje abusivo, denigrante o agresivo, por
motivos, en gran medida, de intolerancia contra población inmigrada, refugiados,
musulmanes, homosexuales, y otras minorías.
Las instituciones internacionales y europeas no son ajenas a este problema. Prueba de
esta preocupación es la intensa actividad que ha desarrollado la Unión Europea
durante el último año, en la búsqueda de soluciones para este problema; a pesar de
que al mismo tiempo ciertas formas de racismo han ido ganando cada vez más terreno
en el discurso político europeo. Como hitos destacados de esta dedicación destacan la
firma del Código de Conducta con las empresas tecnológicas, y la puesta en marcha
de un Grupo de Alto Nivel, en el que ha involucrado a representantes de los estados
miembros de la Unión, del Parlamento Europeo, del Consejo de Europa, del Alto
Comisionado de la ONU para los Refugiados (ACNUR), de la Organización para la
Seguridad y la Cooperación en Europa (OSCE), de la Agencia Europea de Derechos
Fundamentales (FRA), y de organizaciones de la sociedad civil como Amnistía
Internacional, la Red Europea contra el Racismo (ENAR), la Plataforma Europea de
ONGs sociales, y la Asociación Internacional de Lesbianas, Gays, Bisexuales e
Intersex (ILGA), con el fin de prevenir y combatir los crímenes de odio y el discurso del
odio, con una especial dedicación a la contra-argumentación del discurso del odio
online.
También la UNESCO o la European Commission Against Racism y Intolerance (ECRI)
han destacado, en informes recientes, el crecimiento del discurso intolerante en
Internet y redes sociales, contra diferentes minorías, y la necesidad de encontrar
estrategias eficaces para combatirlo.
En definitiva, el problema del discurso del odio en Internet, y en las redes sociales, en
particular, es un asunto que ha adquirido tal dimensión que actualmente se encuentra
en la agenda de un buen número de organismos europeos e internacionales. Las redes
sociales se han convertido en un espacio de impunidad para la ira y el odio. El
machismo, la homofobia, la xenofobia, la islamofobia, el antigitanismo, el antisemitismo
y otras ideologías intolerantes aprovechan internet y las redes sociales para el insulto,
la humillación, el linchamiento social, el acoso, o la amenaza.
5
http://time.com/4457110/internet-trolls/
concepto emocional y abierto a la subjetividad. Es un concepto que genera confusión y
que por su subjetividad, es relativamente manipulable.
El mínimo común denominador de cualquier definición de discurso del odio sería
cualquier expresión de opinión o ideas basada en el desprecio y la animadversión
hacia personas o colectivos a los que se desea el mal. Sin embargo, esta definición
simple englobaría un rango demasiado amplio de expresiones para que el concepto
tuviera alguna utilidad para el análisis o la intervención social o jurídica (Article 19
2015).
Se habla de discurso del odio para referirse a las expresiones que incitan directamente
a la comisión de actos de discriminación o violencia por motivos de odio racial,
xenófobo, orientación sexual, u otras formas de intolerancia. Pero para algunos, el
concepto se extiende también a aquellas expresiones que fomentan los prejuicios o la
intolerancia, considerando que este tipo de expresiones contribuyen indirectamente a
que se genere un clima de hostilidad que pueda propiciar, eventualmente, actos
discriminatorios o ataques violentos (Gagliardone et al. 2015).
En el lenguaje cotidiano, y especialmente en los medios de comunicación, se ha
generalizado el uso del concepto de discurso del odio para referirse a un conglomerado
heterogéneo de manifestaciones que engloba desde amenazas a individuos o
colectivos hasta casos en los que algunas personas simplemente expresan su ira
contra las autoridades, de manera más o menos ofensiva (Gagliardone et al. 2015).
Además se ha extendido en los medios de comunicación, e incluso en el ámbito
jurídico, la utilización del término de discurso del odio para referirse a conceptos como
la incitación o la apología del terrorismo, que aunque guardan cierta relación con el
objeto de este informe, requieren un enfoque singularizado.
En definitiva, el término de discurso del odio es un concepto discutido, y que es objeto
de debate político, jurídico y académico a nivel internacional. Es un concepto complejo,
en la medida en que pone en juego y en colisión diferentes valores y principios
capitales de los sistemas democráticos: la igualdad, la dignidad humana, la libertad de
expresión, etc., cuya concepción no es idéntica en todos los contextos socio-políticos.
Por ello, es un concepto, el del discurso del odio, que puede ser implementado
políticamente con objetivos bien diferentes, que pueden ser más o menos legítimos.
Las definiciones que tienen mayor aceptación a nivel internacional se pueden agrupar
en dos tendencias principales: 1) aquellas que definen el discurso del odio en un
sentido más amplio y expansivo, e incluyen cualquier expresión que promueva o
justifique el odio por motivos racistas, xenófobos, religiosos, de género, orientación
sexual o discapacidad6; y 2) aquellas que lo definen de una manera más restrictiva y
precisa, incluyendo sólo aquellas formas de expresión que, en contextos determinados
de inestabilidad, puedan contribuir a desencadenar episodios violentos contra un grupo
de personas por razón de su pertenencia a uno de los grupos señalados7(Gagliardone
6
La Recomendación No. R(97)20 del Consejo de Europa, de 30/10/1997, lo definió como “toda forma de
expresión que difunda, incite, promueva o justifique el odio racial, xenofobia, anti-semitismo u otras formas
de odio basadas en la intolerancia (...)”
7
Susan Benesch (2013) propone el término “discurso peligroso (“dangerous speech”), para aquel discurso
que tiene una probabilidad razonable de desencadenar episodios de violencia genocida.
et al. 2014).
La diferencia fundamental entre ambas se podría sintetizar en la dialéctica contenido-
contexto, y en el mayor o menor riesgo de que los mensajes desencadenen acciones
violentas. La primera de las tendencias conceptuales define el discurso del odio
atendiendo exclusivamente a su contenido, mientras que la segunda considera que lo
que convierte una determinada expresión en discurso del odio es el riesgo manifiesto
de que, dado el contexto histórico-social en el que se emite, provoque episodios
violentos. El contexto, efectivamente, determina en gran medida el daño que
determinadas expresiones y manifestaciones pueden llegar a ocasionar, que puede
oscilar desde el daño emocional hasta la provocación de escaladas de violencia
masiva, como en los genocidios de Yugoslavia o Ruanda en los años 90.
La importancia de estas diferentes maneras de definir el discurso del odio estriba en
que, aunque el concepto de discurso del odio no es una categoría estrictamente
jurídica, estas definiciones informan las diferentes legislaciones y jurisprudencias
nacionales, y las declaraciones, directivas, y convenios internacionales.
De cualquier manera, a los efectos de este informe, tomaremos como referencia las
definiciones del primer grupo que conceptualizan el discurso del odio en un sentido
relativamente amplio, porque recogen el tipo de expresiones que, dada su proliferación
en el contexto europeo, merecen un rango más variado de intervenciones tanto de tipo
jurídico como de tipo social.
8
Definición R.A.E.
también actúa como efecto desinhibidor para la expresión de los discursos extremos.
En este sentido, Jubany y Roiha (2016) advierten de la falacia del dualismo digital,
término concebido por Nathan Jurgenson para referirse a la falsa separación entre el
mundo online y el mundo offline. La cuestión del discurso del odio en las redes
sociales, aunque tenga las especificidades propias de esos espacios de comunicación,
no es más que una exteriorización pública de un problema subyacente en la sociedad
en general, independientemente del escenario en el que se manifieste.
9
http://www.genbeta.com/redes-sociales-y-comunidades/asi-es-como-los-extremistas-camuflan-su-
discurso-de-odio-en-las-redes-sociales
dualismo digital. Las obsesiones hostiles de los haters o el sadismo narcisista de los
troles tienen su espacio de expresión en las redes, pero sus motivaciones y sus
prejuicios hostiles provienen del espacio offline.
10
El Pacto Internacional de Derechos Civiles y Políticos de 1966 estableció límites a la libertad de
expresión. El artículo 19 contempla la posibilidad de restricciones para “asegurar el respeto a los derechos
o a la reputación de los demás” y para “la protección de la seguridad nacional, el orden público o la salud o
la moral públicas”; y el artículo 20 prohíbe “toda apología del odio nacional, racial o religioso que
constituya incitación a la discriminación, la hostilidad o la violencia”.
11
“El Congreso no podrá hacer ninguna ley con respecto al establecimiento de la religión, (…) ni limitando
la libertad de expresión, ni de prensa…”
la libertad de expresión para amparar la negación del holocausto, la apología
del terrorismo o mensajes abiertamente xenófobos o racistas.
Sin embargo, esta distinción entre modelos de entender los límites de la libertad de
expresión no es tan simple. En primer lugar, la diferencia se ha visto atenuada en los
últimos años, entre otros motivos, porque el tradicional respeto estadounidense por la
libertad de expresión ha perdido algo de terreno como consecuencia del giro securitario
producido en el marco de la denominada “guerra contra el terror”. Y en segundo lugar,
porque tanto en Europa como en EE.UU. hay expertos y académicos que simpatizan y
defienden la perspectiva y los argumentos contrarios a los que les correspondería por
su tradición jurídica (Phillipson 2015).
Por otro lado, en el mundo musulmán, algunos países han presionado para que se
adopten normas internacionales que prohíban la blasfemia, como una forma de odio
religioso, en respuesta a casos como el de las caricaturas de Mahoma en el periódico
danés Jyllands-Posten (Phillipson, 2015).
En el terreno académico, el debate sobre las prohibiciones del discurso del odio y la
libertad de expresión es un debate que trasciende el ámbito jurídico y tiene
implicaciones de orden político, ético y filosófico. Se ha enfocado el debate desde
múltiples ángulos, y se plantean muy diversas cuestiones:
• ¿Son las prohibiciones del discurso del odio una amenaza para la libertad de
expresión?
• ¿Se pueden considerar un mal necesario?
• ¿Prohibir el discurso del odio es un símbolo necesario del compromiso
democrático con el respeto de la dignidad humana y la igualdad?
• ¿O es la normalización de las prohibiciones de discurso del odio síntoma de
una democracia débil?
• ¿Son las prohibiciones del discurso del odio eficaces?
En el siguiente cuadro, se presentan de manera simplificada algunos de los principales
argumentos que se suelen utilizar a favor y en contra de las prohibiciones del discurso
del odio.
A favor En contra 12
La libertad de expresión y el debate público
La libertad de expresión no es un
son esenciales para desarrollar una
derecho absoluto. Ha de ser limitado
democracia plena. No deben establecer
para evitar que se atente contra la
restricciones basándose únicamente en lo
dignidad humana, la igualdad, la paz y
indeseables u ofensivas que puedan ser
la convivencia social, el derecho a vivir
determinadas expresiones. Se corre el
sin acoso e intimidación, etc. El Pacto
riesgo de abuso por parte de gobiernos que
Internacional de Derechos Civiles y
las utilicen como un “derecho penal del
Políticos así lo reconoce en sus arts.
enemigo”, para castigar a la disidencia y los
19.3 y 20.
oponentes políticos.
12
Cuadro basado en Nineteen arguments for hate speech bans- and against them de Eric Heinze.
En democracias consolidadas y prósperas,
La proliferación de comentarios y
no se ha demostrado que exista una
expresiones ofensivas y extremas
correlación clara entre proliferación de
pueden generar un clima social que
discurso del odio y un aumento de crímenes
acabe desembocando en episodios de
de odio. El estado ya puede castigar la
violencia y, en contextos conflictivos o
motivación de "odio" de los actos criminales
sociedades divididas, en ataques
como circunstancia agravante.
genocidas.
Existen medios legales para prohibir el
acoso, las amenazas y los ataques
El discurso del odio causa daños
individuales a la dignidad; e instrumentos
psicológicos directos (sentimiento de
más legítimos, proporcionados y eficaces
ser amenazado, humillado, etc.) y
para combatir la discriminación: leyes de no
daños indirectos, en el sentido de que
discriminación laboral, educación en la
contribuye a la perpetuación de
diversidad y el pluralismo, campañas de
situaciones de discriminación.
concienciación, etc.
No se puede perder de vista, por tanto, la idea de que cualquier legislación, incluida la
relativa a la restricción del discurso del odio es la expresión del grupo dominante que
controla el contenido de la ley (Gagliardone et al. 2015).
2.2. Las
particularidades
jurídicas
del
odio
en
Internet
y
las
redes
sociales
Por si este debate político, ético y jurídico no tuviera suficientes aristas, Internet y las
redes sociales añaden aun mayor complejidad al problema del discurso del odio. En
primer lugar, porque Internet se ha convertido en una especie de fetiche de liberación,
considerado utópicamente por muchos como “una fuerza revolucionaria que no debería
estar sometida a regulación alguna”, y cualquier intento de regular lo que sucede en la
Red, es automáticamente tachado de reaccionario, ilegítimo y antidemocrático
(Morozov, E., 2012).
13
http://www.eldiario.es/politica/Absuelto-Cesar-Strawberry-enaltecido-Twitter_0_538946313.html
14
http://www.lavanguardia.com/politica/20160307/40269028704/archivada-causa-zapata-tercera-
vez-tuits.html
15
http://www.poderjudicial.es/cgpj/es/Poder-Judicial/Noticias-Judiciales/El-Tribunal-Supremo-condena-a-
un-ano-prision-a-una-joven-por-humillar-a-traves-de-twitter-a-Irene-Villa-y-a-Miguel-Angel-Blanco
ataques, etc.) que plantean otra serie de incertidumbres y dificultades en cuestión de
obtención de pruebas o de determinación de responsabilidad(Moretón Toquero 2012).
16
En concreto, la Decisión Marco 2008/913/JAI, de 28 de noviembre, relativa a la lucha contra
determinadas formas y manifestaciones de racismo y xenofobia mediante el Derecho penal, de la Unión
Europea, establece unas directrices básicas que deben recogerse en todos los estados miembros de la
Unión. También es destacable en este sentido, el Protocolo Adicional al Convenio sobre la
ciberdelincuencia, relativo a la penalización de actos de índole racista y xenófoba cometidos por medio de
sistemas informáticos de 2003, del Consejo de Europa
17
L.O. 1/2015, de 30 de marzo
a. Realización de actos, o producción o difusión de materiales, que
supongan humillación o menosprecio contra alguno de los grupos
señalados o de sus miembros por motivos discriminatorios;
b. el enaltecimiento o justificación pública de los delitos cometidos
contra los grupos señalados.
La regulación del art. 510 establece además una serie de agravantes y consecuencias
accesorias. A los efectos de este informe, es destacable la agravante por haberse
llevado a cabo, cualquiera de las conductas descritas, haciendo uso de las “nuevas
tecnologías”.18 En ese caso, atendiendo al potencial mayor alcance de las conductas
punibles, las penas se impondrán en su mitad superior, y se prevé la retirada de los
contenidos, y el bloqueo del acceso o la interrupción de la prestación del servicio19.
Para parte de la doctrina, la reforma viene a corregir algunas de las deficiencias de la
regulación anterior. La principal aportación es que elimina la palabra “provocación” que
había generado dificultades de aplicación del artículo, disparidad de criterios y
sentencias contradictorias, al interpretarse en el sentido del artículo 18 del Código
Penal, de “incitación directa”. Al eliminarse ese término de “provocación”, se facilita que
se castigue también la “incitación indirecta", que está además recogida explícitamente
en el texto (Gascón Cuenca 2015).
También considera, esta parte de la doctrina, que la inclusión, en el apartado 2 del
artículo, de dos delitos atenuados para aquellas conductas “que no reúnen todas las
características como para incitar a la hostilidad, a la discriminación o a la violencia,
pero que sí son ideales para lesionar la dignidad de los individuos”, con penas
inferiores (6 meses a 2 años de cárcel), adecua mejor la regulación al principio de
proporcionalidad (Gascón Cuenca 2015).
Sin embargo, para otros autores, esta reforma es técnicamente pobre y reaccionaria, y
sigue planteando dudas de su constitucionalidad, por falta de adecuación a la
justificación de la intervención del derecho penal, y por seguir adoleciendo de falta de
proporcionalidad. Algunos penalistas consideran incluso que se ha profundizado en la
mayoría de los defectos de la regulación anterior, dejando demasiado a expensas del
criterio de los jueces el sancionar o no conductas que aparentemente encajan en los
tipos regulados por el art. 510 (Teruel Lozano 2015).
Para los críticos con la nueva regulación, existen mejores y más proporcionadas
respuestas que la intervención penal. El ordenamiento español cuenta con
“instrumentos suficientes para castigar”, por ejemplo las humillaciones, las amenazas o
la provocación de un peligro cierto e inminente de actos ilícitos, “sin que sea necesario
plantear una respuesta excepcional a través de tipos penales ad hoc anti-
discriminatorios” (Teruel Lozano 2015: 39).
Según Rey Martínez (2015: 52), los problemas parten de que se ha realizado un
enfoque de la cuestión demasiado inclinado hacia el derecho penal. Para él, “una
18
Art. 510.3 CP
19
Art. 510.6 CP
sanción administrativa e, incluso, la exigencia de responsabilidad civil, podrían ser
mucho más respetuosas” con la Constitución y además, serían probablemente más
eficaces que una norma penal, que por su rigurosidad y desproporcionalidad, puede
acabar resultando inaplicable para los jueces.
Efectivamente, hasta la fecha, la jurisprudencia ha hecho una interpretación restrictiva
de los delitos de discurso de odio. Esto ha tenido como resultado un panorama jurídico
de penas muy duras y nula sanción del discurso del odio. Para Rey Martínez (2015:
77), se precisa “más sanción de los discursos del odio, pero con una dureza penal
proporcionada”. La nueva regulación, a pesar de la introducción de los tipos atenuados
del apartado 2 del artículo 510, ha mejorado poco en este aspecto, al establecer penas
de hasta 4 años de cárcel, apartándose incluso de la Decisión Marco 2008/913/JAI de
la UE, que estipula penas máximas de 3 años (Gascón Cuenca, 2015).
Veremos cuál es la interpretación que los jueces y magistrados hacen de la nueva
regulación. En cualquier caso, sería deseable que no incurrieran en las contradicciones
que se produjeron al aplicar la legislación anterior, y que algunos expertos, como
Miguel Ángel Aguilar, fiscal coordinador de Delitos de Odio de la Fiscalía de Barcelona,
criticaron duramente20, al dictar el Tribunal Supremo dos sentencias contradictorias en
el plazo de una semana.
De cualquier manera, no se ha de olvidar que la represión penal de lo que
genéricamente se entiende por discurso del odio no se agota en el art. 510 del Código
Penal. El Código Penal contempla una circunstancia agravante genérica por motivos
discriminatorios, que agrava la responsabilidad penal de cualquier delito, y que, por
ejemplo, puede aplicarse a conductas típicas en las redes sociales21, como las
amenazas o el acoso. La consideración de que concurre la agravante de discriminación
supone que la pena correspondiente a cada delito se impondrá en su mitad superior.
Además existe un delito de amenazas a colectivos,22 que castiga las amenazas, con la
entidad suficiente como para lograr atemorizar, dirigidas a grupos étnicos, culturales,
etc.
Principales problemas para la persecución de los delitos de discurso del odio
Algunos de los principales problemas, de orden práctico, que dificultan una efectiva
persecución de los delitos de odio en general, y de los delitos de discurso del odio en
redes sociales, en particular, son, a juicio de los expertos (Aguilar et al., 2015), los
siguientes:
• Desconocimiento de los hechos por el escaso número de denuncias.
• Minimización de los hechos en algunos casos por parte de los responsables de
las investigaciones.
• Insuficientes investigaciones policiales y judiciales.
• Dificultades para acreditar la motivación “odiosa” o discriminatoria del delito.
• Poca formación en igualdad y no discriminación de las instituciones implicadas:
cuerpo judicial, funcionarios judiciales, forenses, policía, seguridad privada, etc.
20
http://www.elmundo.es/elmundo/2011/06/13/barcelona/1307982347.html
21
Art.22.4 CP
22
Art.170.1 CP
• Dificultades inherentes al escenario “redes sociales”: problemas de jurisdicción,
territorialidad, identificación y obtención de datos de los agresores, etc.
Normas administrativas
Desde el punto de vista del derecho administrativo, existen algunas normativas que
contemplan la posibilidad de sancionar conductas que pueden ser entendidas como
discurso del odio. En este sentido, la normativa más específica es la Ley 19/2007,
contra la violencia, el racismo, la xenofobia y la intolerancia en el deporte, que es un
ámbito de especial incidencia de conductas intolerantes, y en el que los grupos ultras
de extrema derecha encontraron durante años un espacio propicio para dar rienda
suelta a sus actitudes abiertamente racistas, homófobas, y discriminatorias, con
relativa impunidad.
En lo que respecta al objeto específico de este informe, esta ley considera la difusión,
por medios informáticos o tecnológicos, vinculados a información deportiva, “de
contenidos que promuevan o den soporte a la violencia, o que inciten, fomenten o
ayuden a los comportamientos violentos o terroristas, racistas, xenófobos o intolerantes
por razones de religión, ideología, orientación sexual (…) ”como infracción muy grave,
y la castiga con importantes sanciones económicas.23
Instituciones especializadas y protocolos policiales contra el odio y la
discriminación.
En marzo de 2013, el Ministerio Fiscal puso en marcha una red de fiscales
especializados contra el odio, con la designación de un fiscal en cada provincia,
encargado de coordinar la actuación, en materia de odio y discriminación, de la Fiscalía
de la provincia, y de coordinar dicha actuación con el resto de la red de fiscales
provinciales especializados en la materia.
Esta figura se inspiró en el ejemplo del Servicio de Delitos de Odio y Discriminación de
la Fiscalía de Barcelona, constituido en 2009, y que fue pionero en este ámbito, y ha
sido reconocido por la Agencia de Derechos Fundamentales de la Unión Europea,
como un ejemplo de buena práctica, que debería ser reproducido en otros estados de
la UE.
Entre los retos que se plantea este servicio, se encuentran los siguientes (Aguilar et al.
2015):
• recabar mejor información sobre hechos que pudieran constituir conductas
punibles en esta materia;
• promover la comunicación con la Fiscalía de los colectivos y ciudadanos
afectados, tanto para denunciar como para compartir iniciativas y sugerencias;
• contribuir a unificar los criterios de aplicación e interpretación del Código Penal
• afrontar la complejidad de las investigaciones de los delitos de incitación al
odio, la violencia y la discriminación, cuando se producen en Internet y redes
sociales;
23
Art. 23, 1, c) y 24, 1, c) de la Ley 19/2007. Sanciones desde 60.000,01€ a 650.000€
• recopilar recomendaciones y jurisprudencia emitida por organismos y tribunales
internacionales en materia de no discriminación;
• combatir a los grupos violentos organizados que difunden el discurso del odio;
• afrontar la tendencia a minimizar la importancia de los delitos de odio, por
algunos policías, jueces y fiscales;
• mejorar la coordinación con las Fuerzas y Cuerpos de Seguridad del Estado.
En este sentido, también es reseñable el desarrollo de protocolos de intervención
policial. Los Mossos d’Esquadra fueron los pioneros en esta materia al dotarse de un
“Procedimiento de hechos delictivos motivados por el odio o la discriminación” en 2010.
El Ministerio del Interior publicó en 2014 el “Protocolo de actuación para las Fuerzas y
Cuerpos de Seguridad para los delitos de odio y conductas que vulneran las normas
legales sobre discriminación”, dirigido a la Policía Nacional y la Guardia Civil,
basándose en materiales editados por el Observatorio Español del Racismo y la
Xenofobia, del Ministerio de Empleo y Seguridad Social (Aguilar García 2015).
Estos protocolos responden a la necesidad de formar a los cuerpos policiales y
dotarles de unas pautas en la recogida de datos estadísticos, la elaboración de los
atestados, la investigación de los hechos para acreditar la existencia de una motivación
racista o intolerante, la atención y la protección de las víctimas, o la interlocución con la
comunidad y las ONGs que representan a las víctimas.
El Protocolo del Ministerio del Interior contempla recomendaciones específicas para los
delitos de odio cometidos a través de Internet y las redes sociales. En concreto, y
dadas las dificultades que el uso de las tecnologías de la información supone para la
persecución e identificación de los responsables de las infracciones, recomienda que
las investigaciones sean realizadas por Unidades especializadas de la Policía Judicial
(Ministerio de Interior 2015).
Además, tanto las instituciones públicas como algunas organizaciones no
gubernamentales (SOS Racismo, Movimiento contra la Intolerancia, Observatorio
contra la Homofobia, Fundación Rais, etc.) ofrecen una serie de servicios orientados a
asesorar y asistir jurídicamente a las víctimas de los delitos de odio, en general, y del
discurso del odio, en particular. En Catalunya, los Ayuntamiento de Sabadell, Terrassa,
y Barcelona (Oficina per la No Discriminació, OND) cuentan con diferentes servicios,
que ofrecen asesoramiento jurídico en este campo.
24
http://newsroom.fb.com/company-info/
las redes sociales en un actor, con un rol de intermediario, pero con un poder
innegable.
Su papel de intermediarias en la comunicación digital, les convierte en el primer árbitro
en la determinación de qué se puede decir y qué no. En este sentido, conviene
recordar que las grandes redes sociales más usadas en Europa, tienen su sede en
Estados Unidos, y por tanto, están imbuidas de la filosofía norteamericana, más
defensora de una libertad de expresión más absoluta y más tolerante con cierto
discurso del odio. Esta circunstancia tiene, como hemos señalado en el epígrafe
anterior, repercusiones legales, por ejemplo, en términos de colaboración con la justicia
en cuanto a requerimientos de datos. Pero también influye en sus políticas de auto-
regulación y en la forma de llevarlas a la práctica.
En relación con las empresas intermediarias, se plantean diferentes alternativas:
• la atribución de responsabilidad a las empresas,
• la promoción de la autorregulación,
• y la implementación de filtros informáticos (Rodríguez Izquierdo 2015).
Cualquiera de estas vías plantea ciertos dilemas.
25
http://blog.garrigues.com/se-confirma-la-responsabilidad-de-los-portales-de-noticias-por-los-comentarios-
difamatorios-de-los-lectores/
Todas las grandes redes sociales, Twitter, Facebook, Instagram, Tumblr, etc., e incluso
los medios de comunicación, cuyos foros de comentarios también son un canal
habitual del discurso del odio, cuentan con políticas o condiciones de uso que, en
principio, prohíben el discurso del odio en sus plataformas de comunicación.
Twitter, por ejemplo, prohíbe expresamente26 las amenazas, la incitación a la violencia,
el acoso, así como el comportamiento que incita al odio, por motivos de origen étnico,
nacionalidad, orientación sexual, género, religión, etc.
Facebook incluye en sus condiciones de servicio cláusulas relativas a la no publicación
de contenido intimidatorio, discriminatorio, incitador de la violencia, pero reconoce
expresamente la incapacidad de garantizar que Facebook sea un lugar seguro, y
enuncian sus normas a modo de compromisos del usuario. Desde la perspectiva de
que Facebook constituye una comunidad global, sometida a diferentes legislaciones
nacionales, establecen unas normas comunitarias a modo de auto-regulación.27
Facebook expone, mediante dichas normas, qué contenido se puede denunciar y
eliminar, destacando, a los efectos de este informe, la eliminación del lenguaje que
incita al odio por motivos de raza, etnia, nacionalidad, religión, orientación sexual, sexo,
género, identidad sexual, o discapacidades o enfermedades graves.
La mayoría de las redes sociales, incluidas las dos grandes redes sociales, Facebook y
Twitter, cuentan con sistemas de denuncia que permiten a los usuarios poner en
conocimiento de las empresas la presencia de contenido abusivo que vulnere las
normas de uso de las plataformas, para que las compañías valoren su eliminación.
Facebook advierte expresamente en sus normas comunitarias, de que no todo
contenido ofensivo infringe sus normas, y por ello, ofrece además la posibilidad de
bloqueos y filtros personalizados para ocultar aquel contenido que el usuario no desea
ver.
Sin embargo, a pesar de esta actitud, teóricamente intolerante con el discurso del odio,
por parte de las compañías, lo cierto es que los mecanismos de denuncia y eliminación
de comentarios se llevan a la práctica de manera un tanto disfuncional. Así lo atestigua
una investigación del proyecto PRISM (Jubany y Roiha 2016), en la que de un total de
100 denuncias realizadas a Facebook, solo 9 obtuvieron como resultado la eliminación
de los comentarios28. La errática política de eliminación de comentarios de la
compañía, ya sea por el mal funcionamiento de los algoritmos que emplean o porque
los equipos encargados de gestionar las denuncias estén superados por el ingente
volumen de comentarios denunciados, tuvo como resultado la eliminación de
mensajes como “Los perros son más discretos que los musulmanes”, mientras que
mensajes como ”Matarlos a todos sin piedad” fue considerado por Facebook, como un
mensaje que no vulneraba las normas de comunidad.
Una de las principales críticas que se han venido haciendo sobre los mecanismos de
denuncia de las redes sociales es su falta de transparencia. No se sabe a ciencia cierta
si el proceso lo realizan mediante algoritmos, mediante equipos humanos o con una
26
https://support.twitter.com/articles/72688
27
https://www.facebook.com/communitystandards#
28
http://www.elperiodico.com/es/noticias/sociedad/estudio-proyecto-prism-denuncia-banalizacion-discurso-
odio-internet-5284591
mezcla de ambos. Por otra parte, tampoco hacen públicos datos sobre el número de
denuncias, los motivos de las denuncias, o el porcentaje de denuncias que finalizan
con comentarios o cuentas eliminadas (Jubany y Roiha 2016).
Facebook ha desarrollado también un potente sistema de inteligencia artificial,
denominado DeepText, supuestamente capaz de analizar varios miles de posts por
segundo en más de 20 lenguas. Sin embargo, a día de hoy no parece que su
funcionamiento esté siendo un éxito. Por muy sofisticados que sean los algoritmos en
los que se basan este y otros filtros informáticos desarrollados por otras redes sociales,
tienden a cometer errores de bulto y no suelen ser capaces, por ejemplo, de discernir
cuando se está haciendo un uso crítico o de denuncia de una determinada expresión
insultante. El caso de Shaun King, periodista de New York Daily News y activista de
Black Lives Matter, fue especialmente sintomático. A pesar de que había sido invitado
meses antes por Facebook como ponente para hablar de este movimiento político
contra la violencia hacia las personas negras, su cuenta de Facebook, fue suspendida
por publicar un email en el que le dirigían insultos racistas. Gracias a sus contactos en
Facebook, el activista logró que se le reestableciera el servicio, pero el propio activista
se cuestionaba cómo puede gestionar un caso similar una persona que no tenga el
acceso privilegiado a determinadas instancias de la compañía29.
Las propias redes sociales son conscientes del problema que tienen con la gestión del
acoso online, las amenazas y el discurso del odio. En 2015, se filtró un comunicado
interno del entonces CEO de Twitter, Dick Costolo, en el que reconocía que tenían un
grave problema en la gestión de este asunto, que les estaba haciendo perder usuarios
cada día y limitando en sus objetivos de crecimiento30. Por esa razón, Twitter ha
empezado a considerar prioritario este asunto, y está inmerso en un proceso de
cambios que permitirán a los usuarios un control más proactivo de su cuenta de
Twitter. La compañía ha buscado el asesoramiento de una comisión externa de
organizaciones de la sociedad civil involucradas en la prevención de abusos online31, y
están trabajando, entre otras herramientas, en la puesta en marcha de filtros de calidad
para bloquear determinadas palabras, hashtags, insultos racistas, etc. para que no
aparezcan en su timeline. Su objetivo es encontrar mejores mecanismos para bloquear
a otros usuarios, y agilizar y optimizar los sistemas de denuncia a la compañía de
comportamientos abusivos.
Un caso paradigmático, en esta línea de menor tolerancia de Twitter con el odio online,
se produjo en julio de 2016, con la suspensión temporal de Milo Yiannopoulos, un
icono del movimiento alt-right en Estados Unidos, por liderar supuestamente el acoso
misógino y racista a la actriz afroamericana Leslie Jones. El carácter mediático de Milo,
y el hecho de que contara con 300.000 seguidores en Twitter, convirtió el caso en un
debate sobre la libertad de expresión, convirtiéndose en tendencia el hashtag
#FreeMilo, que lo convertía en una especie de mártir de la libertad de expresión32.
No cabe duda de que el hecho de que la atacada fuera una celebridad de Hollywood,
29
http://www.eldiario.es/theguardian/Facebook-temporalmente-Black-Lives-Matter_0_558544311.html
30
http://www.lavanguardia.com/tecnologia/20160901/4122751789/twitter-acoso-trolls-redes-sociales.html
31
https://about.twitter.com/es/safety/council
32
http://www.bbc.com/mundo/noticias-36847433
facilitó la visibilidad y la resolución del caso, en el que intervino públicamente el actual
CEO de la compañía, Jack Dorsey. El problema, más allá de la importancia de casos
simbólicos como este, lo tienen las personas “anónimas” que sufren humillaciones y
vejaciones en las redes sociales, pero no tienen la capacidad de que sus casos lleguen
a tan altas instancias. De momento, habrá que esperar para comprobar si los cambios
tecnológicos en los que trabaja la compañía, suponen un cambio real en la gestión del
problema del abuso y el odio online.
De cualquier manera, para equilibrar y matizar las críticas que se suelen hacer a estas
compañías, es justo recordar aquí la enorme dificultad de la tarea a la que se
enfrentan. Twitter, por ejemplo, maneja unos 300 millones de tuits al día, y han llegado
a picos de 600 millones33. Incluso con la ayuda de filtros y algoritmos informáticos, la
tarea de moderación y autorregulación es de proporciones gigantescas, y al mismo
tiempo, muy delicada, en la medida en que lidian con conceptos tan sensibles para su
imagen, como la libertad de expresión o la censura.
33
http://uk.businessinsider.com/tweets-on-twitter-is-in-serious-decline-2016-2
34
http://europa.eu/rapid/press-release_IP-16-1937_es.htm
El cumplimiento del código de conducta y sus resultados serán sometidos a evaluación
por el recientemente creado Grupo de Alto Nivel sobre la Lucha contra el Racismo, la
Xenofobia, y otras formas de Intolerancia, que está formado por los estados miembros
de la UE, representantes del Parlamento Europeo, del Consejo de Europa, del Alto
Comisionado de la ONU para los Refugiados, de la Organización para la Seguridad y la
Cooperación en Europa, de la Agencia Europea de Derechos Fundamentales, y de
organizaciones de la sociedad civil.
Aunque la Comisaria europea de la Dirección General de Justicia, Consumidores e
Igualdad de Género, Vera Jourová, presentó este acuerdo como un punto de inflexión,
a partir del cual cambiarían las reglas del juego35, lo cierto es que la firma de este
código de conducta no ha estado exenta de críticas. En primer lugar, se ha lamentado
que el proceso de negociación haya estado exento de transparencia y que no se hayan
tenido en cuenta las aportaciones de las organizaciones de la sociedad civil. Además
se lamenta que, mediante este código de conducta, las compañías tomarán el
liderazgo en un asunto, el del control del discurso del odio online, que deberían ser
liderado por las autoridades públicas, cuya actividad está sometida a un marco de
responsabilidad democrática. Dejar el liderazgo de esta tarea a compañías privadas
supone un claro riesgo para la libertad de expresión, en la medida en que los
mecanismos de revisión de contenido de las compañías no están sometidos a un
marco de responsabilidad claro y transparente36. En el fondo, manifiestan los críticos,
se trata de confiar en la responsabilidad de las empresas o, más bien, en que el interés
de sus accionistas coincida, de alguna manera, con el interés social, y el respeto a la
libertad de expresión, y los principios de igualdad, dignidad, etc. propios de los
sistemas democráticos.
Otra cuestión que se plantea como problemática es que, en la medida en que el
presunto discurso del odio sea eliminado por las compañías, y no se establezca un
procedimiento de colaboración claro para el envío de dicho contenido a las autoridades
públicas, los autores de las supuestas infracciones legales no serán sometidos a juicio
ni castigo penal de ningún tipo.37
De cualquier manera, no cabe duda, de que las instituciones europeas están
seriamente preocupadas con el problema del discurso del odio online, y que están
tratando de presionar a las compañías para que realicen una moderación más activa
de las redes sociales.
35
http://europa.eu/rapid/press-release_SPEECH-16-2197_en.htm
36
https://edri.org/edri-access-now-withdraw-eu-commission-forum-discussions/
37
https://edri.org/guide-code-conduct-hate-speech/
y en las redes sociales en particular.
Buena parte de estas estrategias son directa o indirectamente financiadas por las
instituciones públicas, y para algunos autores se plantean dos cuestiones importantes.
Por un lado, si son realmente eficaces. Y por otro lado, la posibilidad de que se
produzca una cierta vulneración de un supuesto principio de neutralidad del estado
(Kahn 2015). Sin embargo, lo cierto es que incluso la mayoría de los autores que se
oponen a las prohibiciones del discurso del odio consideran que las instituciones
públicas no han de mantenerse neutrales ante este tipo de discurso extremo. Muy
pocos autores defienden un principio de neutralidad estatal estricta; estos argumentan
que una implementación equivocada o excesiva de ciertas estrategias puede producir
efectos indeseados, como la marginación o la expulsión del debate público, de ciertos
discursos, que pueden ser desagradables, pero legítimos. Para la gran mayoría, no
cabe duda de que las instituciones públicas deben contribuir a la creación de un clima
adecuado para un ejercicio de la libertad de expresión respetuoso con los principios de
igualdad y no discriminación (Article 19 2015).
Las administraciones pueden, a través de las declaraciones de los políticos y los
funcionarios públicos, promover la empatía y el apoyo a los grupos víctimas del
discurso del odio, difundiendo la idea de que este tipo de manifestaciones son dañinas
para la convivencia. Este tipo de declaraciones son de vital importancia en situaciones
de disputas entre comunidades étnicas en barrios o ciudades, o en contextos en los
que las tensiones identitarias se recrudecen, como los periodos electorales. Otras
iniciativas que las administraciones públicas pueden desarrollar para garantizar un
clima adecuado para la igualdad y la no discriminación son la formación de los
funcionarios públicos en estas cuestiones, la litigación estratégica, o la promoción del
diálogo inter-religioso (Article 19 2015).
En un plano más concreto, y en cuanto a iniciativas dirigidas específicamente contra el
discurso del odio online, y en particular en redes sociales, se están llevando a cabo
estrategias no jurídicas de diverso tipo.
• estrategias de monitoreo y la investigación, que pretenden conocer mejor la
magnitud del problema del discurso del odio y explorar la posibilidad de utilizar
sistemas de alerta temprana capaces de identificarlo automáticamente;
• estrategias de presión a las empresas operadoras de las redes sociales,
encaminadas bien a que modifiquen sus políticas relativas al tipo de contenidos
que se pueden compartir o que retiren contenidos específicos.
• estrategias centradas en cambiar las percepciones y actitudes de los usuarios
de la Red frente al discurso del odio tanto en Internet en general como en las
redes sociales, en particular.
Entre este último tipo de estrategias, a las que este informe prestará más amplia
atención por su mayor aplicabilidad en el nivel local, destacan dos grandes tipos: por
un lado, las que consisten en campañas, que incluyen actividades de índole diversa y
cuyo objetivo suele ser atacar los prejuicios y la intolerancia como raíz principal del
problema del discurso del odio; y, por otro lado, las estrategias que se basan en la
formación y educación, que incluyen la realización de talleres, seminarios y otros tipos
de actividades destinadas a dotar a las personas, especialmente a los jóvenes, de las
competencias necesarias para identificar y combatir el discurso del odio en internet.
4.1.
Las
estrategias
de
monitoreo
e
investigación
Este tipo de estrategias son importantes para entender el fenómeno del discurso del
odio en las redes sociales de una manera integral: la extensión del problema, los
diferentes tipos de odio, cómo y en qué situaciones se manifiesta con más virulencia,
cuáles son los perfiles de los autores, qué tipo de lenguaje utilizan, qué plataformas
son más propicias para la propagación del discurso extremo, qué efectos produce en
otros usuarios, etc. Profundizar en el entendimiento del discurso del odio es valioso por
el propio conocimiento, pero sobre todo, para aplicarlo a soluciones paliativas del
problema, o al menos, a la prevención de sus consecuencias más dañinas.
Por otra parte, en el campo de la investigación tienen especial interés los estudios y
análisis, en el ámbito de la psicología social, sobre qué iniciativas son más efectivas
contra el discurso intolerante. Actualmente son abundantes los programas dirigidos a
combatir la intolerancia y los prejuicios, sin embargo muy pocos están basados en
evidencias sólidas de su eficacia. Teniendo en cuenta que buena parte de estas
iniciativas son financiadas directa o indirectamente por las administraciones públicas,
este campo de investigación adquiere una importancia capital para que esa inversión
de dinero público sea socialmente rentable, o al menos, no contraproducente (Legault
et al 2011).
38
https://www.demos.co.uk/project/counter-speech-on-facebook-phase-2/
lanzada por el Consejo de Europa (COE) en marzo de 2013, por ser una campaña
integral, que incluye en sí misma una amplia variedad de estrategias contra el odio
online. Esta campaña ocupa un lugar privilegiado en el ámbito de la lucha contra el
discurso del odio en internet, ya que ha funcionado en los últimos tres años como un
paraguas para una multitud de iniciativas en los niveles nacional, regional y local del
entorno europeo.
39
Más información sobre la campaña en España: http://www.injuve.es/convivencia/noticia/campana-
.
contra-la-intolerancia-en-internet
40
Más información en: http://www.nohatespeechmovement.org/nohatesounds
celebración del “Día para la Seguridad en Internet” (Safer Internet Day)41. En la misma
línea pero en el ámbito autonómico, destaca la campaña “Internet sin riesgos”, puesta
en marcha por el Área de Juventud del Cabildo Insular de Tenerife y cuyo objetivo es
sensibilizar contra la propagación del ciberodio y el ciberacoso machista42.
En segundo lugar, las campañas afirmativas tienen como objetivo presentar a las
minorías de manera positiva al público general para prevenir comportamientos
discriminadores. Estas campañas suelen tener en cuenta también el espacio offline, y
se han puesto en marcha para cambiar la percepción de varios colectivos que suelen
ser objeto de discurso del odio, como por ejemplo las personas LGTB, gitanas o
musulmanas. En primer lugar, con respecto al colectivo LGTB destaca la campaña de
ámbito global “Todos fuera” (All out), que pretende reivindicar los derechos de este
colectivo a través de realización de micro campañas ante eventos como las Olimpíadas
de Sochi o acciones en defensa de activistas LGTB como la campaña #FreeTheFive,
que exigía la libertad para cinco activistas LGTB chinas43. En segundo lugar, con
respecto a las personas gitanas, otro ejemplo es la campaña internacional “¿Gitanos
típicos?” (Typical Roma?), puesta en marcha en 2010 en Macedonia, Albania y
Bulgaria, entre otros países, y cuyo objetivo era desmontar los prejuicios con respecto
a las personas de este colectivo44. En ámbito español, resalta también la campaña
#YoNoSoyTrapacero, que protestaba contra la imagen negativa de los gitanos que
difunde la Real Academia Española (RAE)45. En tercer lugar, con respecto a las
personas musulmanas, destaca la campaña británica “El Islam es Paz” (Islam es
peace), centrada en proporcionar información sobre el Islam y las personas
musulmanas, que desmonte los abundantes prejuicios sobre esta religión y sus
practicantes46.
Una variante interesante de las campañas afirmativas, son las basadas en
contranarrativas. Las contranarrativas son mensajes que ofrecen una alternativa
positiva a la propaganda extremista o que pretenden deconstruir o deslegitimar las
narrativas extremistas (Silverman et al. 2016: 15). Desarrollar contranarrativas contra el
discurso del odio en Internet es una de las prioridades de la campaña No Hate para el
periodo 2016-2017. Asimismo, las campañas basadas en contranarrativas contra el
odio se están potenciando desde la UE, a través de varios instrumentos de
financiación47. En efecto, la puesta en marcha de este tipo de campañas e iniciativas
se incluye como uno de los objetivos del Código de Conducta en materia de incitación
ilegal al odio en Internet, firmado entre la Comisión Europea y Facebook, Twitter,
41
Más información en: https://www.saferinternetday.org/web/sid/resources/gallery
42
Más información en: http://www.internetsinriesgos.com/wp-content/uploads/2013/11/folleto-
ciberativista.pdf
43
Más información en: https://allout.org/es/campanas-destacadas/
44
Varios vídeos de la campaña disponibles en: https://www.youtube.com/user/typicalroma
45
Esta y otras campañas de sensibilización
46
Más información en: http://www.islamispeace.org.uk/
47
En el coloquio anual sobre derechos fundamentales organizado por la Comisión Europea en 2015,
"Tolerance and respect: preventing and combating Antisemitic and anti-Muslim hatred in Europe", se
destacaba la importancia de promover contranarrativas emanadas de la sociedad civil. Más información
sobre el Coloquio en http://ec.europa.eu/justice/events/colloquium-fundamental-rights-2015/index_en.htm.
Youtube y Microsoft. En relación al potencial de esta herramienta, el británico Institute
for Strategic Dialogue ha elaborado varios estudios y materiales de sensibilización
sobre las contranarrativas. Uno de ellos es el informe “El impacto de las
contranarrativas” (The Impact of Counter-narratives”), que afirmaba después de un
estudio piloto de un año de duración, que “la exposición a puntos de vista alternativos
puede promover el pensamiento crítico o plantar una ‘semilla de la duda’ que más
adelante madure en un cambio de alternativas o comportamientos” (Silverman et al.,
2016: 44). De este instituto surgieron varias iniciativas financiadas por Facebook, como
la “Iniciativa para el valor cívico en línea” (Online Civil Courage Initiative), en la que se
anima a compartir historias personales con el objetivo de combatir el extremismo y el
discurso del odio en Internet48, además de un Manual y una Caja de Herramientas
sobre cómo elaborar contranarrativas49.
En tercer lugar, las campañas restrictivas tienen como objetivo recoger información
sobre páginas u acciones en línea basadas en contenido intolerante y tomar medidas
para restringir dicha actividad. En este ámbito destaca la fundación International
Network Against Cyberhate (INACH), que está formada por organizaciones nacionales
que recogen quejas y denuncias relativas a la discriminación en Internet, como por
ejemplo el Movimiento contra la Intolerancia en España. Especialmente activos en el
ámbito del antisemitismo, esta red coorganizó en abril de 2016 la primera “Conferencia
Internacional sobre el antisemitismo en línea”, celebrada en Jerusalén50. Asimismo, en
2016 publicó el informe “Devolverles al mar” (Kick them back into the sea) sobre el
discurso del odio contra los refugiados51. Las organizaciones nacionales miembros de
esta entidad también han puesto en marcha campañas que pretende aumentar las
quejas y denuncias en este ámbito. Un ejemplo reciente es la campaña internacional
“Get the Trolls Out”, puesta en marcha por varias organizaciones y apoyada por el
COE cuyo objetivo es restringir el discurso del odio antisemita en Internet52. En el
marco de esta campaña se generaron interesantes recursos, como la guía “How to
counter hate speech on Twitter”53, así como iniciativas que pretenden estigmatizar a los
abusadores como el “Trol del mes”.
48
Más información en: https://www.facebook.com/onlinecivilcourage
49
Más información en: http://www.counternarratives.org/about-us
50
Más información sobre la conferencia y sus recomendaciones en
http://www.inach.net/detail.html?tx_news_pi1%5Bnews%5D=10&cHash=3bf353f3d766835f68a466d2f8c5b
170.
51
Informe disponible en: http://inach.zone35.net/fileadmin/user_upload/Refugee_Report20161.pdf
52
Más información en http://www.getthetrollsout.org/
53
Disponible en: http://stoppinghate.getthetrollsout.org/
niveles europeo, nacional y local. Por un lado, en el marco de la campaña No Hate del
COE destaca la elaboración de la publicación “Bookmarks”, un manual para combatir el
discurso de odio online a través de la educación en derechos humanos. Este manual
propone una serie de actividades educativas para contrarrestar este tipo de discurso
(Keen y Georgescu : 2014: 21-133). Por otro lado, además de en el nivel europeo, se
han puesto en marcha otras iniciativas contra el discurso del odio en Internet basadas
en la educación y la formación en los niveles nacional y local, que en muchos casos
siguen las recomendaciones del manual Bookmarks. Sin ánimo de exhaustividad, estas
iniciativas pueden clasificarse en dos grandes grupos: por una parte, las que están
orientadas a educar y formar a la población en general, para el desarrollo de lo que se
ha conceptualizado como “ciudadanía digital”; y, por otra parte, las iniciativas
destinadas a dotar a personas ya concienciadas y activistas con las aptitudes
necesarias para actuar más eficazmente en el medio online.
54
Carl Miller (2012), “Research perspective”, discurso pronunciado en la conferencia “Tackling hate
speech. Living together online” el 26 y 27 de noviembre de 2012 en Budapest. Disponible en
http://hub.coe.int/c/document_library/get _file?uuid=8544adcf-f707-4bc1-8484-
c6c55311cd1a&groupId=10227.
Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) tiene como una
de sus áreas estratégicas de trabajo la educación para la ciudadanía mundial, que
pretende, entre otras cosas, fomentar un “sentido de pertenencia a una humanidad
común, compartiendo valores y responsabilidades, empatía, solidaridad y respeto de
las diferencias y la diversidad”(Gagliardone et al. 2015). Entre los objetivos específicos
de alcanzar una ciudadanía mundial, se incluye el desarrollo de capacidades y
habilidades técnicas necesarias para usar las tecnologías digitales, así como el
conocimiento y habilidades para buscar, analizar, evaluar e interpretar textos
procedentes de medios de comunicación, crear mensajes en medios y reconocer su
influencia social y política (Hoechsmann y Poyntz 2012).
Por otro lado, los ministros de educación de la UE adoptaron en una reunión informal
en marzo de 2015 la denominada “Declaración de Paris sobre la promoción de la
ciudadanía y los valores comunes de libertad, tolerancia y no discriminación a través
de la educación”. En esta declaración se identificaban una serie de acciones en el
ámbito educativo para promover la libertad de expresión, la inclusión social y el diálogo
intercultural55. Además, se marcaba como objetivo “reforzar el pensamiento crítico y la
alfabetización mediática e informacional, en particular en el uso de Internet y las redes
sociales, de cara a desarrollar resistencias a todos los tipos de discriminación y
adoctrinamiento”56.
En lo que respecta a las iniciativas específicas basadas en mejorar estas competencias
para prevenir y actuar contra el discurso del odio en Internet, se pueden mencionar
varios ejemplos. En primer lugar, cabe destacar el proyecto “Prevención del discurso
del odio en Internet” (Prevention of online hate speech) del Centro Europeo Wergeland,
situado en Noruega y especializado en desarrollar programas de educación para la
ciudadanía democrática. En el marco de este proyecto, se llevaron a cabo talleres y
formaciones que daban a los participantes, educadores, estudiantes adolescentes y
padres, herramientas para prevenir el discurso del odio y el extremismo. Estas
formaciones se basaron el manual Bookmarks del COE antes mencionado57.
En segundo lugar, otra iniciativa interesante es el “Pack educativo contra la
discriminación digital”, elaborado en el marco del proyecto ICUD58. Este pack está
destinado a públicos diversos (niños, jóvenes, padres, educadores, profesores,
activistas, miembros de ONG’s, responsables políticos, académicos, entre otros) e
incluye herramientas pedagógicas resultado de los talleres realizados con jóvenes y
que está disponible en 6 idiomas, entre ellos castellano y catalán.
En tercer lugar, otra iniciativa que vale la pena mencionar es el proyecto pedagógico
realizado en el marco de la campaña No Hate por la asociación cultural belga Loupiote
“NO HATE - Ce qui vous regarde”59. Aunque más centrado en el tema del acoso
55
https://webgate.ec.europa.eu/fpfis/mwikis/eurydice/images/1/14/Leaflet_Paris_Declaration.pdf
56
Ibid, p. 3
57
http://eng.theewc.org/Content/What-we-do/Completed-projects/Prevention-of-online-hate-speech
58
Más información sobre el proyecto y acceso al pack en el enlace: http://digitaldiscrimination.eu/pack/
59
http://www.culture-
enseignement.cfwb.be/index.php?eID=tx_nawsecuredl&u=0&file=fileadmin/sites/cult_ens/upload/cult_ens_
super_editor/cult_ens_editor/documents/News/Loupiote_NoHate.pdf&hash=ed1276c37b8dbfaa6864a9ee5
65d15fbc7a14b26
escolar a través de las redes, en el marco de este proyecto se realizaron una serie de
talleres y formaciones con jóvenes y educadores de la región de Bruselas, que incluían
el desarrollo de herramientas pedagógicas destinadas a combatir el ciberodio y el
ciberacoso entre los jóvenes60. La herramienta principal resultado del proyecto es un
cortometraje desarrollado junto con un grupo de adolescentes que muestra las
consecuencias del discurso del odio en las redes sociales, a través de la experiencia
de un joven que sufre los comentarios homófobos y el acoso de sus compañeros de
instituto. Además, este cortometraje está acompañado de varios vídeos de corta
duración sobre temas vinculados como la libertad de expresión, el anonimato en
Internet y la educación en los medios de comunicación, así como un vídeo musical
sobre la propagación del odio en línea61.
60
El video está disponible en francés en el siguiente enlace: https://vimeo.com/111615933
61
https://loupioteasbl.wordpress.com/ce-qui-vous-regarde-no-hate/
62
http://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52016SC0158&from=EN
63
Más información en:
https://rm.coe.int/CoERMPublicCommonSearchServices/DisplayDCTMContent?documentId=09000016806
67bcd
de los medios digitales64. Por otro lado, en el marco del proyecto Redes Contra el Odio,
se formó un grupo de cibervoluntariado compuesto por 15 jóvenes activistas,
encargado de vigilar y denunciar la existencia de discurso de odio en Internet, así como
de identificar situaciones de ciberacoso contra personas LGTB65. En el ámbito local,
destaca la mesa redonda “#Prourumors 2.0” sobre herramientas virtuales para
desmontar estereotipos realizada en el marco de la Estrategia Antirumors de Barcelona
y celebrada en junio de 2015 en esta ciudad, donde daban diferentes herramientas
para luchar contra la rumorología “virtual”.
CONCLUSIÓN
Aunque sea complicado cuantificar de manera integral el problema, existe una
sensación generalizada a nivel internacional de que el discurso del odio en las redes
sociales está preocupantemente extendido. El odio, la ira y la agresividad se han
convertido en moneda común en las redes sociales, provocando daño emocional a sus
destinatarios y contribuyendo a la estigmatización y deshumanización de ciertos
colectivos. Se le atribuye incluso la posibilidad de actuar como desencadenante de
episodios de violencia en contextos conflictivos y sociedades étnicamente divididas.
Las instituciones públicas nacionales e internacionales llevan años tratando de
encontrar soluciones, o al menos remedios paliativos para un problema que parece
descontrolado por las propias particularidades de Internet y las redes sociales: la
sobreabundancia comunicativa, el anonimato, la transnacionalidad, etc.
Sin embargo, aunque existe cierto consenso sobre la extensión del problema, el
concepto de discurso del odio sigue siendo discutido y es objeto de debate a nivel
internacional. Es un concepto complejo, porque pone en juego principios
fundamentales de los sistemas democráticos como la igualdad, la dignidad humana, y
la libertad de expresión, cuya concepción no es idéntica en todos los contextos
sociopolíticos. Por esta razón, es un concepto que puede ser implementado con
objetivos más o menos legítimos.
El término ‘discurso del odio’ se utiliza para referirse a las expresiones que incitan a la
discriminación o la violencia por motivos de odio racial, xenófobo, orientación sexual, u
otras formas de intolerancia, pero también para referirse, en términos más amplios, a
aquellas expresiones que fomentan la hostilidad a través de prejuicios o intolerancia.
En los medios de comunicación, se ha generalizado el uso del concepto para referirse
a una mezcla heterogénea de expresiones que incluye manifestaciones tan diversas, y
que merecen enfoques muy distintos, como el acoso a famosos, las amenazas a
individuos o colectivos por intolerancia, el discurso ofensivo contra el poder, la apología
del terrorismo, o la blasfemia religiosa.
De cualquier manera, el objeto de este informe, sin ánimo de comprometerse con una
u otra definición, son las expresiones que, en un sentido amplio, fomentan e incitan a la
violencia, la discriminación o la hostilidad contra individuos o colectivos por motivos
64
http://www.observatorioproxi.org/images/pdfs/Programa_taller_Proxi_003_VF.pdf
65
http://www.felgtb.com/redescontraodio/
racistas, xenófobos, religiosos, de género, orientación sexual, discapacidad y otras
formas de intolerancia.
Para sistematizar las diferentes respuestas e iniciativas que se llevan a cabo para
combatir este fenómeno, se han clasificado en estrategias jurídicas y estrategias no
jurídicas. Además, se ha prestado atención individualizada al rol de las empresas
operadoras de redes sociales por su capacidad normativa y restrictiva como
intermediarios en el ámbito privado.
Las estrategias jurídicas, que buscan la represión y sanción del discurso del odio,
suponen un importante dilema por afectar a un derecho esencial para las democracias
como la libertad de expresión. Los argumentos a favor y en contra de prohibir ciertas
formas de discurso del odio pueden ser igualmente convincentes. Por ello, aunque la
legislación penal emane del Estado, es importante tener en cuenta las implicaciones de
este dilema como punto de partida para establecer una estrategia responsable frente al
discurso del odio.
La última reforma del Código Penal en 2015 afectó a los delitos de discurso del odio,
tratando de adaptar la legislación española a la normativa europea y de corregir las
deficiencias de las que adolecía: falta de proporcionalidad, demasiado margen para la
interpretación, y falta de adecuación al principio de intervención mínima del derecho
penal. Como es habitual en asuntos de esta índole, no hay consenso entre los expertos
sobre si los objetivos se han logrado.
Además de las dudas que plantea el recurso a las estrategias jurídicas por el conflicto
que supone con el ejercicio de la libertad de expresión, esta vía se antoja insuficiente
por dos razones. En primer lugar, porque la gravedad de las sanciones de prisión la
convierte en una estrategia escasamente aplicable, más allá de algunos casos
extremos. Y en segundo lugar, porque genera cierta incertidumbre por el escaso
desarrollo jurisprudencial de la materia, y por la posibilidad de que tenga efectos
contraproducentes.
Es innegable que el del discurso del odio un campo de actuación controvertido para las
autoridades. Por este motivo, el rol de los operadores de redes sociales como
intermediarios podría ser crucial. Así lo ha considerado la Unión Europea, que ha
firmado un Código de Conducta con Facebook, Twitter, Youtube y Microsoft, en
materia de incitación ilegal al odio en Internet, para lograr un compromiso de
implicación en la moderación y la retirada de contenidos que atenten contra sus
normas de uso y las legislaciones nacionales. Sin embargo, este tipo de iniciativas ha
recibido importantes críticas por traspasar la responsabilidad de una cuestión sensible
para la libertad de expresión a compañías privadas, y cuyos procedimientos de revisión
y moderación no están sometidos a un marco de responsabilidad claro y transparente.
Existe un consenso considerable entre los expertos en que las estrategias “no
jurídicas” son las que plantean menos objeciones. Quizás la asignatura pendiente de
este tipo de estrategias, que en gran medida son directa o indirectamente financiadas
por las instituciones públicas, sea la evaluación de su eficacia y rentabilidad social.
Se han desarrollado iniciativas y proyectos muy diversos. Se han llevado a cabo
estrategias de monitoreo e investigación, no sólo como métodos de conocimiento, sino
también como sistemas de alerta temprana en situaciones conflictivas. También se han
desarrollado estrategias de presión a las empresas operadoras de las redes sociales,
solicitando la modificación de sus políticas de autorregulación o exigiendo la retirada de
contenidos específicos. Y sobre todo, se han puesto en marcha numerosos proyectos
de intervención social con el objetivo de cambiar las percepciones y actitudes frente al
discurso del odio.
Entre este último tipo de estrategias destacan las campañas, que incluyen actividades
diversas con el objetivo de atacar los prejuicios y la intolerancia como raíz del problema
del discurso del odio, y que pueden categorizarse en tres tipos: de sensibilización,
afirmativas o restrictivas (Titley, Keen y Földi 2014). Mención especial merece la
campaña No Hate, promovida por el Consejo de Europa, por la repercusión alcanzada
y por ser una campaña integral, que incluye una amplia variedad de estrategias, entre
las que destaca el desarrollo de contranarrativas. La contraargumentación a través de
un discurso alternativo y deslegitimador del discurso del odio es una de las estrategias
en las que se han depositado mayores expectativas por parte de las instituciones
públicas y de las propias redes sociales.
Por último, y también con el objetivo de cambiar las percepciones y actitudes frente al
odio, tienen especial importancia las estrategias educativas y formativas, ya sean
dirigidas al desarrollo de lo que se ha denominado como “ciudadanía digital”, o
dirigidas a la formación de personas ya concienciadas, que puedan ejercer de
activistas en el espacio online. Como es habitual en el campo de la intervención social,
la educación y la formación generan grandes expectativas por su potencial de
combinar de manera óptima la responsabilidad con la libertad y la participación. El reto,
para no quedarse en el terreno de las buenas intenciones, está en cómo dotarlas de
contenido concreto que logre los resultados deseados.
BIBLIOGRAFÍA
Aguilar García, Miguel Ángel, ed. 2015. Manual Práctico Para La Investigación Y
Enjuiciamiento de Delitos de Odio y Discriminación. Barcelona: Generalitat de
Catalunya Centre d’Estudis Jurídics i Formació Especialitzada.
Article 19. 2015. Hate Speech’ Explained A Toolkit. Article 19. Londres. Disponible en
https://www.article19.org/data/files/medialibrary/38231/Hate_speech_report-ID-
files--final.pdf
Bustos Gisbert, Rafael. 2015. "Libertad de expresión y discurso negacionista", en
Libertad de Expresión y discursos del odio, Miguel Revenga Sánchez (dir.),
Cuadernos de la Cátedra de Democracia y Derechos Humanos nº12. Universidad
de Alcalá.
Castells, Manuel. 2012. Redes de Indignación y Esperanza : Los Movimientos Sociales
En La Era de Internet. Alianza Editorial.
Gagliardone, Iginio, Alisha Patel, y Matti Pohjonen. 2014. “Mapping and Analysing Hate
Speech Online: Opportunities and Challenges for Ethiopia”. University of Oxford
and Addis Ababa University.
http://pcmlp.socleg.ox.ac.uk/sites/pcmlp.socleg.ox.ac.uk/files/Ethiopia%20hate%2
0speech.pdf
Gagliardone, Iginio, Danit Gal, Thiago Alves, y Gabriela Martinez. 2015. Countering
Online Hate Speech. Programme in Comparative Media Law and Policy,
University of Oxford.
Gascón Cuenca, Andrés. 2015. “La Nueva Regulación Del Discurso Del Odio En El
Ordenamiento Jurídico Español: La Modificación Del Artículo 510 CP. Cuadernos
Electrónicos de Filosofía Del Derecho, no. 32.
Heinze, Eric. 2014. Nineteen arguments for hate speech bans- and against them.
Disponible en: http://freespeechdebate.com/en/discuss/nineteen-arguments-for-
hate-speech-bans-and-against-them/ (Consultado el 23/11/2016)
Hoechsmann, Michael., y Stuart R. Poyntz. 2012. Media Literacies : A Critical
Introduction. Wiley-Blackwell.
Jubany, Olga, y Malin Roiha. 2016. “Backgrounds, Experiences and Responses to
Online Hate Speech : A Comparative Cross-Country Analysis.”
Jubany, Olga, Roiha, Malin, y Martínez, Arlette. 2016. "Online Hate Speech in Spain.
Fieldwork Report. PRISM. Preventing, Redressing & Inhibiting Hate Speech in
New Media". Universitat de Barcelona. Fundamental Rights and Citizenship
Programme of the European Union
Kahn, Robert. 2015. Rethinking the Context of Hate Speech, en First Amendment Law
Review; U of St. Thomas (Minnesota) Legal Studies Research Paper No. 15-20.
https://works.bepress.com/robert_kahn/8/
Keen, Ellie, y Mara Georgescu. 2016. Bookmarks - A Manual For Combating Hate
Speech Online Through Human Rights Education. Estrasburgo: Council of Europe.
http://site.ebrary.com/lib/uacj/docDetail.action?docID=10961376.
Legault, Lisa, Jennifer N. Gutsell, y Michael Inzlicht. 2011. “Ironic Effects of
Antiprejudice Messages: How Motivational Interventions Can Reduce (but Also
Increase) Prejudice”. Psychological Science, 22, 1472-1477. DOI:
10.1177/0956797611427918
Ministerio del Interior de España.
- 2015. Protocolo de actuación de las fuerzas y cuerpos de seguridad para los
delitos de odio y conductas que vulneran las normas legales sobre discriminación.
Disponible en:
http://gestionpolicialdiversidad.org/PDFdocumentos/PROTOCOLO%20ODIO.pdf
-2016. “Informe 2015 Sobre Incidentes Relacionados Con Los Delitos de Odio En
España". Disponible en: http://datos.gob.es/catalogo/informe-2015-sobre-
incidentes-relacionados-con-delitos-de-odio-espana.
Moretón Toquero, María Aranzazu. 2012. “El «ciberodio», La Nueva Cara Del Mensaje
de Odio: Entre La Cibercriminalidad Y La Libertad de Expresión.” Revista Jurídica
de Castilla Y León, no. 27.
Morozov, Evgeny. 2012. El Desengaño de Internet: Los Mitos de La Libertad En La
Red. Imago Mundi. Barcelona: Ediciones Destino.
Phillipson, Gavin. 2015. “Hate Speech Laws: What they should and shouldn’t try to do”,
Revue générale du droit (www.revuegeneraldudroit.eu), Etudes et reflexions 2015,
numéro 13.
Revenga Sánchez, Miguel. 2015. "Los discursos del odio y la democracia
adjetivada: tolerante, intransigente, ¿militante?", en Libertad de Expresión y
discursos del odio (op.cit).
Rey Martínez, Fernando. 2015. "Discurso del odio y racismo líquido", en Libertad de
Expresión y discursos del odio (op. cit).
Rodríguez Izquierdo, Myriam. 2015 “El discurso del odio a través de Internet”, en
Libertad de Expresión y discursos del odio (op. cit).
Ruiz, Carlos, Pere Masip, Josep Lluís Micó, Javier Díaz-Noci, y David Domingo 2010
“Convesación 2.0 y democracia Análisis de los comentarios de los lectores en la
prensa digital catalana”. Comunicación y Sociedad. Vol. XXIII, Núm. 2, 2010, pp.7-39
Silverman, Tanya, Christopher J Stewart, Jonathan Birdwell, y Zahed Amanullah. 2016.
“The Impact of Counter-Narratives. Insights from a Year-Long Cross-Platform Pilot
Study of Counter-Narrative Curation, Targeting, Evaluation and Impact.”
Teruel Lozano, Germán M. 2015. “La libertad de expresión frente a los delitos de
negacionismo y de provocación al odio y a la violencia : Sombras Sin Luces En La
Reforma Del Código Penal.” Indret: Revista Para El Análisis Del Derecho, no. 4.
Titley, Gavan, Ellie Keen, and László Földi. 2014. “Starting Points for Combating Hate
Speech online. Three Studies about Online Hate Speech and Ways to Address It.”
Van Spanje, J.,y C. de Vreese. 2015. “The Good, the Bad and the Voter: The Impact of
Hate Speech Prosecution of a Politician on Electoral Support for His Party.” Party
Politics 21 (1). SAGE Publications: 115–30. doi:10.1177/1354068812472553.
Vázquez Alonso, Víctor J. 2015. "Libertad de expresión y religión en la cultura
liberal: de la moralidad cristiana al miedo postsecular", en Libertad de Expresión y
discursos del odio (op. cit.).
Vives Antón, Tomás. 2015. "Sobre la apología del terrorismo como ‘discurso’ del odio",
en Libertad de Expresión y discursos del odio (op. cit).