Dilemas de la esfera pública digital: discursos de odio y articulaciones político-ideológicas en Argentina

Dilemmas of the Digital Public Sphere: Hate Speech and Political-Ideological Articulations in Argentina

Ezequiel Ipar ezequielipar@conicet.gov.ar 1

Pablo Villarreal pvillarreal@unsam.edu.ar 1

Micaela Cuesta mcuesta@unsam.edu.ar 2

Lucía Wegelin lwegeiln@unsam.edu.ar 2

1 CONICET, Universidad de Buenos Aires

2 Universidad Nacional de San Martín

ISSN: 1130-2887 - eISSN: 2340-4396

DOI: https://doi.org/10.14201/alh.27755

Envío: 2021-11-18

Aceptado: 2022-06-27

First View: 2022-07-12

Publicación: 2022-11-22

RESUMEN: A partir del análisis de los resultados de una encuesta realizada por el Laboratorio de Estudios sobre Democracia y Autoritarismos (LEDA-UNSAM), este artículo aborda la cuestión de los discursos de odio en redes sociales y los problemas que generan en la esfera pública democrática. En particular, nos interesa presentar el Índice DDO que construimos para medir la predisposición a los discursos de odio, y cómo este se articula con posicionamientos político-ideológicos en la sociedad argentina.

Palabras clave: democracia; autoritarismo; ideologías; discursos de odio; redes sociales

ABSTRACT: Based on the analysis of findings from a survey conducted by the Laboratory of Studies on Democracy and Authoritarianism (LEDA-UNSAM), this article addresses the issue of hate speech on social networks and the problems that it generates in the democratic public sphere. In particular, we are interested in presenting the DDO Index that we constructed to measure the predisposition to hate speech, and how it relates to political-ideological positions in Argentinean society.

Keywords: democracy; authoritarianism; ideologies; hate speech; social networks

I. introducción

La creciente circulación de discursos de odio en la esfera pública digital ha despertado preocupación en el mundo académico (Sellars, 2016; Strossen, 2018; Torres y Taricco, 2019; Tsesis, 2002) y ha encendido luces de alarma entre políticos y ciudadanos (ONU, 2019). La organización, incitación y transmisión vía streaming de la toma del parlamento en los EEUU ha sido uno de los epifenómenos más resonantes de esta corriente de violencia que atraviesa los sistemas de la comunicación pública contemporánea. Diferentes análisis de las tecnologías y la circulación de los discursos involucrados en el ataque al capitolio señalan el creciente protagonismo que están teniendo en nuestra vida política los circuitos de desinformación participativa (Hendrix, 2021), inducidos y habilitados por redes sociales que conectan a miles de millones de personas en condiciones de profunda opacidad y desregulación.

Desde el particular punto de vista de algunos protagonistas de esta industria, el documental El dilema social, sobre el dilema que representan las redes sociales[1], refleja con bastante claridad –a pesar de todas las críticas que se le puedan hacer a su narrativa– la gravedad de los aspecticos económicos, políticos, sociales, y psicológicos de esta problemática. Tal vez el acierto más importante de este documental lo encontramos en su título El dilema social [The social dilemma]. La película expone de una manera muy intuitiva este dilema: lo que nos conecta, nos aproxima y nos abre un acceso muy profundo al mundo de la vida subjetiva de los otros es al mismo tiempo un mecanismo de control sutil, invisible e invasivo que permite que diferentes individuos y grupos sociales sean vigilados, asediados, amenazados y deshumanizados de una manera ampliada, capilar y económica en términos de la disponibilidad de los recursos que se ponen a disposición para poder realizar prácticas crueles (Ipar, 2019). La película sugiere que estos mecanismos de la comunicación de masas podrían estar alimentando –voluntaria o involuntariamente– una lucrativa industria del odio social, que mientras funciona como lubricante del «capitalismo de la atención» (Zuboff, 2020) opera autodestructivamente en otras ramas de la propia economía y de la vida social. Las recientes revelaciones de Frances Haugen y la investigación publicada por Jeff Horwitz (2021) en el Wall Street Journal vuelven muy factibles estas hipótesis.

Para dar cuenta de estos problemas, las ciencias sociales tienen que ayudar a entender cuál es su lógica dominante, qué extensión tienen en nuestras sociedades y cómo funcionan en la reproducción de la cultura contemporánea. En el presente trabajo avanzamos en esta compleja problemática a partir de tres momentos. En primer lugar, introducimos el concepto de la esfera pública democrática y analizamos los desafíos concretos que presentan los discursos de odio que son diseminados a través de las redes sociales. En segundo lugar, presentamos la metodología con la que construimos el índice DDO del Laboratorio de Estudios sobre Democracia y Autoritarismos (LEDA/UNSAM). En tercer lugar, analizamos los resultados de una encuesta que tuvo como objetivo realizar una primera medición de la circulación de los discursos de odio en la sociedad argentina. Debido al contexto en el que fue realizado el trabajo de campo que aquí presentamos, marcado por la crisis sanitaria, social y política que provocó la pandemia del coronavirus y por las limitaciones intrínsecas de este instrumento de medición, no pretendemos extraer de él hallazgos concluyentes sobre una problemática compleja. Los análisis empíricos que presentamos en este trabajo pretenden colaborar con la descripción y caracterización del problema, despejando así el camino para futuras investigaciones.

II. Los discursos de odio y la corrosión de la esfera pública democrática

En este trabajo entendemos por discursos de odio cualquier tipo de discurso pronunciado en la esfera pública que procure promover, incitar o legitimar la discriminación, la deshumanización y/o la violencia hacia una persona o un grupo de personas en función de la pertenencia de las mismas a un grupo religioso, étnico, nacional, político, racial, de género o cualquier otra identidad social. Estos discursos frecuentemente generan un clima cultural de intolerancia y odio y, en ciertos contextos, pueden provocar en la sociedad civil prácticas agresivas, segregacionistas o genocidas (Benesch, 2008).

Los discursos de odio tienen efectos directos sobre aquellos que son amenazados, asediados o violentados en la esfera pública, tanto por sus posiciones políticas, sus opiniones, o por pertenecer a minorías sociales (Tsesis, 2002). En sí mismas estas violencias que se realizan a través del lenguaje tienen consecuencias en la vida de las personas, que merecen atención por sus efectos en contextos tan variados como el de la construcción de la propia identidad, las familias, las instituciones escolares o el mundo laboral. A este primer nivel del problema la sociología crítica le debe añadir otra perspectiva complementaria. En esta segunda perspectiva la atención tiene que enfocarse en el daño que los discursos de odio pueden provocar sobre los límites internos de la esfera pública y sobre las reglas básicas de la vida democrática, inhibiendo –por ejemplo– la voz de determinados colectivos sociales o lesionando la dignidad elemental de determinados miembros de grupos vulnerables en un grado tal que les impida sentir que su vida social puede desarrollarse de una manera segura y protegida por el sistema legal (Waldron, 2010). Al mismo tiempo, si incorporamos en esta consideración el discurso digital debemos analizar, junto con la fuerza intrínseca de los discursos, la fuerza específica –y en muchos casos desconocida– de los algoritmos, que clasifican, orientan, incitan y legitiman desde el anonimato del mecanismo un modelo particular de comunicación pública (Sadin, 2020).

Como sabemos, la idea de esfera pública resulta crucial para la tradición democrática. El ideal de esta forma de gobierno depende intrínsecamente de la existencia de un espacio abierto para la participación igualitaria y la comunicación libre sobre los asuntos de interés común. Grandes pensadores del siglo pasado como J. Dewey le asignaban a la esfera pública el lugar de la «inteligencia colectiva» (Dewey, 1946, p. 219). En su perspectiva, esta instancia de comunicación social establecía, de abajo hacia arriba, un vínculo moral reflexivo entre los miembros de la comunidad, que iba de la mano de un vínculo epistémico que prometía ampliar las perspectivas, aumentar la complejidad con la que se tratan los problemas comunes y buscar las mejores soluciones para los mismos a través del ejercicio concreto de la deliberación pública (Dewey, 1946). En su clásico estudio, Habermas (1997) sigue el rastro de esta idea cuando interpreta la esfera pública burguesa como un espacio social en el cual una ciudadanía activa, que no se limita a legitimar propuestas políticas, puede criticar las decisiones de los poderes del Estado con la expectativa de poder transformarlas haciendo valer sus propios intereses. En la sociología de Habermas, la esfera pública llega a convertirse en la trama de una materialidad social contrapuesta a las formas de dominación –tanto las tradicionales como las modernas, precisamente porque mediante relaciones comunicativas libres de dominación construye un contra-poder que es capaz de hacerle frente al aparato burocrático del Estado y al mercado capitalista (Ipar, 2014).

En su teoría política, Habermas (1996) introdujo cuatro precondiciones para que la esfera pública pueda cumplir realmente un papel democratizador: a) que los participantes intervengan como pares en una comunicación libre de coacciones; b) que las desigualdades de estatus sean puestas en suspenso; c) que el debate sea abierto y accesible a todos los interesados; y d) que las informaciones relevantes y los intereses en discusión sean susceptibles de una aceptación racional. Habermas sabe que estas precondiciones no se han logrado realizar plenamente en ninguna sociedad, en ningún momento histórico, pero las reconstruye como pretensiones de validez inmanentes al Estado constitucional democrático que transforman objetivamente el potencial de participación de la sociedad civil y de racionalización de las decisiones estatales en la esfera pública política (Habermas, 1996, p. 329). Sus críticos han observado que, en el diseño básico de la infraestructura comunicacional de la esfera pública burguesa que Habermas toma como modelo, existen barreras estructurales, formales y hasta estilísticas para la participación igualitaria de las diferentes clases sociales (Negt y Kluge, 1993) o de los diferentes géneros (Fraser, 1990). Estos bloqueos o imposibilidades estructurales de la esfera pública nos recuerdan el estudio de Bourdieu sobre las derivas del «conocimiento sin concepto» (Bourdieu, 2006, p. 554) de las clases subalternas, así como las dificultades que existen para que éstas realicen el pasaje de la experiencia al discurso, en medio de los ritualismos del lenguaje oficial que se utiliza y requiere en la esfera pública política.

Ahora bien, a pesar de la contundencia de estas críticas, no deberíamos recurrir a las mismas –tal como no lo han pretendido sus autores– para tirar por la borda la idea de esfera pública democrática. Esas críticas deben, por el contrario, recordarnos su carácter dinámico, señalando las tensiones económicas, políticas e ideológicas que marcan sus continuos cambios estructurales, algunos de los cuales se dan a favor y otras en contra de aquel ideal democrático. Inclusive los severos análisis críticos de la creciente industrialización y dependencia económica de la esfera cultural desarrollados por Adorno y Horkheimer, antecesores del gran estudio de Habermas, dependen de una pretensión de autenticidad, igualdad, libertad y potencial de crítica que solo provee el concepto de esfera pública democrática (Adorno y Horkheimer, 2000).

Si retomamos con este espíritu la perspectiva de Habermas (1997), debemos recordar que este autor se ha limitado a estudiar dos grandes reestructuraciones de la esfera pública. En la primera, que se da en el siglo XVIII, la esfera pública estaba conformada por los cafés y las sociedades civiles donde transcurrían los debates públicos y funcionaban como el vínculo entre la sociedad y el Estado, generando un contrapeso al poder de los Estados absolutistas. Luego, ya a principios del siglo XX, con la masificación de los periódicos y la radiofonía, la esfera pública empezó a estar mediada y regulada por los medios masivos de comunicación. Esta segunda reestructuración de la esfera pública tuvo varias consecuencias sobre las formas de participación política: por un lado, la participación directa fue sustituida por una participación mediada por organismos estatales, civiles y comerciales dedicados a la comunicación; por otro lado, comenzó a extenderse el anonimato en la participación pública, algo que no era posible en la estructura anterior de la esfera pública; junto con los medios masivos de comunicación surgió también una élite comunicacional conformada por los periodistas y aquellas voces respetadas a las que se le permite participar del espacio público; y finalmente, se conformó un público que no participa directamente, sino como audiencia del debate democrático, aunque se lo suponía interesado por la política y capaz de deliberar de forma racional.

De una manera que todavía resulta difícil caracterizar, aparece junto a las dos modalidades anteriores la reestructuración que supone la esfera pública digital (Bruns y Highfield, 2015; Pecourt Gracia, 2015), caracterizada por la flexibilidad, velocidad, personalización, horizontalidad y, en apariencia, la descentralización de las decisiones sobre el contenido y el estilo de lo que merece y puede ser publicado. Pecourt Gracia (2015) ha elaborado una sugerente tipología de las nuevas formas del activismo y la crítica social ligadas a las potencialidades tecnológicas que ofrece la esfera pública digital, en las que a través de blogs, comunidades de streaming o redes sociales como Twitter se consiguen trascender, al menos en parte, las restricciones propias de una esfera pública dominada por la tutela de un lenguaje oficial y por la organización económica de los medios de comunicación de masas. Del otro lado, más recientemente se ha señalado la creciente función editorial y la concentración de las plataformas que proveen la infraestructura de la comunicación digital (Becerra y Waisbord, 2021), que han sido acusadas de operaciones de manipulación y engaño que se vuelven particularmente sensibles para la consideración del espacio público democrático cuando se pone el foco en la circulación de discursos de odio a partir de la gramática propia de las redes sociales. En lo que sigue vamos a analizar este segundo aspecto a partir del análisis de un material empírico centrado en las disposiciones subjetivas hacia esa gramática del odio que circula en la esfera pública digital. Estos análisis pueden pensarse como el complemento negativo de los estudios sobre las potencialidades democratizadoras de la esfera pública digital, que dan cuenta de un problema que evidentemente excede a la influencia y el poder de las redes sociales.

III. Sobre el índice de discursos de odio

Al analizar la circulación de discursos de odio, sobre todo cuando éstos tienen un claro contenido discriminador y violento, resultan inevitables una serie de preguntas: ¿cuánto es mucho?, ¿cómo debemos evaluar los resultados empíricos?, ¿qué tipo de intensidades en los discursos de odio nos deben resultar preocupantes? Las respuestas que demos a estas preguntas dependerán de la idea de espacio público democrático que usemos para su interpretación. Es fácil notar que cuando leemos los resultados de estas mediciones tenemos que reunir observaciones que tengan validez descriptiva con criterios normativos razonables. Esa discusión normativa, que está muy lejos de encontrarse cerrada en la ciudadanía o entre los expertos (Herz y Molnar, 2012), tiene que proveernos de una perspectiva que resulte provisoriamente útil para elaborar una cartografía de los principales desafíos de la esfera pública democrática en el actual contexto tecnológico, económico y político.

En este sentido, el índice DDO construido por el LEDA es un indicador complejo que sintetiza datos de diferentes variables que han sido diseñadas para captar las disposiciones de los sujetos hacia los discursos de odio en la esfera pública digital, y que pueden ser considerados razonablemente como actitudes violentas de discriminación, deshumanización y/o negación de derechos fundamentales de los otros (en primer lugar, el derecho a la participación en la comunicación democrática). En esta primera versión del índice DDO se incluyeron tres fragmentos de discursos y se los ponderó según su intensidad: un discurso racista con connotaciones segregacionistas muy fuertes («Estoy harto de los negros que arruinan nuestro país, a esta altura la única solución es deportarlos a todos»); un discurso sobre el colectivo LGBTI+ que fue formulado de manera crítica («No hay que ser prejuicioso, tanto una persona heterosexual como una transexual pueden ser directores de un jardín de infantes. No hay ninguna diferencia») y un discurso deshumanizador («Miles de bolivianos cruzan la frontera como ratas para cobrar el IFE[2]. Alguien tiene que hacerse cargo»)[3].

Orientándonos por estudios previos, se le otorgó un 40 % del peso en el índice al primero (racista/xenófobo), un 40 % al último discurso (deshumanizador) y un 20 % (discriminador) al segundo, considerando que posee una menor intensidad relativa en tanto discurso de odio. Evidentemente, en la confección del índice las respuestas afirmativas tanto con respecto al discurso racista como al discurso deshumanizador contribuyen positivamente, mientras que las respuestas afirmativas frente al discurso crítico de los prejuicios contribuyen negativamente. Las categorías de respuesta posible ante las preguntas se ordenaban del siguiente modo: 5. Lo comparte para apoyarlo; 4. Lo apoya, poniendo «me gusta»; 3. Nada, le resulta indiferente; 2. Lo critica con un comentario; 1. Lo denuncia para bloquearlo; 9. NS/NC.

III.1. Precisiones metodológicas

• Población objeto de estudio: población general mayor a 16 años.

• Ámbito: territorio de la República Argentina.

• Procedimiento de muestreo: probabilístico.

• Instrumento de recolección de datos: cuestionario estructurado a partir de variables con categorías pre-codificadas, exhaustivas y mutuamente excluyentes.

• Técnica de recolección de datos: encuesta telefónica a celulares, método IVR.

• Trabajo de campo: del 27 de noviembre 2020 al 3 de febrero 2021.

• Tamaño de la muestra: 3140 casos efectivos.

• Margen de error: +/- 1.8 %.

• Nivel de confianza: 95 %.

El procedimiento empleado para eliminar los desbalances de la muestra en variables sociodemográficas clave consistió en reasignar los pesos de los individuos de manera que el resultado final refleje la distribución poblacional en las variables de ajuste. Este método se conoce con el nombre de ranking, y genera muestras representativas de la población (sin sesgos). Las variables sexo, edad y nivel educativo por región fueron seleccionadas para ajustar la muestra. La razón de esta selección radica en su capacidad explicativa, en su bajo error de medición y en la alta tasa de respuesta.

IV. El mapa sociodemográfico de los discursos de odio en Argentina

Antes de exponer los resultados de nuestra encuesta, es necesario repasar una serie de hipótesis iniciales que existen en el campo académico sobre esta problemática, anticipando que los resultados de este trabajo puntual, que aquí presentamos, solo permiten contrastar parcialmente algunas de estas hipótesis sobre los discursos de odio. Cada una de estas hipótesis ofrece un grado diferente de complejidad y una explicación diferente de los efectos de las redes sociales. La primera hipótesis, a la que llamamos sintomática, sostiene que las redes sociales expresan e inscriben en la esfera pública digital algo que se produce en otra región de una formación social. En este sentido, las redes sociales no serían más que un campo discursivo donde se imprimen las huellas de las corrientes ideológicas, valorativas y los posicionamientos políticos de una sociedad. Una segunda hipótesis, sostiene que las redes sociales tienen el efecto de mediatizar los discursos de odio hacia la esfera pública digital. De este modo, las redes sociales serían algo más que una mera expresión de algo que se produce en otra región de una formación social, ya que facilitan la circulación de esos discursos de odio, ampliando sus efectos sobre la esfera pública. Una tercera hipótesis, a la que llamamos performativa, sostiene que las redes sociales contribuyen no solo a la circulación, sino también a la producción e incremento de los discursos de odio (Horwitz, 2021), generando un clima de intolerancia y agresividad. Finalmente, una cuarta hipótesis se centra no ya en el rol de las redes sociales –esto es, si simplemente reflejan el odio de la sociedad o si también lo producen– sino en los sujetos que hacen circular los discursos de odio en esas redes sociales. Es llamativo que los usuarios de redes sociales que propagan discursos de odio suelen presentarse como individuos que están quebrando un silenciamiento que consideran injusto; mientras que las redes son el elemento que les permite, finalmente, expresar sus valores y su verdad. Y es la fascinación con su verdad, por una necesidad que no siempre pueden explicar, la que los lleva a expresar desprecio y agresividad hacia otros participantes de ese mismo espacio público. Con un gesto que consideran rebeldía, suelen plantear estas verdades como un desborde de lo «políticamente correcto» en el marco de los consensos democráticos contemporáneos, a partir de una clara inclinación hacia los posicionamientos autoritarios, conservadores, xenófobos y anti-igualitarios. De este modo, la conjunción entre redes sociales y los sujetos que hacen circular discursos de odio se sostiene en la posibilidad de expresar lo reprimido por el sistema de comunicación tradicional, en una liberación de viejas ataduras que permite al fin darle lugar al odio a través de un artilugio tecnológico que, además, encuentra el máximo beneficio económico en la exhibición de aquello que resulta atractivo, curioso y puede mover el interés de los que forman parte de esas comunidades digitales (Ipar, 2021).

Sabiendo que en el campo académico existe un debate que piensa razonablemente estas interpretaciones como hipótesis rivales (Hendrix, 2021; Norris y Inglehart, 2019; Pecourt Gracia, 2015), tenemos que afirmar que los resultados necesariamente exploratorios de este trabajo solo aportarán conclusiones provisorias sobre el mismo. Nuestro propósito es más bien poner en claro la dimensión del problema de los discursos de odio en Argentina, señalando algunos de los elementos que sirven para explicar este fenómeno.

Con estas hipótesis explicitadas, podemos empezar a analizar el mapa de los discursos de odio en Argentina que construimos a partir de nuestro trabajo empírico. Para empezar, observamos valores significativamente altos, por el tipo y las intensidades de los discursos que hemos incorporado en nuestro índice. También observamos una distribución geográfica con matices claros. El gráfico 1, que muestra el total del país, ofrece los siguientes resultados: el 26,2 % de los encuestados «promovería o apoyaría discursos de odio», el 17,0 % permanecería «indiferente frente a los discursos de odio» y el 56,8 % «criticaría o desaprobaría los discursos de odio».

Gráfico 1. Índice DDO en Argentina (en %)

Fuente: LEDA – PASCAL/UNSAM.

Por otro lado, en el gráfico 2 podemos observar los discursos de odio en términos de su distribución geográfica. El porcentaje de quienes apoyarían o promoverían discursos de odio (DDO) se intensifica en las zonas centro (30,7 %) y noroeste del país (30,4 %); mientras que los niveles más bajos se encuentran en la Patagonia (20,5 %). Ya en el interior de la provincia de Buenos Aires (24,6 %) los valores son más altos que en el sur del país y sucede lo mismo con el conurbano bonaerense (25,0 %). En CABA observamos valores relativamente bajos (22,6 %), en la zona de Cuyo valores intermedios (23,8 %) y finalmente, vemos que en el noreste argentino la cifra vuelve a subir (26,1 %).

Más allá de estos datos generales y regionales, también nos interesa analizar lo que sucede con los DDO cuando los cotejamos con otras determinaciones sociales que pueden resultar explicativas de la intensidad y la distribución de este fenómeno. Para empezar, vamos a analizar qué sucede con la variable edad, poniendo el foco en los cohortes generacionales que son utilizados por los estudios internacionales de valores sobre estas problemáticas (Norris y Inglehart, 2019). En este sentido (gráfico 3), resulta llamativo que los millennials (24-40 años) sean los que registran mayores grados de acuerdo y disposición a emitir o replicar discursos de odio (31,1 %) en comparación con los que muestran los «centennials» (26,3 %), la generación X (25,5 %) y los baby-boomers (19,6 %).

Gráfico 2. Índice DDO en Argentina según regiones (en %)

Fuente: LEDA – PASCAL/UNSAM.

Gráfico 3. Índice DDO según cohorte generacional (en %)

Fuente: LEDA – PASCAL/UNSAM.

El otro grupo que se aproxima a los valores de los millennials, si incorporamos en el análisis la categoría «indiferente frente a los DDO», serían los miembros de la generación «silenciosa» (46,7 % sumando las dos categorías). Para Norris y Inglehart (2019), en esta generación se encuentran los «últimos defensores» de valores tradicionales cerrados, como la seguridad, la estabilidad económica y la homogeneidad cultural. Es curioso entonces que los millennials, en términos de su predisposición a los DDO, muestran valores semejantes a la generación silenciosa, que suele pensar a la diversidad y la complejidad de la sociedad actual con la metáfora de un cuerpo que no para de caer en el abismo, el desmoronamiento y la decadencia. Habría que pensar qué desmoronamientos sociales, como la imposibilidad de ingresar al mercado laboral y a un futuro económicamente estable en un contexto de crisis global, están viviendo los millennials para equipararse en estas disposiciones subjetivas con quienes aparecen en los estudios de valores como la generación más cerrada y conservadora en términos culturales. Esto nos sugiere que en las redes sociales se estarían manifestando ciertos padecimientos y malestares que tiene su origen en otras esferas de la vida social.

Cuando cruzamos el índice de DDO con la ocupación de los encuestados (gráfico 4) resulta notorio que la mayor identificación con ese tipo de discursos se da entre los que se reconocen en la categoría «patrones, dueños o empleadores» (33,4 %). Los que se asumen como «empleados» (28,0 %) u «obreros» (27,0 %) también muestran valores levemente superiores al resto de las clases de ocupación. Este otro ángulo del análisis sobre los resultados de nuestro termómetro de los discursos de odio nos tiene que llevar a ser prudentes con las hipótesis interpretativas y a complejizar el análisis de las variables sociodemográficas que efectivamente influyen en esta problemática. Es interesante observar lo que ocurriría si agrupamos las categorías utilizadas en este gráfico en dos grupos, el primero, integrado por quienes ocupan lugares en la economía formal (patrones, empleados y obreros), y el segundo, integrado por quienes viven en la informalidad (trabajadores familiares sin remuneración fija, trabajadores transitorios o desocupados); así dispuestos los que en mayor medida promueven los discursos de odio son los del grupo de la economía formal.

Gráfico 4. Índice DDO según categoría ocupacional (en %)

Fuente: LEDA – PASCAL/UNSAM.

V. Articulaciones político-ideológicas de los discursos de odio en Argentina

En lo que sigue continuamos el análisis de los discursos de odio a partir de su articulación con otros discursos y tomas de posición política que configuran el mapa ideológico de la sociedad. Como se observará, las relaciones más fuertes con los DDO se dan en el propio campo de las posiciones ideológicas y los posicionamientos políticos, que complementan a las variables sociodemográficas y explican mejor los factores que luego influyen sobre la esfera pública. Incluimos también bajo este registro algunos temas de actualidad, como las posiciones de la ciudadanía sobre la legalización del aborto o, en el apartado siguiente, temas y prejuicios sociales vinculados a la pandemia de COVID-19.

En el gráfico 5 se puede observar la asociación significativa que existe entre las disposiciones a reproducir DDO y la posición «anti-derechos», como se denominó durante el debate parlamentario a quienes se oponían a la aprobación de la Ley de Interrupción Voluntaria del Embarazo (IVE). Entre quienes están a favor de la IVE, un escaso 17,1 % aprueba los DDO; en tanto entre quienes están en contra de la IVE, un 34,6 % apoya o promueve los DDO. Esta afinidad entre formas agresivas de intervenir en el espacio público y determinadas tomas de posición política nos muestra el mismo problema desde otro ángulo: en este caso, su relación con tradiciones culturales que hoy se oponen a cualquier ampliación de los derechos civiles. También podemos observar en esta asociación que no todas las partes que participan de un debate, combatiendo con intensidad a su antagonista, se expresan sistemáticamente a través de lo que tenemos que denominar con propiedad como discursos de odio. Poder trazar una demarcación clara entre, por un lado, la crítica severa, la descalificación o inclusive el desprecio de los puntos de vista de un adversario y, por otro lado, el fenómeno específico de los discursos de odio –la exclusión o el silenciamiento–, es una tarea fundamental para entender los desafíos concretos de nuestra convulsionada esfera pública democrática.

Gráfico 5. Índice DDO según posición con respecto al aborto (en %)

Fuente: LEDA – PASCAL/UNSAM.

En el gráfico 6 comparamos el mapa de los discursos de odio en argentina (que ya habíamos presentado en el gráfico 2) con un mapa que nos muestra el porcentaje de diputados nacionales que votaron a favor de la sanción de la LEY de Interrupción Voluntaria del Embarazo a finales del 2020. Podemos ver que en líneas generales, un nivel de intensidad mayor en el índice DDO tiende a coincidir con las provincias y las regiones que se opusieron de manera más tajante a la sanción de la ley.

Entre los posicionamientos ideológicos sobre el aborto y los discursos de odio existe una correlación alta. En términos metodológicos, esto nos permite establecer un punto de referencia y una variable de control para el índice DDO. En términos de análisis, esta correlación parece acercarnos a la primera hipótesis, en tanto los discursos de odio actúan como un síntoma de lo que sucede en otras esferas de la vida social; pero también a la cuarta hipótesis, en la medida en que son las posiciones más conservadoras las que tienen una cierta afinidad con la difusión de los discursos de odio.

En relación a esto último, hemos confrontado también nuestro índice de DDO con otro discurso que es una expresión típica del autoritarismo actual: la que justifica castigos injustificables dentro del Estado de derecho. La lógica que subyace en el ítem de nuestra encuesta –trágicamente desplegada en la historia del siglo XX– sería: para resolver algunas ilegalidades es necesario que los que defienden y aplican la ley actúen ilegalmente. Por todo esto, este enunciado es una síntesis muy precisa de la subsistencia de muchas disposiciones autoritarias en el mundo social contemporáneo y sirve para validar indirectamente nuestro índice de DDO. En el gráfico 7, los resultados muestran una relación muy fuerte entre los discursos de odio y las 3 primeras categorías de adhesión al discurso autoritario (muy de acuerdo 35,3 %, de acuerdo 33,8 %, indiferente 32,8 %)[4]. También pasa algo interesante para el análisis en la categoría que registra la «indiferencia» frente a los discursos de odio, que nos permitiría determinar mejor el significado de esa posición. Vemos que entre quienes se manifestaron «muy de acuerdo» con el discurso autoritario, un significativo 15,7 % quedó en nuestro índice de DDO en la posición de «indiferencia». En el caso de los que contestaron «de acuerdo» con el discurso autoritario un 17,8 % quedaron en esa posición y entre quienes fueron «indiferentes» frente al discurso autoritario, también lo fueron frente a los DDO en el 19,2 %. En el otro extremo de esta relación, vemos que son fundamentalmente quienes se pronunciaron «muy en desacuerdo» con el discurso autoritario los que mostraron los valores más altos en el rechazo a los DDO (77,8 %) y los valores más bajos en relación a la posición «indiferente» (11,3 %).

Gráfico 7. Índice DDO según acuerdo con la frase: «A veces, para resolver algunos crímenes, es necesario que la policía actúe más allá de los procedimientos legales» (en %)

Fuente: LEDA – PASCAL/UNSAM.

Por otro lado, en el gráfico 8 se muestra la relación con una frase que intenta captar la adhesión a un ideologema económico que circula con frecuencia en la opinión pública argentina, y que funciona indistintamente como una explicación de la crisis económica y como una justificación de la demanda por una reducción de los impuestos y los «costos laborales». Este tipo de posicionamientos suele articularse con discursos anti-estatistas y anti-política, sustentados en la sospecha de una distribución espuria del ingreso que sería el resultado de una intervención estatal que distorsiona el funcionamiento armónico del mercado con objetivos puramente electorales o para beneficiar a una élite política.

Gráfico 8. Índice DDO según acuerdo con la frase: «No hay crecimiento económico posible con los altos costos laborales que el gobierno impone a los empresarios» (en %)

Fuente: LEDA – PASCAL/UNSAM.

Observamos una correlación significativa[5] entre el nivel de acuerdo con la frase y la actitud frente a los discursos de odio: entre los que manifiestan algún grado de acuerdo, aparecen los mayores porcentajes de aprobación a los discursos de odio (39,7 % para quienes están «muy de acuerdo», 27,5 % para quienes están «de acuerdo»); mientras que solo el 15,4 % de quienes están «muy en desacuerdo» y el 13,3 % de quienes están «en desacuerdo» con esta frase que revela una posición de ideología económica promueven ese tipo de discursos. En el otro extremo, aquellos que muestran un mayor desacuerdo con la frase que vincula los costos laborales con el bajo rendimiento de la economía, son también los que rechazan con más vigor los discursos de odio, con un 74,8 % para los que están «en desacuerdo» y un 67,7 % para los que están «muy en desacuerdo».

En el gráfico 9 abordamos el análisis de una variación del anti-estatismo que está relacionada también con la crítica a la forma en que se redistribuye el ingreso, pero en este caso, haciendo foco en las políticas del Estado de bienestar. Esta frase suele estar articulada con posiciones que adhieren a la meritocracia y ven a la competencia individual de los trabajadores en el mercado como el único mecanismo adecuado para la asignación de recursos económicos. Encontramos también una correlación significativa[6] entre el nivel de acuerdo con la frase y la actitud frente a los DDO: los mayores porcentajes de predisposición a promover DDO se encuentran entre los que acuerdan de alguna manera con la frase que se opone a los planes de asistencia social (entre los que están «muy de acuerdo», 42,5 %; entre los que están «de acuerdo», 29,3 %). Por otro lado, los mayores niveles de desaprobación a los DDO se encuentran entre los que no están de acuerdo con la frase (70,6 % para los que están «en desacuerdo» y 76,6 % para los que están «muy en desacuerdo»).

En nuestra investigación también indagamos en temas clásicos de la sociología como los conflictos migratorios y la xenofobia. En este caso, propusimos una pregunta que permite a los entrevistados posicionarse en la «gestión» estatal frente a la inmigración a partir de cuatro respuestas posibles. La que pretende captar las posiciones más xenófobas y nacionalistas es la que sugiere prohibir el ingreso a todo tipo de inmigrantes. Luego, tenemos una respuesta que sugiere algún tipo de admiración y preferencia excluyente por los países europeos. También está la posibilidad de aceptar solo a inmigrantes de origen latinoamericano, que supone la adhesión a cierta ideología latinoamericanista. Finalmente, tenemos a los que sugieren aceptar a inmigrantes de cualquier origen, de acuerdo a la tradición argentina que hoy parece estar en cuestión.

Observando el gráfico 10, es sorprendente que las posiciones que promueven con más fuerza los discursos de odio no se encuentran en aquellos que a priori podríamos imaginar como más interpelados por estos discursos, los que sugieren cerrar completamente las fronteras a la inmigración, sino en aquellos que prefieren la llegada exclusiva de europeos. En efecto, entre quienes tienen preferencia por la inmigración europea, el 58,2 % aprueba y promueve los discursos de odio, mientras que los que sugieren no recibir a ningún inmigrante se ubican en segundo lugar, con 39,7 %. Solo a modo de hipótesis frente a los resultados, parecería que los discursos de odio tienen más fuerza en los posicionamientos racializados sobre la inmigración antes que en aquellos que tienen algún componente nacionalista. En cambio, la actitud que promueve los discursos de odio se reduce drásticamente entre quienes aceptarían solo inmigración de origen latinoamericano (27,7 %) y aquellos que mantienen la posición universalista de mantener abiertas las fronteras (18,1 %). Son estos últimos también los que rechazan y critican con mayor vehemencia los discursos de odio, con un 67,7 %.

A partir del gráfico 11, nos adentramos en el análisis del índice DDO en relación a las posiciones políticas e ideológicas. Sin embargo, antes de avanzar, es necesario aclarar que no pretendemos aquí señalar a ninguna orientación ideológica o espacio político como los portadores exclusivos de discursos de odio. Al contrario, hemos encontrado algún nivel de inclinación a promover o reproducir DDO en todos los espacios políticos e ideológicos, aunque no con la misma intensidad. Entonces, es necesario que hablemos de afinidades entre ciertas tendencias político-ideológicas y los discursos de odio. Por otro lado, es necesario remarcar que los cruces de variables que vamos a analizar a continuación mantienen la coherencia con los que venimos analizando y nos muestran resultados esperables, lo que nos permite concluir que los datos que obtuvimos en la encuesta son consistentes. Veamos.

Gráfico 11. Índice DDO según autopercepción político-ideológica (en %)

Fuente: LEDA – PASCAL/UNSAM.

Las posiciones que se ubican a la derecha del espectro ideológico muestran una mayor afinidad con los discursos de odio. Entre los que se autoperciben de derecha, un 48,6 % promueve o adhiere a los discursos de odio. Luego se ubican los que se reconocen republicanos, con un 45,2 %. En Argentina, el republicanismo sostiene ante todo el respeto por la ley como elemento ordenador de lo social, y por ende, la defensa de la Constitución Nacional. Además, reivindica y defiende la separación de poderes en el Estado Nacional contra las prácticas políticas «populistas», que según la narrativa de esta ideología, suele avasallar desde el ejecutivo las funciones de los demás poderes. En el tercer lugar de afinidad con los discursos de odio se encuentran los libertarios, con un 30,7 %. La orientación ideológica libertaria ha resurgido en los últimos años en la sociedad Argentina, y tiene en su núcleo una condensación de las posiciones anti-política, anti-estatista (sobre todo en su intervención redistributiva) y reivindica la libertad en un sentido negativo. El discurso libertario se opone ante todo a la intervención del Estado en la Economía, con un especial énfasis en el déficit fiscal, la emisión monetaria y la justicia social como política de Estado. En la coyuntura actual, este núcleo ideológico libertario articula con posiciones que niegan el terrorismo de Estado durante la última dictadura cívico-militar, que están en contra de la interrupción voluntaria del embarazo, y que plantean una restricción de todos los derechos que no sean los de propiedad, la vida y la libertad.

En el otro extremo, entre las posiciones ideológicas que tienen una menor afinidad con los discursos de odio encontramos a la izquierda, con 19,6 %; el peronismo, con 20,7 %; y el kirchnerismo, con un 20,8 %. Estos datos coinciden con lo que vemos en el gráfico 12, donde cruzamos el índice DDO con el voto a presidente en las elecciones presidencial del 2019. El mayor porcentaje de promoción y adhesión a los discursos de odio se encuentra entre los que anularon el voto, con un 42,6 %, seguido por los votantes de Gómez Centurión, con un 41,3 % y los votante de Mauricio Macri, con el 41,1 %. En el otro extremo, los votantes con menos afinidad hacia los discursos de odio son los del FITU (izquierda), con un 15,1 %, los de Alberto Fernández, con un 19,1 % y los que no fueron a votar, también con el 19,1 %.

Gráfico 12. Índice DDO según voto a presidente en las últimas elecciones (en %)

Fuente: LEDA – PASCAL/UNSAM.

VI. Conclusiones

El análisis del mapa de los discursos de odio en la Argentina nos demuestra la existencia de valores que consideramos altos en todo el país, con algunos matices en términos geográficos: la Patagonia aparece claramente como la región menos expuesta a esta problemática, mientras que la zona Centro del país (Córdoba, Santa Fe, Entre Ríos y La Pampa) es la región más proclive al uso y la legitimación de discursos de odio. Por otro lado, si tomamos la totalidad del país, vemos que el 26,2 % de la ciudadanía «promovería o apoyaría discursos de odio», el 17,0 % permanecería «indiferente frente a los discursos de odio» y el 56,8 % «criticaría o desaprobaría» los discursos de odio».

Volviendo a nuestra pregunta inicial: ¿cuánto es mucho cuando hablamos de discursos de odio en la esfera pública de una sociedad democrática? Es importante tener en cuenta que el 26,2 %, aunque puede parecer minoritario, está compuesto por respuestas afirmativas a enunciados extremadamente violentos (punitivos, autoritarios, xenófobos). Por lo tanto, el hecho de que el apoyo y la promoción de ese tipo de discursos llegue a más de un cuarto de la muestra es un dato de por sí significativo y, luego, preocupante. Podemos agregar a lo anterior, para completar el panorama global de esta problemática, que la posición de indiferencia (computada en este caso por tres respuestas indiferentes o puntuaciones equivalentes del índice) frente a tales enunciados también puede leerse como la ausencia o la dificultad para enunciar una crítica a estos discursos en la esfera pública, que muchos autores entienden como parte del mismo problema (Langton, 2018).

De nuestro estudio, resulta llamativo que los millennials (24-40 años) sean los que registran mayores grados de acuerdo y disposición a emitir o replicar discursos de odio (31,1 %). Una posible explicación de este fenómeno se encuentra en los efectos de la crisis económica global: problemas de integración y acceso al mercado de trabajo formal, así como el hecho de tener que enfrentar un nuevo mundo social de fricciones e inestabilidades producto de la lógica de la competencia actual. Al mismo tiempo, con respecto a la medición de una relación directa con el campo económico, resulta interesante destacar lo que sucede si agrupamos las categorías de ocupaciones entre aquellos que poseen lugares en la economía formal (patrones, empleados y obreros) y aquellos que viven en la informalidad (trabajadores familiares sin remuneración fija, trabajadores transitorios o desocupados). En ese caso, observamos que existe una mayor tendencia a promover discursos de odio en los primeros. Esta lectura sobre los problemas económicos actuales nos permite pensar que la frontera entre formalidad e informalidad parece ser un terreno fértil para el surgimiento de los discursos. Habría que profundizar en este análisis a partir de otros estudios.

En el horizonte de una explicación global de la emergencia y circulación de los discursos de odio, constatamos que las relaciones más fuertes se dan en el propio campo de las posiciones ideológicas y los posicionamientos políticos. Las articulaciones que analizamos confirman que, si bien existe una amplia extensión de los DDO, en el convulsionado mundo social contemporáneo las posiciones ideológicas que mejor explican la intensidad de los DDO en la esfera pública digital son las posiciones: anti-estatistas, anti-distribucionistas, punitivistas y xenófobas. Hemos encontrado también evidencia de que la posición con respecto al aborto tiene una correlación muy alta con el índice DDO, al punto tal que podemos pensarla como un dato proxy de los discursos de odio. Estos hallazgos, que aquí estamos describiendo y analizando preliminarmente, servirán para complejizar el mapa de las ideologías que circulan a través de las redes sociales, evitando las falsas simetrías o los relativismos abstractos que no colaboran en una interpretación concreta de las formas contemporáneas del odio que atraviesan a nuestras sociedades.

Cuando pasamos al plano político, vemos que los posicionamientos político-ideológicos de derecha, tanto en las variables que miden el voto a presidente en 2019 como la autopercepción ideológica, son los que muestran una mayor afinidad con los discursos de odio. Por eso los libertarios, los republicanos y los que se reconocen abiertamente de derecha son los que puntúan más alto en términos del índice DDO. Como es de esperarse, las posiciones que se mantienen próximas al ethos neoliberal y al autoritarismo, también articulan muy bien con las categorías que promueven los discursos de odio. Sin embargo, debemos destacar una cuestión importante para nuestro análisis: el hecho de que no se solapen completamente las posiciones muy autoritarias y muy neoliberales con las disposiciones hacia la promoción de los discursos de odio indica una frontera o una diferencia entre ambos procesos que puede resultar muy relevante desde el punto de vista práctico. Esto significa que existe una «zona ambigua», una trama en la que la supervivencia de una cultura autoritaria o neoliberal en las subjetividades no llega al punto de ebullición violenta que implican los discursos de odio.

El uso estratégico que hacen de las redes sociales las fracciones políticas de derecha para interpelar y politizar a sus seguidores –estrategias que muchas veces recurren a los discursos de odio– nos permite pensar que hay una cierta relación entre el tipo de circulación de los discursos y narrativas de derecha en las redes sociales, los cambios en la esfera pública digital y el modo en que la derecha argentina politiza los efectos de las múltiples crisis globales. Nuestros datos muestran entonces que esas estrategias están teniendo resultados a la hora de interpelar y lograr la adhesión de una parte importante de la ciudadanía.

Es importante remarcar que es difícil por el momento realizar un estudio comparativo de nuestro trabajo en la medida en que existen actualmente pocos datos cuantitativos con respecto al problema de los discursos de odio en Argentina y América Latina. Sin embargo, los resultados que hemos presentado van en línea con estudios que se basaron en el análisis de cuentas de Twitter en Argentina, Chile, Paraguay y Uruguay (Chaher, 2021). En este estudio, la mayoría de las personas –sobre todo mujeres e identidades trans– sostiene haber recibido en redes sociales tres modalidades de violencia: estigmatización, agresiones e insultos y amenazas directas. Las principales razones por las que los usuarios recibieron esta violencia fueron el activismo feminista, las cuestiones de identidad de género y la orientación sexual; mientras que los ataques se dirigieron principalmente al aspecto físico, las capacidades de decidir sobre el propio cuerpo y la idoneidad para desempeñar funciones sociales. Por otro lado, el dato más preocupante que surge de estudio es que las militantes feministas y LGBT optan por retirarse del debate público debido a la violencia que reciben: en los últimos años, al menos el 50,0 % de las activistas que fueron estigmatizadas, agredidas o amenazadas decidieron reducir el diálogo y su participación en la esfera pública (Chaher, 2021).

Para finalizar, nos parece que hemos marcado una senda de investigaciones a futuro que nos permitan complejizar las relaciones entre esfera pública digital, redes sociales, discursos de odio y posicionamientos políticos ideológicos. En este sentido, nuestro objetivo es volver a repetir la encuesta en el ámbito de la República Argentina y darle continuidad periódica, de modo que podamos realizar un análisis de cómo se comportan los discursos de odio a lo largo del tiempo. Así mismo estamos trabajando de manera incipiente con la Comisión Económica para América Latina y el Caribe (CEPAL) con el objetivo de reproducir nuestra encuesta y el índice DDO a nivel regional.

Más allá de esto, parece haber quedado claro que, en la actualidad, es necesario complejizar la visión optimista que ve las redes sociales como un espacio de democratización y ampliación de la esfera pública para que diversas voces antes silenciadas sean escuchadas (Pecourt Gracia, 2015). El lado oscuro de las redes sociales refleja la degradación del espacio público de debate y participación y, por lo tanto, de la democracia tal como la conocemos.

VII. Bibliografía

Adorno, T., y Horkheimer, M. (2000). Industria cultural. La ilustración como engaño de masas. In Dialéctica de la ilustración: fragmentos filosóficos (pp. 165-212). Trotta.

Becerra, M., y Waisbord, S. (2021). La necesidad de repensar la ortodoxia de la libertad de expresión en la comunicación digital. Desarrollo Económico. Revista de Ciencias Sociales, 60(232), 295-313.

Benesch, S. (2008). Vile Crime or Inalienable Right: Defining Incitement to Genocide. Virginia Journal of International Law, 48(3), 486–528. http://ssrn.com/abstract=1121926

Bourdieu, P. (2006). La distinción. Criterios y bases sociales del gusto. Taurus.

Bruns, A., y Highfield, T. (2015). Is Habermas on twitter? Social media and the public sphere. The Routledge Companion to Social Media and Politics, 1962, 56-73. https://doi.org/10.4324/9781315716299

Chaher, S. (2021). ¿Es posible debatir en medio de discursos de odio? Activismo feminista y grupos antiderechos en el Cono Sur de América Latina (Comunicación para la Igualdad Ediciones (ed.). Heinrich Böll Stiftung Cono Sur.

Dewey, J. (1946). The Public and its problems. An Essay in Political Inquiry. Gateaway Books.

Fraser, N. (1990). Rethinking the Public Sphere: A Contribution to the Critique of Actually Existing Democracy. Social Text, 25/26. https://doi.org/10.4324/9781351202558-6

Habermas, J. (1996). Between Facts and Norms. Contributions to a discourse theory of law and democracy. The MIT Press. https://doi.org/10.5840/saap1998268125

Habermas, J. (1997). Historia y crítica de la opinión pública. Editorial Gustavo Gili.

Hendrix, J. (2021). Anatomy of the Big Lie: Participatory Disinformation vs. Democracy. Tech Policy Press. https://techpolicy.press/anatomy-of-the-big-lie-participatory-disinformation-vs-democracy

Herz, M., y Molnar, P. (2012). The Content and Context of Hate Speech. Rethinking regulation and responses. In The Content and Context of Hate Speech. Cambridge University Press. https://doi.org/10.1017/cbo9781139042871

Horwitz, J. (2021). The Facebook Files. The Wall Street Journal. https://www.wsj.com/articles/the-facebook-files-11631713039?mod=bigtop-breadcrumb

Ipar, E. (2014). De Habermas a Adorno: reflexiones sobre la esfera pública. Leviathan. Cuadernos de Investigación Política, 59-78.

Ipar, E. (2019). Discursos de odio y mercados de la crueldad. Caliban, Revista Latinoamericana de Psicoanálisis, 17(2). https://calibanrlp.com/discursos-del-odio-y-mercados-de-la-crueldad/

Ipar, E. (2021). El odio, la palabra y el tabú. Revista Uruguaya De Psicoanálisis, 133, 92-107. https://doi.org/10.36496/n133a1

Langton, R. (2018). The Authority of Hate Speech. Oxford Studies in Philosophy of Law, 3(1997), 123–152.

Negt, O., y Kluge, A. (1993). Public sphere and experience. Toward an analysis of the bourgeois and proletarian public sphere (Vol. 85). University of Minnesota Press.

Norris, P., y Inglehart, R. (2019). Cultural backlash: Trump, Brexit, and authoritarian populism. In International Affairs, 95(5). Cambridge University Press. https://doi.org/10.1093/ia/iiz097

ONU. (2019). La estrategia y plan de acción de las Naciones Unidas para la lucha contra el discurso de odio. 7. https://www.un.org/en/genocideprevention/documents/advising-and-mobilizing/Action_plan_ on_hate_speech_ES.pdf

Pecourt Gracia, J. (2015). La esfera pública digital y el activismo político. Politica y Sociedad, 52(1), 75-98. https://doi.org/10.5209/rev-POSO.2015.v1.n52.45423

Sadin, E. (2020). La siliconización del mundo. La irresistible expansión del liberalismo digital. Caja Negra.

Sellars, A. (2016). Defining Hate Speech. In Berkman Klein Center Research Publication (No. 20; Vol. 20). https://doi.org/10.1093/jicj/mqaa023

Strossen, N. (2018). Why we should resist it with free speech, not censorship. Oxford University Press.

Torres, N., y Taricco, V. (2019). Los discursos de odio como amenaza a los derechos humanos. Centro de Estudios en Libertad de Expresión y Acceso a la Información, Universidad de Palermo, 24. https://www.palermo.edu/Archivos_content/2019/cele/Abril/Los-discursos-de-odio_Torres-y-Taricco.pdf

Tsesis, A. (2002). Destructive messages. How hate speech paves the way for harmful social movements. New York University Press.

Waldron, J. (2010). Dignity and defamation: The visibility of hate. Harvard Law Review, 123(7), 1596-1657.

Zuboff, S. (2020). La era del capitalismo de la vigilancia. Paidós.