Introducción

En la esfera pública, el crecimiento de expresiones discriminatorias e, incluso, violentas agita una tensión histórica interior a los procesos democráticos. Se trata del problema que funda la pregunta: ¿cómo hacer para que la libertad de expresión no ataque al sistema democrático desde sus cimientos?¹ La democracia tiene esa peligrosa capacidad de albergar los elementos de su propia destrucción, de garantizar la apertura hacia aquello que la amenaza, y eso es lo que se actualiza con lo que se comenzó a denominar «discursos de odio» (DDO), que se producen y se reproducen exponencialmente en la esfera pública. En este trabajo, buscamos abordar ese terreno en el que operan los DDO, poniendo el foco en los mecanismos interpretativos que facilitan su circulación y en las operaciones ideológicas que los hacen eficaces.

Esa conflictividad interior a las democracias, que los DDO habilitan cuando formulan la pregunta por la necesidad de establecer límites democráticos a la libertad de expresión en pos de la defensa de otros derechos –sobre todo, el de igualdad–, se transporta a una tensión que habita en las redes sociales. La promesa de democratización de la palabra que Internet trajo consigo (Winner, 2003), y que se avivó en coyunturas como la de la primavera árabe, mostró su rostro de Jano en fenómenos como la toma del Capitolio (promovida y organizada a través de redes sociales, en enero de 2021). En ese evento, se tornó evidente la amenaza a la democracia que se cifra en la circulación de DDO en redes sociales.²

Desde el Laboratorio de Estudios sobre Democracia y Autoritarismo (LEDA) (http://www.unsam.edu.ar/leda/) de la Universidad Nacional de San Martín (UNSAM) (https://www.unsam.edu.ar/) nos proponemos reflexionar sobre los DDO en la Argentina reciente (2020 a la actualidad), sin perder de vista que problemáticas como el racismo, la xenofobia, el machismo y las diversas formas de la discriminación encuentran su procesamiento en temporalidades de más larga data.

La indagación se plantea a través de tres procedimientos críticos relacionados. El primero es la lectura, el ordenamiento y la reflexión sobre documentos, y el análisis en torno a la categoría de DDO, bajo la sospecha de que esta sintomatiza el procesamiento de problemáticas ya existentes que se actualizan en un momento de crisis generalizada que coincide con la complejización de los medios de comunicación tradicionales a partir del desarrollo de plataformas digitales. El objetivo de este primer procedimiento es doble: por un lado, rastrear cómo se elabora una definición de DDO; por el otro, plantear en qué medida esta permite repensar los trastocamientos en la esfera pública como espacio de procesamiento de la vida democrática.

El segundo, en estricto vínculo con el primero, se vale de la técnica de los grupos focales para trazar el vínculo entre DDO y redes sociales. En el marco de la investigación llevada adelante por el LEDA, durante noviembre de 2020 realizamos 16 grupos focales.³ Utilizamos para esto una plataforma de videollamadas grupal (ZOOM) a la que concurrieron seis participantes por grupo, reunidos por rango etario y último voto, todos habitantes del Área Metropolitana de Buenos Aires (AMBA)⁴[Ver Anexo Metodológico]. Creemos que en la indagación sobre la relación entre contenidos discriminatorios, racistas, violentos o machistas (los estímulos mostrados en los grupos focales) y los modos en los que los/as usuarios/as expresan su relación con las redes sociales se cifra tanto parte de la respuesta a la exacerbación actual de los DDO como la reconfiguración de la esfera pública a partir de su relación con lo que podríamos denominar «esfera pública digital». El aparente desvío por el problema de la «confianza en redes» resulta pertinente, ya que encontramos una estrecha relación entre el valor de verdad que los/as usuarios/as le asignan a los contenidos en redes sociales y la circulación de enunciados xenófobos, racistas, discriminatorios y machistas. Es decir, potenciales discursos de odio.

El tercer procedimiento crítico convoca a la teoría materialista del discurso de Michel Pêcheux ([1975] 2016) para pensar las operaciones ideológicas que producen efectos de reconocimiento subjetivos en torno a los sentidos asociados a los DDO. Creemos que es necesario reconstruir la trama ideológica que sostiene su circulación bajo la premisa de que se trata de un fenómeno que da cuenta del estado generalizado de enunciados violentos que erosionan la escena democrática contemporánea.

En cuanto a su desarrollo, el artículo adopta el siguiente orden: 1) rodeo por la categoría de DDO y su relación con la esfera pública; 2) presentación del análisis de los resultados de grupos focales en torno a la relación entre confianza en redes sociales y DDO; 3) introducción a la teoría materialista del discurso, para pensar sentidos y posiciones subjetivas asociadas a los DDO; 4) conclusiones provisorias.

Los discursos de odio: una categoría en elaboración

No hay un consenso generalizado sobre una definición sistemática de los DDO⁵ (Kennedy, Bacon, Sahn & von Vacano, 2020) ni tampoco un único instrumento de medida. Lo que existe es una serie de coincidencias generales en la descripción de la categoría. Por ejemplo, tanto la investigación de Natalia Torres y de Víctor Taricco (2019) como el protocolo para la detección de los DDO en las redes sociales producido por ALRECO⁶ (2020) coinciden en que la discriminación y el racismo forman parte de los DDO, aunque encontramos entre ambos una diferencia, ya que el protocolo de ALRECO (2020) suma y se detiene en la definición de antigitanismo, xenofobia, antisemitismo e islamofobia como conceptualizaciones de los DDO.

Andrew Sellars (2016) ha intentado problematizar a los DDO a través de su relación con la libertad de expresión en la tradición estadounidense.⁷ Luego de un rodeo por la historia de esta relación conflictiva y de la revisión de una exhaustiva bibliografía que muestra los intentos académicos, jurídicos y de las plataformas digitales por definir y por combatir los DDO, el autor establece una serie de características comunes: 1) la orientación a un grupo o individuo como miembro de un grupo, 2) el odio en el contenido del mensaje, 3) el daño que causa el discurso, 4) la intención del hablante de hacer daño, 5) la incitación a malas acciones, 6) el caracter público o dirigido a un miembro de determinado grupo, 7) un contexto que posibilita una respuesta violenta y 8) la falta de un propósito redentor.

La Comisión Europea contra el Racismo y la Intolerancia (ECRI)⁸ define a los DDO como

[…] el fomento, la promoción o la instigación, en cualquiera de sus formas, del odio, la humillación o el menosprecio de una persona o grupo de personas, así como el acoso, descrédito, difusión de estereotipos negativos, estigmatización o amenaza con respecto a dicha persona o grupo de personas, y la justificación de esas manifestaciones por razones de raza, color, ascendencia, origen nacional o étnico, edad, discapacidad, lengua, religión o creencias, sexo, género, identidad de género, orientación sexual y otras características o condiciones personales (ALRECO, 2020, p. 9).

Esta definición, compartida por ALRECO, es la que le permite pensar a los DDO a través de un marco jurídico que contemple los «delitos de odio».⁹ En esta línea, diversas investigaciones recientes (Delcker, 2020; Gagliardone, Gal, Alves & Martínez, 2015) tienen como horizonte la regulación de estos discursos bajo la premisa de que se han visto reforzados y expandidos por medio de Internet.

En ese sentido, las Naciones Unidas publicó el documento «La estrategia y plan de acción de las Naciones Unidas para la lucha contra el discurso de odio» (2019) en el que afirma: «Necesitamos saber más para actuar eficazmente: esto exige coordinar la recopilación de datos y la investigación, en particular sobre las causas profundas, los factores y las condiciones que propician el discurso de odio» (p. 4). A este objetivo busca contribuir la investigación realizada por el LEDA cuyos resultados se exponen en este trabajo.

La definición con la que trabajamos surge, también, del documento de Naciones Unidas y supone que un DDO es cualquier tipo de discurso pronunciado en la esfera pública que procure promover, incitar o legitimar la discriminación, la deshumanización y/o la violencia hacia una persona o un grupo de personas en función de su pertenencia a un grupo religioso, étnico, nacional, político, racial, de género o cualquier otra identidad social. Frecuentemente, estos discursos generan un clima cultural de intolerancia y odio y, en ciertos contextos, pueden provocar en la sociedad civil prácticas segregacionistas, agresivas o genocidas. Por ese motivo, consideramos que los DDO son enunciaciones en la esfera pública que transgreden los límites de lo que la convivencia democrática puede tolerar. Es decir, se trata de discursos que exceden los conflictos razonables que están en los fundamentos de la democracia moderna (Habermas & Rawls, 1998).

Coincidimos con la aproximación de Torres y Taricco (2019), quienes subrayan la idea de que los DDO deben comprenderse como «discursos sociales» (p. 3).¹⁰ Los discursos son el efecto de procesos de producción inscriptos en la historia y atravesados por condiciones de producción extralingüísticas que «atan los fenómenos discursivos al espeso mundo que habitan los hablantes» (Caletti, 2019, p. 225). Esta perspectiva permite relacionar aquellos enunciados susceptibles de ser catalogados como DDO con la producción de sentido en la vida social, con sus conflictos y su tesitura ideológica.

El problema no es menor, pues los DDO, como mostró Victoria Pedrido (2021), no son «una abstracción en el vacío, sino que recuperan algo de lo que circula y lo relanzan» (p. 31). Es decir, los sentidos que se expresan a través de los DDO se articulan con tensiones de la ideología contemporánea en donde retornan prejuicios históricos y tradiciones políticas y valorativas conflictivas que en ellos se reactualizan y se resignifican. Esto supone pensar a los DDO como una novedad relativa, que circula y que se visibiliza de forma creciente a través de Internet, pero, al mismo tiempo, como un fenómeno de más larga data, en la medida en la que recoge disposiciones antidemocráticas históricas. Los efectos de estos discursos deberían ser materia privilegiada para los análisis sobre democracia, ya que «al movilizar el odio, la burla, habilitan al resto de la sociedad a expresar su agresividad sin inhibiciones» (Pedrido, 2021, p. 31).¹¹ Esto erosiona las condiciones de posibilidad para la racionalidad comunicativa de la que depende –o a la que debería aspirar normativamente– la esfera pública democrática (Habermas, [1962] 1999).

La preocupación por la circulación de DDO en la esfera pública conduce a la reflexión sobre las más o menos nuevas configuraciones de eso que denominamos «esfera pública», y que, sin duda, se torna cada vez más poroso y opaco bajo el imperio de la «razón digital» (Sadin, 2018). En efecto, la proliferación de plataformas de todo tipo –Facebook, Twitter, Twich, Tik-tok, Youtube, entre otras– impacta en las modalidades de producción y de circulación de las voces individuales y colectivas, y fuerza las maneras tradicionales de comprender este concepto. La indagación en torno a los DDO en la esfera pública (devenida digital) es inescindible de una inquietud por las democracias realmente existentes. Dado que la esfera pública es una de las instituciones más caras a la democracia liberal moderna, erosionarla –tal como hacen los DDO– supondría afectar la consolidación y la radicalización de una lógica democrática.

Sin duda, quien más ha contribuido a la conceptualización sobre el lugar de la esfera pública en las democracias liberales es Jürgen Habermas. Para el autor, el concepto de esfera pública remite «[al] teatro en las sociedades modernas en donde la participación es promulgada a través de la conversación» (Fraser, 1994, p. 88). Esta discusión sobre temas comunes en una arena institucionalizada de interacción discursiva también puede, mediante la circulación de ciertos discursos, ser crítica del Estado. En ese sentido, la esfera pública es distinta del Estado, distinta de la «economía oficial» (y sus relaciones mercantiles) y está compuesta por asociaciones democráticas.

En virtud de estas distinciones, se sostiene la relevancia del concepto para una crítica de la teoría social y para la práctica política democrática. La idea de esfera pública de Habermas ([1962] 1999) corresponde a un cuerpo de «personas privadas» reunidas para discutir asuntos de «interés público» o «común». Esta definición pertenecía al momento histórico de emergencia de la sociedad civil burguesa en medio de Estados absolutistas; esos «públicos» pretendían mediar entre la «sociedad» y el Estado, haciendo a este responsable ante la «sociedad» a través de la publicidad de asuntos comunes (Habermas, [1962] 1999).

Entendida de esta manera, la esfera pública designaba, por un lado, «un mecanismo institucional para “racionalizar” la dominación política volviendo al Estado responsable de (parte de) la ciudadanía»; por otro lado, «un tipo específico de interacción discursiva» (Fraser, 1994, p. 90). Este espacio de interacción supone un ideal de discusión racional sobre los asuntos públicos que se asienta sobre cuatro condiciones: 1) discusión abierta y accesible a todos; 2) inadmisibilidad de intereses privados; 3) suspensión de diferencias de estatus; 4) paridad en la deliberación. De allí resultaría la opinión pública (como consenso sobre el bien común).

Incluso, según el propio Habermas ([1962] 1999), esas condicionalidades nunca se realizaron históricamente, de manera que la esfera pública habermasiana carga con un potencial utópico. El modo de circulación de discursos que favorece las redes sociales no reconstruye ese escenario imaginado por el concepto habermasiano en más de un sentido. En primer lugar, las plataformas digitales son, en su mayoría, privadas y persiguen, luego, intereses corporativos; en segundo lugar, no siempre habilitan el intercambio o el diálogo denso, sino apenas la exposición en pocos caracteres de una impresión, de una «sentencia» o de argumentos con escasa posibilidad de confrontación o de contraargumentación; en tercer lugar, favorecen la proliferación de noticias falsas o fake news que operan de manera negativa en ese escenario «de paridad» deliberativa, muchas veces supuesta pero pocas realizada.

Si bien las noticias falsas o fake news han tomado relevancia en el debate público reciente, varios/as especialistas concuerdan en que se trata de una práctica que siempre ha existido.¹² Martín Becerra (Paladino y otros, 2021) ubica a las redes sociales como un espacio donde se reactiva la preocupación sobre la desinformación y las noticias falsas. Señala a este propósito el caso de Cambridge Analytica,¹³ ejemplo emblemático de la relación entre desinformación e intromisión externa en asuntos de política local de diferentes países. Ante esta inquietud, Becerra se pregunta si las redes sociales constituyen espacios de «reproducción endogámica de desinformación» (Paladino y otros, 2021, p. 6) y señala la importancia de investigar la relación entre redes sociales y desinformación como una hipótesis y no como un punto de partida verdadero.¹⁴ A su entender, no solo la forma periodística hace a una noticia falsa¹⁵ sino también la inscripción ideológica de su contenido.

Para Leonardo Murolo (Esteban, 2020) hay que tener en cuenta tanto su estructura como la memoria que activan.

Existe una estructura y una fisonomía de las noticias falsas. En primera instancia, se sostienen en base a los géneros discursivos del periodismo. Tienen la forma de la nota periodística, del informe o la crónica, por ello, cuando las leemos entran más fácil en nuestro consumo de información. En segunda instancia, (en sus contenidos) acuden a aspectos emocionales, a la «sentimentalización de la comunicación» que apunta a determinadas ideas, sentimientos y emociones que tienen las audiencias sobre algún tema (Murolo en Esteban, 2020).

Habría, entonces, una forma tradicional y un fondo ideológico que hacen que una noticia falsa pueda ser susceptible de circulación. En este sentido, las redes sociales virtuales suman un componente para nada despreciable: la multiplicación de la información.

Silvio Waisbord (2018), en tanto, considera que las redes sociales complejizan el viejo problemas de las noticias falsas ya que «lo que es diferente es la velocidad, la escala, la proliferación y el consumo masivo de información falsa difundida en plataformas digitales dominantes como Facebook y Twitter» (p. 2). Esto convive con un desarrollo del periodismo de investigación, el periodismo de datos y el movimiento de chequeo.¹⁶ Por lo tanto, si bien la práctica periodística y los medios de comunicación son parte del problema no alcanzan para explicarlo en su totalidad.

Para Waisbord (2018), las noticias falsas o fake news son sintomáticas de un despliegue caótico de la información que se erige sobre un antiguo orden respecto a las noticias. En este sentido, señala que un abordaje crítico de esta problemática no debe detenerse solamente en la ética de los responsables de producir noticias ni en lo naif que puedan ser las audiencias:

[…] el desafío fundamental son las transformaciones de la esfera pública impulsadas por la proliferación digital de oportunidades para la expresión pública y las comunidades de identidad con diferentes epistemologías en su compromiso con las noticias y la información (Waisbord, 2018, p. 4).

El relativismo en torno a la verdad y a las prácticas de desinformación conscientes plantea desafíos fundamentales para la constitución de una esfera pública democrática. Para Waisbord (2018), es evidente que los «discursos de odio, el trolling, las redes sociales que se utilizan como armas, las campañas de desinformación a gran escala y las operaciones masivas de vigilancia no son resultados saludables del caos de la comunicación actual» (p. 7).

Para Paula Sibilia (2020), plataformas como Facebook, Twitter o Youtube han posibilitado cambios en los protocolos del debate público que tenderían a favorecer «el odio, el rencor y la envidia» (p. 4). Según la autora, el modo en el que funcionan los algoritmos y la monopolización del espacio digital por parte de empresas como Apple, Amazon, Facebook y Google podría estar operando en contra de un debate justificado y argumentado. A esto le suma la «lógica de la publicidad y el espectáculo» (p. 5) que refuerza el efecto inmediato de verisimilitud contra los criterios de veracidad.

Sobre el fondo de estas discusiones, nos proponemos reconstruir aquellos elementos que median en la construcción de la confianza en «informaciones» o en mensajes con contenidos discriminatorios, más o menos intensos, a partir del análisis y la interpretación del material obtenido durante la realización de grupos focales.

El circuito de la confianza

La cuestión de la confianza o la desconfianza sobre la información que circula en las redes sociales es fundamental para comprender por qué y cómo se generalizan ciertos mensajes y/o informaciones más allá de su «verdad». En especial, si estos connotan modos del prejuicio que, en determinados contextos y circunstancias, pueden redundar en expresiones discriminatorias, de desagravio/falta de respeto y/o en el límite de acciones de violencia directa hacia otros sujetos o grupos estigmatizados.

En el caso de nuestro estudio, el trabajo en grupos focales se realizó a partir de dos estímulos. El primero, un tuit integrado por una imagen de varios colectivos detenidos en la banquina de una ruta y un texto que decía: «AHORA !!!! DECENAS DE ÓMNIBUS ESTACIONADOS EN LA RUTA, DE BOLIVIANOS QUE INGRESARON AL PAÍS PARA COBRAR EL IFE. !!!!» (11/09/2020) [Imagen 1]. El otro, un video titulado «Foquismo revolucionario guevarista», extraído de las redes sociales en octubre de 2020 [Imagen 2], en el que se superponen imágenes de una entrevista a Osvaldo Bayer, donde se relata una conversación con el Che Guevara, y un collage de recortes de noticias sobre el conflicto mapuche de Villa Mascardi,¹⁷ una videoconferencia de Juan Grabois¹⁸ y activistas cantando en torno al conflicto del «Proyecto Artigas».¹⁹ El montaje de los diferentes fragmentos establece una vinculación más o menos lineal entre todos estos sucesos actuales y la forma en la que el Che Guevara planteaba la organización de una revolución.

Imagen 1
Primer estímulo para grupo focal: tuit publicado el 11 de noviembre de 2020

Imagen 2
Segundo estímulo para grupo focal: video «Foquismo revolucionario guevarista», publicado en octubre de 2020

A través de este estudio, constatamos que la confianza aparece como condición necesaria para «compartir» una información. De allí que «confiar» o «creer» puedan presentarse como sinónimos de una predisposición a «compartir» la pieza comunicativa en juego (más allá de la acción efectiva).

Al analizar nuestros materiales, reconstruimos una suerte de «circuito de la confianza» a partir de la elaboración de una «tipología» de posiciones subjetivas en torno a la información que circula en redes sociales. Haciendo a un lado a los/as pocos/as que «siempre creen» en aquello que les ofrecen las redes, debemos señalar que, según se desprende de nuestro estudio, la desconfianza se sitúa en el punto de partida de este arco de disposiciones posibles como reflejo mecánico de respuesta. Sin embargo, esta posición inicial es susceptible de ser diferenciada, pues no todos/as desconfían del mismo modo ni permanecen en esa posición inicial.

Para comprender mejor estas afirmaciones, elaboramos una tipología que comprende cuatro posiciones. Dos de ellas vinculadas con los modos de franquear la desconfianza en virtud de una serie de acciones mediadoras: chequear y reconocerse; otras dos, relacionadas con los argumentos que sostienen la posición de la desconfianza: el escepticismo y la mirada crítica.

Entre los primeros se encuentran el que «chequea» y comparte; es decir, aquel que para compartir o para creer da un rodeo por alguna fuente que considera confiable. Por lo general, periodistas o medios de comunicación con los que se encuentra fidelizado. Ante la pregunta sobre si compartirían los mencionados estímulos, su enunciación se desarrolla del siguiente modo:

No lo compartiría. Primero, me fijaría quién lo subió. Quizás, si es un periodista conocido, o al que yo tenga como referencia, sí le daría importancia, pero no comparto cosas de redes sociales, como que las veo medio falsas (M 1).²⁰

Pero... todo lo que es cadena de WhatsApp, esas cosas raras, ni las leo ni las abro, ni nada. Si no viene ya con un noticiero, donde hay un trabajo de investigación, y no cualquier noticiero... O sea, trato de no expandirme más allá de lo que puedo manejar o ver en mi vida (M 2).

No, tampoco, porque depende del medio de comunicación. La verdad es que selecciono a quién creer, a quién escuchar... Por ejemplo,

en este caso no hay fuentes: es la foto de un ómnibus que puede ser en cualquier ruta. No sé, yo conozco la frontera de Bolivia y no me parece ni ahí la Quiaca (M 3).

Como se desprende de estos testimonios, la desconfianza funciona como punto de partida. Se reconoce que circulan noticias falsas y que las redes sociales pueden ser un espacio donde encontrarlas. Sin embargo, en la figura del «periodista conocido», en el «noticiero» o en el «medio de comunicación» pueden hallarse los primeros indicios para que el/la participante edifique su confianza. Nos parece importante resaltar que en la enunciación de dichas figuras se teje una relación personal: «un periodista conocido, que yo tenga como referencia», «no cualquier noticiero», «selecciono a quién creer, a quién escuchar». Esta presencia del «yo», como instancia fundamental para construir la confianza, nos conduce al segundo tipo ideal encontrado.

Denominamos a este segundo tipo el «autocomplaciente»; esto es, aquel que supera la distancia creada por la desconfianza inicial apenas reconoce en el mensaje algún trazo de sus propios prejuicios. Ante la pregunta sobre la credibilidad de los estímulos mostrados, su enunciación se desarrolla del siguiente modo:

(...) Investigaría un poco más la fuente, de dónde viene. No republicaría el texto o el mensaje en sí para otras personas. Si me llegara ese texto, lo dejaría en stand-by. Pero es como que el beneficio de la duda siempre está, ¿viste? Con el tema de los países, quiénes fueron los que orquestaron todo esto… Y para mí hay gente más poderosa dentro del núcleo mundial, pero siempre viniendo de EE.UU., China y Rusia (H 1).

H2: Hay que sacarlos a todos, con fuerza…

MOD: Sacarlos con fuerza, esa es la solución… ¿Y qué hacés? Este es un video que también circuló por YouTube, por redes... ¿Qué hacés si recibís este mensaje? ¿Lo compartís? ¿Lo ves? ¿Ni lo abrís?

H2: Sí, sí, porque se está informando de lo que pasa…

H4: Salieron, no sé si lo viste, si tenés fotos o algo por el estilo. Hay videos y todo –yo lo vi en Facebook–, gente tirada en los parques con armas, con drogas o llenos de carritos de bebidas alcohólicas, diciendo: «Gracias, Alberto,²¹ gracias». Y todos con la plata, así...

M2: O los ves, también, con las tarjetas que dieron para comprar mercadería, también, van al mercado.

M3: La Alimentar.²²

M2: Se llevan cerveza…

M3: Te da como bronca.

Si bien al principio también se señala cierta desconfianza, esta es rápidamente superada debido a que los/as participantes distinguen marcas de narrativas que creían verosímiles antes de encontrarse con el enunciado en cuestión. Nos referimos a una serie de evidencias que, en parte, determinan la posibilidad de confiar en la información que circula en las redes sociales; en este caso, que hay países que «orquestan» lo que sucede en el resto del mundo y que con la tarjeta Alimentar los beneficiaros «compran cerveza».

En el segundo par ubicamos al «escéptico», es decir, al que sospecha de todo. Aquí, la desconfianza puede basarse en que parte de la información en duda tiene como fin beneficiar a determinados sectores, desinformar o instalar ciertas ideas. Detrás de esa información que circula, suele suponerse un demiurgo que saca rédito por inventar noticias. En alguna medida, esa disposición supone ciertos elementos conspiranoides.

En nuestra investigación, confeccionamos dicha tipología a partir de elementos como los que siguen:

Yo no los comparto, ningún tipo de video así… Porque siempre hay una ideología por detrás que quiere conseguir algo (M 4).

Hay algunas cosas que inventan para ver cómo reacciona la gente, para ver qué pueden inventarle más que nada (M 5).

Porque, también, ese es el tema de las redes, que a veces no solo circula una mala noticia para mentir y ver qué pasa, sino que lo puede largar alguien para perjudicar a otra persona (M 6).

El escéptico despliega una enunciación según la cual el video presentado como estímulo tiene fines instructivos o de convencimiento que beneficiarían a quien lo lanzó. Se trata de inventos que buscan difundir «ideologías». A la vez que se constituye una posición de alerta frente a los mensajes, se repone la creencia de la «bala mágica» o la «aguja hipodérmica» (Lasswell, 1971) vinculada a los medios de comunicación y a su relación con el público.²³

El último tipo, el «crítico», es el que se orienta por una actitud deconstructiva de la información a partir de la detección de los complejos procesos políticos tras la información en juego o del momento de verdad de su contenido ideológico. Estos sujetos no se reconocen ni con el prejuicio ni con la sospecha acerca de todo –propia del escéptico–, sino que interrogan el material puesto a circular en varias dimensiones: mecanismos retóricos de ocultamiento, origen auténtico del conflicto, intencionalidad de quienes lo produjeron, legitimidad de los reclamos.

Ante la pregunta sobre la posibilidad de compartir los mencionados estímulos, este último tipo se expresa del siguiente modo:

No lo compartiría. Para mí lo que intenta hacer es desconocer el reclamo legítimo de los pueblos originarios, corriendo el foco de atención de su reclamo, diciendo que son violentos, y no dar lugar a la discusión que tendría que atender el Estado y poner en agenda qué hacemos con los pueblos originarios, con el reclamo de los terrenos, empezar a ver cuáles eran sus terrenos… Es decir, el trasfondo no se ve, sino que es una imagen para que llegue a quien de la sociedad le gusta ver esas cosas y no discutir el tema (M 1).

(…) Me parece que la discusión es otra, es una discusión más económica y ese tipo de videos es para convencer a otra parte de la sociedad que, por ahí, «me pasás el video, no estoy muy informado y, bueno, compro que son violentos, hay que darles a estos mapuches»… Básicamente, es lo que genera en la persona muy mal informada… (M 2).

El crítico tiene una posición tomada sobre el tema y, a partir de ahí, puede disponerse en contra de compartir debido a que entiende que la información no es fiel a la problemática que se intenta mostrar. Si bien repone matices del «escéptico» –al sostener que el video tiene la capacidad de «convencer a otra parte de la sociedad»–, se distingue porque su argumentación está basada en un conocimiento, una posición y una serie de respuestas posibles al conflicto mostrado por el estímulo. Si el tipo anterior duda antes que problematizar, este duda porque problematiza.

Hasta aquí, el circuito de la confianza que hemos podido reconstruir en torno a ciertos contenidos con presuntos sentidos de odio que circulan en redes sociales. No pretendemos agotar con ello las tipologías sino dar cuenta de la complejidad con la que los/as usuarios/as interactúan con las publicaciones con las cuales se topan. Un saldo general sobre esta tipología indica que puede convivir una idea de desconfianza en la información de las redes sociales con una necesidad de compartir información para intervenir en la difusión de mensajes que se entienden relevantes, lo que pone de manifiesto que la desconfianza no aplaca cierto grado de confianza supuesta en la disposición a compartir lo que consumen.

El sentido como efecto ideológico: sobre las operaciones ideológicas

En línea con Louis Althusser ([1969] 2011) y con Michel Pêcheux ([1975] 2016) denominamos «operación ideológica» al mecanismo mediante el cual el sujeto se reconoce en una formación discursiva y produce, como efecto, su sentido.

La categoría de sujeto es una «evidencia primera» (las evidencias son siempre primeras): está claro que usted es un sujeto (libre, moral, responsable, etc.), y yo también. Como todas las evidencias, incluidas las que hacen que una palabra «designe una cosa» o «posea un significado» (incluidas, por tanto, las evidencias de la «transparencia» del lenguaje), esta «evidencia» de que usted y yo somos sujetos –y de que esto no constituye un problema– es un efecto ideológico, el efecto ideológico elemental (Althusser, 2011, pp. 227-228).

Pêcheux ([1975] 2016) retoma este pasaje de Althusser ([1969] 2011) para destacar cuatro elementos fundamentales que hacen a la relación entre ideología y discurso. En primera instancia, la ideología no toma la forma de la «mentalidad» de la época que se impone sin contradicciones a todos los miembros de una sociedad. Ante esta idea generalizada, Pêcheux ([1975] 2016) recuerda la dimensión conflictiva que subyace a la ideología en tanto proceso atravesado por la lucha de clases, y desarma la concepción de la ideología dominante y la ideología dominada como dos sistemas diferentes con sus respectivas instituciones. Al respecto, señala que los aparatos de Estado son el lugar y el medio de realización de la ideología, aunque esto no significa que sean instrumentos sin más de la clase dominante, sino que se trata de instituciones atravesadas por las relaciones de reproducción/transformación de las condiciones materiales (y simbólicas) de existencia de una sociedad.

El modo mediante el cual el sentido se presenta como evidente resulta fundamental para comprender las posibilidades de enunciación de una formación discursiva. Según estos autores, la instancia ideológica aparece disimulada en el tejido discursivo produciendo la evidencia del sentido.

[La ideología] proporciona las evidencias por las cuales «cada uno sabe» qué es un soldado, un obrero, un patrón, una fábrica, una huelga, etc.; evidencias que hacen que una palabra o un enunciado «quiera decir justamente lo que dice» y que de este modo enmascara, en la «transparencia del lenguaje», lo que llamaremos el carácter material del sentido de las palabras y los enunciados (Pêcheux, [1975] 2016, p. 142).

El carácter «material» implica que el sentido no existe en sí mismo –no hay relación transparente con la literalidad del significante– sino que está determinado por una serie de formaciones ideológicas. La multiplicidad de sentidos no refiere a la existencia de algunos más evidentes que otros, sino que refuerza la dependencia del sentido para con la formación discursiva. El sistema de las relaciones que se desenvuelven al interior de una formación discursiva y que producen como efecto el sentido es denominado por Pêcheux ([1975] 2016) «proceso discursivo» (p. 143). A su vez, la dependencia de las formaciones discursivas de las formaciones ideológicas –que Pêcheux ([1975] 2016), retomando a Althusser, por momentos describe como «todo complejo con dominante»–, es conceptualizada en términos de «interdiscurso» (p. 144).

Tenemos, entonces, que el sentido es el resultado de un proceso discursivo que se da al interior de una formación discursiva que está, a su vez, determinada por el interdiscurso. De allí que sea posible resaltar el carácter material o sobredeterminado del sentido y que, por lo tanto, sea necesario intentar ubicar algunas de las operaciones ideológicas que en cada caso lo sostienen. Cuando decimos «operación ideológica» nos referimos a ese proceso disimulado que presenta a los enunciados como evidentes para los sujetos.

A continuación, nos detendremos en las diferentes operaciones discursivas que posibilitan la emergencia de determinados sentidos, aunque es necesario destacar (como intentamos hacerlo luego de este rodeo explicativo) que el sentido no se agota en su instancia discursiva. De ahí el lugar central que Pêcheux ([1975] 2016) le asigna al interdiscurso.

La lectura de los enunciados que extrajimos de nuestros grupos focales nos permitió ubicar tres operaciones ideológicas con distintos efectos de sentido: la «operación de desocultamiento», cuyo efecto hemos denominado «red pill» (en referencia a quienes «han visto la luz» y han descubierto que la realidad no es como nos la han contado); la «operación de generalización», cuyo efecto de sentido es el «reconocimiento»; y la «operación de estigmatización», cuyo efecto de sentido es la «sutura». Todas estas operaciones y efectos de sentido nos permiten acercarnos al entramado ideológico que sostiene las razones por las cuales un sujeto comparte o no un contenido que circula en las redes sociales.

Operación de desocultamiento y efecto «red pill»

Lo que lleva a compartir es la creencia en la «verdad» evidente del contenido y una voluntad pedagógica de darlo a conocer para que el resto salga de la oscuridad y descubra lo que no está viendo. El discurso toma la forma de una verdad revelada que se desoculta y que habría que difundir para sacar al resto de la mentira en la que está sumido.

MOD: M6, ¿qué viste en el video, qué problema viste en el video? ¿Qué harías si lo recibís? ¿Lo compartirías?

M6: Lo miraría y creo que lo compartiría a modo de expresar mi indignación. Como dijo H3, para que otras personas que me rodean puedan verlo y entender lo que está pasando… No comparto lo que dicen, no comparto ni siquiera los medios ni la violencia, ni la toma de las comisarias…

En este caso, el sentido de «compartir» viene atravesado por un «suplemento de la ideología moral» (Althusser, [1969] 2011, p. 205) que impulsa al sujeto a enseñarles a quienes lo rodean lo que está pasando pese a no acordar con las formas de lo que se muestra. Compartir, entonces, es iluminar; en este caso, a quienes no pueden ver el sentido revelado del video en cuestión.

Operación de generalización y efecto de reconocimiento de la imagen

Ante la imposibilidad de ubicar las referencias precisas del contenido, se produce una operación de generalización mediante la cual se asocia la imagen que se observa con una memoria selectiva que reduce la complejidad a un sentido ya conocido. La generalización implica la equivalencia entre un fragmento desconocido y aquello que ya se sabe, y la producción de un efecto de reconocimiento que deja sin explicar el fragmento en cuestión.

En este caso, el corte de rutas se asocia al corte de calles por las marchas y se termina por condenar toda conflictividad que intervenga sobre el orden de las cosas. Esto se desprende de una incapacidad del participante para singularizar los procesos políticos y para interrogar, luego, los motivos o las razones que podrían explicar el hecho particular en cuestión.

MOD: M3, ¿qué viste en el video? En general, lo que dijo H5, pero en el video, ¿qué viste?

M3: La lucha constante argentina por pelear por una cosa que no es tuya y hacer lío, y que todo se solucione con lío. Básicamente, el corte de rutas para venir a defender algo que, personalmente, creo que es indefendible… Acá todo se soluciona con hacer una manifestación, una marcha, y que todos tenemos el mismo derecho. Y como decía H5, si yo heredé algo, por qué no lo puedo heredar, digamos, ¿no?... Igual, lo estoy generalizando, pero lo veo en todos lados, siempre que hay un lío es «salgo, prendo fuego una goma y hago lío». Alguien me va a dar bola.

La generalización aparece como una sinécdoque invertida que, al desconocer las coordenadas básicas (actores, demandas, contexto) del estímulo en juego, hace del todo («un lío») la parte (el caso puntual del video).

En los significantes «la lucha constante argentina», «todo», «todos», «lo veo en todos lados» se condensa esta operación que intenta dar sentido a través de generalidades que serían propias del modo en el que se desarrollan determinados conflictos en la Argentina. El efecto que produce esta operación es un reconocimiento (de lo ya conocido) a través de un desconocimiento (el video en cuestión) de las causas eficientes del evento expuesto.

Operación de estigmatización y efecto de sutura del sentido

Ante la imposibilidad de identificar los procesos y los actores políticos que aparecen en el video, los sujetos pueden completar las oscuridades o las lagunas con imágenes, con prejuicios y/o con sospechas. El «vacío/opacidad» del conocimiento sobre las causas reales es colmado por sentidos que conforman las evidencias ideológicas con las que el sujeto convive.

De este modo, frente a lo desconocido se construye un sujeto otro cargado de prejuicios preexistentes que suturan el sentido.

M2: Vi toma de tierras, violencia, qué más... Como que quieren ellos mismos abarcar todas las tierras ajenas, digamos.

M3: Y son los que quieren usurpar terrenos ajenos. A cambio de algo debe ser, a cambio de tierras, de plata, de algo…. A manos de otra gente, digo yo, no sé.

MOD: Usurpadores en general, digamos.

M3: Usurpadores, claro, de cualquier cosa.

MOD: Y vos, M2, ¿qué viste en el video?

M2: No sé si son gente que realmente lo necesita o que se van agrupando con otra intención, ¿no?

MOD: Pero ¿vos qué viste?

M2: También, que se iban juntando y así iban tomando cada vez más.

La operación ideológica de generalización traería la evidencia de que «existen usurpadores» y de que estos reunirían un conjunto de características tales como la «violencia», el acto de ocupar «terrenos ajenos», el interés de hacerlo «a cambio de tierras, de plata» y que no estaría clara su «intención». Estos significantes se articulan en el intradiscurso del enunciado y suturan el sentido del video a través de la evidencia de que «existen usurpadores». Este sentido está parcialmente determinado por la «ideología jurídico-moral» (Althusser, [1969] 2011, p. 206) que se presenta asegurando propiedades y libertades individuales. La figura del «usurpador» y su carga negativa indican que algo de esa ideología jurídico moral ha sido arrebatado, que eso no es aceptable y que, entonces, las garantías han de ser repuestas.

Conclusiones

El artículo buscó contribuir a la problematización de los discursos de odio en la actualidad. Comenzamos a trazar las coordenadas que lo ubican como un proceso social necesario de atender en su complejidad epistemológica, discursiva e ideológica. Desde el LEDA, creemos que una valoración profunda del tema requiere, en paralelo y de forma relacionada, de desarrollar un conjunto de estrategias metodológicas y analíticas capaces de dar cuenta del tratamiento del problema por distintos actores, de su vínculo con la democracia y la esfera pública, y de su singular desarrollo discursivo en la Argentina.

Determinadas categorías comienzan a ser requeridas de elaborar en su singularidad. Por ejemplo, la necesidad de expandir la reflexión habermasiana en torno a la esfera pública a partir de la pregunta por una esfera pública digital que permita abrir un conjunto de preguntas sobre su especificidad. Entre ellas, su relación con la vida democrática y con la libertad de expresión, y el modo en el que se desarrollan los procesos discursivos y de subjetivación.

Mostramos que el estudio de los circuitos de construcción de la confianza en la información que transita en las redes sociales es central para comprender el fenómeno de las noticias falsas o fake news, pero también los modos de reproducción de la ideología en el momento actual de las sociedades capitalistas, en general, y de la Argentina, en particular. El análisis de las reacciones que produjeron los estímulos con los que trabajamos en los grupos focales vuelve evidente que la desconfianza frente a la información que brindan las redes es una posición manifiesta que disimula una serie de mecanismos de producción y de reproducción de lo que los sujetos pueden considerar verosímil.

Ese podría destacarse como el primer hallazgo de este trabajo: para estudiar la esfera pública digital, no basta con hacer la pregunta directa: «¿Confía usted en lo que lee en sus redes sociales?», sino que es necesario interrogar por lo que aparece justo después de la afirmación de la desconfianza, pues allí se sitúan las condiciones de producción de la confianza que franquea esa respuesta automatizada.

A partir de la diferenciación de esas condiciones, identificamos, como otro hallazgo significativo, cuatro perfiles asociados a las distintas acciones que los sujetos realizan luego de manifestar la desconfianza como punto de partida: el autocomplaciente, el que chequea, el escéptico y el crítico. En estos perfiles se expresa, también, el modo en el que se articulan los prejuicios sociales con la construcción de la confianza en las redes sociales: mientras que el discurso publicado confirme y no contrarreste prejuicios, tiene más chances de ser creído y, por lo tanto, de ser replicado y potenciado. Lo que aquí hemos reconstruido como la operación de estigmatización pone en evidencia el modo en el que los prejuicios se convierten en mecanismos de interpretación asociados a ese efecto de sutura del sentido. Si bien no se trata de mecanismos ideológicos característicos de los discursos que circulan en la esfera pública digital, cabe destacar que son centrales para la construcción de la confianza que posibilita y que dinamiza la reproducción de discursos a través de las redes sociales.

Esto resulta central para el objetivo de nuestras investigaciones, del que este trabajo representa un primer paso: analizar los fundamentos de la articulación entre los DDO y las redes sociales de cara a procesos de consolidación y/o de erosión de una esfera pública democrática. Efectivamente, los prejuicios sociales que están en la base de los discursos discriminatorios constituyen el combustible que hace funcionar el circuito de la confianza en las redes sociales. La comunicación ilimitada que las redes prometían a la esfera pública democrática no trae nuevas aguas y lo que fluye no es más que la confirmación de prejuicios que atentan contra la posibilidad de la comunicación con un otro, es decir contra la esfera pública y, de ese modo, contra la democracia misma.

Referencias

Adorno, T. (2009). Escritos sociológicos II (Trad. Agustín González Ruiz). Madrid, España: Akal.

ALRECO. (2018). Resumen AL-RE-CO. Recuperado de https://www.inclusion.gob.es/oberaxe/ficheros/ejes/delitosodio/FOLLETO-TRIPTICO-RESUMEN-ALRECO.pdf

ALRECO. (2020). Protocolo y sistema de indicadores para la detección del discurso de odio en las redes sociales. Madrid, España: Observatorio Español del Racismo y la Xenofobia. Recuperado de https://www.inclusion.gob.es/oberaxe/ficheros/ejes/delitosodio/Protocolo-y-sistema-de-indicadores-deteccion-discurso-odio-en-redes-sociales.pdf

Althusser, L. (2011) [1969]. Sobre la reproducción (Trad. de A. Brotons Muñoz). Madrid, España: Akal.

Paladino, A., Villalba, M. y Miguel, M. (2021). Entrevista a Martín Alfredo Becerra. Desinformación, fake news y posverdad. Palabra Clave (La Plata), 10(2), e133. https://doi.org/10.24215/18539912e133

Caletti, S. (2019). Ariadna. Para una teoría de la comunicación. Ciudad Autónoma de Buenos Aires, Argentina: Editorial Universidad Nacional de Quilmes.

Delcker, J. (2020). Germany’s balancing act: Fighting online hate while protecting free speech. Estados Unidos: Político. Recuperado de https://www.politico.eu/article/germany-hate-speech-internet-netzdg-controversial-legislation/

Esteban, P. (29 de mayo de 2020). ¿Cómo se cocinan las fake news? [Entrevista a Leonardo Murolo]. Página/12. Recuperado de https://www.pagina12.com.ar/269012-como-se-cocinan-las-fake-news

Fraser, N. (1994). Reconsiderando la esfera pública: una contribución a la crítica de la democracia existente. Entrepasados. Revista de Historia, IV(7).

Gagliardone, I., Gal, D., Alves, T. y Martínez, G. (2015). Countering Online Hate Speech. Paris, Francia: United Nations Educational, Scientific and Cultural Organization.

Habermas, J. (1999) [1962]. Historia y crítica de la opinión pública. Ciudad de México, México: G. Gilli.

Habermas, J. y Rawls, J. (1998). Debate sobre el liberalismo político (Trad. de G. Roca Vilar). Barcelona, España: Paidós.

Instituto Nacional contra la Discriminación, la Xenofobia y el Racismo (INADI). (2020). Racismo estructural. Ciudad Autónoma de Buenos Aires, Argentina, Observatorio de Discriminación en Internet. Recuperado de https://www.argentina.gob.ar/noticias/racismo-estructural-en-las-denuncias-radicadas-en-inadi

Kennedy, Ch., Bacon, G., Sahn, A. y von Vacano, C. (2020). Constructing Interval Variables Via Faceted Rasch Measurement and Multitask Deep Learning: A Hate Speech Application. Recuperado de https://doi.org/10.48550/arXiv.2009.10277

Kitzinger, J. (1995). Qualitative Research: Introducing Focus Groups. BMJ, 311: 299. https://doi.org/10.1136/bmj.311.7000.299

Lasswell, H. (1971). Propaganda Technique in World War. London, United Kingdom: MIT Press.

Naciones Unidas (mayo 2019). La estrategia y plan de acción de las Naciones Unidas para la lucha contra el discurso de odio. Recuperado de https://www.un.org/en/genocideprevention/hate-speech-strategy.shtml

Pêcheux, M. (2016) [1975]. Las verdades evidentes. Lingüística, semántica, filosofía (Trad. de M. Glozman, P. Karczmarczyk, G. Marando y M. Martínez). Ciudad Autónoma de Buenos Aires, Argentina: Ediciones del Centro Cultural de la Cooperación.

Pedrido, V. (2021). Cartografía argumentativa de los sectores fundamentalistas/conservadores. Ciudad Autónoma de Buenos Aires, Argentina: Fusa.

Sadin, E. (2018). La siliconolización del mundo. La irresistible expansión del liberalismo digital (Trad. de M. Martínez). Ciudad Autónoma de Buenos Aires, Argentina: Caja Negra.

Sellars, A. (2016). Defining Hate Speech, 20. Cambridge, United States: Berkman Klein Center Research.

Sibilia, P. (2020). El auge de los afectos negativos. Ciudad Autónoma de Buenos Aires, Argentina: TELAM.

Torres, N. y Taricco, V. (2019). Los discursos de odio como amenaza a los derechos humanos. Ciudad Autónoma de Buenos Aires, Argentina: Universidad de Palermo.

Waisbord, S. (2018). Truth is What Happens to News: On journalism, fake news, and post-truth. Journalism Studies, 19(13), 1866-1878. https://doi.org/10.1080/1461670X.2018.1492881

Winner, L. (2003). Internet y los sueños de una renovación democrática. Isegoría, (28), 55-71.

Notas