El odio digital en México: cuando las reglas las escribe un algoritmo extranjero

Por Osvaldo Hernández Olivera
Abogado en Derecho Informático | Opinión Legal sobre Tecnología y Futuro.

Basta dedicar unos segundos a revisar cualquier red social para encontrarlo; no hace falta buscar demasiado. Una publicación sobre migración, derechos de las mujeres, diversidad sexual o comunidades indígenas suele convertirse rápidamente en un escaparate de insultos, burlas y descalificaciones. Lo que hace algunos años difícilmente habría pasado desapercibido en un espacio público, hoy circula con absoluta normalidad en internet.

La paradoja es evidente: México cuenta con normas constitucionales que protegen tanto la libertad de expresión como el derecho a la igualdad y la no discriminación. Sin embargo, cuando el conflicto ocurre en el entorno digital, la respuesta jurídica suele ser difusa, lenta o simplemente inexistente. La Constitución reconoce ampliamente el derecho de las personas a expresar sus ideas aunque al mismo tiempo, prohíbe cualquier forma de discriminación que atente contra la dignidad humana.

Sobre el papel, ambos principios parecen convivir sin mayores dificultades; solo que en la práctica, especialmente dentro de las plataformas digitales, el equilibrio es mucho más complejo. La realidad es que el marco legal mexicano nunca fue diseñado para enfrentar los desafíos de la conversación pública en internet.

El Código Penal Federal contempla conductas discriminatorias bajo determinados supuestos, pero difícilmente un comentario ofensivo en una red social alcanza los requisitos necesarios para activar mecanismos efectivos de sanción. Por otro lado, las vías administrativas existentes resultan insuficientes frente a fenómenos masivos, anónimos y transnacionales.

Entonces surge una pregunta incómoda: si no son las autoridades mexicanas quienes establecen los límites, ¿quién lo hace? La respuesta es menos jurídica de lo que muchos imaginan. En buena medida, las reglas las determinan las propias plataformas tecnológicas: empresas privadas como Meta, X, TikTok o YouTube deciden diariamente qué contenido permanece visible, cuál se elimina y qué usuarios son sancionados. Lo hacen mediante políticas internas y sistemas automatizados desarrollados, en su mayoría, fuera de México.

El problema no es únicamente quién toma esas decisiones, sino bajo qué criterios. Los algoritmos encargados de moderar contenido suelen entrenarse principalmente en inglés y bajo referencias culturales ajenas al contexto mexicano. Como resultado, expresiones discriminatorias que cualquier hablante local identificaría de inmediato pueden pasar desapercibidas, mientras que contenidos legítimos terminan siendo restringidos por interpretaciones erróneas.

En otras palabras, una parte importante de la conversación pública nacional está siendo regulada por sistemas que no necesariamente comprenden las particularidades lingüísticas, sociales y culturales del país.

Cada vez que se plantea la posibilidad de regular el discurso de odio en internet aparece una preocupación legítima: la censura. La historia reciente ofrece suficientes ejemplos para desconfiar de cualquier mecanismo que pudiera utilizarse para limitar la crítica política, el trabajo periodístico o las expresiones incómodas para el poder.

Sin embargo, tampoco debería impedir una discusión seria sobre el vacío regulatorio actual. Porque la ausencia de reglas claras no implica ausencia de control. Significa, más bien, que dicho control se encuentra en manos de actores privados que no responden directamente ante la ciudadanía mexicana.

El debate no debería centrarse en elegir entre Estado o plataformas. La verdadera discusión consiste en definir qué mecanismos de transparencia, supervisión y rendición de cuentas son necesarios para evitar abusos de cualquiera de los dos lados. México podría avanzar en medidas relativamente moderadas: exigir informes públicos sobre los procesos de moderación, promover auditorías independientes, crear instancias de apelación accesibles para los usuarios e impulsar investigación especializada sobre el comportamiento del discurso de odio en español mexicano. Experiencias internacionales demuestran que existen alternativas: Europa, por ejemplo, ha comenzado a exigir mayores niveles de transparencia a las grandes plataformas digitales sin renunciar a la protección de la libertad de expresión.

Mientras tanto, en México persiste una situación peculiar: millones de personas participan diariamente en espacios digitales donde los límites del debate público no los define una autoridad nacional ni un tribunal, sino algoritmos diseñados a miles de kilómetros de distancia. Y quizá esa sea la cuestión de fondo; no se trata solamente de qué puede decirse en internet, sino de quién decide las reglas de una conversación que, nos guste o no, se ha convertido en una parte esencial de la vida democrática contemporánea.