SENTENCIA T-256 DE 2025

61.            Como arriba se indicó, uno de los asuntos centrales del caso que ocupa la atención de la Corte se refiere al alcance de la moderación de contenidos ejercida por las plataformas de redes sociales. En particular, versa sobre la manera en que esta función incide en el ejercicio de derechos fundamentales como la libertad de expresión, la igualdad y el debido proceso.

62.            La moderación de contenidos se puede definir como “la práctica organizada de revisión de los contenidos generados por usuarios en páginas de Internet, redes sociales u otras plataformas”. Generalmente, el proceso de moderación de contenidos, realizado principalmente por los intermediarios de internet, busca identificar y abordar contenidos que son perjudiciales, ilegales o que violen las normas de la comunidad de una determinada plataforma, lo que puede derivar en distintas consecuencias, que van desde limitar la visualización de un contenido específico hasta el cierre definitivo de una particular cuenta[58].

63.            La moderación de contenidos, pese a ser un fenómeno cotidiano en el ecosistema digital, no deja de ser una cuestión novedosa para el derecho constitucional, pues plantea interrogantes sensibles sobre la interacción entre las reglas privadas de las plataformas, la intervención del Estado y los estándares internacionales en materia de derechos humanos, entre otras cuestiones.

64.            En esta sección, la Corte discutirá el origen y funcionamiento de la moderación de contenidos, y expondrá algunos de los desafíos y cuestionamientos que se han identificado alrededor de esta actividad. Asimismo, la Corte se detendrá en el papel que debe jugar el Estado frente a la actividad de moderación de contenidos.

65.            Como resultado de este análisis, un punto en el que se insistirá es que si bien es natural que sean las plataformas o administradoras de redes sociales quienes realicen principalmente la moderación de contenidos y cuenten con cierta flexibilidad para adelantar dicha actividad, ella está sujeta a ciertos límites que pueden ser protegidos por los Estados. Dichos límites obedecen fundamentalmente al respeto por los derechos humanos.

3.1.     Evolución de la moderación de contenidos y su funcionamiento

66.            Desde la Declaración de Principios sobre la Sociedad de la Información, adoptada hace más de dos décadas, se reconoció que el nuevo milenio estaría marcado por el desarrollo de tecnologías para “crear, consultar, utilizar y compartir la información y el conocimiento” como elementos esenciales de la vida social, cultural y económica. En el centro de esta transformación se ubicó la Internet, cuyo alcance global, luego de aquella Declaración, ha tenido un impacto significativo en la vida de los seres humanos.

67.            Entre las múltiples expresiones de esta transformación se encuentran los servicios de redes sociales (social networking services) definidos como “servicios basados en la web que permiten a los usuarios construir un perfil público o semipúblico dentro de un sistema delimitado, conectar con otros usuarios y explorar sus redes”[60]. Estos servicios de redes sociales habitan Internet como espacios dinámicos y en constante actualización, donde la comunicación fluye de manera inmediata y global. Ellos son administrados por intermediarios de Internet, en su mayoría empresas privadas, que poseen y gestionan la infraestructura tecnológica y definen las políticas de uso. Como lo indicó esta Corte en la sentencia SU-420 de 2019, son estos intermediarios los “que de una u otra forma determinan y posibilitan las interacciones en línea”[61].

68.            El impacto de las redes sociales en la vida de las personas es indiscutible. En estas redes las personas se encuentran, interactúan, crean contenido, se informan, discuten, acceden a productos y servicios entre muchas otras actividades[62]. Lo hacen, además, a una escala sin precedentes. A enero de 2024 se calculaba que alrededor de 5.4 billones de personas usaban redes sociales; esto es, más del 60% de la población mundial. Instagram, el servicio de Meta Platforms, Inc. que se encuentra en el centro de esta disputa, tenía a febrero de 2023 1.35 billones de usuarios. A mayo del 2024, el promedio global de minutos diarios consagrados al consumo de contenido de redes sociales fue de 143, es decir, poco más de 2 horas al día[66]. Si nos concentramos en Colombia, más de 38 millones de personas son usuarias de redes sociales en el país, es decir, cerca del 75% de sus habitantes. Esta población usuaria invirtió, a enero de 2024, un promedio de 3 horas y 23 minutos diarios en redes sociales, mucho más que el promedio global[67]. Como bien lo dice Robert Post, “las redes sociales se han vuelto omnipresentes en nuestras vidas de formas en que otros medios nunca lo fueron.”[68]

69.            La interacción masiva entre personas ofrece beneficios evidentes, como la conexión entre personas en distintos lugares, el acceso a la información, la promoción de la investigación, la deliberación pública y las oportunidades para la defensa de los derechos humanos[69]. Sin embargo, como lo advirtió la anterior Alta Comisionada de las Naciones Unidas para los Derechos Humanos: “[l]a revolución digital plantea [igualmente] un considerable problema de derechos humanos a escala mundial. Sus beneficios indudables no anulan sus riesgos evidentes”. Las redes sociales en particular enfrentan como ningún otro servicio digital los desafíos propios del proyecto casi utópico de un Internet libre y abierto para todas las personas del mundo: acoso en línea -que puede traducirse en violencia en el mundo real-, aumento de la discriminación en desmedro de los más vulnerables, engaño y abuso de niñas, niños y adolescentes, compromiso del derecho a la intimidad, uso indebido de los datos de las personas, riesgos democráticos sin precedentes a través de noticias falsas y manipulación de información[72], por citar solo algunos de los desafíos.

70.            En medio de la discusión sobre cómo preservar los beneficios de un Internet libre, pero minimizando algunos de sus riesgos más problemáticos, tempranamente surgió la pregunta sobre cómo arbitrar lo que circula en Internet, que se conoce como moderación de contenidos. Esta actividad que, como se indicó, es realizada principalmente por los intermediarios de internet, se ha ido transformado a lo largo de los años, y ha estado lejos de ser pacífica.

71.            A continuación, y sin pretender ser exhaustivos, se presentan algunos de los hitos más relevantes de la trayectoria que se ha surtido en relación con la moderación de contenidos, que muestra cómo las plataformas han pasado de aplicar reglas dispersas a desarrollar políticas explícitas, mecanismos de supervisión y procesos de rendición de cuentas frente a sus decisiones de moderación[73]. Sin embargo, también concluye con la descripción del modelo de moderación de contenidos que han adoptado de manera reciente algunas plataformas, y que ha generado en unos sectores no pocas manifestaciones de preocupación.

72.            Hitos en la moderación de contenidos. Con la proliferación de plataformas digitales en la década de los noventa, la principal preocupación de los usuarios y de las instituciones públicas giraba en torno a la circulación descontrolada de pornografía infantil y a la violación de derechos de autor[74]. Con la aparición de las redes sociales a mediados de la primera década del nuevo milenio, esas preocupaciones terminaron trasladándose a ellas. Así, por ejemplo, plataformas pioneras como YouTube establecieron desde sus inicios normas de uso que delimitaban lo que podía y no podía publicarse[75], enfocadas en atender esas dos inquietudes centrales: la pornografía y los derechos de autor.

73.            Sin embargo, un evento en la plataforma MySpace en 2006 implicó un giro radical en la aproximación de los intermediarios de redes sociales a su discurso sobre la libertad de expresión en Internet. Este fue el caso de Megan Meier. En 2006, Megan Meier, una joven de 13 años, fue contactada por el perfil de Josh Evans, quien decía ser un joven de 16 años. Eventualmente, Evans comenzó a insultar a Meier y le dijo: “Eres una persona horrible, y el mundo sería un mejor lugar sin ti en él”. Minutos después de leer este mensaje, Meier se colgó con una correa en su habitación[76]. Al investigar los hechos, se descubrió que Josh Evans no existía. Se trataba realmente de Lori Drew, una mujer de 47 años y madre de una antigua amiga de Megan con quien tuvo una discusión que rompió su lazo de amistad tiempo atrás.

74.            Además de la investigación judicial, la discusión pública dirigió sus críticas hacia MySpace: ¿cómo era posible que la red social permitiera la creación de una identidad falsa para matonear a una niña hasta llevarla al suicidio? La condena pública a MySpace supuso un declive irreversible de la compañía, y obligó a otros intermediarios a considerar con más seriedad la necesidad de regular la conducta digital de sus usuarios y de disponer equipos para asegurar la supervisión y cumplimiento de estas reglas. En efecto, el caso de Megan Meier ilustró el nivel de penetración de las redes sociales en la vida cotidiana de las personas, y sus posibles consecuencias negativas en el mundo offline. En ese contexto, se volvió ilusorio pensar en redes sociales abiertas y desreguladas. Se hizo, entonces, central pensar en la moderación de contenidos en estos espacios[78].

75.            La década siguiente ilustró un fortalecimiento en los procesos de moderación de contenidos por parte de las plataformas. En esa época, se comenzaron a expedir normas comunitarias y ofrecer reportes de transparencia y posibilidades de apelación de sus decisiones. En efecto, entre 2010 y 2011, Facebook introdujo sus primeros Community standards en diferentes idiomas, lo que marcó un hito en la explicación de las reglas de conducta para sus usuarios. Paralelamente, Twitter, Youtube e Instagram comenzaron a ofrecer reportes de transparencia y posibilidades de apelación a sus decisiones[79].

76.            En ese tiempo, además, las redes sociales empezaron a tener un gran protagonismo, por hechos como la Primavera Árabe, que mostraron que estas podrían servir como canales centrales para amplificar voces ciudadanas y difundir información sobre protestas y violaciones de derechos humanos[80]. En materia de moderación de contenidos, las plataformas, en respuesta, adoptaron decisiones complejas, y no exentas de controversia. Por ejemplo, en 2011, Youtube permitió, por razones educativas, documentales y científicas, la publicación de videos violentos, como los que mostraban torturas policiales en Egipto y Libia. Al mismo tiempo, bloqueó en varios países un video que era considerado ofensivo para las personas musulmanas, como forma de prevenir la violencia. Por su parte, otras plataformas como Twitter (hoy X) adoptaron políticas que permitían bloquear contenidos únicamente en jurisdicciones específicas, sin eliminarlos globalmente[81].

77.            Otro hito que marcó las discusiones de la época en materia de moderación de contenidos ocurrió en el 2012 con la filtración de documentos internos de Facebook, sobre los criterios que la empresa utilizaba para decidir qué se eliminaba y qué no. Esto propició un amplio debate sobre la opacidad en los criterios y funcionamiento de dicha moderación. En respuesta, en el 2013, Facebook publicó su primer informe de transparencia. Este periodo marcó un cambio claro: las plataformas pasaron de aplicar reglas ad hoc a diseñar políticas explícitas y, aunque de forma incipiente, a rendir cuentas sobre su implementación[82].

78.            En los años que siguieron, las plataformas se enfrentaron a desafíos muy complejos. Por ejemplo, en el 2014 apareció en Internet el video de la decapitación del periodista estadounidense James Foley, lo que motivó a YouTube a revertir su política previa y restringir la difusión de material violento. Paralelamente, se introdujeron reglas contra “organizaciones peligrosas” vinculadas al terrorismo. En 2015 y 2016, Twitter reformó sus políticas de acoso tras un caso de hostigamiento masivo contra el elenco femenino de una película. En el mismo periodo, las elecciones presidenciales de Estados Unidos revelaron la magnitud de las campañas de desinformación impulsadas tanto por actores estatales como por grupos organizados, lo que llevó a Facebook a implementar un programa de verificación de hechos en alianza con organizaciones acreditadas por la International Fact-Checking Network (IFCN)[83]. Sin embargo, las plataformas fueron criticadas por su incapacidad para contener la violencia étnica en lugares como Myanmar.

79.            En 2017 y 2018 se lanzó el Global Internet Forum to Counter Terrorism (GIFCT)[84], un esfuerzo conjunto entre industria tecnológica, gobiernos, sociedad civil y academia para coordinar la respuesta frente a contenidos terroristas y extremistas violentos en línea. Sin embargo, también se multiplicaron los problemas: Facebook Live comenzó a ser utilizado para transmitir suicidios y tiroteos, como el asesinato de Philando Castile en 2018. Ese mismo año, Twitter eliminó 70 millones de cuentas automatizadas, YouTube publicó su primer informe de aplicación de normas comunitarias y Facebook creó el Oversight Board o Consejo Asesor de Contenido (en adelante, el “Consejo Asesor”)[85], un órgano independiente concebido como una especie de “tribunal supremo” para resolver apelaciones y casos emblemáticos sobre moderación.

80.            En el 2020, el Consejo Asesor, compuesto por 20 personas de diversos campos, comenzó operaciones. Ese mismo año la pandemia del Covid-19 las plataformas tomaron distintas medidas para contrarrestar la desinformación sanitaria[86]. Entre otras cosas, prohibieron contenidos que estuvieran en contra de las fuentes oficiales e hicieron una campaña masiva para etiquetar publicaciones relacionadas con la pandemia. Ese año también, las plataformas se vieron enfrentadas con hechos políticos complejos. Por ejemplo, a finales del 2020 se gestó una campaña de desinformación para insistir en un posible fraude electoral en Estados Unidos. Esta campaña escaló, tras el asalto al Capitolio de ese país, el 6 de enero de 2021. Facebook y Twitter bloquearon la cuenta del entonces presidente y candidato Donald Trump y luego lo expulsaron[87]. En una de sus decisiones más conocidas, el Consejo Asesor revisó el caso, y confirmó la suspensión, pero exigió criterios claros para determinar su duración y alcance[88].

81.            El 7 de enero de 2025, después de la elección de Donald Trump para un nuevo periodo presidencial, Mark Zuckerberg, director ejecutivo de Meta (antes Facebook) anunció cambios sustanciales en las políticas de verificación de datos de sus plataformas Facebook, Instagram y Threads. Con anterioridad se utilizaban verificadores externos, y ahora se pasa a un modelo de arbitramento, que contiene “notas de la comunidad, siguiendo el modelo que con anterioridad había adoptado X (antes Twitter) al cambiar de dueño[89]. Como se discutirá más adelante, este cambio ha sido recibido por algunos como un espacio de mayor libertad de expresión, pero por otros como una política que puede exacerbar los discursos de odio y poner en riesgo a los más vulnerables.

82.            En síntesis, lo que este recuento de unos cuantos hitos sobre la evolución de la moderación de contenidos busca ilustrar, es que se trata de un proceso complejo que se ha desarrollado en medio de hechos, tensiones y debates éticos y políticos muy sensibles. La experiencia reciente muestra que la moderación de contenidos tiene profundas repercusiones sociales y democráticas, y que hay reservas sobre la completa dependencia del arbitrio de actores privados, punto sobre el cual esta Corte se referirá más adelante.

83.            Cómo se hace la moderación de contenidos. Como arriba se indicó, la moderación de contenidos implica la práctica o proceso de revisar los contenidos generados por los usuarios publicados en plataformas digitales. Lo que se busca es determinar si esos contenidos cumplen o no las llamadas “normas comunitarias” o “reglas de la casa”. Si no lo hacen, se generan una serie de consecuencias, como restricciones a la visualización de un determinado contenido o su eliminación, la suspensión del usuario o el cierre definitivo de la cuenta[90].

84.            Las llamadas “normas comunitarias” o “reglas de la casa” son adoptadas por los operadores de redes sociales que buscan definir cuáles contenidos o comportamientos son o no admisibles en una determinada plataforma. Se habla de que estas normas tienen tres niveles[91]:

·        Primer nivel. Suele corresponder con normas legales más o menos uniformes alrededor del mundo sobre discursos considerados prohibidos, como la pornografía infantil, la incitación al uso de la violencia física, la propaganda de guerra y la apología al genocidio[92]. Existe una especie de “efecto espejo”, pues estas normas legales se reflejan en las normas comunitarias que prohíben circular tales discursos en redes sociales. Un ejemplo se encuentra en los Estándares Comunitarios de Facebook, que prohíben difundir discursos que inviten a cometer violencia severa[93].

·        Segundo nivel. Se trata de contenido que, en principio, no está prohibido por la ley pero que en el contexto de la red social se considera inapropiado, chocante u objetable. Es usual que en las normas comunitarias se establezcan conductas específicas que están prohibidas de plano o mecanismos adicionales de verificación para definir si se trata de contenidos objetables o no. En todo caso, estas normas no son uniformes en todas las plataformas, pues “cada servicio decide por sí mismo lo que subjetivamente considera contenido horrible u objetable”[94]. Un ejemplo de estas conductas pueden ser imágenes sensuales o de alto contenido erótico, o contenidos informativos explícitos de violencia.

·        Tercer nivel. En este nivel está el contenido que no solo es lícito, sino que además parece ser en principio inobjetable y por lo tanto de circulación libre en la red social. Con el tiempo, el contenido que hace parte de este nivel ha cambiado. En principio, se consideraba que todo aquello que no fuera prohibido o sometido a restricciones podía circular libremente. Ahora, hay una nueva práctica en la que los operadores de redes sociales informan explícitamente qué tipo de contenido puede ser publicado y puesto en circulación en ellas sin limitaciones[95].

85.            Para garantizar el cumplimiento de estas reglas, la moderación de contenidos se hace esencialmente de dos maneras: (i) una moderación ex ante, es decir, una revisión de contenidos desarrollada antes de que el material sea publicado, principalmente para evitar la circulación de elementos violatorios de prohibiciones absolutas como la pornografía infantil o de obras protegidas por derechos de autor; o (ii) una moderación ex post, es decir, posterior a la publicación del contenido por parte de los usuarios. Este último tipo puede ser reactivo, es decir, en reacción a una denuncia hecha por otros usuarios (flagging), o puede ser activo, es decir, realizado de forma unilateral por los mecanismos humanos y automatizados de control de contenidos[96].

86.            Esta curación se hace a través de la combinación de equipos humanos de moderación de contenidos y de herramientas automatizadas de inteligencia artificial (IA). Sin embargo, como lo explica el Consejo Asesor  de Meta[97], esta curación ha evolucionado drásticamente en las últimas dos décadas. Hoy cada vez más la moderación de contenidos se basa en inteligencia artificial, pues este ejercicio implica el procesamiento de millones de datos cada segundo[98]. Las herramientas de IA o algoritmos “usan aprendizaje de máquina (conocido como machine learning)” que las entrenan “para buscar ciertos contenidos y eliminarlos si incumplen con los términos y condiciones”[99]. Como también indica el Consejo Asesor, y se discutirá más adelante, no son pocos los riesgos de la automatización, pues puede llegar a amplificar errores humanos, con sesgos incrustados en los datos de entrenamiento y en el diseño de los sistemas, mientras que las decisiones de aplicación suceden rápidamente, dejando pocas oportunidades para la supervisión humana”[100].

3.2.     Críticas y desafíos de la moderación de contenidos

87.            Para los operadores de redes sociales, no es fácil definir qué está permitido y qué está prohibido en el entorno digital. En efecto, la discusión pública señala que el principal desafío de la moderación de contenidos se relaciona con cuándo, cómo y por qué moderar uno u otro contenido[101]. Frente a esta facultad, existen dos grandes posturas. Por un lado, están quienes señalan que los operadores de redes sociales son laxos en la revisión de los contenidos y que, por tener un modelo de negocios basado en la publicidad, dejan pasar contenido infractor de sus propias políticas cuando los usuarios pagan por difundirlo[102]. Por otro lado, la posición contraria señala que es probable que los operadores de redes sociales se excedan en el ejercicio de su facultad amplia de moderación de contenidos[103].

88.            Estas dos posturas son importantes porque ilustran una tensión que es transversal a las discusiones sobre moderación de contenidos. Tanto los operadores de redes sociales como los Estados (según se verá más adelante) se enfrentan a un dilema sobre cómo evitar los extremos de regular en exceso o ser demasiado permisivos. En este contexto, los operadores de redes sociales deben encontrar un balance que permita aplicar estrictamente las reglas para impedir que circule contenido atroz, mientras se garantiza que materiales potencialmente objetables, pero en cualquier caso legítimos, circulen como obliga el derecho internacional de los derechos humanos[104].

89.            Al respecto, un ejemplo reciente que reavivó la discusión sobre el rol de las plataformas en la moderación de contenidos fue la decisión de Meta, antes comentada, de terminar su programa de verificación de hechos (fact-checking) en las publicaciones de redes sociales en los Estados Unidos[105]. Este programa buscaba combatir la difusión de noticias falsas en redes sociales, pero la compañía justificó su fin porque “llegó a un punto en el que había muchos errores y censura”, por lo que era necesario “volver a sus raíces alrededor de la libertad de expresión”[106]. En este sentido, como también se indicó, Meta decidió transitar de un modelo mediante el cual terceros externos revisaban publicaciones para alertar sobre posibles noticias falsas, desinformación o discursos de odio, a uno en el que son los usuarios quienes pueden comentar acerca de la existencia de publicaciones engañosas. Este último modelo de “notas comunitarias”, requiere un “acuerdo entre personas con un rango de perspectivas para ayudar a prevenir calificaciones sesgadas” [107].

90.            Voces expertas cuestionaron el fin del programa, con el argumento de que Meta estaba “reabriendo las compuertas al mismo auge de odio, desinformación y teorías de conspiración que provocaron [el ataque al Capitolio de los Estados Unidos] del 6 de enero, y que continúan impulsando la violencia en el mundo real”[108]. Como lo puso de presente la antigua relatora para la Libertad de Expresión de la OEA, quien también fue miembro del Consejo Asesor de Meta:

“[La labor de verificación de datos] no [la] pueden hacer las notas comunitarias de manera confiable. Los usuarios no tienen ni el tiempo, ni la plata, ni el método, ni el compromiso con la transparencia que tienen los verificadores de datos. Las notas comunitarias pueden ser un complemento, pero no pueden cumplir la labor de los verificadores. Todo esto, sin mencionar las interacciones no humanas que van a intervenir en estos procesos, cada vez más sofisticadas y difíciles de detectar (…)”.

91.            En todo caso, la Corte debe fallar con base en los hechos objeto de la tutela al momento en que sucedieron, por lo que las políticas de Meta que deben analizarse son las que se aplicaron sobre la accionante. No obstante, el contexto es relevante y evidencia que el debate sobre el rol de los operadores de las plataformas en la moderación de contenidos es actual y está en evolución constante. Asimismo, esta discusión está relacionada con el debate que la Corte explicará a continuación: sobre la interacción entre los contenidos que se comparte en redes sociales y los hechos que suceden fuera de línea. 

92.            La discusión offline-online: el uso de contenidos fuera de línea (offline) en la moderación de contenidos. Un debate que ilustra las dificultades de definir qué es aceptable dentro de una plataforma y qué no lo es tiene que ver con el análisis de conductas fuera de plataforma (offline) en la curación de contenidos. Esta discusión parte de una pregunta esencial: ¿deben los moderadores de contenido considerar lo que hacen las personas fuera de sus cuentas como un parámetro para restringir el acceso a las plataformas? En este debate se pueden encontrar, nuevamente, los dos extremos del dilema acerca de cuándo la regulación es deficiente o puede ser excesiva.

93.            Por una parte, cada vez más hay circunstancias en las que se considera necesario tener en cuenta la conducta de los usuarios fuera de línea, como aquellas en las que hay un riesgo cierto y creíble de violencia hacia terceros. Esta postura puede ilustrarse con dos ejemplos.

94.            Un primer ejemplo es el caso de Twitch, una plataforma de streaming dedicada a transmitir contenidos de usuarios que interactúan en torno a los videojuegos. En 2021, Twitch lanzó una política comprehensiva para enfrentar conductas graves cometidas fuera de línea[110], luego de una serie de denuncias sobre violencia sexual atribuida a usuarios célebres de la plataforma en el marco del movimiento #MeToo[111]. Entre las conductas offline que pueden ser investigadas bajo la nueva política se incluyen las que constituyan riesgos sustanciales a la seguridad de la comunidad como violencia extrema, terrorismo o reclutamiento, amenazas explícitas o creíbles de violencia en masa, explotación, y acoso o violencia sexual de cualquier tipo, pero especialmente contra niños y niñas, entre otras[112].

95.            Un segundo ejemplo de la relevancia de conductas fuera de línea para la moderación de contenidos se vio con el ataque al Capitolio de los Estados Unidos el 6 de enero de 2021. Desde antes de ese evento se había denunciado la existencia de llamadas “operaciones de influencia” (influence operations), una categoría acuñada después de las elecciones de 2016 en Estados Unidos, Brasil y Reino Unido (Brexit). En todos estos eventos, se demostró a través de filtraciones del grupo Cambridge Analytica que operadores de Facebook permitieron el uso mecanismos predictivos sobre la conducta electoral de sus usuarios para la creación de contenidos que influenciaran su voto en dichos certámenes democráticos. Sin embargo, lo relevante del ataque al recinto del Congreso fue que la participación en esos hechos (además de las publicaciones en las plataformas) fue tenida en cuenta por Facebook y Twitter para eliminar las cuentas, entre otros, del entonces presidente Donald Trump.

96.            Sin embargo, no siempre es claro que sea adecuado acudir a conductas fuera de línea para la moderación de contenidos. En efecto, existe el riesgo de que valerse de estas conductas favorezca, en algunos escenarios, la discriminación contra las mujeres. Al respecto, no es nueva la denuncia de mujeres que desarrollan actividades de pornografía o prostitución en otras plataformas en las que alegan ser discriminadas por Instagram, así sus publicaciones no sean sexualmente explícitas. Por supuesto, existe un debate abierto sobre el posible uso de las cuentas como un medio para tercerizar o conducir a otras plataformas donde sí hay contenido sexualmente explícito o dónde se hacen transacciones de tipo sexual. Incluso, existe evidencia del uso de cuentas en redes sociales como Instagram como un medio para contactar con personas o grupos que favorecen encuentros sexuales offline[116].

97.            Una vez más, el reto para los operadores de redes sociales está en establecer el límite de lo admisible sin transgredir límites incompatibles con los estándares sobre libertad de expresión. Una forma de hacerlo es determinar qué tipo de conductas o señales offline pueden indicar una amenaza a la seguridad o los derechos humanos de los usuarios de la plataforma.

98.            Un ejemplo de estas señales lo propone la Clínica de Derechos Humanos de la Universidad de Yale[117], que señala que cuando la conducta fuera de las plataformas alimenta discursos de odio o fomenta la violencia extrema contra personas o grupos de personas, es necesario que las redes sociales tengan en cuenta el mundo offline. En su estudio sobre la circulación de discurso de odio que incita a la violencia extremista fuera de las plataformas, la Clínica formuló dos tipos de señales o indicios que deben tener en cuenta los moderadores de contenido para tomar decisiones expeditas sobre la permanencia de ciertos usuarios en la red social. Por un lado, señales online y, por otro, señales offline. Dentro de las señales o indicios offline, la Clínica subrayó que los moderadores deben tener en cuenta (i) el riesgo local de conflicto; (ii) la identidad de las personas objeto del discurso de odio; y (iii) la identidad de la persona que publica el contenido[118]. Este último elemento apunta a la necesidad de establecer quién es la persona que publica y cuál es su nivel de influencia sobre la posibilidad de ejercer violencia directa sobre una persona o grupo de personas[119].

99.            En síntesis, los operadores de redes sociales se enfrentan a decisiones complejas relacionadas con la moderación de contenidos. Por un lado, existe un riesgo de regular poco, y permitir que en la plataforma circule contenido que incite a la violencia extrema, difunda discursos de odio o de otra manera amenace la seguridad o los derechos humanos de los usuarios. Por otro lado, existe el riesgo de regular demasiado, y restringir la difusión de contenido legítimo, aun cuando pueda considerarse potencialmente indeseable. La discusión sobre el uso de conductas offline en la moderación de contenidos ilustra este dilema. En la siguiente sección la Corte estudiará las complejidades adicionales que aparecen cuando quien regula el contenido que circula en la red no es solo el administrador de la plataforma, sino el Estado.

3.3.     La intervención del Estado en la moderación de contenidos

100.       Los Estados se enfrentan a un dilema similar al de los operadores de redes sociales, aunque con dificultades propias. Al igual que las empresas privadas, el Estado debe decidir cuánto y en qué medida intervenir en la regulación del contenido que circula en plataformas digitales. Sin embargo, por regla general, no actúa de manera directa, pues la moderación de contenidos la ejercen en primera medida los operadores de redes sociales. La actuación estatal se dirige entonces hacia dichos operadores, teniendo en cuenta la naturaliza sui generis de las redes sociales, y sus propias limitaciones.

101.       Ahora bien, resulta natural que los operadores de redes sociales asuman la tarea de moderar contenidos. Ello se explica, por un lado, por el volumen masivo de interacciones que circula a diario en las plataformas y, por otro, porque la moderación exige decisiones técnicas, que requieren de estructuras diseñadas para ese fin. Los intermediarios cuentan con herramientas tecnológicas y equipos humanos para aplicar sus reglas comunitarias. Por otra parte, hay fundadas reservas sobre la participación estatal directa en la moderación de contenidos, pues podría propiciar un control excesivo sobre el debate público que se genera en medios digitales, en desmedro de estándares democráticos y de derechos humanos[120].

102.       Sin embargo, estas limitaciones no significan que el Estado está exento de responsabilidad. Así no sea quien ejerza la función de moderación de contenidos de manera directa, conserva deberes claros de regulación y supervisión, dentro de los parámetros establecidos por la Constitución y los instrumentos internacionales de derechos humanos. Como se pasará a explicar, el particular rol del Estado en esta materia inicia por comprender la especial naturaleza de las redes sociales.

103.       En efecto, un primer aspecto a considerar, es que las redes sociales han difuminado la clásica distinción entre lo público y lo privado, tradicionalmente usada para delimitar la intervención del Estado. Esa frontera, ya cuestionada en otros contextos[121], se vuelve más porosa en los entornos virtuales. La Corte ha ilustrado el punto, al referirse a la diferencia entre espacios públicos, privados e intermedios.

104.       Los espacios públicos son de acceso y permanencia libre, no existen códigos de comportamiento particulares y existe una obligación de las autoridades de velar por su destinación al uso común; los espacios privados son cerrados y sujetos a la autorización de quien los habita o controla, pues allí se ejercen en mayor grado derechos y libertades como la intimidad y el libre desarrollo de la personalidad. En el medio de estos dos extremos están los espacios semipúblicos y semiprivados. Los primeros están abiertos al público, pero para su acceso puede exigirse el cumplimiento de ciertos requisitos. Por ejemplo, son espacios semipúblicos “las oficinas públicas o de entidades prestadoras de servicios públicos, los bancos, los centros comerciales, los locales comerciales, los estadios y los cines”[124]. Por su parte, los espacios semiprivados, por regla general, no están abiertos al público, sino que su ingreso es reservado para quienes detentan la calidad de miembros de una determinada institución o comunidad. Para ser miembro de ella se exige el cumplimiento de unos requisitos mínimos de comportamiento, pues “no se trata del individuo en su propio ámbito de acción, sino del individuo en una comunidad”[125].

105.       No obstante, en el caso de las redes sociales, esta clasificación resulta aún más compleja. Si bien el acceso, por regla general, está abierto a cualquier persona, su existencia se justifica por el deseo de grupos empresariales de crearlas y ponerlas a funcionar. Estos particulares tienen unos intereses específicos que, como se anotó, se manifiestan en sus normas comunitarias o reglas de la casa. Sin embargo, las redes sociales tampoco pueden considerarse simples espacios privados, pues habilitan interacciones sociales comparables a las que tienen lugar en plazas públicas, parques o centros comerciales[126]. Así, por ejemplo, si en una red social como X se discuten asuntos políticos o en Instagram o Facebook se comparten imágenes de protesta hay una similitud con un debate en la plaza de un pueblo o con una manifestación en las calles de una ciudad.

106.       La jurisprudencia internacional aporta ejemplos ilustrativos. Por citar alguno, en el caso Knight First Amendment Institute at Columbia University v. Trump, dos cortes del estado de Nueva York concluyeron que la decisión del entonces presidente Donald Trump de bloquear usuarios en su cuenta de Twitter (ahora X) vulneró el derecho a la libertad de expresión consagrada en la Primera Enmienda de la Constitución estadounidense al restringir la deliberación en un foro público[127]. Aunque estas decisiones fueron dejadas sin efectos por la Corte Suprema de los Estados Unidos al concluir el periodo presidencial de Donald Trump, por sustracción de materia[128], de todas formas, ilustran los debates que surgen al intentar asimilar las redes sociales a espacios físicos.

107.       En esta línea es pertinente la referencia hecha por la Fundación Karisma en este proceso, al asimilar las redes sociales con el concepto de esfera pública avanzado por Jürgen Habermas: “un lugar donde se da un intercambio libre de ideas y el debate tiene lugar” de manera que “es -por esencia- abierto e incluyente a todos”[129]. De ahí que buena parte de expertos consideren las redes sociales como parte de dicha esfera, en tanto comunidades virtuales en las que las personas comparten información, discuten sobre innumerables temas y crean vínculos personales[130].

108.       En relación con este asunto, en la sentencia T-149 de 2025, la Corte Constitucional estudió el caso de una congresista que bloqueó a un usuario en las plataformas de Facebook y X porque dicho usuario había ejercido actos de violencia de género en su contra. En este caso, si bien la Corte encontró probada la existencia de actos de violencia de género, consideró que la medida de bloquear al usuario era desproporcionada porque afectaba en forma intensa sus derechos a la libertad de expresión, al acceso a la información pública y a la participación política. Así, la Corte ordenó a la congresista levantar el bloqueo de las cuentas del usuario en las redes sociales, pero adoptó otros remedios para prevenir y contrarrestar los actos de violencia de género realizados por el accionante[131]. Esta sentencia ilustra la importancia de las redes sociales como un espacio de intercambio de información y control político; pero donde, también, se reproducen y amplifican los sesgos, los odios y la violencia del mundo offline.

109.       En síntesis, es posible afirmar que las redes sociales son foros públicos de carácter sui generis: escenarios en los que se borran las líneas tradicionales entre lo público y lo privado. Aunque son gestionadas por particulares, poseen una clara vocación pública. Por ello, el Estado tiene un deber de intervención. Sin embargo, este debe ejercerse de modo tal que preserve la capacidad de los intermediarios de definir reglas y moderar contenidos, por un lado, mientras se salvaguarda la integridad de los usuarios, por el otro. Esta discusión se aborda a continuación.

110.       El principio de irresponsabilidad de los intermediarios como el punto de partida de la intervención del Estado en la moderación de contenidos. La evolución de los debates sobre la moderación de contenidos se refleja en la visión sobre qué debe hacer el Estado para garantizar la vigencia de los derechos en el entorno digital. Esta discusión se enmarca entre dos extremos. Por un lado, la mayoría de sistemas jurídicos reconocen el principio de irresponsabilidad de los intermediarios, el cual impide hacer responsables a los operadores de plataformas por el contenido que publiquen sus usuarios. Por otro lado, en algunos países se han presentado iniciativas para intensificar la responsabilidad de los intermediarios o restringir el acceso a las plataformas.

111.       El principio de irresponsabilidad de los intermediarios, como lo reconoce la Corte Constitucional, implica que los intermediarios no pueden ser responsabilizados por el contenido publicado por terceros ni por las decisiones de moderación de contenidos que toman para hacer respetar sus reglas. De lo contrario, atribuirles responsabilidad por la conducta de los usuarios llevaría a “limitar la difusión de ideas y les daría el poder para regular el flujo de información en la red”. En este sentido, la irresponsabilidad de los intermediarios parte de la base de que los actores digitales son diversos por naturaleza y que la labor que hacen las compañías privadas que ofrecen servicios técnicos en Internet es fundamental en su desarrollo libre. Supone, además, una actualización de elementos tradicionales de la libertad de expresión, entre otros, la necesidad de limitar al máximo la intervención del Estado en la regulación de los medios de comunicación y de los contenidos que producen y ayudan a circular en el mercado de las ideas.

112.       Los orígenes del principio de irresponsabilidad de los intermediarios se remontan a las primeras regulaciones sobre Internet, como el Communications Decency Act (CDA) de 1996 en Estados Unidos[133] y la Directiva 2000/31/CE en la Unión Europea, mejor conocida como la Directiva sobre el Comercio Electrónico[134]. Aunque estas regulaciones son anteriores a la existencia y difusión de las redes sociales, la idea de que los intermediarios no pueden ser considerados responsables por lo que publican los usuarios permeó el razonamiento sobre el alcance de los derechos humanos en Internet. Un ejemplo se encuentra en la Declaración Conjunta sobre Derechos Humanos e Internet de 2011, un instrumento de derecho blando que este tribunal ha empleado en otras oportunidades[135]. Allí se estableció como principio elemental para asegurar la vigencia de los derechos en Internet la irresponsabilidad de los intermediarios por la circulación de contenido transgresor, incluso contrario a los estándares sobre discurso protegido por la libertad de expresión.

113.       Ahora bien, cada vez hay más voces e iniciativas que insisten en que se necesita intervención de los Estados para regular a las plataformas de redes sociales y asegurar que en la moderación de contenidos se respeten los derechos humanos. Estas tendencias se reflejan tanto en decisiones nacionales como en instrumentos internacionales que matizan el principio de irresponsabilidad de los intermediarios, a las que la Corte se referirá enseguida.

114.       Tendencias actuales. Los derechos humanos como un límite esencial al ejercicio de la facultad amplia de moderación de contenidos. Las discusiones planteadas por el auge de las redes sociales generan la necesidad de matizar el principio de irresponsabilidad de los intermediarios. Sin embargo, ese ejercicio no puede implicar exceder límites inadmisibles para un Estado democrático frente a las libertades de empresa y expresión, entre otras garantías constitucionales. Se trata de un balance sobre el que hay múltiples ejemplos, tanto en normas de derecho blando[137] como en experiencias de otros ordenamientos jurídicos. 

115.       Los estándares actuales convergen en señalar que, en términos generales, los Estados deben (i) respetar, garantizar y promover un Internet libre, especialmente en redes sociales; (ii) abstenerse de imponer medidas restrictivas sobre la operación de redes sociales como bloqueos, solicitudes de borrado de contenidos sin sustento legal y de forma secreta o criminalización de empleados de intermediarios por su labor de curación o moderación de contenidos; (iii) garantizar la transparencia sobre la regulación, así como la independencia, la sostenibilidad, la consistencia, la cooperación y el diálogo intersectorial en los sistemas regulatorios sobre las plataformas digitales, especialmente las redes sociales; y (iv) crear un ambiente propicio que promueva la transparencia en la toma de decisiones relacionadas con la moderación de contenidos, así como en las reglas con base en las cuáles se toman y su consistencia.

116.       Los ejemplos de instrumentos que proponen principios para concretar el balance mencionado son múltiples. A continuación, la Corte lista algunos, sin ánimo de agotar todos los insumos disponibles, sino con el fin de ilustrar el panorama.

·        Principios de Manila sobre responsabilidad de los intermediarios: promovidos por organizaciones de derechos humanos, establecen que los Estados deben proteger a los intermediarios y no responsabilizarlos por contenido de terceros, salvo mediante leyes precisas, claras y accesibles. Además, debe existir una orden judicial, respetar el debido proceso y ajustarse al test tripartito de libertad de expresión[138].

·        Declaración de Principios sobre Libertad de Expresión e Internet de 2011: busca promover el desarrollo de enfoques regulatorios aptos para el entorno digital. Entre otras cosas, invita a la autorregulación y la alfabetización digital para que las personas puedan ejercer responsablemente su libertad de expresión en Internet. Además, indica que el Estado debe abstenerse de bloquear de manera definitiva sitios web o similares que los sistemas de filtrado impuestos por los gobiernos son una restricción inadmisible a la libertad de expresión[139].

·        Declaración Conjunta sobre los Desafíos para la Libertad de Expresión para la Próxima Década de 2019: propone seis medidas contra el dominio privado sin rendición de cuentas de las redes sociales.  Ellas incluyen: (i) transparencia en la moderación de contenidos; (ii) regulación de modelos de negocio; (iii) regulación empresarial según los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU; (iv) control en el uso de la inteligencia artificial; (v) mecanismos para contrarrestar la desinformación en el marco de los derechos humanos; y (vi) medidas contra prácticas anticompetitiva[140].

117.       Un elemento común de las tendencias regulatorias actuales es que el derecho internacional de los derechos humanos constituye un límite esencial en la definición de dichas reglas. Si bien se acepta que sean los operadores de redes sociales quienes realicen la actividad de moderación de contenidos, no se descarta que los Estados puedan tener algún tipo de intervención en ella. En términos generales, los nuevos enfoques regulatorios buscan dotar de mayor transparencia, trazabilidad y apertura a la aplicación de las normas definidas por las plataformas de redes sociales. Esto se materializa en mecanismos de rendición de cuentas, publicación de las medidas de moderación adoptadas y conformación de equipos que garanticen que dicha moderación sea coherente con el contexto en el que se aplica, entre otros factores. El objetivo último es preservar el principio de irresponsabilidad de los intermediarios, al tiempo que se protegen los derechos de quienes participan en comunidades digitales, especialmente en redes sociales.

118.       A continuación, la Corte lista algunos ejemplos de regulaciones que muestran el papel central de los derechos humanos en la intervención estatal del espacio digital y la forma en que permiten llegar a un balance entre los dos extremos de la discusión.

·        Declaración Europea sobre Principios y Derechos Digitales: insta a los Estados miembros de la Unión Europea a consolidar un espacio digital libre, igualitario y democrático, reconociendo el derecho de los ciudadanos a un entorno “fiable, diverso y multilingüe”. Obliga a las grandes plataformas a apoyar el debate democrático, mitigar riesgos como la desinformación y proteger la libertad de expresión”[141].

·        Ley de Servicios Digitales de la UE (2022): primera gran regulación europea del entorno digital en más de dos décadas. Obliga a las grandes plataformas con presencia en la Unión Europea a publicar un informe anual sobre sus decisiones de moderación de contenidos y sus consecuencias, y notificar de forma clara y estandarizada cada remoción a la Comisión Europea[142].

·        Directrices de la UNESCO: fijan cinco obligaciones para que los intermediarios garanticen los derechos humanos en redes sociales: (i) ejercer debida diligencia para identificar y mitigar riesgos; (ii) incorporar estándares de derechos humanos en sus normas comunitarias; (iii) hacer transparente el funcionamiento y la moderación de contenidos; (iv) facilitar a los usuarios información para un uso informado; y (v) establecer mecanismos periódicos de rendición de cuentas sobre la aplicación de sus reglas[143].

·        Principios de Santa Clara sobre Transparencia y Rendición de Cuentas en la Moderación de Contenidos: establecen una guía para que la moderación de contenidos sea transparente y sujeta a escrutinio. Sus fundamentos incluyen: (i) priorizar los derechos humanos y el debido proceso; (ii) establecer reglas claras y accesibles; (iii) garantizar competencia cultural en los equipos y sistemas de moderación; (iv) informar cuando las decisiones provengan de órdenes estatales; y (v) asegurar integridad, no discriminación, evaluaciones periódicas y acceso a mecanismos de notificación y apelación[144].

119.       Así, puede concluirse que el límite fundamental a la definición de normas comunitarias y a la facultad amplia de moderación de contenidos son los derechos humanos o fundamentales. De allí que los operadores de plataformas de redes sociales estén llamados a establecer normas de moderación de contenidos orientadas a proteger los derechos humanos de los usuarios y que las mismas normas cumplan con estándares de derechos humanos[145]. De igual manera, esto lleva a rechazar la intervención del Estado que se extralimite en la regulación para impedir la circulación libre de ideas o limitar el acceso de las personas a Internet.

4.            Debates en materia de derechos fundamentales en el marco de la facultad amplia de moderación de contenidos

120.       Como se anticipó en la sección anterior, el ejercicio de la facultad amplia de moderación de contenidos supone unos desafíos sustanciales en materia de derechos humanos. Dadas las circunstancias que proponen los hechos del caso objeto de estudio, la Corte se limitará a identificar los desafíos en clave de libertad de expresión, igualdad y no discriminación y debido proceso.

4.1.     Libertad de expresión y moderación de contenidos

121.       La libertad de expresión está reconocida como un derecho fundamental en el artículo 20 de la Constitución Política y se erige como un pilar fundamental del Estado democrático de derecho. En el ordenamiento constitucional colombiano, la libertad de expresión es un derecho complejo en tanto reconoce varias prerrogativas en cabeza de las personas que habitan el territorio nacional. Por un lado, contiene el derecho de todas las personas a expresar su pensamiento a través de opiniones y de difundir informaciones. Por otro lado, reconoce el derecho a conocer las ideas de otros y a recibir información que sea de su interés. Por último, el artículo 20 constitucional consagra el derecho de las personas a fundar medios de comunicación masiva, quienes deberán actuar libremente y con responsabilidad social[146].

122.       La Corte Constitucional cuenta con una amplia jurisprudencia sobre el derecho a la libertad de expresión en Internet[147]. Uno de los elementos normativos centrales de esa jurisprudencia es el reconocimiento de que el espacio digital no le está vedado al Estado y que, por lo mismo, se reconocen y aplican en plenitud los derechos fundamentales que se desprenden del ordenamiento constitucional, particularmente el derecho a la libertad de expresión[148].

123.       Respecto de las redes sociales, la Corte en diferentes decisiones ha resaltado su centralidad en la vida de las personas y su capacidad para permitir la difusión de ideas a escala masiva, fuera de las lógicas del poder gubernamental o de los medios tradicionales de comunicación[149]. Como ya se indicó, las redes sociales permiten que más ciudadanos de todo el mundo participen en conversaciones públicas que les interesan[150] y que incluso se conviertan en generadores de contenido relevante para otros en el mercado de las ideas que, en principio, circulan libremente en Internet.

124.       Justamente por estas características, la Corte Constitucional reconoce que la información que se divulga en redes sociales tiene diferencias importantes respecto de aquella que circula en los medios de comunicación tradicionales. En una sentencia reciente, la Corte sintetizó los elementos destacables del discurso que se propaga en redes sociales. Se trata de información que: (i) es ampliamente accesible; (ii) cuyo contenido es definido por los emisores, quienes determinan autónomamente el contenido de los mensajes que publican; (iii) se comparte automáticamente y circula a un ritmo y a una escala exponenciales; y (iv) aunque tenga un origen particular, una vez puesta en circulación, incluso si se limita o impide su acceso al emisor, queda disponible para que otros usuarios la republiquen o la guarden.[151] Estos elementos ponen de presente que, al igual que en el mundo material, en el espacio digital la libertad de expresión no es un derecho que pueda ejercerse sin restricciones. Dependiendo de las circunstancias, la libertad de expresión en el mundo digital puede entrar en tensión y comprometer los derechos de otras personas o grupos[152].

125.       La jurisprudencia constitucional en esta materia se ha desarrollado particularmente en torno a las tensiones “clásicas” entre libertad de expresión y el derecho a la honra y al buen nombre de terceros por ideas e informaciones expresadas en redes sociales. En particular, la Corte ha revisado casos relacionados con denuncias públicas contra personas o grupos de personas a través de canales digitales como Facebook, Twitter o Instagram, por conductas impropias e incluso delictivas[153]. Para esos escenarios, la Corte cuenta con una jurisprudencia decantada, cuyas principales consideraciones se recogen en la sentencia SU-420 de 2019 y que desarrolla los elementos de análisis constitucional para resolver ese tipo de controversias[154].

126.       Sin embargo, el caso que se estudia en esta sentencia no tiene antecedentes precisos en la jurisprudencia constitucional. Por ello es pertinente enfatizar en las tensiones que se presentan en los procesos de moderación de contenidos, en relación con los diferentes actores involucrados. Ese análisis permitirá comprender de mejor manera el tipo de problemas jurídicos que debe resolver la Corte.

127.       Como ya se ha sugerido líneas arriba, los ejercicios de moderación de contenidos suelen involucrar dos actores. Por un lado, el usuario cuyo contenido es removido o sometido a restricciones de visualización y, por otro, los operadores de la red social encargados de la labor de moderación de contenidos. Además, en los escenarios de moderación de contenidos ex – post reactiva, aparece un tercer actor que son los usuarios que denuncian un determinado contenido porque, a su juicio, resulta incompatible con las normas comunitarias o simplemente les parece desagradable, chocante o inapropiado.

128.       Aunque en términos generales hay un acuerdo entre estos actores para convivir en el espacio digital, el uso de herramientas de moderación de contenidos supone necesariamente un conflicto de intereses. Por un lado, se encuentra el derecho de las personas usuarias a publicar el contenido que deseen. Aunque la plataforma es un facilitador y amplificador de ese contenido, no es quien decide si esa persona tiene o no derecho a publicarlo, pues la libertad de expresión, al igual que los derechos humanos, tiene un carácter universal y, por lo tanto, es oponible tanto a particulares como a los Estados. En ese sentido, la facultad de generar y hacer circular determinada información puede estar sujeta a restricciones admisibles a la luz de la Constitución Política y del derecho internacional de los derechos humanos.

129.       Un primer nivel de análisis sobre el contenido publicado en redes sociales supone identificar qué tipo de discurso entraña. La Corte Constitucional reconoce distintos tipos de discursos y los niveles de protección de los que son objeto. Aunque en principio opera una presunción de protección de todos los discursos, hay manifestaciones de la expresión que se encuentran abiertamente prohibidas. Estas son:

“(a) la propaganda en favor de la guerra; (b) la apología del odio nacional, racial, religioso o de otro tipo de odio que constituya incitación a la discriminación, la hostilidad, la violencia contra cualquier persona o grupo de personas por cualquier motivo (modo de expresión que cobija las categorías conocidas comúnmente como discurso del odio, discurso discriminatorio, apología del delito y apología de la violencia); (c) la pornografía infantil; y (d) la incitación directa y pública a cometer genocidio”[155].

130.       Frente a estos discursos, no cabe duda de que los intermediarios que administran las plataformas deben ejercer su facultad amplia de moderación de contenidos prontamente. No hacerlo puede generar consecuencias ampliamente documentadas como el avance de campañas estigmatizantes contra poblaciones vulnerables que pueden redundar en la ejecución de actos sistemáticos de violencia en su contra, incluso constitutivos de genocidio, como ocurrió en el caso de Myanmar con la población Rohingya[156].

131.       En el otro extremo se encuentran las categorías de discurso especialmente protegido. Aunque en principio toda restricción a la libertad de expresión se presume inconstitucional (salvo frente a discursos prohibidos), en el caso de los discursos especialmente protegidos hay un nivel de cobertura reforzado que exige absoluta excepcionalidad en la restricción. Estos discursos son el “discurso político, el debate sobre asuntos de interés público, y aquellos que constituyen un ejercicio directo e inmediato de derechos fundamentales adicionales que se vinculan necesariamente a la libertad de expresión para poder materializarse”.[157] En esta categoría se incluyen, por ejemplo, el periodismo feminista que denuncia violencias basadas en género[158], el escrache[159], y otros como:

“(a) la correspondencia y demás formas de comunicación privada, (b) los discursos estéticos, morales, emotivos o personales, manifestados a través de expresiones verbales, artísticas, o de conductas simbólicas o expresivas, sin perjuicio de la protección constitucional explícita de la libre expresión artística; (c) la exposición de convicciones y la objeción de conciencia; (d) el discurso religioso; (e) el discurso académico, investigativo y científico; (f) las expresiones realizadas en el curso de manifestaciones públicas pacíficas; (g) el discurso cívico o de participación ciudadana, y (h) el discurso de identidad, que expresa y refuerza la propia adscripción cultural y social”[160].

132.       Respecto de estos discursos recae una especial protección en clave de libertad de expresión. En esa medida, la eliminación de contenidos relacionados con discursos especialmente protegidos es en principio incompatible con los estándares fijados por la Corte Constitucional y el derecho internacional de los derechos humanos.

133.       En cuanto a los discursos que no están especialmente protegidos, pero tampoco prohibidos, opera una presunción de protección amplia de la libertad de expresión. Por lo tanto, la eliminación de contenidos y cuentas en esta categoría deberá sujetarse al test tripartito de libertad de expresión.

134.       Un segundo nivel de análisis sobre la moderación de contenido requiere analizar las formas y el tono en los que se expresan los usuarios cuyo contenido es removido. Como lo ha señalado esta Corte, la libertad de expresión cobija las manifestaciones “ofensivas, chocantes, impactantes, indecentes, escandalosas, excéntricas o simplemente contrarias a las creencias y posturas mayoritarias”[161]. En tal sentido, es importante verificar que la remoción de un contenido o una cuenta en redes sociales no obedezca exclusivamente al tono de las publicaciones o al hecho de que no corresponda a una postura mayoritaria.

135.       El tercer nivel de análisis supone considerar la calidad del sujeto que comunica, es decir, del usuario o usuaria, pues algunas personas gozan de una protección diferenciada en razón de sus circunstancias. En este sentido, resulta clave distinguir si se trata de funcionarios públicos o de particulares, dado que los primeros están sometidos a un mayor escrutinio social. Asimismo, la Corte ha señalado otras categorías de especial relevancia, como los periodistas, los grupos históricamente discriminados, marginados o en situación de vulnerabilidad, y las víctimas de violencias basadas en género. Frente a estos últimos, este Tribunal ha advertido que cualquier restricción a sus opiniones debe demostrar de manera suficiente que no constituye un acto discriminatorio[162].

136.       Superados estos tres niveles de análisis, el operador judicial debe acudir al test tripartito de libertad de expresión para verificar que las decisiones adoptadas por los intermediarios de redes sociales respeten los límites que imponen los derechos fundamentales. Según la jurisprudencia constitucional, toda restricción a la libertad de expresión: (i) debe estar consagrada de manera “previa, precisa y clara por una ley en sentido formal y material”[163]; (ii) debe perseguir un fin legítimo a la luz de la Constitución Política y el bloque de constitucionalidad; (iii) debe ser necesaria en una sociedad democrática, estrictamente proporcional e idónea para alcanzar los fines imperiosos que persigue[164].

Tabla 2. Síntesis del análisis sobre la libertad de expresión en redes sociales.

137.       En suma, la Corte reconoce que la moderación de contenidos no sólo es una práctica habitual de las compañías que administran redes sociales digitales como Instagram o Facebook. Es, sobre todo, una necesidad para asegurar una Internet confiable, en el que puedan circular libremente las ideas, la información, el conocimiento y las opiniones, donde se limiten los contenidos que constituyan discursos no protegidos, como la pornografía infantil, la incitación a la violencia y al genocidio o el discurso de odio. En todo caso, esos procedimientos deben, igual que las reglas comunitarias, ajustarse a unos estándares mínimos compatibles con el marco nacional e internacional sobre el derecho a la libertad de expresión. 

138.       Vistos los elementos relativos a este derecho, a continuación, se estudian los desafíos en materia de debido proceso en redes sociales, teniendo en cuenta las particularidades que plantea el caso que estudia la Corte.

4.2.     Debido proceso y moderación de contenidos

139.       El artículo 29 de la Constitución Política reconoce el derecho de todas las personas a que, en el curso de cualquier actuación judicial o administrativa, les sea garantizado el debido proceso. Este derecho establece una serie de garantías que dan legitimidad a las actuaciones que las personas adelantan a instancias del Estado, como, por ejemplo, el juez natural, la preexistencia de las normas con base en las cuales se desarrolla la actuación, la observancia de las formas propias de cada juicio, la aplicación de la norma más favorable en materia penal, entre otras.

140.       Además del Estado, la Corte Constitucional ha reconocido que, excepcionalmente, estas garantías le son exigibles a personas naturales o jurídicas de derecho privado. En particular, este reconocimiento opera respecto de procesos de naturaleza sancionatoria. Así, por ejemplo, en la sentencia T-329 de 2021, la Corte analizó el caso de un ciudadano que demandó a la compañía para la que trabajaba, pues la misma se negó a proporcionarle información que demostraría que no incumplió sus deberes como trabajador y que, por lo tanto, no procedía su despido. En esa oportunidad, la Corte recordó que las garantías del debido proceso aplican a toda clase de actuaciones judiciales o administrativas, especialmente a aquellas de naturaleza sancionatoria. Asimismo, recalcó que la jurisprudencia constitucional reconoce la obligatoriedad de la aplicación de garantías propias del debido proceso incluso en relaciones entre particulares.

141.       Sobre el último punto, este Tribunal precisó que el mandato del debido proceso aplica a “los particulares que se arrogan esta facultad, como una forma de mantener un principio de orden al interior de sus organizaciones (v.gr. establecimientos educativos, empleadores, asociaciones con o sin ánimo de lucro, etc.)”[165]. En suma, conforme a la jurisprudencia de esta Corporación, “las garantías previstas en el texto constitucional tienen plena aplicación en las relaciones entre particulares […] debido a que uno de los principales fines del Estado Social de Derecho es garantizar la efectividad material de los principios, derechos y deberes consagrados constitucionalmente en todos los ámbitos de la sociedad, tal como lo dispone el artículo 2º Superior”[166].

142.       Como ya se ha indicado aquí, la moderación de contenidos es un proceso administrado por un particular, más precisamente, por los intermediarios de las redes sociales. Además, es un proceso de naturaleza sancionatoria, en el sentido en que busca curar contenidos prohibidos o restringidos por las normas comunitarias de la plataforma digital. Tan es un proceso sancionatorio, que las consecuencias de las decisiones curatoriales de los moderadores de contenido son la restricción a la visualización o la posibilidad de encontrar un contenido, la eliminación de publicaciones e, incluso, la suspensión y eliminación definitiva de la cuenta del usuario infractor.

143.       A raíz de la intervención de la inteligencia artificial en los procesos de toma de decisiones sobre contenidos, uno de los reclamos más frecuentes dirigidos a los intermediarios consiste en la necesidad de garantizar mecanismos de apelación y revisión frente a las medidas de moderación adoptadas por sistemas automatizados. En particular, se cuestiona que la moderación de contenidos recaiga casi que exclusivamente en dichos sistemas, sin la posibilidad de un control humano posterior que permita corregir eventuales errores o arbitrariedades[167].

144.       De este modo, en el análisis constitucional sobre el derecho al debido proceso corresponde verificar que la moderación de contenidos cumpla con los estándares mínimos de protección del derecho al debido proceso según las normas de derechos humanos que se han decantado en distintos escenarios de protección internacional. En particular[168], los intermediarios que administran plataformas y que hacen procesos de moderación de contenidos deben garantizar (i) que haya consistencia y sensibilidad contextual en la aplicación de las reglas comunitarias, tanto de los equipos humanos como de IA; (ii) que no haya una aplicación discriminatoria o contraria al derecho a la igualdad de las reglas comunitarias; (iii) que las normas de la casa se apliquen maximizando el derecho a la libertad de expresión cuando se trate de contenido potencialmente objetable pero no prohibido; (iv) que haya transparencia sobre las reglas comunitarias infringidas, los procesos de reclamación e impugnación de las decisiones, así como una comunicación formal, sencilla y accesible que redunde en una respuesta de fondo sobre las reclamaciones elevadas a los operadores de las redes sociales; y (v) las sanciones debe ser advertidas de antemano a los usuarios, con detalle de las consecuencias que su aplicación puede acarrear.

4.3.     Igualdad y no discriminación en la moderación de contenidos

145.       Además de la libertad de expresión y el debido proceso, la moderación de contenidos también puede tener un impacto directo en el derecho a la igualdad y la no discriminación de algunos grupos, entre ellos de las mujeres. Este aspecto resulta relevante en el presente caso, pues la accionante señaló que Meta borró sus contenidos y eliminó su cuenta porque tiene un prejuicio en su contra, especialmente por desarrollar actividades de pornografía fuera de Instagram.

146.       Sin duda alguna las redes sociales constituyen un espacio fundamental para el ejercicio de derechos y participación de las mujeres en la vida pública[169]. A través de ellas, no solo pueden expresarse y difundir ideas, sino también impulsar luchas contra distintas formas de violencia basadas en género. La Corte ha reconocido ese potencial, especialmente en el reconocimiento de los denominados escraches feministas, un fenómeno propio del mundo digital en el que las víctimas de violencias basadas en el género pueden denunciar la inacción de las autoridades judiciales en la atención de sus casos, al tiempo que promueven otras formas de control social sobre sus agresores[170].

147.       Sin embargo, las mismas redes sociales que habilitan esos espacios de resistencia y visibilidad pueden convertirse en escenarios de reproducción de desigualdades de género. En su informe de julio de 2021, presentado ante la Asamblea General de Naciones Unidas, la Relatora Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión, advirtió que “[e]n la era digital, Internet se ha convertido en el nuevo campo de batalla en la lucha por los derechos de las mujeres, ya que amplía las oportunidades que estas tienen para expresarse, pero también multiplica las posibilidades de represión”[171]. La relatora subrayó que las mujeres y las personas LGBTIQ+ enfrentan obstáculos específicos en el entorno digital, derivados de prácticas como el acoso sexual en línea, la desinformación de género, el discurso de odio y, de manera relevante aquí, el uso arbitrario de las facultades de moderación de contenidos por parte Estados y de los propios intermediarios privados[172].

148.       En lo que atañe a las plataformas de redes sociales, la relatora enfatizó en que la discriminación puede reflejarse tanto en las normas comunitarias que establecen lo permitido y lo prohibido, como en los procesos de moderación de contenidos que las aplican. A continuación, se hará referencia a estos dos aspectos.

(i)               Discusiones sobre género y sexualidad en las normas comunitarias

149.       Como ya se indicó, las normas comunitarias responden a la necesidad de fijar límites a la circulación de determinados contenidos. En principio, existen razones legítimas para restringir, por ejemplo, la difusión de material sexualmente explícito, y esta limitación per se no constituye una discriminación de género. Ella obedece principalmente al interés de prevenir la pornografía infantil, la explotación sexual de niños, niñas, adolescentes y personas adultas, y evitar la difusión de material sexual explícito sin el consentimiento de las personas involucradas[173].

150.       En ese sentido, la definición de límites precisos sobre el contenido sexualmente explícito en redes sociales se considera fundamental para asegurar que Internet sea un espacio libre de violencia y discriminación. De hecho, prohibiciones de este tipo también contribuyen a frenar fenómenos como la llamada “pornovenganza”, que afecta de manera desproporcionada a las mujeres.

151.       En todo caso, y como lo pusieron de presente varios de los intervinientes en este proceso, las reglas comunitarias de este tipo no están desprovistas de críticas. Por un lado, se indicó que las prohibiciones sobre desnudez y contenido sexualmente explícito resultan vagas, pues no siempre se define o establece con claridad su alcance o se ofrecen ejemplos que orienten su aplicación[174]. Por otro lado, se sugirió que los intereses económicos de los intermediarios tienden de manera problemática a influir en esas políticas, de forma que hay multiplicidad de aproximaciones sobre lo que se permite y lo que no. Por ejemplo, algunos intervinientes llamaron la atención a que algunas plataformas buscan expandir su modelo de negocio a públicos para quienes el contenido sexualmente explícito puede disuadirlos de unirse a la comunidad en línea o pautar en la plataforma[175]. Sin embargo, hay otras cuyo modelo de negocio consiste, precisamente, en permitir la circulación de ese tipo de contenidos, como sucede con Only Fans. En términos de lo dicho por Al Sur, esto significa que, además de las plataformas, los intereses de quienes pautan en internet y la necesidad de atraer más usuarios influyen en la definición de los límites en materia de desnudos y contenidos sexualmente explícitos[176].

152.       Por su parte, la relatora Khan, en su informe de 2021, advirtió que ese tipo de reglas pueden generar impactos desproporcionados para las mujeres[177]. Por ejemplo, como lo indicó Al Sur, sancionar sin matices “la desnudez” o el “contenido para adultos” puede conducir a censurar publicaciones legítimas, como imágenes de mujeres amamantando[178].

153.       De hecho, el propio o Consejo Asesor de Meta ha reconocido esa problemática. En línea con lo dicho por la relatora, en al menos ocho decisiones relacionadas con la aplicación de reglas sobre desnudez y actividad sexual de adultos, el Consejo revocó medidas adoptadas por la compañía al constatar que habían sido usadas para censurar proyectos educativos sobre la ovulación[179], campañas sobre el cáncer de mama[180], fotos de familias compuestas por personas trans desnudas que buscan fomentar la solidaridad con esta población[181], publicaciones que discuten de forma explícita episodios de violencia sexual con el propósito de sensibilizar a la comunidad sobre este tema[182], o imágenes que enseñan cómo hacerse el autoexamen para la detección temprana del cáncer de seno[183]. En todos esos casos, el Consejo Asesor revocó la decisión de Meta de remover los contenidos que consideró en principio violatorios de sus reglas comunitarias y le ordenó reformar sus normas sobre desnudez y actividad sexual de adultos para cumplir con estándares internacionales de derechos humanos[184].

154.       En suma, lo que esta discusión ilustra, es que el análisis de igualdad y no discriminación frente a las normas comunitarias debe partir de un enfoque de género. Bajo esa óptica, no toda prohibición de circulación de contenido sexualmente explícito constituye una vulneración de derechos, y en ocasiones resulta indispensable para protegerlos. Sin embargo, es fundamental que dichas restricciones no se formulen de manera genérica o excesivamente abierta, pues ello desconoce el principio de legalidad en materia de libertad de expresión y puede comprometer el derecho a la igualdad y a la no discriminación. Además, como lo ha reconocido esta Corte, la sexualidad es parte integral de la autonomía y la libertad personal, por lo que su expresión, mientras no vulnere derechos de terceros, también debe estar protegida.

(ii)             Discusiones sobre género y sexualidad en el proceso de moderación de contenidos

155.       El segundo asunto se relaciona con el proceso de moderación de contenidos. En este ámbito, también se ha insistido en la necesidad de aplicar un enfoque de género. Tal como lo señaló la Relatora Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión, la ausencia de este enfoque en la moderación puede restringir de manera injustificada la participación de las mujeres en las plataformas digitales. Según la relatora los moderadores humanos pueden carecer de la contextualización necesaria, así como de la sensibilidad cultural, lingüística y de género indispensable para evaluar adecuadamente si lo que publican las mujeres se ajusta a los márgenes de lo admisible en un entorno digital. A esto se suman los procesos automatizados, basados en inteligencia artificial, en donde se acrecienta el riesgo de reproducción de patrones o estereotipos de género que terminan afectado negativamente a las usuarias de redes sociales.

156.       Sobre el punto, vale la pena recabar en los dos tipos de procesos de moderación de contenidos que emplean la mayoría de las redes sociales que, como se dijo arriba, combinan una revisión humana con otra automatizada mediante inteligencia artificial entrenada mediante aprendizaje de máquina. El proceso de moderación de contenidos suele iniciar con la detección de material potencialmente violatorio de las normas comunitarias a través de algoritmos o herramientas de inteligencia artificial que son “entrenadas” para definir en cuestión de segundos si un contenido es o no compatible con las normas comunitarias, cuestión que incluye las regulaciones sobre la sexualidad y la desnudez.

157.       En relación con los procesos automatizados, tal como señaló la mencionada relatora, varios estudios advierten la existencia de posibles sesgos de género que afectan la selección de contenidos publicados por mujeres y que son clasificados como violatorios de normas comunitarias, aun cuando en realidad las cumplen. Por ejemplo, una investigación reciente del diario británico The Guardian en alianza con el Pulitzer Center’s AI Accountability Network, encontró que las herramientas de inteligencia artificial dedicadas a la moderación de contenidos en las redes sociales más grandes “tienen sesgos de género que podrían estar censurando y suprimiendo el alcance de incontables fotos sobre cuerpos de mujeres”.[185] Según esta investigación, la categorización del aprendizaje de máquina que informa el algoritmo es desarrollada por personas, de manera que sus sesgos permean la herramienta de IA. En tal sentido, mientras que las imágenes de hombres en ropa interior o de deporte son asociadas con hacer ejercicio o actividades cotidianas inocuas, las imágenes de mujeres vestidas con la misma indumentaria suelen ser categorizadas como ‘picantes’ o ‘subidas de tono’.[186]

158.       Según dicha investigación, y que confirma en su intervención la fundación Karisma, la consecuencia más frecuente de las decisiones preliminares adoptadas por las herramientas automatizadas es el llamado shadowbanning, o reducción de la visibilidad de los contenidos que podrían infringir las normas relativas a la desnudez y la sexualidad. Esta práctica, por lo general, se aplica sin aviso ni explicación que justifique por qué se limita el alcance de las publicaciones de las mujeres afectadas.[187]

159.       Ahora bien, en cuanto a la moderación de contenidos realizada por humanos, existen tres prácticas que pueden afectar el derecho a la igualdad de las mujeres y que tienen relación con el caso concreto. La primera es que, en el proceso de verificación de las decisiones tomadas por inteligencia artificial, el moderador humano suele confirmar lo adoptado previamente, lo que termina ratificando el sesgo del algoritmo. La segunda es que, debido al volumen de información generada por usuarios a nivel global, resulta casi imposible realizar una revisión detallada de los contenidos que permita contextualizar debidamente las imágenes, de modo que la IA elimina publicaciones legítimas que asume como contrarias a las normas comunitarias. La tercera es que los equipos humanos de moderación de contenidos suelen carecen de formación en el idioma, los contextos culturales y las normas sociales de los distintos lugares donde se produce contenido sexualmente explícito, lo que lleva a que la apreciación subjetiva del moderador llene esos vacíos en la toma de decisiones[188].

160.       Así, de estas reflexiones es posible extraer una conclusión principal. Al igual que sucede con las “reglas de la casa”, en el proceso de moderación es legítimo que los intermediarios restrinjan la circulación de desnudos y contenido sexualmente explícito, en busca de desincentivar la pornografía infantil, impedir el uso potencial de las cuentas para facilitar la explotación sexual de niños, niñas, adolescentes y adultos, o evitar la circulación de material sexual sin consentimiento. No obstante, al ejercer esa función, los intermediarios no pueden vulnerar los derechos de las mujeres.

161.       Para garantizar sus derechos, los intermediarios deben adoptar mecanismos de moderación –tanto humanos como automatizados– que sean transparentes. Deben, además: (i) implementar medidas para identificar sesgos de género, con el fin de prevenirlos y de corregir con prontitud los errores que de ellos se deriven; (ii) explicar de manera clara cuándo y cómo se tienen en cuenta conductas offline o fuera de línea para las decisiones de moderación; y (iii) garantizar que, en caso de denuncias masivas de cuentas, se informe a la usuaria sobre las razones de la restricción y exista un procedimiento accesible de revisión posterior, que permita descartar posibles prácticas de acoso digital o discriminación.

162.       Estas preocupaciones, de hecho, han sido destacadas a nivel internacional. En su Declaración Conjunta sobre Libertad de Expresión y Justicia de Género del 3 de mayo de 2022, el Comité CEDAW instó a los Estados y a las plataformas digitales a eliminar la discriminación y los prejuicios contra las mujeres, garantizar su acceso a la información, evitar restricciones de expresión basadas en el sexo de las personas, erradicar la violencia de género en línea, y aplicar la debida diligencia en materia de derechos humanos[189].

163.       El Comité CEDAW insistió en la importancia de que los operadores de redes sociales tengan presente que la lógica expansiva de su negocio y el uso de tecnologías de inteligencia artificial puede “amplificar los estereotipos de género, los prejuicios, la misoginia y la violencia de género”.[190] Por lo tanto, instó a estos operadores a “asegurarse de que sus políticas y prácticas de moderación y curación de contenidos no discriminen por motivos de género u otros atributos protegidos”[191].

Frente al uso de procedimientos automatizados, la Declaración subrayó la necesidad de que se cuente con información representativa e inclusiva que garantice la participación igualitaria de mujeres y grupos históricamente subrepresentados. Asimismo, enfatizó que ni la moral pública ni una única tradición cultural o religiosa puede justificar la imposición de restricciones a la expresión de las mujeres, particularmente en relación con su sexualidad. En tal sentido, “cualquier limitación por motivos de protección de la moral pública” a la expresión de las mujeres debe tener en cuenta la aplicación de los principios de proporcionalidad y necesidad, que entraña, entre otras cosas, “la universalidad de los derechos humanos, el principio de no discriminación y las normas internacionales de derechos humanos en materia de diversidad sexual, de género y cultural, incluida la protección de las expresiones que puedan resultar ofensivas, chocantes o perturbadoras para los demás”[192].

164.       En síntesis, de lo dicho hasta aquí queda claro que, si bien hay muchas discusiones sin resolver en materia de moderación de contenidos, en relación con temas de género y sexualidad, los intermediarios de redes sociales están facultados para regular el contenido de sus plataformas y prohibir expresamente algunas conductas como aquellas que favorecen la pornografía infantil, la explotación sexual o la difusión no consentida de material íntimo. No obstante, las restricciones a contenidos considerados como sexualmente explícitos e implícitos para ser válidas deben perseguir fines legítimos y proporcionales, ser aplicadas con transparencia, sin sesgos ni prácticas discriminatorias.

4.4.     Naturaleza jurídica y protección constitucional de las actividades desarrolladas por los y las influenciadoras digitales

165.       Ahora bien, sumado al tema de la moderación de contenidos, dentro de las múltiples novedades que plantea el caso objeto de estudio se encuentra la discusión sobre los y las influenciadoras digitales y la protección de la que son titulares. Por ende, en este acápite pasa la Corte a referirse a esta singular actividad.

166.       Para empezar, el oficio de influenciador es propio del mundo digital, y más concretamente, de la proliferación de las redes sociales. La singularidad de este fenómeno amerita una discusión profunda sobre la naturaleza jurídica de esta actividad económica y el tipo de protección de la que puede ser titular una persona que la ejerce desde el punto de vista constitucional.

167.       Según el observatorio de palabras de la RAE[193], el vocablo influencer se refiere a “un anglicismo usado en referencia a una persona con capacidad para influir sobre otras, principalmente a través de las redes sociales”. Para la RAE, la expresión puede tener diferentes traducciones al español, tales como influyente, influidor e influenciador”[194].

168.       Dado que el oficio de los influenciadores digitales no ha sido abordado en forma comprensiva por la Corte Constitucional, es necesario acudir a diversas fuentes para comprender sus dimensiones sociales, culturales y sociales. La doctrina sobre marketing digital usualmente define a los influenciadores como “individuos que interactúan con un público objetivo específico, cuya participación en línea estimulan regularmente (v.g., discusiones) y a quienes les venden productos, servicios o marcas”[195]. En cualquier caso, no todos los influenciadores venden cosas o servicios, aunque es posible que estén vinculados a través de contratos de publicidad con ciertas marcas.

169.       La lógica de las redes sociales permite que cualquiera pueda ser un influenciador: una celebridad, un tendero, una estudiante universitaria, un obrero, una profesora, en fin. El oficio de influenciador o influenciadora no se circunscribe a una actividad en particular diferente a compartir contenido regularmente con una comunidad digital con la que hay intereses en común y a quienes puede, eventualmente, ofertarle productos. Por eso, incluso sin vender productos, los influenciadores pueden ser personas que “hacen contribuciones notables a las redes sociales y ganan reconocimiento significativo de otros”[196].

170.       Según el Influencer Marketing Hub, los influenciadores pueden distinguirse de los usuarios regulares de redes sociales por varias razones, como el número de seguidores, el tipo de contenido que publican o su nivel de influencia sobre las personas. Aunque no es una discusión completamente zanjada, según el número de seguidores, es decir, las audiencias o cantidad de personas que se suscriben a través de herramientas como los botones de seguir (follow), pueden ser:

·        Mega-influenciadores: se identifica con esta etiqueta a quienes tienen un millón o más seguidores en al menos una red social. Los mega-influenciadores usualmente son celebridades offline, es decir, personas que han ganado amplio reconocimiento local, regional o mundial por actividades desplegadas por fuera de las redes sociales, aunque también hay personas que pueden haber adquirido ese nivel de seguidores simplemente por su actividad online.

·        Macro-influenciadores: son personas que tienen una audiencia entre quinientos mil y un millón de seguidores.

·        Micro-influenciadores: son personas que ganan amplio reconocimiento por su experticia en un tema de nicho y, por lo tanto, tienen muchos seguidores interesados en ese nicho particular. Suelen tener entre diez mil y quinientos mil seguidores.

·        Nano-influenciadores: se trata de personas que, aunque tengan una base de seguidores relativamente pequeña (incluso menos de mil seguidores), se dedican a temas altamente especializados o sobre los que circula poca información en Internet[197].

171.       Los influenciadores interactúan con sus audiencias de múltiples formas, por ejemplo, al escribir entradas, subir fotos y videos, o participar en actividades como encuentros online. Un elemento crucial de esta interacción es la definición de una persona social online o marca personal: es decir, los rasgos de su personalidad en el espacio digital que resultan atractivos para otros y que se convierten en la razón por la cual las personas desean seguirlos e interactuar de manera constante con los contenidos que publican. Esta personalidad digital suele afianzarse gracias a la credibilidad en su conocimiento, ya sea para cocinar, mantener un estilo de vida saludable, ejercitarse, maquillarse o simplemente entretener con humor a su audiencia[198].

172.       Aunque los influenciadores existen hace ya un tiempo, en el país son pocos los esfuerzos de carácter legal y regulatorio por dar contorno a su actividad.  Entre ellos se encuentra un proyecto de ley que no vio la luz, y que tenía el propósito de regular la publicidad en redes sociales, al establecer el deber de informar cuándo se promociona un producto de forma espontánea y cuándo se hace como parte de un acuerdo comercial con una marca[199]. Es decir, se trataba de un proyecto de transparencia frente a lo que se denomina infuencer maketing, es decir, la promoción de productos y servicios a través de influenciadores[200].

173.       Otro esfuerzo en este sentido, que sí se materializó, es la Guía de Buenas Prácticas en la Publicidad a través de Influenciadores Digitales, publicada por la Superintendencia de Industria y Comercio (SIC) en 2020. En dicha Guía, la SIC estableció algunos derroteros sobre cómo hacer publicidad a través de los servicios de influenciadores digitales para salvaguardar los intereses de los consumidores. Según la Guía, los influenciadores son personas que utilizan las redes sociales para “compartir su cotidianidad, intereses y experiencias con una comunidad en línea”, de manera que gozan de “credibilidad, confianza y una imagen reconocible que le permite influir, afectar o motivar el comportamiento del consumidor”. Para la SIC, no importa si una persona se reconoce o no como influenciador, pues lo relevante es el rol que cumple impactando las prácticas de otras personas, especialmente de consumo[201].

174.       A pesar de estos esfuerzos para proteger a los consumidores, lo cierto es que poco se ha discutido sobre las relaciones entre los influenciadores y los intermediarios que administran las plataformas en las que desarrollan su actividad económica. Para esos fines es necesario entender cómo funciona el oficio y su naturaleza jurídica.

175.       Como quedó claro, los influenciadores crean un contenido para redes sociales que les permite alcanzar notoriedad en dicho ecosistema y, por lo tanto, obtener ganancias económicas. Esas ganancias pueden ser todo o parte sustancial de su sustento vital, y se pueden obtener por al menos cuatro vías o modelos de negocio: (i) contratos de publicidad con marcas y agencias cazatalentos en las que se acuerda la promoción de bienes o servicios específicos; (ii) monetización directa de cuentas frente a las plataformas mediante la entrega de dinero por autorizar la presentación de pauta publicitaria a los seguidores de la cuenta; (iii) ingresos directos por aportes de seguidores a través de estrategias de crowdfunding o recolección de dinero para un fin particular; (iv) y venta directa de bienes y servicios producidos por el o la influenciadora[202].

176.       Diferentes factores influyen en la posibilidad de que esos modelos de negocio resulten o no exitosos. En particular, incide el número de seguidores, la naturaleza de la industria de que se trate, la posibilidad de diversificar dentro de los distintos modelos de negocio y la capacidad de negociación, que en términos generales depende del tipo de influenciador (mega, macro, micro o nano)[203]. En cualquier caso, es evidente que existen al menos dos elementos fundamentales para que la creación de contenidos en redes sociales sea una actividad económicamente rentable: por un lado, contar con una cuenta en al menos una plataforma de red social, y por otro, disponer de un número significativo de seguidores que haga viable cualquier modelo de negocio elegido por quien se dedica al oficio de influenciador.

177.       A la luz de estas consideraciones: (i) ser influencer o influenciador es un oficio de origen relativamente reciente y de auge creciente, por el cual pueden optar las personas libre y legítimamente, siempre que su objeto sea lícito, como una expresión de la vocación, capacidades y deseos de quienes lo ejercen; (ii) este oficio puede ser catalogado como trabajo, si se tiene en cuenta la definición de la OIT: “toda actividad humana, remunerada o no, que produce bienes o servicios en una economía, o que satisface las necesidades de una comunidad o provee los medios de sustento necesarios para los individuos”[204].  En efecto, es posible decir que la actividad desarrollada por los influenciadores permite la circulación de bienes y servicios y provee medios de sustento para quien la ejerce. De igual manera, se trata de una actividad que desarrolla otros derechos, como la libertad de expresión y la libertad de escoger profesión y oficio. Por todo ello, es una actividad que goza de protección constitucional.

178.       En todo caso, el oficio de influenciador digital plantea dilemas jurídicos inéditos, que las categorías tradicionales del derecho no logran resolver con facilidad. No siempre es claro si esta actividad debe entenderse como trabajo independiente o como una relación de dependencia frente a las plataformas que administran las redes sociales. Por tal razón, corresponde al juez en cada caso concreto, con base en los elementos probatorios que tiene a su alcance, determinar si hay una relación de subordinación laboral, es decir, una relación de empleador-empleado, o si, por el contrario, se trata de un trabajo independiente. Entre los factores de análisis, el juez podría, por ejemplo, considerar: (i) si la plataforma o el intermediario dicta reglas estrictas de comportamiento y control; (ii) si hay dependencia económica preponderante o exclusiva de esa plataforma; y (iii) si existe un poder de dirección (órdenes, horarios, sanciones). Si estos elementos están presentes, podría entenderse que hay subordinación, y por tanto una relación laboral. En cambio, si determina que la persona influenciadora trabaja de manera autónoma, se puede reconocer que se trata de un trabajo independiente. En todo caso, en ambos escenarios, es preciso insistir, deben existir protecciones mínimas relativas al derecho al trabajo.

179.       Finalmente, más allá de la potencial relación laboral, es preciso reconocer la interdependencia estructural entre influenciadores y plataformas. Los influenciadores dependen de las redes sociales para desplegar su modelo de negocio. Sin embargo, las plataformas necesitan de los contenidos que los influenciadores generan para atraer y retener usuarios, en tanto parte de su modelo económico se basa en la publicidad dirigida y el procesamiento de datos. Es decir, ninguno existe sin el otro.

180.       En este escenario, surge entonces un dilema central. Por un lado, la libertad de empresa y el derecho a la propiedad privada faculta a las plataformas para fijar las reglas que condicionen la participación de sus usuarios, incluyendo de aquellos que actúan como influenciadores. Sin embargo, como ya se ha dicho, aunque son de gestión privada, funcionan como espacios abiertos al público en las que circulan expresiones y actividades de relevancia social y económica. Esa doble naturaleza impone la necesidad de establecer límites que aseguren tanto la autonomía empresarial como la vigencia de los derechos fundamentales.

181.       La analogía con los centros comerciales podría resultar ilustrativa para entender este punto. Dada la naturaleza sui generis de los espacios digitales, los intermediarios de las redes sociales operan como una suerte de administradores de locales comerciales abiertos al público. En esta analogía, el local corresponde a la cuenta del influenciador o influenciadora, que busca atraer la atención de un número significativo de personas mediante la oferta de distintos contenidos: su vida cotidiana, consejos de belleza, de cocina, instrucciones para reparar electrodomésticos, crítica musical, comedia, entre muchos otros. En ese sentido, en principio, la relación entre influenciadores y plataformas es de naturaleza privada y se rige por lo pactado en sus términos de uso. Sin embargo, dicha relación se desarrolla en un escenario marcadamente desigual, lo que impone al Estado el deber de proteger a la parte débil, que es el influenciador o la influenciadora. Incluso, aun cuando la actividad no persiga fines lucrativos, la cancelación de una cuenta o la eliminación de contenidos puede afectar derechos fundamentales como la libertad de expresión y el acceso a la información, de modo que no resulta constitucionalmente aceptable reconocer a las plataformas una potestad sancionatoria absoluta.

182.       En suma, la Corte concluye que ser influenciador en redes sociales es un oficio de creciente trascendencia y que, por lo mismo, siempre que no desconozca los límites propios del Estado social de derecho y los derechos fundamentales, goza de la protección constitucional a la que se refieren los artículos 25 y 26 de la Constitución Política. En otras palabras, los influenciadores digitales pueden ser considerados como trabajadores independientes que desarrollan un oficio en principio protegido por la Constitución. En tal sentido, frente al uso potencialmente arbitrario de la facultad amplia de moderación de contenidos y en virtud de la relación negocial desigual en la que se encuentran respecto de los operadores de las plataformas, pueden buscar la protección de los derechos señalados por vía de la acción de tutela.