{"id":44668,"date":"2025-09-17T07:00:00","date_gmt":"2025-09-17T12:00:00","guid":{"rendered":"http:\/\/www.javeriana.edu.co\/pesquisa\/?p=44668"},"modified":"2025-09-19T12:06:25","modified_gmt":"2025-09-19T17:06:25","slug":"inteligencia-artificial-red-social","status":"publish","type":"post","link":"http:\/\/www.javeriana.edu.co\/pesquisa\/inteligencia-artificial-red-social\/","title":{"rendered":"Algoritmos e inteligencia artificial pueden bajarle el tono al debate en entornos digitales"},"content":{"rendered":"\n

Por: Laura Carcache y Felipe Morales<\/em><\/p>\n\n\n\n

El pa\u00eds se aproxima a un nuevo ciclo electoral, caracterizado por la degradaci\u00f3n del debate pol\u00edtico, que se agrava por un uso intensivo de las redes sociales. Las plataformas digitales, que hace una d\u00e9cada promet\u00edan ampliar la democracia, hoy la tienen en vilo entre campa\u00f1as de desinformaci\u00f3n, difusi\u00f3n de contenidos manipulados y exacer[1]baci\u00f3n deliberada de las emociones. Como se\u00f1al\u00f3 la Misi\u00f3n de Observaci\u00f3n Electoral (MOE) en su \u00faltimo informe de seguimiento <\/a>a los procesos electorales: \u201cEsta din\u00e1mica no solo pone en riesgo la integridad del proceso electoral, sino que debilita la confianza en las instituciones democr\u00e1ticas y exacerba la radicalizaci\u00f3n del debate pol\u00edtico\u201d.<\/p>\n\n\n\n

El 2026 no solo ser\u00e1 un a\u00f1o electoral, tambi\u00e9n se cumplir\u00e1n 10 a\u00f1os de la seguidilla de elecciones en las que la desinformaci\u00f3n y los discursos polarizantes en redes sociales tomaron por sorpresa a la sociedad. Desde el voto por la salida del Reino Unido de la Uni\u00f3n Europea, la elecci\u00f3n de Donald Trump y el triunfo del \u201cNo\u201d en el plebiscito por la paz en Colombia, ha pasado ya una d\u00e9cada que ha permitido a la academia decantar lo sucedido y proponer algunas soluciones. Dos investigaciones javerianas se centran espec\u00edficamente en este punto: c\u00f3mo construir un entorno digital m\u00e1s seguro en nuestro pa\u00eds.<\/p>\n\n\n\n

Detecci\u00f3n del odio a la colombiana<\/strong><\/h4>\n\n\n\n

La hostia en Colombia es el trozo de pan \u00e1cimo que se consagra en la eucarist\u00eda. En Espa\u00f1a, la misma palabra es usada como ofensa y para significar un golpe o una bofetada. Y no es la \u00fanica en el espa\u00f1ol sujeta a este tipo de ambivalencia. Seguro usted puede pensar en unas cuantas palabras violentas que no le entender\u00edan en buena parte del mundo hispanohablante, pues son jerga colombiana. Entre tanto, en las redes sociales, donde hay una exacerbaci\u00f3n de insultos que nacen del racismo, la misoginia y el discurso de odio hacia grupos minoritarios, los algoritmos encargados de depurar estas plataformas han sido entrenados para detectar expresiones agresivas en ingl\u00e9s y, en menor medida, en castellano.<\/p>\n\n\n\n

De all\u00ed nace la idea de un grupo de investigadores javerianos para un experimento: alimentaron diferentes modelos de lenguaje de inteligencia artificial con tres bases de datos distintas conformadas por comentarios publicados en redes sociales. Dos de ellas eran de prueba y una fue confeccionada por los investigadores con el argot colombiano. Los resultados demostraron <\/a>la sospecha: los modelos fueron mucho m\u00e1s precisos para detectar ofensas cuando analizaron la tercera base de datos, pues estaba ajustada a un contexto particular, como ocurre en la vida social que tiene el lenguaje.<\/p>\n\n\n\n

\n

\u201cLa ofensa tiene que ver con que socialmente entendemos a qu\u00e9
nos referimos. Incluye figuras ling\u00fc\u00edsticas, como el sarcasmo
y la iron\u00eda, que son muy locales\u201d<\/p>\nLuis Gabriel Moreno<\/cite><\/blockquote>\n\n\n\n

En el art\u00edculo que publicaron Luis Gabriel Moreno<\/a>, Alexandra Pomares <\/a>y Sergio Barbosa, de la Facultad de Ingenier\u00eda de la Pontificia Universidad Javeriana, junto a Liliana Pantoja, de la Universidad Distrital Francisco Jos\u00e9 de Caldas, los autores resumieron as\u00ed las posibles aplicaciones de su estudio, que esperan sea replicado por m\u00e1s investigadores: \u201cEl ajuste de los modelos para abordar las caracter\u00edsticas ling\u00fc\u00edsticas regionales demuestra su eficacia para captar matices locales. Esto mejora los sistemas automatizados en aplicaciones como la atenci\u00f3n al cliente y el filtrado de contenido, donde comprender las variaciones ling\u00fc\u00edsticas regionales es esencial\u201d.<\/p>\n\n\n\n

Moreno y Pomares lo saben bien, pues durante un tiempo se han dedicado a investigar modelos de texto de inteligencia artificial. Si bien hay elementos compartidos entre los idiomas, estos investigadores han visto c\u00f3mo \u201cel lenguaje es vivo, est\u00e1 en constante cambio y su an\u00e1lisis tambi\u00e9n debe cambiar\u201d, explica el profesor Moreno, doctor en ingenier\u00eda. Esto cobra particular relevancia al hablar del racismo, la misoginia y los discursos de odio, pues \u201cla ofensa tiene que ver con que socialmente entendemos a qu\u00e9 nos referimos. Incluye figuras ling\u00fc\u00edsticas, como el sarcasmo y la iron\u00eda, que son muy locales\u201d.<\/p>\n\n\n\n

\"El
El detectar discursos de odio, racismo y homofobia con una jerga adaptada al contexto local puede contribuir a tener entornos digitales m\u00e1s seguros. <\/figcaption><\/figure>\n\n\n\n

Fue precisamente familiariz\u00e1ndose con la literatura especializada que se dieron cuenta de los dos problemas que hab\u00eda alrededor de la detecci\u00f3n de las ofensas en redes sociales. En primer lugar, exist\u00eda una brecha enorme entre los modelos entrenados para esta labor en ingl\u00e9s y en espa\u00f1ol. En segundo lugar, los esfuerzos en este \u00faltimo idioma se hab\u00edan desarrollado, sobre todo, en Espa\u00f1a. \u201cCre\u00edmos que era muy importante generar herramientas que funcionen ac\u00e1 en Colombia, no una herramienta importada, porque si bien compartimos algunas palabras con M\u00e9xico o Espa\u00f1a, no tenemos sus contextos\u201d, explica Moreno.<\/p>\n\n\n\n

Lo que hicieron, entonces, fue elegir dos bases de datos que ya han sido probadas en el pasado. La primera estaba conformada por rese\u00f1as de usuarios en Amazon, de la cual seleccionaron aleatoriamente 5000 en espa\u00f1ol. La segunda, conformada por 1600 tuits en castellano, entre los cuales hab\u00eda discursos de odio contra migrantes y contra mujeres. Y, finalmente, los investigadores elaboraron su propia base, conformada por 13339 tuits<\/em> que seleccionaron aleatoriamente de una base de datos georreferenciados por la plataforma X como publicados en Colombia y que el equipo de investigaci\u00f3n etiquet\u00f3 manualmente como discurso de odio, misoginia o racismo.<\/p>\n\n\n\n

Luego, usaron dos tipos de modelos de inteligencia artificial distintos: transformer-based language models (TLM) y large language models (LLM), que es la base de herramientas como ChatGPT. Las herramientas mostraron un desempe\u00f1o superior en un 14,35 % al de experimentos previos para detectar discurso de odio. Al final, los investigadores concluyeron que \u201cla contracci\u00f3n de los corpus colombianos [la base de datos creada por ellos] es esencial para poder distinguir el discurso de odio en Colombia y aprovechar sus posibles aplicaciones en la depuraci\u00f3n del contenido de una cadena de comentarios\u201d.<\/p>\n\n\n\n

En ese sentido, los investigadores son optimistas sobre las posibles aplicaciones de su estudio y, convencidos de la importancia de la ciencia abierta, ya han compartido sus datos con otros cient\u00edficos para que los pongan a prueba y ampl\u00eden el an\u00e1lisis. As\u00ed mismo, son conscientes de las propias limitaciones de su experimento: \u201cNo podemos decir que [nuestra base de datos] representa a toda Colombia, pero captura algunas idio[1]sincrasias\u201d, explica Moreno. Sin embargo, el profesor ve en este enlace entre inteligencia artificial y realidad pol\u00edtica una oportunidad para producir conocimiento que aporte, en este caso, a que las plataformas de redes sociales sean espacios m\u00e1s seguros.<\/p>\n\n\n\n

Desarrollo de una innovadora herramienta para medir la polarizaci\u00f3n<\/strong><\/h4>\n\n\n\n

Un equipo conformado por investigadores de la Pontificia Universidad Javeriana, seccional Cali; la Universidad del Valle; y la \u00c9cole Polytechnique, de Par\u00eds, ha desarrollado el Polariz\u00f3metro, una innovadora aplicaci\u00f3n en l\u00ednea que permite medir qu\u00e9 tan polarizada est\u00e1 la sociedad frente a diferentes tem\u00e1ticas. Fundamentado en un modelo matem\u00e1tico, busca definir una funci\u00f3n de la polarizaci\u00f3n en clave del esfuerzo m\u00ednimo necesario para que una poblaci\u00f3n evolucione hacia un consenso. Con dicha funci\u00f3n los investigadores buscan cuantificar el nivel de esfuerzo para alcanzar una opini\u00f3n intermedia entre dos opiniones opuestas.<\/p>\n\n\n\n

Esta herramienta plantea respuestas a las demandas territoriales del Valle del Cauca, apost\u00e1ndole a una sociedad m\u00e1s pac\u00edfica y tolerante. El proyecto estuvo motivado por diferentes fen\u00f3menos sociales y pol\u00edticos, altamente divisivos a nivel nacional y regional, como el plebiscito para refrendar el Acuerdo de Paz en 2016, en el que venci\u00f3 el \u201cNo\u201d, y el estallido social de 2021, que naci\u00f3 como una serie de protestas contra una reforma tributaria y las cuales en ocasiones derivaron en enfrentamientos que tuvieron a Cali como uno de los epicentros del pa\u00eds.<\/p>\n\n\n\n

Detr\u00e1s de esta iniciativa hay un equipo multidisciplinario que re\u00fane a docentes, investigadores y estudiantes de distintas instituciones. Entre ellos est\u00e1 Frank Valencia<\/a>, investigador principal del proyecto, docente de la Javeriana Cali y del Centro Nacional de Investigaci\u00f3n Cien[1]t\u00edfica (CNRS, por su sigla en franc\u00e9s) en la \u00c9cole Polytechnique (Par\u00eds). Tambi\u00e9n participan otros profesores javerianos, de la Universidad del Valle y de la Universit\u00e9 Sorbonne Paris Nord. Adem\u00e1s, han contribuido 16 estudiantes de pregrado y cuatro estudiantes de posgrado.<\/p>\n\n\n\n

El modelo matem\u00e1tico del Polariz\u00f3metro arroja cifras entre 0 y 1, en las que 0 representa a aquellos que est\u00e1n completamente de acuerdo y 1 a los que est\u00e1n completamente en desacuerdo. Valencia ejemplifica: \u201cCuando la poblaci\u00f3n se divide en dos mitades situadas en extremos opuestos, la polarizaci\u00f3n alcanza su nivel m\u00e1ximo, pues el esfuerzo m\u00ednimo necesario para llevarlos a un consenso es el mayor posible\u201d.<\/p>\n\n\n\n

\n

\u201cHay que comprender cu\u00e1ndo la polarizaci\u00f3n impide ciertos fen\u00f3menos y
cu\u00e1ndo potencializa otros. La polarizaci\u00f3n hace parte de la vida, pero permanecer en un escenario donde veo la diferencia del otro como un obst\u00e1culo para mi propia felicidad es una falta de entendimiento\u201d<\/p>\nFelipe Jaramillo<\/cite><\/blockquote>\n\n\n\n

El Polariz\u00f3metro puede funcionar a partir de dos fuentes de informaci\u00f3n: encuestas o datos de redes sociales analizados por inteligencia artificial. El primer caso, al alcance del p\u00fablico, los investigadores el cual puede hacer sus propias mediciones usando datos de encuestas para determinar qu\u00e9 tan polarizados est\u00e1n sus grupos de inter\u00e9s respecto a un tema. Esto contribuye a la toma decisiones informadas en variados contextos, acad\u00e9micos, sociales y pol\u00edticos.<\/p>\n\n\n\n

En el caso de los datos de redes sociales, el Polariz\u00f3metro puede extraer opiniones de plataformas como X, y, conectado con herramientas de inteligencia artificial, puede determinar, \u201ca partir de opiniones escritas, hacia qu\u00e9 lado se inclina la posici\u00f3n de una persona, en un rango entre 0 y 1\u201d, explica el profesor de la Javeriana Cali.<\/p>\n\n\n\n

\"El
El uso de Inteligencia Artificial en redes sociales puede representar un peligro para la democracia, pero tambi\u00e9n abre frentes de oportunidades.<\/figcaption><\/figure>\n\n\n\n

En resumen, el flujo de trabajo es el siguiente: se identifica un tema de inter\u00e9s, se decide si se va a realizar una encuesta con un grupo espec\u00edfico o si se va a analizar el discurso alrededor del tema en redes sociales. <\/p>\n\n\n\n

Con estos datos, el modelo computacional caracteriza la informaci\u00f3n y, mediante el uso de inteligencia artificial, traduce opiniones en n\u00fameros entre 0 y 1, que luego el modelo matem\u00e1tico usa para determinar qu\u00e9 tan polarizada est\u00e1 la poblaci\u00f3n respecto del tema. Con esta informaci\u00f3n, los polit\u00f3logos del equipo entran a analizar los datos bas\u00e1ndose en teor\u00edas de las ciencias sociales, para comprender el fen\u00f3meno contextualizado, sus posibles efectos y las maneras en las que se puede disminuir, para facilitar el di\u00e1logo.<\/p>\n\n\n\n

Para los investigadores, la polarizaci\u00f3n, como fen\u00f3meno no es necesariamente negativa. Felipe Jaramillo, coinvestigador del proyecto, asegura que \u201cvivir en una sociedad donde no hay posibilidades de di\u00e1logo, de consenso, es peligroso\u201d. Y a\u00f1ade: \u201cHay que comprender cu\u00e1ndo la polarizaci\u00f3n impide ciertos fen\u00f3menos y cu\u00e1ndo potencializa otros. La polarizaci\u00f3n hace parte de la vida, pero permanecer en un escenario donde veo la diferencia del otro como un obst\u00e1culo para mi propia felicidad es una falta de entendimiento. El entendimiento es clave para vivir en sociedad\u201d.<\/p>\n\n\n\n

Los investigadores esperan que su herramienta les permita identificar cu\u00e1les son los temas dif\u00edciles de discutir y qu\u00e9 posibilidades hay para que, con el tiempo, se conviertan en temas tratables. \u201cMi sue\u00f1o es que el Polariz\u00f3metro se vincule tambi\u00e9n a ejercicios de investigaci\u00f3n que permitan comprender cu\u00e1les son las formas m\u00e1s efectivas de comunicarnos con aquellas personas que piensan diferente, para lograr generar fuentes de di\u00e1logo y consensos\u201d, a\u00f1ade Jaramillo.<\/p>\n\n\n\n

Esta herramienta hace parte de Promueva, un proyecto para desarrollar modelos computacionales confiables de redes sociales que permitan analizar la polarizaci\u00f3n, producir informaci\u00f3n cient\u00edfica y propiciar eventos de participaci\u00f3n ciudadana para poner a prueba ese instrumento. Con este fin se unieron en el Polariz\u00f3metro los conocimientos de las ciencias de la computaci\u00f3n, la econom\u00eda y las ciencias sociales, para dar vida a esta investigaci\u00f3n, financiada por el Sistema General de Regal\u00edas, bajo la supervisi\u00f3n del Ministerio de Ciencia, Tecnolog\u00eda e Innovaci\u00f3n (Minciencias).<\/p>\n\n\n\n

Esta iniciativa de la Javeriana Cali, sumada a la investigaci\u00f3n de profesores de la sede Bogot\u00e1, conforman una apuesta por llevar conocimientos originados en las ciencias computacionales a problemas sociales que hieren nuestra democracia. Aunque en ambos proyectos a\u00fan queda camino por recorrer para su aplicabilidad, los investigadores saben que la academia puede contribuir a resolver los problemas m\u00e1s urgentes que tiene la sociedad. En este caso, el de un mejor debate pol\u00edtico, sin violencia digital, en el que los contrarios puedan sentarse a discutir.<\/p>\n\n\n\n

Para leer m\u00e1s:<\/h4>\n\n\n\n