{"id":50122,"date":"2026-03-20T11:59:34","date_gmt":"2026-03-20T16:59:34","guid":{"rendered":"http:\/\/www.javeriana.edu.co\/pesquisa\/?p=50122"},"modified":"2026-03-20T11:59:36","modified_gmt":"2026-03-20T16:59:36","slug":"ia-desinformacion-en-redes-sociales","status":"publish","type":"post","link":"http:\/\/www.javeriana.edu.co\/pesquisa\/ia-desinformacion-en-redes-sociales\/","title":{"rendered":"C\u00f3mo se usa inteligencia artificial contra la desinformaci\u00f3n en redes sociales"},"content":{"rendered":"\n<p>Seguro le ha pasado que\u00a0en estas elecciones\u00a0se encuentra con contenido en redes sociales y no est\u00e1 seguro de si las cuentas que lo compartieron son reales \u00bfPodemos saber si hacen parte de estrategias desinformaci\u00f3n ? Algoritmos dise\u00f1ados por investigadores de\u00a0la Facultad de Ingenier\u00eda de\u00a0la Pontificia Universidad\u00a0Javeriana han logrado precisamente eso.\u00a0\u00a0<\/p>\n\n\n\n<p>Luis Gabriel Moreno, doctor en Ingenier\u00eda, explica c\u00f3mo lo han hecho en el primer episodio de\u00a0la tercera temporada de\u00a0<em>Poder Conectado<\/em>, un podcast sobre comunicaci\u00f3n pol\u00edtica presentado por los profesores de Comunicaci\u00f3n, <a href=\"https:\/\/perfilesycapacidades.javeriana.edu.co\/es\/persons\/lilianagomezc\/\" target=\"_blank\" rel=\"noreferrer noopener\">Liliana G\u00f3mez<\/a>, Juan Carlos Valencia y Carlos Arias. Esta temporada ser\u00e1 un video-podcast, gracias a una alianza con Pesquisa Javeriana.\u00a0Ya\u00a0puede ver el primer episodio en el siguiente enlace:\u00a0\u00a0<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe title=\"IA para combatir la desinformaci\u00f3n y el odio en redes sociales\" width=\"814\" height=\"458\" src=\"https:\/\/www.youtube.com\/embed\/A2OuTtM1-p0?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p>En un\u00a0escenario de elecciones en el que las\u00a0redes sociales como X \u2013antes Twitter\u2013\u00a0son lugares donde se hacen anuncios oficiales, mandatarios dan \u00f3rdenes y se crean consensos de opini\u00f3n p\u00fablica, es crucial entender qu\u00e9 tanto podemos confiar en el contenido all\u00ed producido. Es all\u00ed donde las investigaciones de ingenieros como Moreno\u00a0adquieren una relevancia particular.\u00a0\u00a0<\/p>\n\n\n\n<p>\u201cCuando hablamos de confianza tiene que ver con qu\u00e9 tanto yo creo en el perfil que me est\u00e1 enviando informaci\u00f3n o qu\u00e9 tan v\u00e1lido es\u201d, explic\u00f3 el profesor. En primera medida, la confianza en redes sociales se establece a trav\u00e9s de v\u00ednculos estructurales. \u201cEs decir, si t\u00fa eres  amigo de Juan, por ejemplo, y yo conozco a Juan, puedo tener cierto nivel de confianza en ti porque hay una transitividad\u201d, explic\u00f3 Moreno.\u00a0\u00a0<\/p>\n\n\n\n<p>Sin embargo, \u00e9l y sus colegas se han interesado por otra dimensi\u00f3n de la confianza:&nbsp;c\u00f3mo los algoritmos nos sugieren cosas, bas\u00e1ndose en nuestros intereses y terminan creando c\u00edrculos de \u201chomofilia\u201d. Es decir, \u201cnos agrupamos entre iguales\u201d, explic\u00f3 el profesor.&nbsp;<\/p>\n\n\n\n<p>Sobre c\u00f3mo han logrado identificar cuentas automatizadas o&nbsp;<em>bots<\/em>, Moreno explic\u00f3 a los entrevistadores el an\u00e1lisis que hacen, que involucra grandes vol\u00famenes de informaci\u00f3n de redes sociales: \u201cCuando nosotros vemos que la diversidad l\u00e9xica de un perfil es baj\u00edsima.&nbsp;Es decir,&nbsp;que no hay una capacidad de cambiar de texto o de palabras,&nbsp;o&nbsp;cuando la emoci\u00f3n es est\u00e1ndar o continua, esas son pistas de que ese perfil&nbsp;se ha&nbsp;pagado y se ha programado en su mayor\u00eda\u201d.&nbsp;As\u00ed lo&nbsp;hicieron,&nbsp;por ejemplo,&nbsp;<a href=\"https:\/\/www.researchgate.net\/profile\/Edwin-Puertas\/publication\/335611800_Bots_and_Gender_Profiling_on_Twitter_using_Sociolinguistic_Features_Notebook_for_PAN_at_CLEF_2019\/links\/5d701d234585151ee49e4505\/Bots-and-Gender-Profiling-on-Twitter-using-Sociolinguistic-Features-Notebook-for-PAN-at-CLEF-2019.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">en este art\u00edculo<\/a>.&nbsp;&nbsp;<\/p>\n\n\n\n<p>Algoritmos como este est\u00e1n a la disposici\u00f3n de otros investigadores, pues Moreno y sus colegas creen en la ciencia abierta. La mayor\u00eda de las publicaciones de Moreno y sus colegas son de libre acceso y ellos mismos colaboran con iniciativas como\u00a0<a href=\"https:\/\/www.latamgpt.org\/en\/about_us\" target=\"_blank\" rel=\"noreferrer noopener\">Latam-GPT<\/a>\u00a0para aportar a que los sistemas de inteligencia artificial y de procesamiento de informaci\u00f3n reflejen los matices y la diversidad cultural de lugares como Colombia.\u00a0\u00a0<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">L\u00edmites de la IA en la desinformaci\u00f3n de redes sociales<\/h4>\n\n\n\n<p>Ahora, el campo de Moreno es mucho m\u00e1s amplio. En el di\u00e1logo con los profesores G\u00f3mez y Valencia explic\u00f3 que su foco de investigaci\u00f3n es el procesamiento de lenguaje natural y la creaci\u00f3n de modelos de inteligencia artificial con textos. Con sus proyectos se ha dedicado a llenar algunos de los vac\u00edos que existen en este campo, sobre todo los relacionados con barreras ling\u00fc\u00edsticas y culturales, pues, como explic\u00f3, \u201cel lenguaje tiene caducidad\u201d.&nbsp;&nbsp;<\/p>\n\n\n\n<p>Para una&nbsp;investigaci\u00f3n reciente, por ejemplo,&nbsp;<a href=\"https:\/\/www.javeriana.edu.co\/pesquisa\/inteligencia-artificial-red-social\/\" target=\"_blank\" rel=\"noreferrer noopener\">crearon un sistema de detecci\u00f3n de discursos de odio<\/a>, racismo y misoginia en redes sociales adoptado al l\u00e9xico colombiano. \u201cConstruimos ese modelo de inteligencia artificial que utiliza lenguaje propio colombiano para determinar esos elementos de racismo, misoginia y odio. Fue inspirado en c\u00f3mo nosotros mismos&nbsp;comenzamos a ver ataques en redes sociales, aunque,&nbsp;cabe aclarar, mi especialidad es el texto\u201d, explic\u00f3.&nbsp;&nbsp;<\/p>\n\n\n\n<p>Adem\u00e1s de la aclaraci\u00f3n de que su experiencia ha sido&nbsp;con&nbsp;el texto, Moreno es cauto sobre&nbsp;las posibilidades de los modelos existentes hasta ahora para identificar falsedades en redes sociales.&nbsp;\u201cTratamos de hacer un algoritmo que identificara&nbsp;<em>fake&nbsp;news<\/em>, pero el proceso es muy complejo, porque al final depende de c\u00f3mo se plantea la noticia\u201d, explic\u00f3 el profesor y luego puso como ejemplos&nbsp;medios&nbsp;de comunicaci\u00f3n que han incorporado procesos de chequeo de informaci\u00f3n y han&nbsp;incorporado&nbsp;alg\u00fan nivel de&nbsp;automatizaci\u00f3n, pero al final la decisi\u00f3n siempre la toma un humano.&nbsp;<\/p>\n\n\n\n<p>Esta temporada del video-podcast&nbsp;<em>Poder Conectado&nbsp;<\/em>hace parte del cubrimiento especial de Pesquisa Javeriana para las elecciones presidenciales de 2026.&nbsp;Este episodio inaugura un espacio para discutir, desde la evidencia y la producci\u00f3n acad\u00e9mica, los conceptos que rondan esta jornada electoral, los discursos que los movilizan y las emociones que buscan despertar.&nbsp;&nbsp;&nbsp;<\/p>\n\n\n\n<p>Junto a profesores de Comunicaci\u00f3n, Filosof\u00eda e Ingenier\u00eda, que han investigado sobre estas preguntas en sus respectivas disciplinas, brindaremos a nuestra audiencia herramientas de an\u00e1lisis sobre los fen\u00f3menos pol\u00edticos, tecnol\u00f3gicos y comunicacionales que observamos. En las pr\u00f3ximas semanas publicaremos m\u00e1s contenidos, entre art\u00edculos, infograf\u00edas y otros episodios de&nbsp;<em>Poder Conectado&nbsp;<\/em>para ayudarte a navegar estas elecciones.&nbsp;&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>El profesor de Ingenier\u00eda Luis Gabriel Moreno explica en el primer cap\u00edtulo de la nueva temporada del podcast \u2018Poder Conectado\u2019 c\u00f3mo ha dise\u00f1ado algoritmos con inteligencia artificial para estudiar la desinformaci\u00f3n y los discursos de odio en redes sociales. <\/p>\n","protected":false},"author":164,"featured_media":50123,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[373,1157,4594],"tags":[371,1172,499],"class_list":{"0":"post-50122","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-sociedad","8":"category-destacadas","9":"category-inteligencia-artificial","10":"tag-colombia","11":"tag-elecciones","12":"tag-javeriana"},"_links":{"self":[{"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/posts\/50122","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/users\/164"}],"replies":[{"embeddable":true,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/comments?post=50122"}],"version-history":[{"count":3,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/posts\/50122\/revisions"}],"predecessor-version":[{"id":50128,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/posts\/50122\/revisions\/50128"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/media\/50123"}],"wp:attachment":[{"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/media?parent=50122"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/categories?post=50122"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.javeriana.edu.co\/pesquisa\/wp-json\/wp\/v2\/tags?post=50122"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}