DLU LAB
event 30 Octubre 2024
schedule 87 min.
email Esta dirección de correo electrónico está protegida contra spambots. Necesita activar JavaScript para visualizarla.
Equipo de Cuestión Pública
share

Desinformación y Terminator: las armas del MinDefensa para perseguir manifestantes con Inteligencia Artificial

format_textdirection_l_to_r

Bajo la excusa de detectar noticias falsas en las protestas de 2021, el Ministerio de Defensa persiguió la desinformación en redes sociales como si fuera un delito, argumentando que fomentaba el terrorismo. A través del ciberpatrullaje, recopiló información que la Fiscalía usó para judicializar manifestantes. Estos datos, almacenados en las bases de la Policía, alimentarían un algoritmo para predecir delitos contrarios a la convivencia.

portada

La campaña contra la desinformación arrancó al otro día de iniciar el Paro Nacional. Durante las protestas, la Policía vigilaba a Pedro González, estudiante de una universidad pública de Bucaramanga —a quien se le cambió el nombre para proteger su identidad—, sin que él supiera que esto coincidía con el contrato que el Ministerio de Defensa firmó con una agencia para lanzar la campaña “Transformar comunicando”. Bajo el hashtag #ColombiaEsMiVerdad, la estrategia buscaba desacreditar noticias que, según el gobierno, buscaba “deslegitimar la institucionalidad”. González fue uno de los jóvenes vigilados por el Estado bajo el pretexto de combatir fake news, debido a su supuesta gestión de redes en Facebook críticas al gobierno.

El punto de inflexión de las manifestaciones, que comenzaron el 28 de abril y sacudieron al país por ocho meses, fue la Reforma Tributaria que presentó el presidente Iván Duque, en el cual se incluía el IVA (del 19 %) a los servicios funerarios en uno de los momentos más críticos de la pandemia.

A medida que avanzaba el paro, Johan Andrés Barbosa Sequeda, estudiante de la UIS, también estaba siendo vigilado por la Policía, tanto en su casa como en las jornadas de ciberpatrullaje en Facebook. Esto lo confirmó un informe de inteligencia que justificó la denuncia contra los estudiantes por el delito de terrorismo ante la Fiscalía, al que Cuestión Pública tuvo acceso de manera reservada.

Uno de los patrulleros digitales, que perfilaba y le asignaba un alias a Barbosa Sequeda, escribió sobre él: «Responsable de liderar los movimientos denominados “Acción Libertaria” y “Red Surgiendo” desde donde se realizan publicaciones de oposición al Gobierno Nacional y sus instituciones, se moviliza en motocicleta».

Producto de la cacería de brujas del Ministerio de Defensa, González, Barbosa y otros cibernautas fueron perfilados en la noticia criminal que justificó la judicialización de Pedro González.



Organizaciones, incluida el Comité por la Defensa del Páramo de Santurbán, perfiladas por la Policía en Bucaramanga en el paro de 2021, según un documento judicial al que accedió Cuestión Pública.

 Fue así como el 6 de mayo de 2021, entre las 6 y las 9 de la mañana, las páginas web del Ministerio de Defensa y otras entidades aparecieron en negro con un mensaje que decía: “intento de bloqueo”. Lo que en un principio pareció un ciberataque fue, en realidad, el lanzamiento de #ColombiaEsMiVerdad. Con el objetivo de informar a los colombianos sobre la verdad en medio del mar de mentiras, dijeron en los informes.

La campaña, liderada por el entonces ministro de Defensa, Diego Molano, buscaba cambiar la imagen de la fuerza pública tras la violenta represión de las protestas por parte del gobierno Duque, que entonces dejaba al menos 29 civiles muertos, muchos de ellos presuntamente a manos de la Policía y el Esmad.

El 30 de junio de 2021, tan solo un mes y unos días después, el informe de inteligencia policial realizado en Bucaramanga vinculó a Johan Andrés Barbosa Sequeda y a Pedro González con el presunto delito de terrorismo por supuesta desinformación y publicaciones de odio en contra de la Policía durante el paro. La Policía identificó a Barbosa como líder del colectivo Acción Libertaria, que “en redes sociales comparte acciones de disturbio que avalan como forma de protesta (...) y desinforma sobre la realidad de algunas denuncias con el fin de incitar al odio”, según consta en el reporte policial. Sobre González, señaló que: genera publicaciones de rechazo a las políticas del Gobierno y odio hacia la Policía Nacional”. 

Sus casos no fueron hechos aislados. Formaron parte de una estrategia masiva de comunicación y ciberpatrullaje, encabezada por la Policía y amplificada en redes sociales, que terminó por judicializar a González y a diez personas más en Bucaramanga, y que se replicó en las principales ciudades. Esta investigación de Cuestión Pública, en colaboración con el Institute for War & Peace Reporting (IWPR), revela cómo estas acciones se enmarcaron en una campaña para acallar voces críticas bajo la excusa de combatir la desinformación empleando recursos públicos.

 

 Esta alianza analizó otros procesos judiciales y las piezas comunicativas que llevaban un mensaje de compromiso con la verdad en 208 tuits de las cuentas de X de las entidades adscritas a la Policía Nacional y el Ministerio de Defensa, entre el 6 de mayo y el 24 de noviembre de 2021 publicadas bajo la campaña #ColombiaEsMiVerdad. Así mismo, se construyó una base de datos única que verificó textos, fotos y videos. Dicho análisis arrojó que la fuerza pública no solo incurrió en la difusión de contenido engañoso, sino que también persiguió a civiles bajo la bandera de la desinformación.

Ciberpatrullaje, la guerra por la verdad

El monitoreo de redes sociales y la “clasificación de noticias falsas” se hizo a través del Puesto de Mando Unificado de Ciberseguridad (PMU-Ciber), constituido en medio del estallido social. Lo encabezaban la Presidencia de la República (Csirt Presidencia), el Ministerio de Defensa (ColCERT), el Ministerio de Tecnologías de la Información y Comunicaciones (min TIC), la Fiscalía General, las Fuerzas Militares (CCOCI), la Policía Nacional y la Dirección Nacional de Inteligencia (DNI). 

Sin embargo, según reveló la Fundación Karisma, durante las manifestaciones “operó sin que estuviera clara su justificación legal”. El único detalle que deslizó el PMU a la Fundación para la Libertad de Prensa (Flip), vía derecho de petición, fue que, al parecer, ese rastreo se hizo manual, ya que para entonces, no contaban “con una herramienta para monitorear y clasificar la información”. El criterio usado por el PMU para rastrear “desinformación” en internet lo definió a la Flip, así:

 Del perfil en Facebook de Acción Libertaria, el ciberpatrullaje arrojó que: “Se caracteriza por ser un colectivo que demuestra sentimientos de odio y rechazo al Gobierno Nacional y sus instituciones, en sus redes sociales comparten acciones de disturbio que avalan como forma de protesta”

Al respecto, Cuestión Pública revisó los posts de este colectivo y encontró que correspondían a denuncias de abusos de la fuerza pública, llamados a la manifestación y críticas al Gobierno de Iván Duque. Para la fecha en que el informe de inteligencia fue elaborado, Johan Andrés Barbosa explicó a este medio que él no era el líder de Acción Libertaria, un colectivo cultural integrado en su mayoría por estudiantes y egresados de la UIS, como señaló el ciberpatrullero que lo perfiló. Señaló que, para entonces, estaba articulando la Red de Defensores por la Dignidad y el Territorio (Rededter), organización defensora de derechos humanos en la que trabaja actualmente. 

En el mismo informe están perfilados cinco personas, entre ellos, Barbosa, Pedro González y Leonardo Jaimes, defensor de derechos humanos de la organización Equipo Jurídico Pueblos. También están identificados con nombre y apellido más de una veintena de jóvenes, en su mayoría estudiantes de universidad pública, barristas e incluso organizaciones sociales como el Comité por la Defensa del Agua y el Páramo de Santurbán, una plataforma ambiental que se ha dedicado a defender el páramo.

Pese a que Barbosa y González hacían uso del derecho consagrado en el artículo 20 de la Constitución Política, que protege la libertad de expresión, la Policía también lo usaba para capturar a este último. Así lo dijeron en una respuesta a la Flip cuando les preguntaron por el fundamento legal que les permitía catalogar una noticia falsa: el fundamento en el marco nacional corresponde al artículo 20 de la Constitución

Sin embargo, de ese grupo de perfilados, solo el de Barbosa es el caso asociado a la desinformación. Esto sería clave para entender por qué él no fue judicializado y Pedro González sí. Como explicó Leonardo Jaimes a Cuestión Pública, ni la desinformación ni lo que la Policía califica como “discurso de odio contra la institución” en ese reporte son delitos tipificados en el código penal, y ningún fiscal puede avalar una acusación con base en eso. La libertad de expresión y la crítica no son un delito, sino que están protegidas internacionalmente por normas como la Declaración Universal de Derechos Humanos.

Para judicializarlo, la Fiscalía acusó a González de tráfico, fabricación o porte de estupefacientes, derivado del perfilamiento y ciberpatrullaje, en el que se describió que “dentro de su perfil en Facebook se puede apreciar su evidente inclinación hacia el consumo de estupefacientes, además de compartir y generar publicaciones de rechazo a las políticas del Gobierno y odio hacia la Policía Nacional”. Otro elemento clave en su proceso, y en el de los diez jóvenes judicializados con él, es que ninguno fue capturadoen situación de flagrancia en lo que respecta a los hechos relacionados a la protesta, como argumentó su defensa en un documento del caso al que accedió este medio. 

 

La Policía vigiló la cuenta de Facebook de Pedro González dentro del perfilamiento consignado en el informe de inteligencia durante el paro nacional de 2021. Crédito: Cuestión Pública. El proceso penal que González enfrenta en libertad está en etapa de juzgamiento. Tras su captura el 14 de junio de 2022, la Fiscalía dio a conocer dicho informe de inteligencia como parte de las pruebas de su caso. Como consecuencia, las organizaciones y personas mencionadas se enteraron del perfilamiento. González expresó que duró 16 meses en prisión domiciliaria y se vio forzado a abandonar sus estudios hasta el año pasado, aunque la persecución y hostigamientos en su contra permanecen. A Barbosa le ocurrió algo similar. “Debido al perfil de riesgo tan alto de que pudieran capturarlos y hacerles un montaje judicial, Johan Andrés [Barbosa] se retiró de la carrera con el fin de quitar ese espacio fijo donde podrían ubicarlos”, señaló Cristian Becerra, defensor de derechos humanos de Rededter. Hace un semestre retomó sus estudios. 

Los videos explican casos de desinformación identificados por esta alianza tras el análisis de 208 trinos de la fuerza pública. Crédito: Cuestión Pública

Lo más revelador llegó en un informe del 9 de junio de 2021 entregado por el Ministerio de Defensa sobre las manifestaciones. La entidad, presidida por Molano, dijo que había dedicado “21.675 horas de ciberpatrullaje” para identificar “campañas de desinformación con el fin de generar contenido de caos y odio hacia las instituciones del Estado”. Consultado, a través de su jefa de prensa, el exministro dijo que estaba fuera del país y que prefiere no dar más declaraciones sobre el tema.

No obstante, se revelaron tres datos: ¡Bingo! Las 21.675 horas de ciberpatrullaje generaron “3.420 alertas preventivas para la anticipación de actos de vandalismo”. Como si las alertas por desinformación pudieran derivar en hechos que incluyeran delitos: “algunos informes señalan que las operaciones de información y noticias falsas se constituyen en amenazas extra hemisféricas, según consta en el informe. 

El segundo dato que confirma que sí actuaron como la policía de la verdad fue el supuesto análisis de “3.723 videos que permitieron identificar e individualizar a los responsables y se abrieron nueve procesos de investigación.

En términos metodológicos, los 17 casos identificados como noticias falsas por la fuerza pública resultan cómicas por la falta de rigor

Pero, ¿cómo midieron el impacto de lo que publicaban Johan Andrés Barbosa y Pedro González? “El Centro Cibernético Policial cuenta con el conteo sobre el número de publicaciones, interacciones y visualizaciones que ofrecen las mismas redes sociales y páginas web, para medir un posible impacto”, explicó la Policía Nacional a la Flip.

Según informó el Jefe del Centro Cibernético Policial en un derecho de petición solicitado por la Flip, los datos recopilados en el ciberpatrullaje en busca de campañas de desinformación generaron una denuncia “por adecuarse a posibles tipologías penales”. Y así fue como esos nueve procesos —de los cuales no se pudo establecer si son los mismos que están en el informe policial de Pedro González— derivados del análisis de videos fueron remitidos a la Fiscalía General de la Nación, “mediante comunicación oficial GS-2021-106705- DIJIN-CECIP

Cuestión Pública consultó al Ministerio de Defensa cuántos uniformados se dedicaron a labores de ciberpatrullaje, qué plataformas se monitorearon y cuántos recursos públicos se emplearon. La entidad se limitó a responder que el Centro Cibernético Policial no realiza esta actividad para rastrear noticias falsas si no para identificar amenazas desde y hacia Colombia en contra de la ciberseguridad ciudadana

El tercero, y más importante porque parece desnudar la falta de criterio con el que la Policía ejerció de persecutor de la desinformación, fue validar los ejercicios de verificación realizados por medios de comunicación como ColombiaCheck y La Silla Vacía. ¿Cómo lo hicieron? No lo dijeron. Tampoco se desliza que de ese ejercicio se haya judicializado a personas.

Lo que sí expusieron fue un cuadro de noticias falsas identificadas por la misma Policía y sus centros, contra las Fuerzas Militares

En términos metodológicos, los 17 casos identificados como noticias falsas por la fuerza pública resultan cómicos por la falta de rigor. En dicho ejercicio no se evidencia metodología aplicada, simplemente un cuadro en el que se ve la supuesta noticia falsa ylas acciones tomadas para desvirtuarlas, que es otro post que dice falso o contiene un comunicado de prensa. 

Terrorismo digital, el delito que inventó la fuerza pública

Por otra parte, en el análisis hecho por Cuestión Pública de los trinos difundidos por la fuerza pública durante el paro, esta alianza identificó recurrentemente el mensaje “comparte información de fuentes oficiales. No sea cómplice de un delito cibernético en las redes”. Lo cual resultó una información engañosa, porque la desinformación no es considerada un delito cibernético en redes. 

 

 

De ese grupo analizado, casi la mitad de los tuits resultaron inchequeables por apelar a opiniones y propaganda de la fuerza pública en las que se exaltó su gestión y valores en el marco del paro nacional. Es decir, no parecieron seguir las metodologías de chequeo de información.

Otra estrategia empleada fue omitir detalles como la fuente de la información que supuestamente verificaban, reduciendo al mínimo los datos con los que se consolidó su versión oficial, impidiendo el contraste. Estos casos se catalogaron como “sin verificar” en el análisis.

Cuestión Pública le consultó a la entidad por dichas noticias; sin embargo, recibió una respuesta de la Policía del Valle del Cauca refiriéndose solo a dos de los 17 hechos, señalando que hicieron parte de una “estrategia comunicacional que permitiera en tiempo real informar a la ciudadanía situaciones falsas (...) desconociendo el origen de los videos y si los mismos corresponden a hechos reales”.

Esta alianza consultó a las autoridades por la evidencia para realizar estas afirmaciones; sin embargo, recibió información parcial y, en ningún caso, una respuesta sobre la metodología usada ni las fuentes sobre las que basaron sus verificaciones. 

 

" data-mce-href="

">

 

 

También se identificó que solo una pequeña porción de trinos (17) fueron calificados correctamente como falsos por parte de las autoridades, pues algunos de ellos ya habían sido previamente chequeados por el portal de verificación ColombiaCheck. Sin embargo, este medio observó que, en el ejercicio de perseguir la desinformación, la fuerza pública desestimó hechos violentos ocurridos en el paro, calificándolos de falsos, sin esperar el desarrollo de investigaciones o conceptos judiciales. 

Esta narrativa fue retomada por algunos medios tradicionales. La violenta jornada del 19 de mayo de 2021 en el Éxito Calipso de Cali lo expone. La Policía desmintió en su cuenta de X que este almacén hubiera sido usado por la fuerza pública para presuntamente torturar civiles en una noche que dejó 19 heridos y un muerto. 

Una semana después, el detector de desinformación de La Silla Vacía aseguró que “la Defensoría del Pueblo y una comisión conformada por delegados de la Alcaldía, la Personería, la Policía y defensores de derechos humanos, indicaron que en el lugar no encontraron indicios de muertes o torturas”. No obstante, la investigación de Cuestión Pública Apocalipso Now: la Policía no contó todo lo que hizo dentro del Éxito, documentó testimonios de civiles que estuvieron allí y denunciaron lo contrario. 

 

Cuestión Pública explica por qué es discutible que la fuerza pública haya calificado como desinformación dos de los hechos más violentos que marcaron las protestas de 2021. Crédito: Cuestión Pública.

Consultamos a la Fiscalía, vía derecho de petición, si existen investigaciones y personas judicializadas por estos hechos, pero como negó los datos solicitados, continuamos en litigio por la información. 

Uno de los patrones más visibles de la campaña #ColombiaEsMiVerdad fue el uso de las palabras pánico, terror o zozobra, que estuvieron en el centro de la propuesta narrativa que diseñó la empresa Alotrópico S.A.S. a quien el MinDefensa pagó 898 millones de pesos por el desarrollo de esa campaña. 

“Mucha de la información que circula a través de las redes sociales es falsa y ha generado odio y terrorismo digital, publicaron en varios de los trinos. Bajo esa línea editorial lanzaron banners, jingles de radio, videos y mensajes que publicaron en todas las redes sociales de las entidades, los cuales a su vez derivaron en otras campañas comunicativas lanzadas semanas después como #AColombiaLaProtegemos o #SiempreFirmes

De facto, la Policía actuó en una presunta guerra por la verdad, en la que persiguió “la desinformación” como delito, usando el término “terrorismo digital”, que no está tipificado en el código penal, para criminalizar a quienes los cuestionaban en redes sociales. 

“El delito de terrorismo en Colombia está asociado a quien cause zozobra o terror, por eso es que les gusta en las campañas de comunicación [del Ministerio de Defensa] usar esas palabras. Eso hizo más fácil para los funcionarios enmarcar las acciones del paro en el terrorismo”, explicó Lorena Medina, abogada de la Fundación Comité de Solidaridad con los Presos Políticos (CSPP) a Cuestión Pública

Anatomía de un falso positivo judicial

Un mes después de que se lanzó la campaña #ColombiaEsMiVerdad, el fiscal 42 Especializado Héctor Daza abrió una indagación para establecer los presuntos delitos de terrorismo, concierto para delinquir y violencia contra servidor público, en el marco de las protestas. 

El argumento que usó la Fiscalía para judicializar manifestantes durante el paro parece calcado de la línea editorial de la estrategia comunicativa #ColombiaEsMiVerdad. ¿El argumento? Que estas acciones producían “cadenas de desinformación que atizan los ánimos y logran poner a toda la ciudadanía en contra de la fuerza pública en general”. En ella se solicitó “un informe de ciberpatrullaje de las personas individualizadas e identificadas del PMU, ya sean capturadas o conducidas CTP”.

 

A la izquierda, fragmento de la línea editorial de la campaña #ColombiaEsMiVerdad. A la derecha, la apertura de la indagación de la Fiscalía 42 Especializada del 6 de junio de ese año. Crédito: Fiscalía General de la Nación.

Cuestión Pública conoció el expediente judicial de Juan David López y Deiber Daniel Gómez, dos jóvenes que enfrentan cargos por terrorismo y violencia contra servidor público, y cuya audiencia de sentencia quedó programada para el próximo 25 de noviembre. La Fiscalía los acusa de haber hecho parte del grupo de personas que atacó a piedras a dos policías el 30 de mayo de 2021 en Bogotá, ocasionándole a uno de ellos 60 puntos en su oreja derecha. 

“A los dos los retuvo el Esmad semanas antes de los hechos, los reseñan y los sueltan porque no tenían ningún llamado para judicializarlos (...) la Policía agarró bases de datos de capturados cercanas al lugar donde fueron violentados los policías y al azar los vincularon al proceso y judicializaron”, explicó el defensor, Rubén Darío Acosta.

Ambos estrenaron la cédula en la cárcel La Modelo, donde estuvieron recluidos desde el 18 de julio de 2021 hasta el 25 de agosto de 2022, cuando salieron libres por vencimiento de términos. Según Acosta, ninguno participó del ataque, pues López estaba en su casa cuidando a su hermano y Gómez se quedó tomando cerveza frente a la suya con unos amigos, como él mismo confirmó a Cuestión Pública. 

Para construir su caso, además del testimonio de los policías agredidos, el ente acusador se basó en videos de Facebook obtenidos por ciberpatrullaje, como se observa en la transcripción de la audiencia del juicio del 30 de enero de 2023 a la que accedió Cuestión Pública, en la cual se interrogó a los investigadores. Videos que, para Acosta, “no logran individualizar a una persona, pero lo que me parece más grave es que los jueces acepten este tipo de pruebas”

Extractos de la audiencia del juicio el 30 de enero de 2023 a los que accedió Cuestión Pública.

Óscar Ramírez, director del Comité de Solidaridad con los Presos Políticos, ONG que hizo veeduría en las protestas y acompaña la defensa de varios jóvenes, señaló que esas pruebas no son ilegalmente recolectadas, “porque son de fuentes públicas. La finalidad con que la usan si puede ser ilegal y es perseguir, estigmatizar o monitorear con fines de judicialización a quienes ejercen un derecho legítimo y no precisamente a quienes cometen delitos”.

Según Human Rights Watch, durante el paro nacional, los fiscales realizaron «imputaciones desproporcionadas a manifestantes por cargos de “terrorismo”». Esto fue avalado por la directiva 002 emitida por el entonces fiscal general Francisco Barbosa, que priorizó ese delito. 

Ramírez advirtió que, si bien en el marco de las manifestaciones se cometieron delitos, el Comité de Solidaridad ha documentado, a corte de febrero de 2024, a 28 personas sentenciadas injustamente. Agregó que al menos 493 investigaciones activas en la Fiscalía podrían terminar en condenas por hechos vinculados al paro de 2021, sin contar el subregistro de casos que existe.

El exfiscal general Francisco Barbosa le contestó a Cuestión Pública que “la directiva estuvo conforme a estándares internacionales de derechos humanos y constitucionales (...) Si observa con atención la directiva, hay personas condenadas por la justicia por terrorismo urbano, lo que demuestra que Fiscalía y jueces no actuaron de forma ilegal”.

En el marco de #ColombiaEsMiVerdad y a través de técnicas de ciberpatrullaje de la Policía, se judicializó a manifestantes durante el Paro Nacional. Además, se tecnificó con la compra de un programa con Inteligencia Artificial.

Terminator: ¿el algoritmo sospechoso?

En 2020, la Policía Nacional adquirió por $2.998 millones un software SAAS de inteligencia artificial llamado XCrime “para la predicción de eventos delictivos y optimización de rutas”. La proveedora fue la empresa colombiana Nuvu, que ha suscrito 28 contratos con el Estado por 32.050 millones de pesos, según la plataforma de contratación pública, SECOP. 

El algoritmo, según le explicó la institución a Cuestión Pública vía derecho de petición, se alimenta de información “recaudada por los sistemas de Información de la Policía Nacional, en donde se registren fecha, horarios y lugares en donde ocurrieron hechos delictivos que afectan la convivencia y seguridad”. Y está al servicio de los departamentos de la entidad.

Solo en los dos primeros meses del paro nacional de 2021, las bases de datos de la entidad registraron 1.408 capturas y 69 aprehensiones a menores de edad, según el balance general que hizo el Ministerio de Defensa de entonces. 

Este algoritmo no cuenta con supervisión humana, según admitió la entidad, y su contrato se renovó hasta 2024. Mientras que la proveedora Nuvu explicó a Cuestión Pública que “el algoritmo en sí opera de forma automática, procesando la información ingresada, pero su ejecución está sujeta a la supervisión y operación de funcionarios de la Policía Nacional”.

Pilar Sáenz, coordinadora de proyectos de la Fundación Karisma, recordó que “las inteligencias artificiales no están libres de incluir y exacerbar sesgos que reproducen patrones de estigmatización y discriminación. Por eso, frente a contratos como este, implementar este tipo de sistemas requiere de un análisis de impacto en derechos humanos y la adopción de principios éticos”

En esta línea, Nuvu le contestó a este medio que los algoritmos que usan “son supervisados y se construyen a partir de datos curados por la Policía Nacional, lo cual garantiza la precisión matemática e imparcialidad de nuestra solución”. La Policía no explicó cuál es el entrenamiento que reciben sus uniformados para tomar decisiones a partir de la información que arroja este sistema de manera transparente y sin sesgos.   

Sin estas claridades, Óscar Ramírez, director del Comité de Solidaridad con los Presos Políticos, señaló que el uso de este tipo de software podría ser peligroso “porque termina generando una especie de confirmación de los sesgos de la Policía que le da un barniz de técnico porque fue el algoritmo y nos los humanos, el que identificó las amenazas”.

Este medio le preguntó a la Policía qué tipo de delitos predice y qué decisiones había tomado hasta entonces basado en este modelo. La entidad expresó que con dicha contratación, que finalizó en febrero de este año, “la herramienta logró la reducción en delitos como el homicidio”, sin precisar cómo lo hizo. Después de 2021, año en que se registró el pico más alto con 27 homicidios por cada 100 mil habitantes en seis años, el indicador ha venido en descenso en Colombia, con 21 en 2023. 

“El algoritmo no cuenta con supervisión humana”

Siguiendo la ruta de la contratación, Cuestión Pública encontró que esta misma empresa le vendió otro software a la Policía Nacional por 1.865 millones de pesos en junio de 2022. En las especificaciones técnicas, la Policía le pidió al contratista reportes del desempeño de cada una de las patrullas de la entidad con respecto a las “medidas correctivas”, entre otros indicadores. Se trata de multas impuestas a los ciudadanos por infringir normas de convivencia consignadas con los datos personales en el Registro Nacional de Medidas Correctivas (RNMC) de la institución. 

No es claro por qué la institución mide el desempeño de sus patrullas y funcionarios a través de las medidas correctivas impuestas. Se consultó a la institución vía derecho de petición para que aclarara estas especificaciones técnicas, pero no ha respondido. 

Esta imagen corresponde a las especificaciones técnicas del contrato 140 2022 de la Policía adjudicado a la empresa High Tech.

«En este caso, hablamos de una “comparendera digital”, herramienta diseñada específicamente para ayudar a los agentes a hacer cumplir el Código Nacional de Policía. Este software no cuenta con inteligencia artificial. Sin embargo, tiene capacidades analíticas descriptivas que (...) permiten un seguimiento detallado del desempeño de las patrullas en cuanto a la imposición y cumplimiento de estas medidas», señaló la empresa proveedora.

En Colombia hay razones para sospechar del uso de tecnologías de vigilancia por parte de las agencias de inteligencia, como la compra del software Pegasus durante el Gobierno de Iván Duque.

En este entramado de Pegasus, un detalle no menor que reveló el presidente actual, Gustavo Petro, es que las presuntas transacciones para la compra de este software espía se habrían dado el 26 de junio y el 18 de septiembre de 2021, en pleno estallido social. En julio de ese mismo año, la Policía compró un software basado en inteligencia artificial a la Unión Temporal Phoenix, que “mina datos de internet, alerta y perfila nuevos actores”, según investigó la Fundación Karisma.

En esta unión temporal participó la empresa española Mollitiam Industries, incluida en 2020 por Reporteros Sin Fronteras en la lista de Depredadores Digitales, que por sus prácticas de espionaje y vigilancia, “representan un claro peligro para la libertad de opinión y de expresión”. 

“El Sistema de Justicia de Colombia permite que queden las reseñas. Estos pelados quedan reseñados para toda la vida como enemigos de la fuerza pública. Es un estigma para toda la vida. Entonces, cada vez que un Policía los pare en una esquina, va a encontrar que ellos tuvieron problemas con la policía”, señaló el abogado Rubén Darío Acosta. 

El algoritmo de inteligencia artificial, probablemente, también. 

Consulta en la siguiente tabla las respuestas completas de los investigados en esta historia. Cuestión Pública consultó además la versión de la Policía Nacional y del expresidente Iván Duque. De contestar, añadiremos su versión.

 

" data-mce-href="

">

 

 

Esta es una investigación periodística realizada gracias al apoyo del Consorcio para Apoyar el Periodismo Regional en América Latina (CAPIR) liderado por el Institute for War and Peace Reporting (IWPR).

Créditos: Equipo de Cuestión Pública.