“No puedo garantizar la veracidad absoluta de la información que genero”: ChatGPT
El uso de ChatGPT se hace cada vez más popular en redacciones de medios de comunicación de todo el mundo. Sus funciones van desde la corrección hasta la redacción de contenidos, pese a que la misma herramienta reconoce sus limitaciones y sus riesgos. Ilustración: Jhojan Millán – @alverja.caricatura El 9 de julio una usuaria de Twitter (ahora X) publicó un hilo en el que muestra los resultados de haberle preguntado a una Inteligencia Artificial (IA) cómo se verían las Barbies de distintas ciudades de Colombia. Entre el 10 de julio y el 1 de agosto se publicaron al menos 18 notas en medios de comunicación replicando esta información: Semana, El Tiempo, Blue Radio, La FM, El Heraldo y W Radio fueron algunos de ellos. Este es solo un ejemplo de múltiples casos en que los medios de comunicación usan la información generada por la IA como material de publicación, haciéndole preguntas como cuáles son los pueblos o parques más lindos de Antioquia y Colombia, predicciones sobre el fin de la humanidad, soluciones o previsiones sobre el cambio climático o «desentrañar la incógnita ancestral” de si fue primero el huevo o la gallina. Sin embargo, conocedores del tema indican que las IAs generativas de modelo de lenguaje como ChatGPT no están diseñadas para esto. Las inteligencias artificiales generativas El 30 de noviembre de 2022 Open AI lanzó ChatGPT. A partir de este lanzamiento, otras plataformas como Google o Bing se sumaron al mercado incluyendo las inteligencias artificiales en sus motores de búsqueda para optimizar la experiencia de los usuarios. Pero esto no quiere decir que las inteligencias artificiales iniciaran con ChatGPT: al menos desde 1956 se está hablando de inteligencia artificial, pero Open AI fue la primera empresa en ofrecer el acceso gratuito para los usuarios. Según Víctor Vallejo, psicólogo y lingüista computacional de la Universidad de Antioquia, el uso de ChatGPT no es completamente gratuito, pues se sirve de la interacción de los usuarios para entrenarse en una lógica similar a las redes sociales: gratuidad a cambio de datos. Vallejo agregó que para la generación de contenidos con inteligencia artificial hay que tener en cuenta el “sesgo cognitivo” o de programación: las inteligencias artificiales generativas comparten las lógicas neuronales de los seres cognitivos, como los humanos, en su entrenamiento. Así, plantea que “los sesgos cognitivos se pueden referir a las tendencias, inclinaciones, interpretaciones y conclusiones que omiten aspectos de la información en función de una valoración”. Esto puede pasar por condiciones intelectuales, emocionales o fisiológicas que afectan la percepción de la información. Por ejemplo, estar enamorado o tener hambre afecta cómo nos relacionamos con una persona. Un ejemplo de esto es el sesgo que se crea cuando nos quemamos y optamos por, en caso de volverse a presentar la posibilidad, evitar el contacto con la llama. Otro ejemplo podría ser cuando establecemos rutas para llegar de A a B según criterios de velocidad, seguridad o costumbre. Las inteligencias artificiales generativas conversacionales, como ChatGPT, funcionan como una red neuronal: a partir de los entrenamientos y de la información que se le da, la IA genera redes de información a partir de la predicción y, por medio de la supervisión por parte de ingenieros y expertos y a través de la repetición de esas conexiones, se refuerzan las respuestas más cercanas a un “ideal”. Según el profesor, en este punto existen varios problemas. Lo primero es que las IAs tienen un rango de temas muy amplio para la generación de estas conversaciones, por lo que su entrenamiento se dificulta y muchas de sus respuestas no están afinadas. Por otro lado, está la complejidad y la polémica que conlleva tratar temas humanos. Vallejo explicó que “hay unos principios que los ingenieros y sus asesores tratan de establecer: que la IA sea amable, que evite temas polémicos, que procure ciertos valores que consideramos más deseables. Aquí ya hay un sesgo ideológico. Podemos esperar que muchas IAs tiendan a valores liberales, valores de izquierda, que procuran el respeto por la diferencia y la diversidad en oposición a valores más conservadores”, agregó. Escuche aquí la explicación completa, con ejemplos, del sesgo cognitivo. ¿Ǫué tiene que ver esto con las noticias? El País de Cali publicó el 5 de agosto un artículo con el siguiente titular: “Desentrañando la incógnita ancestral: ChatGPT explica quién surgió primero ¿el huevo o la gallina?”. Esta nota expone las respuestas dadas por la inteligencia artificial a esa pregunta. Al final hay una nota que dice que el artículo se creó con apoyo de una inteligencia artificial y lo curó un periodista especializado de ese medio. Diana Ramírez, coordinadora del pregrado de Periodismo de la Universidad de Antioquia y estudiante del doctorado en Comunicaciones y Narrativas de la misma universidad, ha realizado experimentación con ChatGPT como coeditor en la creación de productos informativos como noticias. Partiendo de la nota de El País, explicó que en esta se usa la inteligencia artificial de dos formas diferentes: como fuente de información y como ayudante de redacción. Sobre lo primero, según ella, “no tiene justificación ni esta ni ninguna noticia en la que se le haga a ChatGPT o a otra inteligencia artificial similar cualquier pregunta”. Agregó que “no es una fuente confiable de información y, a pesar de que está alimentada por millones de datos, al igual que Bing o Bard, no son datos que estén curados o que pasen por el criterio de qué es verdad y qué no”. Sobre esto, el profesor Vallejo explicó que “cuando se le plantea una pregunta a la inteligencia artificial se le da un contexto para que responda poniendo una palabra tras otra a partir de cuál es la probabilidad de que una palabra siga a la otra. Esa probabilidad se establece con los textos con que fue alimentada la IA”. Ramírez planteó que “es cuestionable que los periodistas estén acudiendo a este tipo de tecnologías o herramientas sin saber cuál es su uso o sus alcances, y que estén divulgando información basados en ella”. Sobre lo segundo, su uso como
Colegios no seguros, niñas no calladas
Al mediodía del 8 de marzo de 2022 empezaron a circular los videos en las redes sociales. Las estudiantes, con uniformes de faldas verdes, sostenían carteles en contra de la violencia sexual en sus aulas y cantaban con fuerza arengas en el patio de su colegio. “La escuela encubridora es una aliada violadora”, gritaban. “El Cefa es encubridor”, se leía en una de las pancartas. Ese día, al caer la tarde, estudiantes, egresadas, madres de familia y amigas lograron que la marcha del Día de la Mujer llegara hasta el Centro Formativo de Antioquia (Cefa), un colegio público femenino del centro de Medellín. La intención de llevar la marcha hasta esa institución era apoyar las denuncias que las estudiantes hicieron públicamente esa tarde y que señalaban a su profesor de Educación Física, Carlos Mario Jaramillo, quien llevaba 17 años trabajando allí. Según ellas, Jaramillo las acosaba con comentarios sexuales y las directivas no hacían nada al respecto. Las protestas en el Cefa duraron un par de días y desataron una ola de plantones y marchas de estudiantes de diferentes colegios del Valle de Aburrá. En arengas, canciones y carteles las jóvenes manifestaron que sus colegios no eran –y tal vez jamás habían sido– lugares seguros para ellas. Algunos medios de comunicación difundieron las denuncias y el Concejo de Medellín cuestionó el silencio de la Secretaría de Educación. Lo que pasó esos días encendió la rabia de muchas estudiantes conscientes de que el acoso sexual no es normal. Sin embargo, tan pronto como estalló el ruido mediático fue perdiendo fuerza y el tema desapareció de las redes y los noticieros. No hubo más preguntas. Mucho menos respuestas. Las conversaciones se apagaron en los claustros. La problemática de acoso y abuso sexual en entornos escolares continúa … en silencio. Secreto a voces El 6 de marzo de 2022, Valeria Moncada, estudiante de la Licenciatura en Filosofía de la Universidad de Antioquia, publicó un video en Facebook con la siguiente descripción: “Presto mi voz a estas chicas que hoy tienen miedo de hablar”. En el video, Moncada denunciaba, sin mencionar nombres, a un profesor del Cefa por acoso sexual y anunciaba que un grupo de mujeres llevaría a cabo un plantón a las afueras de la institución al final de la marcha del 8M. Esa fue una de las primeras veces que se escucharon públicamente comentarios entre estudiantes y egresadas. Unos días antes, un par de estudiantes del Cefa, integrantes de un grupo de scout, la buscaron para preguntarle qué podían hacer porque no se sentían cómodas ni seguras con un profesor. Aunque Moncada no estudió en esta institución, hace parte de la Colectiva Scout Feminista Olave y las estudiantes vieron en ella una persona de confianza que podía guiarlas. Moncada empezó a recoger testimonios. Esa semana llegó a recibir hasta 30 mensajes diarios de jóvenes confirmando lo que denunciaban sus compañeras y señalando a otros docentes. A partir de esos mensajes, Moncada empezó a tender puentes entre las estudiantes y algunas personas que les podían ayudar, como las integrantes del partido Estamos Listas y las secretarías de Inclusión y de las Mujeres de Medellín. De acuerdo con el programa Entorno Escolar Protector de la Secretaría de Educación de Medellín, en lo que va de 2022 se han reportado 276 casos de violencia sexual solamente en instituciones públicas: 180 por abuso sexual, 68 por acoso, 24 por ciberacoso y tres por explotación sexual y trata de personas. También se han autorizado 91 trasladados de docentes como medida preventiva. En el ámbito nacional, el Ministerio de Educación Nacional reportó 876 casos de presunto abuso en entornos escolares entre enero de 2018 y febrero de 2022 en todo el país. De estos, 65 han sido sancionados, 127 han sido archivados y 684 están en investigación. En 2013, se creó el Sistema Nacional de Convivencia Escolar por medio de la Ley 1620. Esta norma establece la conformación de comités escolares de convivencia con la función de activar las Rutas de Atención Integral cuando se conozcan hechos que afecten la convivencia escolar y garantizar la atención inmediata cuando se afecte la salud física y mental de las y los estudiantes. Cuando se trata de situaciones tipo III (también nombradas como “faltas gravísimas” en muchos manuales de convivencia) es el rector o la rectora quien tiene la obligación de hacer la denuncia ante la Fiscalía General de la Nación y la Policía de Infancia y Adolescencia. Esta misma ley establece sanciones a los actores de los comités de convivencia si omiten, obstruyen o se retrasan en la activación de estas rutas. Recientemente, la Directiva 01 del 4 de marzo de 2022 expedida por el Ministerio de Educación Nacional, orienta sobre cómo debe ser la atención a violencias sexuales en entornos escolares. Menciona que la atención no debe revictimizar y debe evitar acciones discriminatorias por estereotipos de género; además, establece el derecho a la no confrontación de las víctimas con sus presuntos agresores. A pesar de esas normas, la realidad en las instituciones es otra. “Los establecimientos les dan la espalda a sus estudiantes y se vuelven sus enemigas, cuando deberían ser sus aliadas”, opina Fernanda Herrera, cofundadora de Bolívar en Falda, colectivo que asesora legal y pedagógicamente a estudiantes en temas de violencia sexual y de género. En muchas ocasiones, las directivas desestiman las denuncias, no les creen a las víctimas, no toman ninguna medida o incluso culpan a las denunciantes cuando son víctimas de comportamientos sexuales no consentidos. Los rumores sobre Jaramillo no empezaron en marzo. El 31 de enero de 2022, una estudiante del Cefa radicó un derecho de petición sobre este docente. Según las estudiantes, la respuesta de la rectora fue excusarse en que no estaba dentro de sus facultades. El 9 de marzo, las estudiantes compartieron en redes algunos testimonios en los que señalaban los comportamientos y los comentarios sexistas del profesor. Uno de ellos decía: “Cuando eran las clases de piscina, en los calentamientos, nos sentíamos muy incómodas por la posición en la