El miedo conocido y las inteligencias desconocidas

El miedo a una página en blanco, ese bloqueo que conoce cualquiera que haya tenido que comenzar un documento desde cero, empieza a convertirse en una experiencia poco frecuente. Hoy basta una instrucción para que una herramienta digital recurra a un inmenso acervo de información y nos devuelva, en cuestión de segundos, un texto con aparente sentido. Quizá algún día esa angustia de no saber cómo empezar nos resulte tan extraña como ahora lo son las enciclopedias en papel y las máquinas de escribir.Hay algo inherentemente humano en esa primera incomodidad frente al vacío. Antes de escribir necesitamos pensar, ordenar ideas, hacer memoria, revisar datos, discutir con alguien que puede que nos contradiga y, muchas veces, descubrir que aun no sabemos exactamente qué queremos decir. Esa pausa, ese lapso de tensión, también era parte del proceso mediante el cual una idea comenzaba a tomar forma. Hoy podríamos saltarnos buena parte de ese momento. Una instrucción escrita en un computador basta para obtener un texto y continuar.

Las llamadas inteligencias artificiales generativas no llegaron necesariamente a nuestras organizaciones como una decisión institucional. Se han introducido en nuestra cotidianidad haciendo “trabajo de hormiga” no intencional: una persona las utiliza para traducir un documento, otra para ordenar las notas de una minuta de reunión, alguien crea un mensaje de correo con ella y otra genera una imagen para una campaña o una presentación. En ocasiones la decisión estuvo mucho más lejos, cuando se utilizan aplicaciones de ofimática o diseño gráfico que capturan todos los contenidos elaborados para alimentar sus “modelos de lenguaje”, a veces sin alertar más allá de los -casi nunca leídos- términos de uso.

Es fácil entender por qué esta innovación resulta atractiva. Usualmente somos equipos pequeños, hacemos mucho con poco y casi siempre el tiempo es un bien escaso. Una herramienta que traduzca ágilmente, ordene información, ofrezca automatizar una tarea tediosa y repetitiva o nos ayude a iniciar un documento puede liberar tiempo para un acompañamiento más, hacer la llamada que tenemos pendiente desde hace varios días o simplemente tomar un momento para descansar. Precisamente por eso es que vale la pena detenernos un momento a reflexionar qué podríamos ganar y qué estamos poniendo en juego frente a todas estas conveniencias.

Una IA puede producir un texto convincente sin que sepamos si está correcto, pero si no es así la responsabilidad del error no la asumirá ésta. ¿Tenemos la capacidad y el tiempo para distinguir una respuesta convincente de una fiable, en un campo de conocimiento que tal vez no es el nuestro? Los casos de profesionales que han presentado documentos jurídicos con decisiones inexistentes, citas inventadas y referencias falsas muestran qué puede ocurrir cuando nos confiamos demasiado. En Estados Unidos, en el caso Mata v. Avianca, abogados presentaron ante un tribunal estadounidense decisiones judiciales que no existían y fueron sancionados por ello (1). En 2026, en el mismo país, un tribunal volvió a ocuparse de un caso en el que juristas presentaron escritos con casos inexistentes y citas falsas generadas con estas herramientas (2). La tecnología puede producir el texto, pero somos las personas quienes terminamos firmándolo y respondiendo por él.

En nuestro ecosistema de defensa de derechos y justicia social, el tema se complica un poco más. Porque cuando desde una organización se producen textos, no solo se hace un traslado de información. Realmente estamos produciendo interpretaciones de la realidad desde nuestras experiencias y contexto, en base a información que nos compartieron porque existen relaciones de confianza, o desde memorias colectivas que no son fuentes escritas precisamente. Y porque reconocemos que además del conocimiento escrito hay otros que viven en las personas y otros que surgen de las relaciones entre ellas. No podemos dejar el rol interpretativo a una herramienta que a la fecha es incapaz de acceder a esas dimensiones cognitivas y relacionales. Las tradiciones orales, diferentes cosmovisiones, memorias políticas o experiencias territoriales pueden incluso ver trastocado su significado si se intentan convertir en datos. Es decir, el conocimiento que nos sirve para producir está ligado a quién lo produce, desde qué contexto social e histórico se formula y a las relaciones de poder que determinan su conservación, interpretación o utilización colectiva. En tanto ello, un conocimiento que no sea abierto y compartido democráticamente debería producirnos algo de suspicacia.

Imagen generada con IA que representa Petirrojos Europeos (Erithacus rubecula). La imagen ejemplifica las denominadas «alucinaciones» de los modelos generativos, a saber, distorsiones y elementos inadecuados que revelan la incapacidad estructural de estas herramientas para comprender la realidad que intentan representar. Fuente: Gemini AI.

Sabemos que estos modelos de lenguaje o inteligencias artificiales han sido entrenadas con ciertos datos que re-producen sesgos: patriarcales, racistas, económicos y de clase, etc. Cuando se delega a una herramienta -desarrollada desde otros contextos culturales, idiomas y tradiciones intelectuales- la interpretación de las realidades específicas de los contextos de la Mayoría Global, podemos estar dejando de lado aquellos aprendizajes que surgen en lo colectivo, cuando nos reunimos y escuchamos, discutimos, comparamos experiencias o reconocemos interconexiones. Buena parte de este conocimiento que sostiene y vincula nuestros ecosistemas de sociedad civil, podría reducirse paulatinamente, porque ¿no sería más fácil crear algo en minutos usando la IA que tardar varias horas construyéndolo colectivamente?Y qué pasa con la información y datos que se introducen en estas plataformas. Igual que preguntamos quién puede acceder a una comunicación digital, dónde se almacena y bajo qué jurisdicción, necesitamos hacer estas preguntas cuando utilizamos inteligencia artificial. Ante información sobre personas defensoras, investigaciones sensibles o estrategias de protección, necesitamos hacer un alto y primero conocer quién puede acceder al contenido, cuánto tiempo permanece almacenado y cómo será procesado, antes siquiera de confiar datos sensibles. Ésta podría ser una línea roja en el sector de Sociedad Civil.Pero tampoco ignorar o prohibir podría ser una solución adecuada que resuelva la complejidad a la que nos estamos enfrentando. Si las personas continúan utilizándolas por su cuenta, sin criterios comunes ni acompañamiento en seguridad digital, la adopción sumergida puede generar más riesgos que una implementación visible y consciente. Por ello quizá el siguiente paso podría ser comprender dónde y cuando se está utilizando y qué información se le está brindando. En algunos casos será necesario discutir qué procesos realmente podrían mejorar y en cuáles se introducen mayores riesgos que los actuales, así como definir claramente qué información no debe salir de la organización o del ecosistema. De nada sirve que una entidad aislada regule el tema cuando otra aliada procesará esos datos con herramientas no acordadas previamente. También supone mantener la responsabilidad humana sobre todo aquello que producen.

La discusión tampoco puede reducirse a la productividad. Cada herramienta implica costos, dependencia tecnológica y nuevas formas de concentrar conocimiento e infraestructura en unas pocas empresas. Para organizaciones que históricamente han defendido la autonomía tecnológica y el control sobre sus propios procesos, esta pregunta resulta especialmente relevante.

En cuanto a nuestro desarrollo organizacional, la pregunta de fondo es qué capacidades estamos fortaleciendo y cuáles podríamos estar dejando de cultivar al incorporar la IA sin criterios comunes. El tiempo que ganamos al automatizar una tarea puede ser importante; pero también necesitamos considerar qué ocurre cuando la herramienta comienza a sustituir procesos que sostienen nuestra memoria institucional, nuestro criterio profesional y nuestra capacidad de construir conocimiento colectivamente. Y saber que en algún momento nos podrá hacer dependientes de esa herramienta para funcionar adecuadamente.

Esta capacidad de adaptación también forma parte de nuestra resiliencia organizacional. Hemos aprendido a responder a cambios y amenazas fortaleciendo prácticas construidas desde nuestras propias experiencias locales y regionales. Incorporar nuevas herramientas debería ampliar esa capacidad, no desplazar los conocimientos, criterios y formas de trabajo que hemos construido colectivamente. Adaptarnos a una nueva realidad también implica reconocer qué fortalezas necesitamos conservar y proteger.

Ya sea que adoptemos o no la IA en nuestras organizaciones, como el dinosaurio del cuento, cada vez que despertemos estará allí. Tal vez pronto descubramos con nostalgia que la página en blanco no era solamente una molestia: también era una pausa para reflexionar antes de encontrar las palabras para crear. El miedo podría mutar paradójicamente: varias páginas pueden aparecer llenas de contenidos, en segundos, que tendremos que revisar, validar y corregir cuidadosamente antes de intentar hacerlos nuestros. Si es que se puede.

Y quizá aparezca otro miedo, más material, que detrás de cada clic y de cada consulta exista un impacto adicional que no hemos tomado en cuenta aún. La IA necesita centros de datos que consumen agua y electricidad, ocupan territorio y demandan grandes cantidades de recursos (3). Por eso, cuando hablemos de estas herramientas, también tendremos que preguntarnos, además de qué capacidades queremos conservar y qué información tenemos el permiso y la disposición a entregar a estas compañías, qué costos críticos se trasladarán a otros territorios y comunidades. Esa será, quizá, una de las conversaciones pendientes para la próxima vez que hablemos de IA: incorporar los derechos digitales y pensar estrategias para promover tecnologías diseñadas en función de los intereses de las personas y las comunidades, y no en contra de ellas.

Autor: Jacobo Mogollón Villar
Coordinador Protección Digital 

Fuentes Consultadas

1. Midpage. ‘Mata v. Avianca, Inc., 678 F.Supp.3d 443’. 22/06/2023. https://app.midpage.ai/document/mata-v-avianca-inc-10352027.

2. EEUU, Noveno Circuito,2026. https://law.justia.com/cases/federal/appellate-courts/ca9/24-4790/24-4790-2026-06-03.html

3. United Nations University. ‘Environmental Cost of Artificial Intelligence: Carbon, Water, and Land Footprints’. Accessed 10 August 2026. https://unu.edu/inweh/collection/environmental-cost-of-AIs-Enrgy-Use-Carbon-water-and-land-footprints.