Foto por Ruta Celma
¿Has oido hablar de la “crisis de confianza” general que viene con las IA generativas? Se refiere a la falta de confianza de la gente en los textos que lee y las imágenes que ve, y también a la desconfianza entre las personas.
Pero hoy te quiero hablar de lesos “LLMs” (siglas en inglés para “Large Language Models”) cómo están degradando la confianza que tenemos en nuestras propias capacidades y en el valor que tiene nuestro trabajo.
Mi intención con esto es que si te encuentras en una situación similar, puedas tomar decisiones informadas, desde una reflexión crítica.
Y para eso, te quiero contar un caso real: el de una investigadora que está en un máster de antropología en un programa prestigioso en Latinoamérica, y con las que actualmente estamos trabajando en mentorías de acompañamiento individual. La llamaremos Aurora (es un nombre ficticio).
Ella tiene un recorrido que se parece al de muchas personas que se acercan a trabajar conmigo. Es la primera de su familia en llegar tan lejos en su carrera académica, le encanta la investigación, y proyecta un futuro en la academia. Tiene muchísima experiencia laboral relacionada con el tema que está investigando. También tiene una buena relación con su director de tesis de máster.
Por diferentes motivos, Aurora se acerca a mis mentorías porque se siente bloqueada a la hora de escribir su tesis. Como es clásico, su director de tesis intenta darle seguridad diciéndole que “sólo tiene que escribirlo”, y que le envíe “lo que sea” para comenzar.
Ella lleva varios años investigando este tema, y ha redactado trabajos para asignaturas, y otros textos aterrizando ideas. Tiene, también, muchísimo material de campo (diarios de campo, entrevistas), que ha ido acumulando a través de los años.
Después de un par de conversaciones, me quedó claro que una de las líneas clave de nuestro trabajo es el fortalecimiento de esa confianza en el valor de su propuesta, de lo que ella quiere hacer visible a través de su trabajo de campo etnográfico. Y desde ese acto de confianza, y gracias a un método de desarrollo de manuscrito, lanzarse a desarrollar el suyo, su tesis de máster.
Y esto de fortalecer la confianza para lanzarse a hacer una propuesta a través de textos se hace de diferentes maneras, que al menos inicialmente, toman su tiempo. Este tiempo, muchas veces, entra en tensión con la impaciencia que viene de la necesidad de ver resultados acabados (spoiler, en su caso, ver estos resultados en forma de un documento tardó 1 mes y medio en ocurrir).
La alenté a que con ciertas herramientas afianzara primero cuál es su objeto de estudio, y el objetivo o pregunta de investigación que se podía formular a partir de ese objeto de estudio.
Más o menos a la tercera semana de haber comenzado a trabajar juntas, Aurora había producido lo que llamo un “documento brújula”, y tuvo una reunión con su director de tesis. Y Aurora, seguramente sintiendo que no era suficiente avance un documento en borrador donde ella enunciaba lo que quería proponer en su tesis, le comentó durante la reunión que quería entregarle el marco teórico de su trabajo, pero que tenía mucha información en la cabeza.
Su director de tesis, también seguramente con buenas intenciones, le dijo “pídele a Perplexity que te haga una propuesta, la editas, y me la pasas”. Perplexity es un LLM que hace búsquedas en internet, y ofrece resúmenes de textos, citando la fuente. Y ella me comentó, en nuestra siguiente sesión, que la máquina le había lanzado frases muy generales, que tampoco llegaban a lo que ella creía se conectaba con su propuesta, que ya debía ir más profundo y con más detalle en describir el marco epistemológico, y las definiciones teóricas de los conceptos clave de su investigación.
Se daba cuenta de que en realidad, esta herramienta no le había solucionado el problema, que además implicaba dedicarle horas a aprender a usar la herramienta, y otras tantas a editar o aprovechar de alguna manera lo que la máquina le lanzó.
Y aquí llego al quid de la cuestión: su director, al pedirle a Aurora que ponga el proceso en manos de una herramienta tecnológica con la que además hay que aprender a interactuar, y que funciona eligiendo puntos de información o “data points” según un criterio de plausibilidad estadística, y no “pensando”, está diciéndole que deje de intentar entrenarse, y que en vez de eso, dedique su tiempo a aprender una herramienta (lo cual es un proyecto en sí mismo), que le impedirá aprender a hacer lo que le está pidiendo a la máquina, en este caso, un marco teórico (recordemos que ella proyecta un futuro en la academia). Además, les está pidiendo que confíe en el criterio de selección de ideas de la máquina, un criterio de plausibilidad, en vez de fortalecer su propio criterio como investigadora.
En cierta manera, y desde mi punto de vista, sin decirlo directamente, está subestimando sus capacidades, que es lo contrario a lo que ella necesita, no sólo para poder escribir su tesis, sino para que esto le abra oportunidades en la academia.
Y por otro lado, esta idea que nos han vendido de que estas herramientas “nos ahorran tiempo” no es verdad. Y para personas que se están formando y están formando su criterio como investigadoras en un proceso de aprendizaje que es completamente normal, les refuerza la idea de que sí que deberían ir más rápido aprendiendo a hacer solas ciertas cosas, sin guía específica sobre cómo se hacen, y encima, que confíen en el criterio de una máquina que supuestamente “piensa” por ellas.
Y la realidad, es que la máquina ni ahorra tiempo, ni tampoco piensa, elige puntos de información que la misma Aurora consideraba superficiales, y que no transmitían lo que ella quería decir. Todo esto, además, abriendo la puerta a que la máquina le dictara qué hacer con el poco tiempo del que dispone para la investigación (editar lo que le lanza la máquina).
Los seres humanos, recordemos, no pensamos o creamos basándonos en un cálculo probabilístico, sino eligiendo ideas y cruces entre ideas que vienen de nuestro criterio y punto de vista como investigador+s, de nuestro espíritu crítico. Y el criterio propio y el espíritu crítico son sensibles al contexto social, cultural, político, y también al contexto específico de investigación en términos científicos o teóricos, así como al contexto en el que luego esa investigación tendrá, muy seguramente, un impacto.
Aurora, después de nuestra sesión de trabajo, y de haberle explicado de principio a fin el proceso por el que yo la estaba llevando, para legitimar su impaciencia con respecto al proceso, que viene de su necesidad de ver los resultados en forma de documentos, siguió con el plan que habíamos trazado inicialmente.
Aurora pudo aterrizar el índice entero de la tesis a partir de ese trabajo inicial de aclarar su objetivo de investigación y objetivo de la tesis, teniendo una visión panorámica y una dirección general para la tesis, que le ayudaría, a posteriori, elegir qué ideas era importante incluir en su marco teórico, además, simplificando muchísimo su forma y contenido con respecto a lo que ella pensaba tendría que ser.
En la última sesión que tuvimos (esta semana), también seleccionó de forma clara los materiales de campo, y las líneas de análisis para ese material. Aurora comenzó la sesión diciéndome: “Finalmente decidí dejar de lado ese ejercicio con Perplexity y centrarme en lo que yo ya sabía”. Y cuando me comentó su última versión, super concreta, del índice de la tesis, me dijo “me di cuenta de lo que tengo que mostrar”. Creo que se me notó la emoción de ese momento en el que ella, con esas frases, y el borrador que me envió, en el que se veía claramente su criterio analítico y sus elecciones teóricas, demostraba que estaba confiando en su trabajo, y el valor de su propuesta.
Esta situación indica, desde mi punto de vista, una dimensión importante de la relación entre las IA generativas o LLMs, y la pérdida de confianza. La del director en su propia capacidad de guiar en una dificultad particular a su investigadora en formación, la de Aurora en su propia capacidad, y en que la investigación y la escritura funcionan según unos ritmos orgánicos, los del aprendizaje, la creación, y la generación de conocimiento. No estamos sacando churros.
Te animo a que no permitas que ese aparente “”facilitar”, delegar”, y ese “ahorrar tiempo”, hagan mella en tu proceso de aprender cosas difíciles que en un futuro serán tu fortaleza, y hagan mella en una de las cosas más importantes que tenemos para tener una buena vida, que es la de confiar en nosotr+s mism+s, y en nuestro criterio.