La cuestión es quién identifica los problemas que merecen ser investigados, quién decide por qué son importantes, quién construye el método para abordarlos, quién se responsabiliza de los hallazgos.
Tomado del portal Aunhumanos.
Para abordar esta pregunta hay, por lo menos, dos caminos. El primero es ingresar a las discusiones filosóficas y académicas que intentan hacer diagnósticos y generar algún tipo de reflexión crítica sobre dicha posibilidad. El otro es el camino de la experimentación. Por supuesto, al final ambos caminos se relacionan permanentemente, pero no siempre ocurre así.
La verdad es que muchos/as profesores/as se han quedado en la reflexión, pero pocas veces han avanzado hacia el uso práctico, o hacia un uso práctico profundo, que permita realmente comprobar si funciona o no la inteligencia artificial como una herramienta favorable al ser humano.
Evidentemente, si hablamos simplemente de entregar un artículo, un ensayo o una reflexión académica, la inteligencia artificial lo puede hacer. Y lo puede hacer de una forma muy convincente, de manera tal que quien lo lea puede quedar satisfecho con el resultado. Pero, seamos sinceros, la producción de conocimiento no son los artículos, libros o reflexiones críticas. Estos son productos naturales de algo más importante que es generar una reflexión o un nuevo conocimiento que sea real, que sea producto de un proceso de investigación y que sirva para comprender o transformar alguna dimensión de la realidad social, humana, biológica o tecnológica.
Es decir, el objeto de contemplación que es el artículo no tiene ningún sentido si lo que contiene allí no es el producto real de un proceso orientado a comprender o solucionar algo.
Cuando asumimos esta premisa, estamos hablando de un cambio en la forma en que interpretamos el uso de la inteligencia artificial.
Quienes definen —o deberían definir— los problemas de investigación son los seres humanos que tienen un contacto directo con su sociedad y una responsabilidad ética y política con su entorno, con su historia, con sus familias y con sus comunidades. La identificación de problemas de investigación es un duro ejercicio para determinar algo que necesitamos comprender o resolver en nuestra sociedad, bien sea en el campo del derecho, de la medicina, de la biología, de la ingeniería o de cualquier otra área del conocimiento.
Porque, en el fondo, lo que busca la investigación es aportar soluciones, visiones, caminos u oportunidades para que podamos tener una mejor vida y un mayor bienestar.
Por eso somos nosotros quienes tenemos que guiar las preguntas. Las preguntas pueden referirse a realidades objetivas, pero no son neutrales. En consecuencia, en la primera semilla de la investigación existe una responsabilidad ética y política del investigador, que identifica o trabaja por identificar una situación difícil o problemática de su realidad desde el área del conocimiento a la que pertenece.
Una tecnología extraordinariamente poderosa
Luego aparece la inteligencia artificial como una tecnología aceleradora que, efectivamente, es muy poderosa. Puede procesar enormes cantidades de datos gracias a modelos entrenados con cantidades gigantescas de parámetros y, además, ya tiene la capacidad de buscar información en Internet o leer documentos que le entregamos, sin importar si son textos, imágenes, audios o videos.
Es muy difícil que nuestro cerebro pueda hacer lo que hace esta herramienta, como es muy difícil que nuestros brazos puedan hacer lo que hacen los brazos mecánicos o robotizados, o que podamos trasladarnos a la velocidad que lo hace un avión, un carro o un helicóptero.
Esta tecnología, por supuesto, es disruptiva en la medida en que puede generar información relacional a partir de enormes conjuntos de datos y, además, posee una característica que nos ha definido a los humanos durante toda nuestra existencia y que nos ha permitido llegar hasta donde estamos, para bien o para mal, que es la comunicación.
La inteligencia artificial puede comunicarse en nuestro idioma y mediante lenguaje natural, de manera tal que esa comunicación puede hacerse fructífera. Si la inteligencia artificial hablara en un lenguaje cifrado que nosotros no pudiéramos comprender, no tendría mayor sentido para nuestros procesos. Precisamente porque podemos interactuar con ella estamos ante una herramienta extraordinariamente poderosa.
Pero, una vez definido el problema de investigación que pretendemos abordar —o incluso una vez intuido—, la inteligencia artificial puede jugar un papel importante. Puede ayudarnos a definirlo mejor porque cuenta con datos con los que probablemente nosotros no contamos y puede ofrecernos perspectivas que no estamos viendo. Si usamos varias inteligencias artificiales diferentes, incluso podemos acceder a información y perspectivas derivadas de entrenamientos distintos. Por lo tanto, podemos sumar datos y puntos de vista a nuestra reflexión.
El conocimiento no se produce mágicamente
Nada de esto sucede mágicamente.
A veces pensamos lo contrario cuando vemos que el resultado de una interacción con la inteligencia artificial es un artículo científico que ella misma puede crear y que, a primera vista, parece perfectamente elaborado, sin importar incluso que lo que diga sea cierto o no.
Pero el proceso del conocimiento no es mágico.
Pensemos en dos científicos de disciplinas abordando el mismo problema de investigación. Un especialista en energía atómica que intenta realizar una investigación sobre la participación de los átomos en determinados procesos no va a llegar al mismo resultado que si lo hace un abogado especialista en derecho de familia, aunque ambos estén utilizando exactamente el mismo servicio de inteligencia artificial y el modelo más avanzado disponible.
Para mí, este es el punto central. El conocimiento que producimos utilizando múltiples herramientas —la inteligencia artificial, las bases de datos digitalizadas, los buscadores o los programas de análisis de datos— debe apuntar a problemas de investigación conscientemente construidos (en resaltado) y abordados desde una posición ética y política (aún más resaltado), entendiendo aquí por política algo tan elemental como el hecho de vivir juntos.
Existe una responsabilidad inmensa cuando utilizamos estas herramientas para buscar una solución que realmente pueda existir. La responsabilidad sobre el resultado es supremamente grande.
Usualmente ese resultado se plasma en un artículo científico, pero lo verdaderamente importante no es el artículo. Lo que importa es el contenido que hay allí y que está mostrando los hallazgos que hemos identificado, las discusiones que hemos generado alrededor de esos hallazgos y las conclusiones a las que hemos llegado.
Y es precisamente por esto que la inteligencia artificial debe convertirse en un elemento clave dentro del método, o incluso dentro de prácticamente cualquier método de investigación. Y así debería quedar declarado desde el principio del proyecto.
Los agentes tienen la capacidad de buscar información en archivos, sistematizarla, organizarla y clasificarla en carpetas. Tienen la capacidad de contextualizar la información que identifican, hacer resúmenes y apoyar procesos de revisión de literatura científica. Empiezan, por tanto, a aportarnos más información y a hacerlo mucho más rápido.
Pero hoy, como ayer, necesitamos al investigador.
El investigador es el responsable y el garante de que la información utilizada para una investigación sea apropiada, real y verdadera. En el pasado, algunas investigaciones llegaron a conclusiones importantes o revelaron hallazgos utilizando información que después resultó ser errada; algunas veces porque no había forma de descubrir el error y otras porque no existían los instrumentos para saber que esa información era equivocada. Por eso el criterio epistémico del investigador, su posición y su conocimiento siguen siendo fundamentales.
No podemos delegar la investigación a quien no tenga conocimientos de base en el área específica para realizarla. Y no me refiero solamente a tener un título universitario. Las comunidades campesinas, por ejemplo, pueden hacer investigación sobre problemas específicos porque conocen profundamente su entorno y pueden apoyarse en la inteligencia artificial. Precisamente ese conocimiento les permite guiarla, ya que saben lo que buscan y pueden validar lo que encuentran.
Sería un suicidio para la sociedad delegar todo el proceso de investigación a la inteligencia artificial. Y no solamente me parecería un suicidio, sino también algo bastante absurdo, porque en el fondo estaríamos diciendo que queremos hacer investigación para tener artículos, pero no para responder o enfrentar nuestros problemas de verdad.
La investigación discute asuntos que afectan el destino histórico del planeta, de los seres humanos, de los animales, de la biología, de nuestras relaciones y de nuestro lugar en el mundo. Para eso están los investigadores, de lo contrario, apague y vámonos.
Una experiencia que me hizo cambiar la manera de trabajar con IA
Tengo múltiples ejemplos de lo que sucede cuando usamos la inteligencia artificial sin tener un conocimiento experto. Voy a contar uno sencillo.
Cuando comencé a experimentar, estaba emocionado al ver el trabajo que podían hacer los agentes de IA con su trabajo autónomo, los flujos de trabajo y los resultados y productos que podían entregar. Decidí entonces hacer una primera prueba creando un agente que hiciera vigilancia científica en diferentes áreas del conocimiento.
Construí prompts y le proporcioné algunas habilidades para que pudiera salir a buscar información y construir un boletín que luego pudiéramos socializar entre los investigadores, de manera que en cada área identificaran convocatorias, nuevas tendencias y otra información relevante. La idea era ofrecerles una herramienta rápida para mantenerlos actualizados sin necesidad de que cada investigador tuviera que realizar permanentemente la tarea de buscar información.
En efecto, recibimos un boletín relativamente agradable en su diagramación y con contenidos que parecían corresponder a las diferentes áreas del conocimiento. A primera vista estaba conforme con lo que tenía y todo el flujo de trabajo lo hizo solo mientras tomábamos café.
Pero después me senté con algunos amigos y les pedí que comenzaran a revisar estos boletines para identificar posibles fallos. Y empezamos a encontrar problemas importantes.
Lo primero que notamos fue que nuestra orientación, es decir, la orientación que le habíamos dado al agente, era muy pobre. Esperanzados en que se trataba de una inteligencia artificial superior y que tenía la capacidad de tomar decisiones por sí misma sobre los lugares en los cuales debía buscar, descubrimos que había consultado fuentes que no eran las mejores, ni las más pertinentes para lo que necesitábamos. De hecho, había omitido algunos lugares claves que una exploración manual especializada difícilmente habría dejado por fuera.
Además, nos dimos cuenta de que le faltaba criterio para comprender la información que estaba trayendo. Al repetir varios boletines descubrimos también que se había quedado atascada en una especie de bucle alrededor de la misma información y que ya no tenía capacidad de ir mucho más allá.
Trabajamos un buen tiempo sobre este proceso y llegamos a la conclusión que la inteligencia artificial lo que entrega casi siempre se ve maravilloso. Se ve muy bien porque efectivamente trae cosas interesantes. Pero después, cuando comenzamos a revisar profundamente el resultado, descubrimos que constituye un gran error entregar apenas unas instrucciones y esperar que la inteligencia artificial haga correctamente todo el trabajo.
El verdadero trabajo comienza con al experticia humana
El primer trabajo consiste en crear instrucciones muy detalladas. Y para que sean realmente detalladas, la persona debe saber, en este ejemplo, sobre vigilancia científica. Debe conocer el entorno, los escenarios, el mundo de la investigación y las necesidades de las diferentes áreas.
Dicho de otra manera, necesita conocimiento especializado para poner a funcionar correctamente la inteligencia artificial, de manera que esta se convierta en una herramienta realmente útil y no solamente en un maquillaje que, al principio, se ve como imaginamos el resultado.
Lo segundo es que, por más especialista que sea una persona y por buenas que sean las instrucciones que pueda dar, debe generar un proceso de iteración de largo aliento con la inteligencia artificial, intentando afinar diferentes aspectos. Y esto consume un tiempo considerable. No es tan sencillo como parece; todo lo contrario. Si con el paso anterior no se ha eliminado la magia de la IA, pues en este paso si que se acabará porque el trabajo es arduo, se necesita de real concentración y poner el conocimiento experto a disposición. Eso casi nunca se logra el mismo día en un proyecto serio y de largo aliento.
Algo igualmente importante es pedirle que vaya guardando una memoria de esa interacción y de las decisiones que se van tomando. Por eso fui encontrando muy importante trabajar con versiones de escritorio que pudieran guardar información en carpetas y actualizar las memorias, la bitácora del trabajo y las decisiones adoptadas. Esto también puede hacerse en la nube, pero lo importante es que tengamos una memoria propia del proyecto en el que estamos trabajando para ir acumulando documentos, interacciones y decisiones. A esto lo llamaría como una gobernanza metodológica del trabajo.
Entonces, aquello que parecía mágico, en efecto, no lo era. Y no lo será.
Si realmente queremos entregar trabajos y productos que tengan un impacto real en la sociedad y que sirvan para algo, no podemos delegar en la inteligencia artificial la responsabilidad por los resultados.
Insisto: hacerlo sería un suicidio para la sociedad porque, primero, estaríamos perdiendo la confianza en los aportes del conocimiento humano, pues ya no podríamos distinguir cuándo un conocimiento es realmente útil y cuándo es una ficción; y, segundo, porque podríamos terminar creando el relato de una realidad inexistente, una realidad simplemente “imaginada” por una inteligencia artificial.
La inteligencia artificial también exige un método
La interacción, la construcción de buenas instrucciones, la sistematización de las discusiones, la gobernanza que vamos construyendo con la inteligencia artificial dentro del proyecto y el trabajo de largo aliento constituyen, en sí mismos, un trabajo metodológico.
Es algo que nosotros ya hacíamos cuando buscábamos e interactuábamos con los documentos que íbamos encontrando durante las investigaciones y decidíamos la forma en que los sistematizábamos y codificábamos. Lo que ocurre es que con la inteligencia artificial podemos hacerlo mucho más rápido.
Pero, además, necesitamos un método de trabajo con la propia inteligencia artificial.
Con frecuencia es necesario crear una habilidad que ayude a verificar las fuentes. Necesitamos otra habilidad que ayude a encontrar vacíos en la gobernanza metodológica que vamos elaborando o en los pequeños borradores que vamos construyendo durante los diferentes pasos. Es decir, necesitamos un equipo de habilidades diferentes o, si queremos automatizar determinados trabajos, crear diferentes agentes que tengan roles específicos.
Entonces, el uso de la inteligencia artificial es, en sí mismo, parte del método en la producción del conocimiento.
Y puedo decir que algo semejante sucede en los procesos de aprendizaje. No es lo mismo estar guiado por un docente especialista en un tema, que nos posibilite utilizar una inteligencia artificial y nos enseñe a usarla correctamente, que simplemente iniciar desde cero y confiar en respuestas simples. En este último caso, el estudiante corre el riesgo de no formarse realmente en aquello que pretende aprender, pero el tema de la docencia y el aprendizaje lo dejaremos para otra ocasión.
No hay magia
Finalmente, considero que el uso de la inteligencia artificial dentro de mis procesos de investigación, en mis labores administrativas o en la gestión de mis tareas cotidianas exige conocimiento especializado y tiempo de elaboración para que funcione correctamente, o al menos lo mejor posible.
La inteligencia artificial exige que pueda gestionar bien los diferentes agentes, que pueda construir correctamente las famosas skills, que sepa cuándo utilizar el chat clásico, cuándo trabajar en entornos de trabajo colaborativo o cuándo trabajar directamente con código, especialmente cuando quiero traducir mis investigaciones en aplicaciones o modelos que sean operativos.
Entonces, toda aquella idea de la magia o del reemplazo absoluto de los humanos queda descartada para mi al 2026.
No hay magia, no hay reemplazo absoluto, al menos, en la investigación y diría que en la docencia.
Necesitamos conocer cada vez mejor la inteligencia artificial y aprender la mejor manera de implementarla progresivamente en diferentes momentos del proceso de investigación, como parte del propio planteamiento metodológico. Esto supone también trabajar fuertemente en la revisión de los borradores que nos ofrece.
Leer con muchísimo detalle cada línea de los borradores que nos entrega, quizá sea mi principal recomendación para estudiantes o investigadores.
En una primera lectura todo parece estar muy bien. Pero cuando realmente ponemos nuestro conocimiento especializado al servicio de la revisión, encontramos cosas muy buenas, ideas importantes que quizá no habíamos pensado y que nos abren nuevos horizontes. Pero también encontramos errores, inconsistencias o afirmaciones que pueden dañar todo el proceso y llevarnos a nefastos resultados.
Por eso adquiere pleno sentido aquello que hoy señalan editoriales, revistas científicas y universidades alrededor del mundo al decir que la autoría y la responsabilidad siguen siendo del humano.
Entonces, ¿la inteligencia artificial reemplazará al investigador?
Mi respuesta, después de experimentar con ella, es que la pregunta quizá está planteada de manera equivocada. El asunto no consiste simplemente en decidir si la inteligencia artificial puede hacer algunas de las tareas que antes hacía un investigador. Evidentemente puede hacerlo, y cada vez podrá hacer más.
La verdadera pregunta es quién identifica los problemas que merecen ser investigados, quién decide por qué son importantes, quién construye el método para abordarlos, quién distingue un hallazgo de una apariencia de hallazgo y, sobre todo, quién responde por las consecuencias del conocimiento producido.
La inteligencia artificial puede buscar más rápido, relacionar más información, leer miles de documentos, organizar datos, proponer hipótesis, construir borradores e incluso encontrar relaciones que nosotros no habíamos visto. Todo eso transforma profundamente el oficio del investigador. Ahora bien, investigar no consiste en producir texto, consiste en hacerse responsable de una pregunta sobre el mundo.
Por eso creo que el investigador que viene no será aquel que compita con la inteligencia artificial intentando hacer más rápido lo que una máquina puede hacer mejor. Será quien aprenda a dirigirla, interrogarla, verificarla, organizarla metodológicamente y, cuando sea necesario, contradecirla. La inteligencia artificial puede ampliar enormemente nuestras capacidades para producir conocimiento; lo que no puede hacer por nosotros es asumir la responsabilidad humana sobre qué conocimiento vale la pena producir y para qué queremos producirlo.
Publicación original en este enlace.
