El cerebro plano: Cuando la IA responde antes que aprendamos a pensar

Imagen generada con IA bajo licencia

La inteligencia artificial nos permite hacer más cosas, con mayor rapidez y, en muchos casos, con mejores resultados.

Puede ayudarnos a investigar, redactar, analizar información, programar, crear imágenes, preparar una presentación o resolver un problema. Para un profesional con experiencia, criterio y conocimiento del contexto, puede convertirse en una extraordinaria herramienta de productividad.

Pero existe un riesgo del que todavía se habla poco:

¿Qué sucede cuando la IA no complementa nuestro pensamiento, sino que lo sustituye?

¿Qué pasa cuando obtenemos la respuesta antes de haber aprendido a formular la pregunta?

Pues que evolucionamos hacia una sociedad de cerebro plano.

El impacto invisible de la IA

Gran parte del debate público sobre la inteligencia artificial se concentra en sus efectos más visibles:

• La posible desaparición de puestos de trabajo.

• Los sesgos de los algoritmos.

• La privacidad y la propiedad intelectual.

• La concentración de poder en unas pocas compañías.

• El consumo energético y de recursos.

• El riesgo de perder el control sobre sistemas cada vez más autónomos.

Todas estas cuestiones son importantes. Sin embargo, existe otro impacto mucho más silencioso... la progresiva externalización de nuestras capacidades cognitivas.

Pensar requiere esfuerzo. Aprender también.

Como seres humanos, debemos enfrentarnos a la duda, probar alternativas, equivocarnos, detectar contradicciones, conectar conceptos y revisar nuestras propias conclusiones. Esto no es que como seres humanos seamos ineficientes... sino que es parte esencial del aprendizaje.

Ahora bien, la IA puede eliminar buena parte de esa fricción. Y eso, si bien es una de sus mayores virtudes es al mismo tiempo uno de sus principales riesgos.

Si nos dejamos llevar por el camino más corto, podemos terminar obteniendo "mejores resultados" inmediatos mientras perdemos parte de la capacidad necesaria para producirlos por nosotros mismos o de mejorarlos en combinación con la IA en el futuro...

A este efecto, podríamos llamarlo la "deuda cognitiva".

Ganamos velocidad hoy a cambio de aumentar nuestra dependencia mañana.

Ser capaces de generar una respuesta no significa haber aprendido

Es clave que sepamos diferenciar entre rendimiento y aprendizaje. Pero al mismo tiempo hemos de asumir que vivimos en una sociedad que premia de forma clara el rendimiento.

Una persona puede entregar un trabajo excelente con ayuda de la IA sin comprender realmente el tema, sin recordar sus argumentos y sin ser capaz de defender sus conclusiones.

El resultado puede ser correcto. La competencia, sin embargo, puede no haberse desarrollado.

Recientemente se publicó en Proceedings of the National Academy of Sciences los resultados de un experimento que se realizó en Turquía que estudió el uso de herramientas basadas en GPT-4 por casi mil estudiantes de matemáticas. Los alumnos con acceso a una interfaz similar a ChatGPT resolvieron mejor los ejercicios mientras pudieron utilizarla. Sin embargo, cuando tuvieron que examinarse sin la herramienta, obtuvieron resultados inferiores a los del grupo que nunca había tenido acceso a ella. Asimismo, la Universidad de Hong kong publicó las conclusiones de otro estudio similar, en este caso realizado en China con 26.000 estudiantes. En este caso, los estudiantes que usaban la IA para realizar sus deberes, redujeron un 30% el tiempo empleado en ellos y de media obtuvieron una nota un 18% superior a los que no la usaron. Ahora bien, cuando llegó el momento de los exámenes, estos estudiantes vitaminados con IA empeoraron sus notas medias en un 20%.

Ahora bien, en el caso del estudio turco, decidieron ir un paso más allá diseñaron un experimento en el que los estudiantes interactuaban con una solución de IA que actuaba como tutor. Es decir, ofrecía pistas y acompañaba en el razonamiento, sin entregar directamente la solución. En este caso, la mejora de la resolución de ejercicios se siguió manteniendo, pero hbubo retención de conocimiento ya que cuando se examinaban sin ayuda de la IA no hubo deterioro de sus cualificaciones.

Así, podríamos atrevernos a decir, que la IA directamente no perjudica el aprendizaje. El tema es un poco más complejo:

El impacto está directamente relacionado con si la IA sustituye el esfuerzo cognitivo o ayuda a dirigirlo.

No es lo mismo utilizarla para conseguir una respuesta que para entender cómo se construye.

Otros estudios en este caso en el entorno profesional apuntan en la misma dirección. Así, Microsoft realizó una investigación con 319 profesionales y concluyó que una mayor confianza en la IA está asociada con un menor ejercicio declarado de pensamiento crítico. Al mismo tiempo, la IA desplazaba ese esfuerzo hacia otras actividades: verificar información, integrar respuestas y supervisar el resultado.

Por tanto, no estamos ante una simple desaparición del pensamiento. Estamos ante una redistribución. La pregunta relevante es...

¿Estamos abandonando capacidades que después necesitaremos para supervisar aquello que produce la máquina?

El cerebro plano

El peligro no consiste en olvidar un dato que podemos consultar en unos segundos.

La humanidad lleva siglos externalizando memoria y cálculo. Lo hicimos con la escritura, los libros, las calculadoras, los buscadores y los sistemas de navegación.

El problema aparece cuando dejamos de construir los conocimientos y modelos mentales que nos permiten interpretar, cuestionar y validar las respuestas.

Para detectar que una conclusión es absurda necesitamos comprender el problema.

Yo tuve un jefe hace muchos años que me decía... el problema no es que lo que me presentes sea incorrecto, sinó que no seas capaz de comprender porqué lo es. Esa inconsciencia es lo que es realmente peligroso para los seres humanos.

Para cuestionar una recomendación necesitamos disponer de criterio propio.

Para descubrir un sesgo necesitamos ser capaces de imaginar una perspectiva diferente.

Para rechazar una respuesta aparentemente convincente necesitamos conservar la capacidad de dudar.

Un “cerebro plano” no es un cerebro con menos información almacenada. Es un cerebro que acepta respuestas sin recorrer el camino necesario para evaluarlas.

En definitiva, es la pérdida de curiosidad, de pensamiento crítico, de capacidad para relacionar conceptos y de voluntad para retar lo establecido.

Y ahí surge otro riesgo: la convergencia hacia un mundo de respuestas cada vez más parecidas.

Los modelos generativos producen resultados a partir de patrones presentes en enormes cantidades de información. Pueden generar alternativas originales, pero también tienden a llevarnos hacia el centro estadístico de lo ya dicho, especialmente cuando formulamos preguntas genéricas y aceptamos la primera respuesta.

Si millones de personas utilizan las mismas herramientas, preguntan de manera similar y no cuestionan el resultado, podemos conseguir una enorme eficiencia colectiva a costa de reducir la diversidad de pensamiento.

Nunca habremos producido tantas respuestas. Pero quizá nos estaremos haciendo menos preguntas.

El futuro de la sociedad- los estudiantes

Este riesgo resulta especialmente importante entre niños y jóvenes.

Un profesional experimentado puede utilizar la IA para acelerar una actividad porque ya posee conocimientos, referencias y criterio para revisar el resultado.

Un estudiante todavía está construyendo precisamente esas capacidades.

Cuando utiliza la IA para evitar el proceso de razonamiento, no solo externaliza una tarea. Puede estar externalizando el aprendizaje que debía producirse mediante ella.

Desde su perspectiva, el incentivo es evidente: menos esfuerzo, más velocidad y, probablemente, una mejor entrega.

El problema aparece a medio plazo, cuando debe explicar lo que ha presentado, aplicar el conocimiento a un contexto distinto o resolver una situación en la que la IA se equivoca.

La facilidad de producir un resultado puede crear una ilusión de competencia.

Este fenómeno tampoco es exclusivo de la educación. Puede ocurrir en cualquier profesión. Un analista que deja de construir hipótesis, un consultor que acepta automáticamente una síntesis, un programador que ya no comprende el código generado o un responsable que delega su decisión en un algoritmo pueden seguir siendo productivos durante un tiempo.

Hasta que aparece una situación nueva, ambigua o crítica.

Es entonces cuando descubriremos si la IA estaba ampliando su capacidad o sustituyéndola.

Este fenómeno es algo que observamos diariamente en las formaciones que realizamos, tanto en universidades como escuelas de negocio, donde los estudiantes tienden hacia el "copy&paste" sin analizar el problema a ser resuelto, acotarlo y mucho menos valorar la respuesta.

Y también nos lo encontramos en muchas empresas que han apostado por una implementación de IA focalizada solo en el "hype" o una rápida "supuesta eficiencia de costes", sin establecer un plan de cambio cultural y protocolos internos de gobernanza.

¿Cómo lo ven los gurús de la IA?

Esta "deuda cognitiva" adquirió una nueva dimensión cuando hace unos días el CEO de Nvidia Jensen Huang fue entrevistado por Ezra Klein, conocido periodista del Washington Post y Newsweek.

Precisamente, Klein le planteó a Huang los resultados del estudio de la Universidad de Hong Kong.

Huang reconoció que algunas capacidades matemáticas básicas se están perdiendo y cuestionó que eso fuera necesariamente relevante. Su argumento fue que la humanidad siempre ha abandonado algunas destrezas al adoptar nuevas tecnologías y que los jóvenes desarrollarán otras capacidades, como el pensamiento sistémico y la colaboración con sistemas de IA.

Y ahí saltó la polémica, ya que algunos interpretaron sus palabras como una aceptación del deterioro cognitivo de los niños. No fue exactamente así, pero si que hubo una cierta relajación/ quitar importancia a un problema de fondo que es realmente crítico. ¿Los motivos? pues difíciles de saber... pero viniendo de una parte muy interesada en el desarrollo acelerado de la IA, surgen muchas dudas.

La pregunta de fondo, aunque los gurús de la IA la menos tengan sigue siendo extraodinariamente importante:

¿Qué capacidades podemos externalizar sin perder la posibilidad de comprender y controlar las herramientas que las realizan?

No todas las habilidades que una tecnología vuelve innecesarias dejan de tener valor cognitivo.

Aprender matemáticas no sirve únicamente para calcular. También enseña abstracción, lógica, secuenciación y resolución de problemas. Escribir no sirve solo para producir un texto: nos obliga a ordenar las ideas. Memorizar no consiste únicamente en almacenar datos: proporciona el conocimiento previo sobre el que construimos nuevas relaciones.

Tal vez algunas operaciones dejen de ser necesarias en la vida cotidiana. Pero antes de abandonar una capacidad deberíamos comprender qué otras competencias se desarrollaban al aprenderla.

La eficiencia tecnológica no debería decidir por sí sola qué merece la pena conservar.

El método de los tres cubos aplicado al aprendizaje

Cuando afrontamos un proceso de gestión de cambio con la IA involucrada, nosotros usamos el método de los tres cubos, el cual nos ayuda a reflexionar sobre nuestra convivencia con esta tecnología.

Cubo 1- lo que la IA puede hacer de manera autónoma

Aquí se encuentran las actividades que la tecnología puede realizar con una calidad igual o superior a la nuestra.

En un contexto educativo, entregar directamente estas tareas a la IA puede mejorar el resultado inmediato, pero también eliminar una oportunidad de aprendizaje.

No todo lo que puede automatizarse debería automatizarse durante la etapa de formación.

Cubo 2: lo que hacemos mejor colaborando con la IA

Este es el espacio con mayor potencial.

La IA puede explicar un concepto de distintas maneras, adaptar ejercicios al nivel del estudiante, formular preguntas, aportar contraargumentos, detectar errores o ayudar a explorar nuevas perspectivas.

En lugar de entregar la solución, puede actuar como tutor, interlocutor o adversario intelectual.

Aquí la IA no elimina el esfuerzo: lo orienta y lo hace más productivo.

Cubo 3: lo que depende esencialmente del ser humano

En este cubo encontramos el propósito, el criterio, la responsabilidad, la comprensión del contexto, los valores, la curiosidad y la decisión final.

Pero debemos evitar un error: pensar que estas capacidades permanecerán intactas simplemente porque hoy las consideramos humanas.

El tercer cubo no es un espacio protegido por naturaleza. Es un músculo.

Si dejamos de ejercitar la curiosidad, el razonamiento, la duda y la toma de decisiones, también debilitaremos aquello que nos hace valiosos frente a la tecnología.

Paradójicamente, mientras creemos estar potenciando el primer cubo —la IA haciéndolo todo— podemos estar reduciendo nuestra capacidad para desarrollar el tercero.

La prohibición tampoco es educar

Las respuestas institucionales son muy diferentes.

Algunos sistemas educativos han optado por ignorar el fenómeno. Otros han intentado bloquear determinadas herramientas. También están apareciendo modelos intermedios: Francia limita el uso autónomo de IA generativa según la edad y lo vincula a un marco pedagógico; Australia cuenta con un marco nacional para su utilización responsable; y la UNESCO recomienda un enfoque adecuado a la edad, centrado en las personas y acompañado de protección de datos y formación.

Las restricciones pueden ser necesarias en ciertos momentos y espacios. Del mismo modo que no permitimos utilizar una calculadora cuando el objetivo es aprender cálculo básico, puede tener sentido limitar la IA cuando el objetivo consiste en desarrollar una capacidad concreta.

Pero bloquear una herramienta no enseña a utilizarla.

Además, una política basada exclusivamente en la prohibición puede aumentar la desigualdad. Los jóvenes con familias, centros educativos o mentores capaces de enseñarles a utilizar la IA con criterio desarrollarán nuevas ventajas. Los demás accederán igualmente a ella, pero probablemente lo harán como una máquina gratuita de respuestas.

La brecha no estará únicamente entre quienes tienen y no tienen acceso a la IA.

Estará entre quienes aprenden a pensar con ella y quienes aprenden a dejar que piense por ellos.

Alfabetización digital versus alfabetización cognitiva

La clave es que no necesitamos elegir entre adoptar la IA o rechazarla.

Necesitamos aprender a utilizarla sin entregar nuestra autonomía.

Eso implica incorporar algunas reglas sencillas:

• Realizar un primer esfuerzo antes de pedir la respuesta.

• Formular una hipótesis propia.

• Pedir pistas, preguntas y contraargumentos en lugar de soluciones completas.

• Contrastar las afirmaciones con fuentes independientes.

• Explicar el resultado con palabras propias.

• Identificar qué parte ha realizado la IA.

• Mantener siempre una persona responsable de la decisión final.

• Practicar periódicamente determinadas capacidades sin asistencia tecnológica.

Adicionalmente, en el entorno profesional, deberíamos dejar de medir el éxito de la IA únicamente en horas ahorradas. Nos deberíamos preguntar:

• ¿Comprende el profesional el resultado?

• ¿Puede detectar cuándo es incorrecto?

• ¿Sabe defender la decisión?

• ¿Podría resolver una variante del problema?

• ¿Está utilizando el tiempo liberado para aumentar su aportación en el tercer cubo?

La productividad inmediata no puede ser nuestra única medida del progreso.

¿Qué nos deberíamos preguntar?

La inteligencia artificial puede convertirse en una de las mayores herramientas de ampliación del conocimiento humano.

Pero, también puede producir una generación de personas extraordinariamente eficientes para obtener respuestas y sorprendentemente dependientes para interpretarlas.

La diferencia no estará únicamente en la tecnología. Estará en cómo decidamos utilizarla, enseñarla y gobernarla.

La cuestión no es si nuestros hijos, estudiantes o profesionales deben utilizar IA. ¡La utilizarán!

La verdadera pregunta es otra...

¿Estamos enseñándoles a utilizarla para pensar mejor o simplemente para pensar menos?

La legislación puede establecer límites. Las instituciones pueden definir marcos. Las empresas pueden implantar controles. Pero ninguna regulación sustituirá la necesidad de formar criterio, responsabilidad y pensamiento crítico.

Porque el mayor riesgo no es que la inteligencia artificial llegue a pensar como un ser humano. Es que el ser humano renuncie poco a poco a hacerlo.