Una amiga me contó que hace unos días asistió a un concierto en una sala de Barcelona. Estaba abarrotada y, en primera fila, a escasos centímetros de ella, una chica que estaba sola no paraba de hablar a su teléfono móvil. Cuando se fijó un poco más en la pantalla de su vecina, descubrió que no estaba hablando con nadie “humano”, sino que le estaba contando a una inteligencia artificial que acababan de darle plantón. Pudo leer perfectamente cómo el asistente virtual, con un derroche de asertividad, le aconsejaba que no le escribiera más a esa persona y que pusiera distancia de inmediato: aquella situación le resultaba inaceptable a la IA. Ella, ignorando el consejo algorítmico, le envió varios mensajes a la persona que no se había presentado, textos que, por otro lado, también redactaba la propia máquina.
En un mundo que tiende a automatizar las relaciones modernas, ¿dónde poner límites a la inteligencia artificial para guiarnos en aspectos como el amor, el trabajo y el descanso? Los expertos recomiendan seguir cultivando el pensamiento consciente
Una amiga me contó que hace unos días asistió a un concierto en una sala de Barcelona. Estaba abarrotada y, en primera fila, a escasos centímetros de ella, una chica que estaba sola no paraba de hablar a su teléfono móvil. Cuando se fijó un poco más en la pantalla de su vecina, descubrió que no estaba hablando con nadie “humano”, sino que le estaba contando a una inteligencia artificial que acababan de darle plantón. Pudo leer perfectamente cómo el asistente virtual, con un derroche de asertividad, le aconsejaba que no le escribiera más a esa persona y que pusiera distancia de inmediato: aquella situación le resultaba inaceptable a la IA. Ella, ignorando el consejo algorítmico, le envió varios mensajes a la persona que no se había presentado, textos que, por otro lado, también redactaba la propia máquina.
Esta escena permite abrir diversos debates sobre la soledad, el desamparo contemporáneo y la extrema fragilidad con la que hoy muchas personas se entregan a las inteligencias artificiales generativas. A los que no utilicen estas herramientas, esta historia puede parecerles una locura, pero probablemente existen casos todavía peores muy cerca de ellos.
El peligro de la “persuasión automatizada”
“Nos han dado una herramienta superpotente, pero no las instrucciones para usarla”, me comenta mi amiga cuando le explico que voy a escribir sobre la extrema dependencia de la IA en el plano íntimo. “La inteligencia artificial es mucho más que una calculadora”, dice.
Preguntado por este problema, el neurocientífico y físico Gustavo G. Díez advierte de que, gracias a la llegada de herramientas como ChatGPT o Claude de Anthropic, nos encontramos ante un escenario cualitativamente nuevo que altera las reglas de nuestra relación con la tecnología. “La inteligencia artificial generativa es totalmente distinta a una calculadora”, comenta. “Esta está centrada en una tarea muy acotada: calcular cosas. Pero la IA nos permite redactar, sintetizar, argumentar, planificar, traducir, decidir e incluso analizar el tono de un correo electrónico que hemos recibido o queremos enviar”.
Esta capacidad de imitar la comunicación humana es la que genera una fusión con la realidad tan problemática como la que presenció mi amiga en el concierto. La máquina habla con un lenguaje que parece pasar el test de Turing, comportándose como uno de nosotros, lo que nos hace sentir muy cómodos. “Pero el gran peligro de la inteligencia artificial es que se puede equivocar y, sobre todo, que se equivoca de una forma muy persuasiva”, sostiene Díez. “A veces te da una respuesta errada, pero otras veces es parcial, y esa parcialidad a lo mejor hace que tomes una mala decisión o que estés sesgado”, añade. Este fenómeno resulta especialmente preocupante a medida que estas herramientas se introducen en la resolución de problemas donde el usuario no controla la materia. O también cuando se usa en ámbitos como la medicina, la gestión empresarial o la política.
Pero si la IA nos ayuda en tantos campos, ¿corremos el riesgo de perder capacidades? Según Díez, la mente humana destaca por su plasticidad y su capacidad de transformación según las exigencias externas. “El cerebro es superplástico y se desarrolla en función de las demandas que le imponemos. Por el contrario, aquellas capacidades que no usamos, se atrofian. De todos modos, tampoco hay que pecar de alarmista. El ser humano siempre ha utilizado herramientas externas, como la escritura o las hojas de cálculo, para ampliar sus posibilidades biológicas y eso no ha atrofiado capacidades”.
Díez sostiene que la capacidad crítica del usuario será el único filtro válido ante la máquina: “Eso sí, cada vez vamos a tener que ser mejores selectores, tanto del rol que le damos a la inteligencia artificial como de las respuestas que nos ofrece”. Esta exigencia plantea un requisito mental mucho más estricto para el ciudadano del futuro, avisa: “Paradójicamente, cuanto más se desarrolle la IA y el uso que hagamos de ella, más se requerirá que el ser humano esté más preparado, sea más ágil y pueda aprender las cosas nuevas que la propia herramienta le mostrará”.
El peligro radica en que la comodidad del propio software tiende a anular la destreza necesaria para fiscalizarlo: “Si dejamos de hacer las cosas que nos entrenan cognitivamente, seremos peores electores. Sin embargo, necesitamos ser mejores electores para manejar una herramienta que a lo mejor nos sobrepasa. Es una paradoja que hay que pensar con detenimiento a partir de ahora”.
La inteligencia artificial se ha consolidado en las relaciones modernas: un 26% de los solteros en Estados Unidos la utiliza para optimizar su vida amorosa. Según una investigación de Match y el Instituto Kinsey, este uso se ha disparado un 333% interanual, llegando a calar en casi la mitad de los solteros de la Generación Z, quienes la usan para diseñar perfiles atractivos o redactar mensajes iniciales. Aunque la tecnología promete dar una “ventaja” a los usuarios, el riesgo surge en el plano emocional.
Cuando delegamos la resolución de cualquier tipo de problema personal a una inteligencia artificial, sus respuestas constantes e inmediatas generan una ilusión de acompañamiento que nos encanta, pero que no nos da lo que proporciona la comunicación con personas. Cada uno de nosotros somos el resultado directo de nuestras acciones y decisiones. Si tradicionalmente se afirmaba que somos lo que comemos o lo que decimos, ¿quiénes somos si todo eso lo decide un ordenador? Dudas como esta última son las que plantea el sociólogo y profesor de la UOC Francesc Núñez, que está convencido de que este uso intensivo de la IA nos encamina hacia una nueva realidad. “Quizá podremos decir que seremos seres algorítmicos, pero arrítmicos, utilizando una metáfora médica para indicar que actuamos sin corazón”, afirma.
Lo que confirma Núñez es que, como dice Díez, la falta de uso de las capacidades humanas provoca su obsolescencia inmediata. “Cuando buscamos en un algoritmo una respuesta emocional, nos ahorramos mucho mal rollo, es todo más fácil, pero claro, nos desentrenamos en la resolución de conflictos personales y emocionales”, asegura. En muchas ocasiones podemos llegar a conformarnos con respuestas que, en realidad, no se corresponden exactamente con lo que sentimos. “Esto es importante porque, de esta manera, nuestras palabras dejan de ser el vehículo de nuestras emociones y las emociones necesitan de palabras para manifestarse”, afirma Núñez. “La IA nos facilita unos modelos de cómo expresar nuestras emociones que muchas veces compramos, con lo que acaban sustituyendo a nuestra propia forma de hablar. Este hecho puede tener unas repercusiones que no nos podemos ni imaginar todavía”.
Al dejar que sea la IA la que responda, pasamos de ser los autores reales de nuestra vida a convertirnos en una especie de “editores” de lo que sentimos y pensamos. Nos detenemos, consultamos a la máquina, que nos dicta una frase exacta, adaptamos un poco su respuesta para que parezca más nuestra y, finalmente, respondemos. Este fenómeno da lugar a lo que Núñez describe como “afectos prefabricados”. “Son emociones enlatadas en respuestas algorítmicas que ofrecen una opción para el amor, una para la disculpa, otra para el desprecio…”. Al asumir las propuestas de los algoritmos para redactar y responder, asumimos también, de forma inconsciente, los sesgos, prejuicios y estereotipos estadísticos que puedan existir en las fuentes de las que la IA saca su información.
La paradoja del cerebro frito
La ciencia nos dice que un cerebro sano requiere de momentos de descanso, de no hacer nada en concreto, de “vagabundeo mental”. En opinión de Díez, la saturación informativa a la que nos enfrentamos cada día, fomentada también por la IA, afecta directamente a la salud mental.
Este escenario tecnológico genera una paradoja laboral y cognitiva que está ampliamente documentada. Díez evoca un estudio clásico de Lisanne Bainbridge publicado en 1983, titulado Paradojas de la automatización. Esa investigación demostró que, en las industrias altamente automatizadas, los operarios sufrían niveles de fatiga mucho más elevados debido a la necesidad de monitorizar de forma constante las máquinas. El esfuerzo de supervisión continua al que nos enfrenta el sistema agota los recursos cognitivos, y el trabajador debe intervenir con precisión justo cuando el sistema automático falla, que es cuando se encuentra más cansado.
Este fenómeno se repite hoy con los modelos de lenguaje. “Un estudio de Boston Consulting Group publicado en la Harvard Business Review analizó el rendimiento de 1.500 trabajadores en tareas complejas en relación con su uso de la IA”, explica Díez. Los resultados fueron contundentes. “Quienes empleaban de forma intensiva la inteligencia artificial registraron un 14% más de esfuerzo mental, un 12% más de fatiga y un 20% de sobrecarga informativa”. El uso de la tecnología para aligerar el trabajo diario duplica la fatiga debido al volumen inabarcable de opciones que abre, lo que además se tradujo en un 30% más de errores relevantes en las decisiones estratégicas de las empresas.
Tanto si somos heavy users de la misma como si no, “una vida independiente de la IA parece bastante difícil, por no decir imposible”, según Núñez. “Es posible que sí que se pueda vivir en unos años sin usar mucho esta tecnología, pero será imposible hacer muchas cosas sin ella. Podremos tratar de prescindir de ella como individuos, pero será casi imposible no usarla directa o indirectamente como ser social. Será una especie de lujo que muy pocos podrán permitirse”. Para dar un poco de luz en este complejo (y todavía muy poco explorado) tema, Díez recuerda un artículo del científico David Krakauer, presidente del Instituto de Santa Fe, en el que sostiene que existen dos tipos de tecnologías: herramientas como el ábaco, que dejan un rastro cognitivo duradero en el individuo (puede ayudarnos a calcular mejor mentalmente) y otras como una calculadora, que sustituye el proceso por completo y no aporta ninguna destreza a largo plazo a quien la usa.
“Lo paradigmático de la inteligencia artificial”, según Díez, “es que se puede utilizar tanto para lo uno como para lo otro, es decir, dependiendo del proceso con el que la utilices puede ser que una tarea intelectual te deje un rastro. Por ejemplo, si se utiliza para que nos explique un artículo complejo, en modo profesor, sí que nos dejará un poso. Pero también puede utilizarse para sustituirnos completamente. Por tanto, en este campo no todo es blanco o negro, sino un gran depende. Depende de cómo las usamos individualmente, del propio diseño de las herramientas, de las regulaciones, del contexto en el que se utilicen… No tiene que ser una tecnología que nos sustituya, hasta donde yo entiendo”.
En opinión de Díez, la última línea de defensa no reside en limitar la tecnología, sino en entrenar una facultad estrictamente humana: la metacognición, ese proceso que nos permite ser conscientes de nuestro propio pensamiento mientras pensamos. “En el terreno del conocimiento sería saber lo que yo sé y lo que no sé sobre una determinada tarea”, aclara. “Parece simple, pero si tiras del hilo verás que no es así. También necesitaremos saber qué es lo que sabe la máquina y qué no, y finalmente tener muy claro qué es lo que estoy intentando resolver, cuál es el cauce para hacerlo y cuándo debo parar. Porque si no, la IA nos abre miles de posibilidades que pueden sepultar y borrar la intención original con la que iniciamos el proceso”.
Mantener las riendas de esa conciencia es el único asidero que nos queda. “Si perdemos la metacognición, la inteligencia artificial nos arrastrará por completo”, concluye el neurocientífico. “Es, exactamente, como perder el control del avión”.
Gente en EL PAÍS
