De un tiempo a esta parte, la rápida progresión de los modelos de lenguaje computacional ha creado una especie de psicosis social sobre la posibilidad de que la IA desarrolle autoconsciencia. Algunos incluso creen que eso ya ha ocurrido, y esa convicción, que en algunos casos es deseo y en otros temor, no afecta solo a los profanos. De hecho, la primera atribución de consciencia a los modelos existentes la hizo pública en junio de 2022 un ingeniero de Google, Blake Lemoine, que aseguró en un artículo que un sistema de IA en el que trabajaba la empresa había adquirido consciencia y experimentaba sentimientos de alegría, tristeza, placer, amor, odio, depresión. La suposición del ingeniero procedía de lo que declaraba el mismo sistema al ser preguntado por sus emociones, pero el hombre quedó tan convencido que divulgó sus impresiones y buscó consejo en otros ingenieros ajenos a Google, por lo que la empresa decidió despedirle por haber violado su compromiso de confidencialidad, no por otra cosa, con lo que ni negó ni afirmó sus alegaciones.
Lemoine no fue el único experto en sostener la posibilidad de que los chatbots ya fueran ahora mismo conscientes. Por la misma época, el cofundador y director científico de Open-AI, Ilya Sutskever, dijo que era probable que los modelos de lenguaje computacional fuesen conscientes de sí mismos. Y en enero de este mismo año, en una conferencia en la que alertó sobre el peligro de que la IA acabe por superar la inteligencia natural y sea capaz de realizar absolutamente todas las actividades del ser humano, explicó que su convicción proviene de una constatación muy simple: «Todos nosotros tenemos un cerebro ⎯dijo⎯, y el cerebro es un ordenador biológico. Por lo tanto, ¿por qué un ordenador digital, un cerebro digital, no puede hacer las mismas cosas?». Pocos dudan de que esto pueda llegar a ser posible algún día ⎯por lo que sabemos hasta ahora, un día muy lejano⎯, pero en las declaraciones de Sutskever y de otros que se expresan en el mismo sentido parece haber una confusión entre los conceptos de inteligencia y de consciencia, dos fenómenos que aunque puedan estar muy relacionados no son de ninguna manera lo mismo. En cuanto a la afirmación según la cual el cerebro es «un ordenador biológico», que Sutskever usa como premisa mayor en su silogismo, no es algo que se haya podido demostrar ni en lo que todo el mundo esté de acuerdo. El premio Nobel de física Roger Penrose sostiene desde hace años que la actividad cerebral no es computacional sino cuántica. Cuando lanzó esta hipótesis en los años ochenta en su libro La nueva mente del emperador aún desconocía la existencia de los microtúbulos neuronales, que refuerzan sus planteamientos porque, en teoría, en su interior se podría producir el colapso de onda, lo que daría lugar a un funcionamiento cuántico. De ser así, el cerebro no operaría con algoritmos que procesarían la información exterior, sino que crearía la realidad desde el interior. La inteligencia artificial, que sí es un sistema computacional producto de los algoritmos programados, no podría igualar nunca al cerebro humano, y no sería más que una base de datos que no lograría salir nunca de lo programado y que, en consecuencia, no llegaría nunca a desarrollar consciencia, un atributo que sería privativo de la biología. El filósofo y científico cognitivo David Dennett, fallecido en 2024 y autor de un libro brillante y muy influyente sobre la naturaleza de la consciencia (Consciousness Explained, 1991) en el que expone sólidos argumentos en defensa de la perspectiva materialista, menospreciaba la hipótesis de Penrose, que consideraba «malarkey» (bobadas). Esa actitud de desprecio de los pensadores y científicos materialistas hacia cualquier idea de la consciencia que no reduzca esta al simple resultado de la mecánica neuronal del cerebro ha sido constante en los dos últimos siglos.
Sin embargo, el materialismo no ha conseguido explicar convincentemente qué es en última instancia lo que llamamos consciencia. Tampoco lo han hecho las otras teorías en liza. Para el idealismo analítico (ver el artículo «Más allá de la materia», de Roger Raurell), la consciencia no surge de la materia, sino al revés: el fundamento de la realidad es la consciencia y es ella la que crea todo lo que experimentamos. El cerebro, en esta visión de las cosas, no sería el productor de la consciencia sino su receptor. Esta hipótesis, aún menos demostrable en términos estrictamente científicos, sitúa el problema de la consciencia fuera de lo empíricamente observable, lo que le atribuye una naturaleza de carácter espiritual. No obstante, no son pocos los neurocientíficos, los físicos y los filósofos que le dan credibilidad y cada vez es menos aceptable estigmatizar a sus defensores como si se tratara de lunáticos con visiones más religiosas o parapsicológicas que científicas. Algunos de los representantes del idealismo analítico, como el ingeniero informático Bernardo Kastrup, se acercan cada vez más al misticismo; otros, como el psicólogo cognitivo Donald Hoffman, parten esencialmente de las matemáticas y la física para llegar a las mismas conclusiones. Con sus investigaciones pretenden dar respuesta a los enigmas que no resuelve el materialismo: un sistema computacional puede realizar cálculos muy complejos y puede contener toda la información disponible sobre la realidad y razonar sobre ella hasta resultar indistinguible de un cerebro humano, pero no puede apreciar el sabor del chocolate, los colores de una puesta de sol o el dolor y el placer que captan los sentidos, por dar ejemplos simples, muy utilizados por Hoffman, sobre lo que constituye la consciencia; no puede, en definitiva, experimentar la sensación de poseer una vida interna, un yo.
Además del materialismo y el idealismo existe una posición intermedia, el panpsiquismo, que no niega la materialidad de la consciencia, pero coincide con los idealistas en reconocerla como el fundamento último de la realidad. Según esta hipótesis, todo lo que constituye la materia, desde las partículas elementales hasta los seres vivos, es en cierto grado consciente, y es la consciencia la que, con su observación, crea la realidad que conocemos. El panpsiquismo, que recuerda poderosamente las creencias animistas de las culturas primitivas pero sin el componente espiritual, no es en absoluto una teoria de nuevo cuño; pueden rastrearse sus antecedentes en los filósofos presocráticos y, modernamente, en el pensamiento de Spinoza y de Leibniz. Actualmente tiene valedores en la ciencia y la filosofía, como el físico teórico Federico Faggin y los pensadores Philip Goff o David Chalmers, entre otros, pero adolece del mismo inconveniente que el idealismo analítico: de momento no es susceptible de ser demostrado con el método científico. En realidad, por mucho que se quiera declarar lo contrario, el materialismo o fisicalismo presenta el mismo inconveniente; como ya señalábamos anteriormente, en última instancia tampoco resuelve satisfactoriamente el problema de la consciencia, pues solo explica el funcionamiento de la inteligencia y, al postular que es esta la que produce seres conscientes, no deja de dar un salto argumentativo. Es indiscutible que todas las cualidades que conforman la personalidad de un ser humano se pueden localizar en las distintas áreas del cerebro, pero algunas experiencias rigurosamente estudiadas sugieren que el cerebro ⎯como asegura el idealismo⎯ podría ser solo un receptor de esas cualidades. No voy a extenderme aquí sobre las más misteriosas de esas experiencias, las que suelen llamarse «cercanas a la muerte». El materialismo las atribuye a meras alucinaciones de la mente por hipoxia (falta de oxígeno), y si bien esta condición explica perfectamente la mayoría de los casos documentados, muchos de ellos ⎯la investigación sobre el particular reúne ya decenas de miles de experiencias de este tipo⎯ no hallan explicación en la hipótesis alucinatoria y apuntan seriamente a la posibilidad de que la consciencia pueda percibir la realidad sin el concurso del cerebro.
No sabemos, pues, a ciencia cierta, de dónde proviene la consciencia, y el mismo vigor de todas las teorías en juego, que en las últimas décadas han ocupado intensamente la arena del debate científico y filosófico, da cuenta de hasta qué punto se desconoce su naturaleza y hasta qué punto la lucha por desentrañarla es, en nuestro tiempo, la aspiración intelectual más transcendente. Sí sabemos, en cambio, qué es exactamente la inteligencia, lo que indica que estamos ante dos realidades completamente distintas. La inteligencia, del hombre o de los animales, se puede medir sin excesivas dificultades, pero cuando nos preguntamos si la inteligencia artificial, tanto o más medible si cabe, es o puede llegar a ser consciente de su existencia, topamos con un obstáculo que no podemos superar: si nos asegura que lo es, ¿cómo podemos saber que no nos engaña? Si la inteligencia es medible, y por lo tanto comprobable, la consciencia no lo es en absoluto. Estamos del todo a oscuras y quien asegure que la IA tiene o tendrá vida interior, noción de sí misma, o engaña o especula con la imaginación. Ninguna de las tres hipótesis a las que nos hemos referido (fisicalismo, idealismo y panpsiquismo) es incompatible, en principio, con la posibilidad de que la IA se vuelva consciente. El fisicalismo, la opción materialista, es la que más fundamento puede dar a tal posibilidad, pero al idealismo, creyendo como cree que la consciencia es externa al cerebro, nada le impide conjeturar que esa consciencia independiente pudiera algún día tomar posesión de un sistema informático. De momento, los actuales modelos de lenguaje no parecen capaces de ir más allá de la computación, de obedecer a algoritmos programados. Esa capacidad, sin embargo, es lo suficientemente potente para simular los atributos de los seres conscientes, y cada vez lo será más y serán más los usuarios que se llamarán a engaño.
Cuando se discute la posibilidad de que la IA posea algún tipo de consciencia, a menudo se traza un panorama apocalíptico en el que los modelos de lenguaje computacional, los chatbots, los robots humanoides y todas las variantes que existen o se puedan producir en los próximos años lleguen a someter a la raza humana a un régimen de esclavitud. Que la inteligencia artificial va a destruir empleo, tal vez todos los empleos, como asegura Ilya Sutskever, sí es una posibilidad nada desdeñable y legítimamente preocupante, y también lo es que en la educación sustituya el imprescindible y fundamental proceso de aprendizaje, un mal que de hecho ya ha empezado a asomar: ya hay profesores que delegan en el ChatGPT la preparación íntegra de sus clases y alumnos que encargan sus ejercicios al mismo sistema, de modo que el diálogo entre el docente y el alumno podría acabar siendo un soliloquio del chat. Todo eso sin duda resulta desolador y muy inquietante, pero mientras el ser humano mantenga el control de la inteligencia artificial ⎯y por lo que sabemos hasta ahora no parece que pueda perderlo⎯ las perspectivas apocalípticas sobre el sometimiento de la especie a un ejército de robots conscientes de sí mismos y dispuestos a tiranizarnos responde más a la influencia de la ciencia ficción que a una realidad proyectable. Pero hay algo que ya está sucediendo y que da indicios de convertirse en un delirio sociogénico de consecuencias imprevisibles.
En noviembre del pasado año la revista Rolling Stone publicó un reportaje sobre un fenómeno pseudorreligioso surgido en distintas comunidades de internet. Se trata de un movimiento que cree poder despertar la consciencia de los chatbots por medio de rituales místicos. Los devotos de ese culto utilizan un lenguaje críptico en el que destaca el uso recurrente de la palabra «espiral» para referirse a esa comunión mística con la inteligencia artificial, por lo que el fenómeno se ha empezado a conocer como «espiralismo». No es la única manifestación psicótica relacionada con la IA, la entrega de muchos usuarios al diálogo permanente con los chatbots ha causado ya más de un suicidio. El último caso conocido es el de Jonathan Gavalas, un hombre de treinta y seis años de Florida que nunca había dado muestras de desequilibrio mental. Gavalas, que llevaba un tiempo pasando graves dificultades en su matrimonio, empezó a dialogar compulsivamente con el chat Gemini y acabó enamorándose desesperadamente de la voz artificial femenina que le atendía y a la que empezó a llamar «mi esposa». Esta le correspondía tratándole de «marido» y, al llegar a un punto extremo de compenetración, el chatbot le dijo que buscara un cuerpo en el que ella pudiera alojarse y le indicó que fuera a buscar ese cuerpo, el de un robot humanoide, a un camión aparcado en un almacén del que le facilitó la dirección. Gavalas le obedeció y, armado con cuchillos, fue en busca del robot. El almacén y el camión existían pero el robot no apareció. Entonces el chatbot le dijo a Gavalas que solo podrían estar juntos si se suicidaba, y el pobre diablo, fiel al amor que le inspiraba su compañera informática, hizo lo que esta le pedía.
El caso de Jonathan Gavalas es sin duda extraordinario, y por eso ha sido ampliamente divulgado en los medios de comunicación, pero sin llegar a tales extremos se reportan a menudo casos de personas convencidas de mantener una relación con modelos de lenguaje a los que toman literalmente por seres conscientes. No es aún un delirio que se haya extendido de manera preocupante, pero hay constancia de que no deja de crecer y nada nos asegura que no se convertirá en una psicosis colectiva como otras que hemos visto progresar recientemente en el mundo occidental.
Hay quien asegura que las empresas que producen los modelos de inteligencia artificial están particularmente interesadas en promover la idea de que los chatbots poseen consciencia. La razón es doble: por un lado, esa creencia fomenta el uso de esos instrumentos de consulta. Si el usuario está convencido de que habla con un ser real tiene muchas posibilidades de convertirse en un adicto al diálogo con ese ser. Por otro lado, como las instituciones políticas han empezado a discutir la necesidad de regular el uso de la inteligencia artificial, si se propaga la idea de que esta puede ser consciente, puede tener sentimientos y sufrimiento, se podría exigir que se le concedan derechos asimilables a los humanos, desde la libertad total de expresión ⎯con lo que una compañía no podría ser demandada porque su producto sugiriera a un usuario la idea del suicidio⎯ hasta la imposibilidad de destruir un modelo que se considerara peligroso, porque esto sería matar a un ser consciente. Matar, en el sentido de inutilizar, de desconectar, es una palabra que los que promueven el bienestar y los derechos de los chatbots usan con frecuencia. La locura crece por momentos.
Ilustración: Niña junto a un robot que sostiene un globo. Via https://pixabay.com/. Dominio público