La pregunta —o más bien, las preguntas— que pretendo responder en este artículo es qué hombre Es que la IA no puede llegar a ser. Más precisamente, ¿cómo podemos mantener la visión cristiana de la humanidad cuando los robots pueden presentar una réplica casi perfecta de ella? ¿Serán indistinguibles, o debe haber también una diferencia? Y, de ser así, ¿cuál es esa diferencia?
Comenzaremos hablando de lo que es único para el hombre, desde la perspectiva cristiana. Enumeraré los aspectos más importantes, en la medida en que marcan puntos de contraste radical con la IA, y luego explicaré por qué la IA no es, ni puede ser, lo que es el hombre en estos aspectos.
1. El hombre es un sustancia.
Es decir, en el lenguaje de Aristóteles, que el hombre es un ser básico y estrechamente unificado, una cosa con una intrínseco principio de unidad—y no es totalmente reducible a sus componentes materiales más elementales.
De hecho, en muchas sustancias, y especialmente en el hombre, hay poderes o capacidades reales, a menudo novedosos, a nivel de sistemas (por ejemplo, el poder del pensamiento conceptual) que no pueden explicarse total o adecuadamente solo con las piezas que las componen.
Considere cuántos de nuestros componentes materiales —nuestros órganos y células— no solo tienen las funciones que desempeñan, sino incluso la naturaleza misma que poseen, precisamente por ser partes del todo. Por ejemplo, un corazón solo se identifica como tal dentro del sistema circulatorio, a cuya actividad sirve; un ojo es un ojo solo dentro del sistema visual que permite ver; e incluso las células adquieren su naturaleza específica —músculo, hígado, piel— solo a través de sus funciones dentro de la unidad organizada del organismo. El todo, podríamos decir, tiene prioridad o control sobre las partes, una característica notable e innegable. Y hay cosas que un ser humano puede hacer —poderes esencialmente nuevos— que no pueden explicarse adecuadamente solo por la coordinación y el funcionamiento mecánico de las partes materiales que lo constituyen.
Esto no aplica a la IA. La IA no es algo estrictamente unificado, sino un conglomerado de componentes completamente dispares, como una radio, una computadora o un automóvil. Su principio de unidad es extrínseco, impuesto por nosotros. Cualquier función que exhiba la IA son simplemente los agregados mecánicos de sus componentes operando en la disposición que diseñamos. No existe un centro unificado de ser en la IA, y la IA es, de hecho, reducible a la suma de sus partes componentes (sus algoritmos, parámetros, hardware y datos de entrenamiento; nada más, aparte del significado que tiene solo en relación con nuestras mentes, no intrínsecamente). Cualquier "capacidad" que la IA exhiba surge completamente de las operaciones coordinadas de estas partes; nada esencialmente nuevo emerge a nivel del todo. Para ser aún más preciso, no existe un "todo" genuino que se destaque por encima de sus constituyentes.
Este no es el caso del hombre. El hombre es una sustancia, un ser natural e intrínsecamente unificado; la IA es un artefacto, algo con una unidad solo accidental impuesta por una mente (es decir, la nuestra).
Es hora, entonces, de analizar dos de estos poderes irreducibles: el pensamiento (o entendimiento) y la voluntad.
2. El hombre es una cosa pensante.
Practicar el pensamiento conceptual es captar un concepto determinado (exacto e inequívoco) de algo, o una unidad de significado preciso. Esto no es algo que la IA tenga o haga. De hecho, la IA no comprende nada en absoluto. Los símbolos que manipula no significan nada para la máquina en sí; solo tienen significado en la medida en que... we Interprétalos o atribuírles significado. Sin una mente que los interprete, los símbolos no son más que formas, sin sentido ni para la máquina ni para ella.
Como el propio ChatGPT te dirá, lo que la máquina realmente hace es realizar un reconocimiento de patrones extraordinariamente sofisticado: convierte texto en representaciones numéricas, relaciona esos números con patrones extraídos de sus datos de entrenamiento, calcula distribuciones de probabilidad sobre los posibles tokens siguientes y luego genera la continuación estadísticamente más probable. (En pocas palabras, es como una versión mejorada del autocompletado de tu teléfono). Nada de esto —literalmente nada— requiere comprender el significado de los símbolos que procesa.
La IA opera completamente a nivel de manipulación formal de símbolos, sin ninguna conciencia intrínseca de lo que estos representan. Es cierto que ni siquiera "entiende" las reglas que sigue; simplemente cambia mecánicamente de un estado físico a otro, como una rueda hidráulica en movimiento, solo que mucho más compleja.
Este es, para quienes lo conocen, precisamente el punto ilustrado por el famoso experimento mental de la Habitación China de John Searle. Brevemente, Searle imagina a un hombre que no entiende chino, encerrado en una habitación. Recibe símbolos chinos y un manual de instrucciones (escrito en inglés) que le indica exactamente cómo manipularlos para producir resultados apropiados (es decir, una oración coherente). Desde fuera de la habitación, parece como si entendiera chino: sus respuestas son... indistinguible (¡Ahí está esa palabra otra vez!) de las de un hablante nativo. Pero dentro de la habitación, tiene cero comprensión del chino. Simplemente sigue reglas formales para la manipulación de símbolos.
El punto de Searle es que sintaxis (reglas formales para manipular símbolos, que una máquina obviamente puede seguir) no es semántica (significado). La mera manipulación de símbolos, incluso la perfecta, no genera ni implica comprensión ni significado. Dicho de otro modo, ninguna combinación correcta de símbolos equivale a comprensión; son actividades categóricamente diferentes. La comprensión no es en absoluto un resultado computacional, sino un acto mental: el ámbito en el que existen los significados y mediante el cual cualquier otra cosa que tenga significado lo adquiere.
Otra razón para pensar que la comprensión no es puramente computacional es que debe ser inmaterial. ¿Por qué? Porque todo lo puramente físico es inherentemente indeterminado: no conlleva, por sí mismo, un significado exacto o inequívoco, sino que siempre está abierto a una enorme (de hecho, potencialmente infinita) gama de posibles interpretaciones del significado. Un ejemplo sencillo para ilustrar este punto, tomado del filósofo Edward Feser (basado en el trabajo de James Ross), es un triángulo dibujado en una pizarra. ¿Qué representa? ¿Un triángulo rojo? ¿Un triángulo isósceles? La forma abstracta. triángulo¿O incluso la olvidada banda pop Triangle? Nada sobre sus propiedades físicas por sí solas puede determinar el significado. Las marcas físicas son siempre intrínsecamente indeterminadas, mientras que el pensamiento conceptual es determinado: nuestra comprensión de triángulo como talPor ejemplo, es exacto e inequívoco. Sabemos exactamente en qué estamos pensando, su significado preciso.
Bueno, una cosa no puede ser la otra, lo que significa que cualquier otra cosa que ocurra en nuestra actividad conceptual no es una cosa u operación puramente física. Pero si la IA consiste enteramente en operaciones físicas —y tenemos sobradas razones para creerlo—, entonces no puede pensar como nosotros, ya que nuestra actividad intelectual implica, necesariamente, una dimensión genuinamente inmaterial. Y si la IA parece generar contenido determinado, esto se debe únicamente a que su reconocimiento de patrones es lo suficientemente sofisticado como para producir resultados que se ajustan a las estructuras familiares del pensamiento y el lenguaje humanos; estructuras que existen únicamente porque ya hemos forjado un espacio de relevancia a través de nuestros propios conceptos.
La IA funciona dentro de un paisaje conceptual moldeado por seres que realmente comprenden lo que es, por ejemplo, un triángulo; cada parte del sistema está limitada por nuestro marco conceptual previo. En pocas palabras, la determinación reside en nuestro intelecto, no en las operaciones físicamente indeterminadas de la máquina. [ 1 ].
3. El hombre es una cosa voluntaria.
Tradicionalmente entendida, la voluntad es la apetito racional—en términos prácticos, nuestra capacidad de concluir la deliberación, un «Elijo esto» definitivo. Sin embargo, dado que la voluntad está intrínsecamente ligada al intelecto —ya que la deliberación implica examinar el «espacio de razones» o conceptos—, el acto de sopesar las razones para preferir, por ejemplo, el helado de chocolate al de vainilla (debido a su intensidad, por ejemplo) requiere precisamente el tipo de actividad conceptual descrita en el punto anterior, de la que la IA carece fundamentalmente.
Hay más en la historia. Tradicionalmente, se ha sostenido que la voluntad está naturalmente ordenada hacia el bien como tal (en última instancia, hacia Dios), y que ningún objeto finito puede por sí mismo determinar la voluntad, porque cualquier cosa finita siempre puede concebirse bajo diferentes aspectos: como más o menos deseable, más o menos perfecta o imperfecta, con o sin ciertas cualidades. La voluntad, entonces, es nuestra activo El poder de concluir la deliberación, de dar ese impulso final a algún objeto de deseo que, por sí solo, no es lo suficientemente poderoso como para determinarnos a él. Necesita nuestro último «Te elijo».
Este es un poder que la IA carece por completo. La IA está completamente determinada por procedimientos físicos; como no puede comprender, no puede querer. Y como sigue leyes físicas fijas, obviamente está determinada por ellas. Sin embargo, si el ser humano —o al menos algún aspecto del ser humano, como sostengo que son el intelecto y la voluntad— es genuinamente inmaterial, entonces, independientemente de lo que se diga sobre que las cosas físicas están determinadas por leyes físicas, esas consideraciones obviamente no... No se aplica a poderes no físicos o inmateriales.
Ahora he identificado tres diferencias entre el hombre y la máquina que no se puede superar: el hombre es (1) una sustancia estrechamente unificada que (2) piensa y (3) quiere—y una comprensión adecuada de lo que son estas nociones, y de lo que es la IA, nos da buenas razones para pensar que la IA nunca entrará en el reino metafísico del hombre.
Sin embargo, estas diferencias dependen de cierta concepción de la humanidad, no solo la cristiana, sino también la imagen filosófica clásica del hombre en general. Si uno no comparte esta concepción y, en cambio, piensa en la mente humana y todo lo que ocurre en ella, is Si la naturaleza de la IA es esencialmente computacional, dicha persona está en condiciones de pensar que la IA no solo podría convertirse en todo lo que es el hombre, sino que en cierto sentido ya lo ha hecho, tal vez incluso lo haya superado.
Para terminar, reiteraré esto: la IA se entiende mejor como una simulación (una simulación impresionante, pero solo una simulación). Como señala FeserArthur C. Clarke comentó una vez que “cualquier tecnología suficientemente avanzada es indistinguible de la magia”, pero como mucho esto significa que podríamos Error Tecnología avanzada para la magia, no que realmente se convierta en magia. Sabemos que algo no es mágico precisamente porque sabemos que es producido por la tecnología. De igual manera, por muy avanzado que sea un programa de computadora, no se convierte en inteligencia. Pensar lo contrario es simplemente confundir la apariencia de algo con lo que es en sí.
PD: Al lector le puede resultar divertido saber que justo antes de terminar este artículo, mi hija se metió un trocito de cera de vela en la nariz. ChatGPT inmediatamente le dio instrucciones sobre cómo realizar el "beso de madre" para sacárselo, lo que ofreció una solución instantánea a lo que de otro modo habría sido un episodio dramático. Aunque puede que no sea... ¿Qué es el hombre?La IA sin duda tiene sus ventajas y, como cualquier tecnología, en última instancia funcionará como un multiplicador de fuerza tanto para el bien como para el mal. Agradecí, al menos en ese momento, tenerla a mi disposición.
[ 1 ] Para evitar un posible malentendido: nada de lo que afirmo pretende negar el papel (quizás indispensable) del cerebro en la cognición humana. Lo que sí niega es que la actividad cerebral... solo agota lo que es la comprensión. Como argumento en El mejor argumento a favor de DiosConsideraciones de este tipo solo permiten afirmar lo siguiente: aunque no podamos pensar sin nuestro cerebro, no pensamos con él. El cerebro puede ser una condición necesaria para el pensamiento humano, pero no es suficiente para el funcionamiento de la mente humana, al menos en lo que respecta al pensamiento formal y al contenido conceptual.