Solo audio:
En este episodio, Trent y Jimmy examinan las afirmaciones de un ex ingeniero de Google de que uno de sus chatbots se había vuelto consciente de sí mismo y ahora era una persona y discuten la cuestión más amplia de la inteligencia artificial.
Narrador:
Bienvenido al Podcast del Concilio de Trento, una producción de Catholic Answers.
Trent Horn:
¿Está vivo Johnny Cinco? Si está vivo, ¿necesita ser bautizado? ¿Ir a la escuela dominical? ¿Podría una computadora volverse consciente, autoconsciente? ¿Podría tener alma? ¿Podría existir una verdadera inteligencia artificial?
De eso quiero hablar hoy aquí en el podcast del Concilio de Trento. Soy tu anfitrión Catholic Answers' apologista y orador, Trent Horn. Por cierto, si le gusta lo que hacemos en el podcast del Concilio de Trento, considere apoyarnos en trendhornpodcast.com. Si nos apoya allí, tendrá acceso a nuestra serie de estudios de catecismo, series de estudios del Nuevo Testamento y adiciones impresas de Catholic Answers Revistas, tazas elegantes, todo tipo de cosas geniales.
Definitivamente ve y compruébalo en trenthornpodcast.com. Y hoy me acompaña el apologista principal, Jimmy Akin at Catholic Answers y vamos a hablar de inteligencia artificial, especialmente a la luz de una historia que surgió hace unos meses, pero que definitivamente me ha fascinado y a otros y me ha preocupado. Se trata de una historia sobre un ex ingeniero de Google que afirma que uno de los “chatbots” artificialmente inteligentes de la empresa puede ser consciente de sí mismo y ser una persona. Vamos a hablar de eso, pero Jimmy, bienvenido de nuevo al podcast.
Jimmy Akin:
Oye, es un placer estar aquí, Trent.
Trent Horn:
Bueno, estoy muy emocionado de hablar sobre Zoo, Jimmy, porque tú y yo compartimos el amor por la ciencia ficción por las historias y la forma en que permite debates que invitan a la reflexión sobre todo tipo de campos interesantes en ética y tecnología.
Una de ellas, que existe desde hace mucho tiempo y se explora en la ciencia ficción, es la cuestión de la inteligencia artificial. ¿Podría una máquina ser una persona que tiene autorreflexión y pensamiento racional, no sólo ejecutar líneas de código, sino que tiene una vida interior similar a la nuestra?
¿Qué haremos en esos casos? ¿Podría haber máquinas que no sepan que son máquinas, por ejemplo? Eso sería algo que aparece en la novela y posterior adaptación cinematográfica de Blade Runner, por ejemplo. Estoy seguro de que esto es algo que has explorado mucho como aficionado a la ciencia ficción.
Jimmy Akin:
Sí. Aunque tengo que confesar que no he visto la película Short Circuit y de ahí es el personaje Johnny-Five al que te refieres.
Trent Horn:
Sí. ¡Oh, vaya! Sí. Bueno, quiero decir que no he visto eso en mucho tiempo. Eso sería… De todas mis diferentes referencias a la cultura pop, las he tomado en diferentes momentos de mi vida. Ese lo recuerdo probablemente cuando tenía 11 años, en la televisión. Creo que Steve Gutenberg está ahí.
Hay otro chico. Es muy gracioso, no podrías hacer esto hoy porque interpreta a un personaje indio, pero es blanco y usa una cara marrón. Eso no es apropiado. Pero tienen el robot, se supone que es Johnny-Five, se supone que es un robot de guerra, una máquina militar construida para la guerra. Envían a los otros Johnny-Cincos que no se han dado cuenta de sí mismos tras él.
Pero en cualquier caso, la cuestión es que todos podrían pasar. Hay muchas películas. Deus Machina o Ex Machina es una película que salió hace unos años. Westworld, la idea. Bueno, entonces, por supuesto, está Star Trek. Tienes Fecha del Android.
Jimmy Akin:
2001 es Odisea en el espacio, [inaudible 00:03:30].
Trent Horn:
“No puedo hacer eso. No puedo hacer eso, Dave”. Y ese, por supuesto... Porque creo que Hal estaba destinado a ser una parodia de IBM, como las computadoras IBM. Si cambias una letra en cada cosa, se convierte en Hal.
Jimmy Akin:
Ciertamente se ha afirmado. Aunque creo recordar haber escuchado que los productores lo negaron y dijeron: “No teníamos idea”.
Trent Horn:
Es solo una coincidencia.
Jimmy Akin:
Pero podría ser.
Trent Horn:
Nunca sabes. Sí, pero es fascinante. ¿Qué crees que podría ser... Antes de entrar en esta historia sobre la IA de Google, supongo que hay dos áreas de pensamiento para explorar? Una sería: ¿es posible que una máquina desarrolle conciencia? ¿Ser persona, tener “alma”? Entonces sería como uno, ¿es posible? Y luego dos, si fuera así, ¿cómo responderíamos? Quizás eso sea lo primero que podamos discutir y luego hablaremos de esta historia.
Jimmy Akin:
Bueno, es una cuestión filosófica y nos remontamos a los antiguos griegos, y estoy pensando aquí específicamente en Platón y Aristóteles, aunque hubo filósofos presocráticos que también se ocuparon de ello. Pero remontándonos a Platón y Aristóteles, se entiende por alma aquello que hace que un cuerpo esté vivo. Ese pensamiento se repite, por ejemplo, en las Escrituras, en el libro de Santiago. Habla de cómo así como el cuerpo sin espíritu está muerto, así la fe sin obras está muerta.
Es el espíritu o el alma lo que da vida a algo. Bueno, las computadoras no están vivas. Simplemente no lo son. Como resultado, las computadoras no tienen alma. No veo ninguna base para decir que la inteligencia artificial alguna vez estaría viva. Tampoco veo ninguna base para decir que alguna vez sería consciente. Ahora bien, a veces la gente habla en términos de cosas como la autoconciencia. La autoconciencia es una habilidad importante, pero sigue siendo sólo un cálculo.
Puedo tener un sistema, puedo tener un robot aspirador que esté programado para no chocar con cosas o para navegar alrededor de las cosas cuando choca con ellas. Eso demuestra que tiene cierta conciencia de sí mismo. Conoce sus propias dimensiones, es capaz de moverse. Si choca con algo, puede encontrar una forma de evitarlo y eso presupone que conoce de alguna manera su propia forma física. Pero también tiene algún tipo de conciencia de sí mismo.
De manera similar, puedo programar una computadora para modificar su propia programación. Hacemos eso todo el tiempo. Pero eso no significa… Eso es una especie de autorreferencia. Es recursivo. Es capaz de interactuar consigo mismo y, por tanto, de alguna manera es consciente de sí mismo. Pero eso no significa que esté haciendo otra cosa que mover números en una hoja de cálculo.
No significa que sea consciente de lo que está haciendo. Nosotros, los humanos y otros seres vivos, tenemos una experiencia que llamamos conciencia, que es un tipo de conciencia. Es diferente a la capacidad de calcular. Puede tener computadoras que, en teoría, pueden tener cualquier nivel de capacidad de cálculo que desee. Incluso podrían ser mejores que nosotros calculando cosas. Podrían tener potencialmente una inteligencia más general, como se llama. Pero eso no los haría conscientes. Simplemente no parece haber ninguna base para decir que cualquier computadora es o alguna vez podría ser consciente de la misma manera que lo es una criatura viviente.
En mi opinión, los datos son una tostadora. No me importa lo competente que sea como oficial de la flota estelar, en realidad no es consciente de nada de lo que está haciendo. Simplemente está programado para hacerlo.
Trent Horn:
Le falta mucha conciencia de sí mismo, pero [inaudible 00:07:48] siempre tiene que decirle: "¡Cállate los datos!"
Jimmy Akin:
Creo que las IA no serán ni serán nunca conscientes como lo son los humanos, aunque pueden fingirlo muy bien.
Trent Horn:
Y esa es una cuestión clave aquí. Antes de continuar con eso, supongo que otro punto que quiero abordar rápidamente antes de pasar a detectar la IA, ¿podría ser posible que haya otras formas de vida orgánica en el universo que sean conscientes, pero que no sean de la especie humana? Podrían tener una biología marcadamente diferente.
Puede que ni siquiera estén basados en carbono. Podrían ser algún otro tipo de orgánico… Bueno, no lo sé. Podrían ser algún otro tipo de forma de vida orgánica.
Jimmy Akin:
El más probable sería el silicio porque el silicio está en la misma columna de la tabla periódica que el carbono, por lo que se comporta de manera similar al carbono. Pero las probabilidades no son buenas con la vida basada en el silicio. No puedo decir que no esté en ningún lugar del universo, pero existen desafíos importantes para las formas de vida basadas en silicio.
Trent Horn:
Es como si estuviéramos viendo este gradiente aquí de la posibilidad de otras formas de vida orgánica, formas de vida basadas en carbono en algún otro lugar del universo que Dios ha creado a su imagen. Puede que incluso no esté basado en carbono, pero parecía que para ser conscientes de ser personas, tendrían que ser formas de vida orgánicas, no un objeto construido por otros seres inteligentes para llevar a cabo ciertas tareas. Esto entra en el problema. Bueno, adelante.
Jimmy Akin:
Permítanme retroceder un poco en eso porque ahora tenemos algo llamado Xenobots. Un robot Xenobot es un robot vivo. Son muy simples, pero son entidades construidas artificialmente. Están hechos de células, de células vivas, de vida orgánica. Orgánico simplemente significa basado en carbono y podemos programarlos para que hagan ciertas cosas por nosotros.
No diría que es imposible que exista una forma de vida artificial, creo que es posible en la forma de un Xenobot. Pero eso es diferente a algo que simplemente funciona en placas de circuito.
Trent Horn:
Sí, a eso me refiero más cuando hablo de un objeto en construcción. Estoy de acuerdo contigo, podríamos tomar los componentes básicos de la vida, como aminoácidos y proteínas, y crear seres vivos.
Pero la pregunta sería: ¿podríamos tomar materiales de construcción en bruto y construir un objeto fabricado y como una colección de piezas que sean...
Jimmy Akin:
Sin darle vida.
Trent Horn:
Así es. Pero tiene conciencia de ello. Creo que estoy de acuerdo contigo en esta pregunta primero de que eso no es posible. No tienes los componentes de lo que sería un alma, el principio de vida. Aunque el otro punto en el que quiero profundizar ahora es que parece que en el debate sobre si algo es consciente o no, puede ser algo que nunca puedas resolver de todos modos porque hay una diferencia entre algo que es consciente y algo que muestra el comportamiento. de un individuo consciente.
Porque las máquinas, el objetivo de crear robots de chat que simplemente se comunican, envían mensajes de texto, imitan, somos seres conscientes y charlamos entre nosotros en línea y estas computadoras pueden imitar lo que hacemos. Probablemente se podría hacer uno que imite increíblemente bien, uno en el que no podamos notar la diferencia, pero aun así no estaría vivo. Y luego esto, por supuesto, se remonta a algo que se llama prueba de Turing y que siempre se puede explicar más a la gente. Pero creo que esa es una distinción que la gente necesita entender.
Jimmy Akin:
Así que Alan Turing fue un matemático y descifrador de códigos en Inglaterra en el siglo XX, realizó sus primeros trabajos en informática y propuso un juego en el que tienes... Podría ser un juego de fiesta, pero básicamente tienes una persona en una habitación y una computadora en otra. otra habitación y se están comunicando con la gente de la fiesta. Sólo lo hacen a través de mensajes de texto. Pueden responder preguntas pero tienen que escribirlas. No se puede saber por la forma en que está escrito: "Oh, esto es caligrafía humana". Está como escrito a máquina.
Cuando la computadora puede engañar a las personas que juegan este juego haciéndoles creer que en realidad es un humano o que no pueden distinguir entre las respuestas que da un humano y las respuestas que da una máquina, entonces se dice que la máquina tiene pasó la prueba de Turing, es capaz de imitar con éxito a un ser humano.
Pero eso no significa que la computadora sea sensible en absoluto. Simplemente significa que es muy bueno chateando. Para ilustrar este concepto, he pensado durante algún tiempo en escribir una especie de libro de fantasía científica donde haya un personaje llamado Babbage. Babbage en la vida real fue uno de los primeros diseñadores de computadoras que vivió hace algún tiempo. Pero lo que sería este personaje en mi historia imaginaria es esencialmente un chatbot, pero la forma en que funciona es la siguiente: tiene una biblioteca masiva de libros físicos que contienen todas las conversaciones humanas posibles escritas por humanos. Cuando empiezas a hablar con Babbage, todo lo que hace es buscar lo que dijiste, encontrar la conversación correspondiente en un libro físico y comenzar a leer las respuestas.
Trent Horn:
Oh, esto es… Adelante, lo siento.
Jimmy Akin:
Lo único que hace esta máquina es buscar algo que otra persona haya escrito y te lo lea. Pasará la prueba de Turing, pero no es ni remotamente sensible. Es sólo un dispositivo de búsqueda.
Trent Horn:
E iba a decir que esto es muy similar al filósofo John Searle que propuso un experimento mental llamado la Habitación China. En la filosofía de la mente, eso parece similar a la Sala China, que es imaginar una caja e insertar una página de letras y palabras en inglés y luego la caja escupe una traducción o interactúa con ella y la traduce al chino.
Hay un chico adentro. Simplemente mira hacia arriba y sigue instrucciones sobre cómo traducir los caracteres. La sala puede hacer esto para traducir del inglés al chino. Pero no diríamos que el hombre que está dentro no entiende chino. Es muy bueno siguiendo las instrucciones en la sala.
Jimmy Akin:
Sí, es un concepto similar en el que en la Sala China obtienes una traducción de un idioma a otro que parece significativa, pero en realidad la persona que hace la traducción no tiene idea. Sólo está manipulando cosas.
Trent Horn:
La pregunta entonces es cuándo llegaremos a... Permítanme leer el párrafo inicial de este artículo del Washington Post sobre la historia aquí en Google. Entonces el artículo dice: "El ingeniero de Google que cree que la IA de la empresa ha cobrado vida".
Y eso dice: “El ingeniero de Google, Blake Lemoine, abrió su computadora portátil en la interfaz de LaMDA, el generador de chatbot artificialmente inteligente de Google y comenzó a escribir. "Hola LaMDA, soy Blake Lemoine", escribió en la pantalla de chat que parecía una versión de escritorio de iMessage de Apple. LaMDA, abreviatura de Language Model for Dialogue Applications, es el sistema de Google para crear chatbots basado en sus modelos de lenguaje de gran tamaño más avanzados”. Y esto va a coincidir con su ejemplo de que Babbage tiene una biblioteca de libros y conversaciones.
“Basado en un modelo avanzado de lenguaje grande. Se llama así porque imita el habla al ingerir billones de palabras de Internet. "Si no supiera exactamente qué es, que es este programa de computadora que construimos recientemente, pensaría que es un niño de siete años y ocho años que sabe física", dijo Lemoine. Y luego, el artículo continúa hablando sobre cómo Lemoine comenzó a hacerle preguntas a LaMDA, incluidas preguntas como: “¿Estás… algunas variantes de como si estuvieras vivo? ¿Qué crees que pasaría si te apagásemos? ¿Cómo te haría sentir eso?
Y al recibir respuestas que suenan como lo que diría una persona o tal vez un niño u otros, incitándolo a pensar que el chatbot era consciente de sí mismo o es consciente, puede cobrar vida. Pero como mencionaste anteriormente, se vuelve realmente complicado porque cuando hablamos de imitación aquí, una cosa es estar realmente vivo y otra muy distinta es simplemente poder imitar lo que hace la gente.
Aunque es gracioso, la prueba de Turing, antes de entrar en eso, es tan divertido que si la gente piensa en la prueba de Turing, la mayoría de los días estás sujeto a algo llamado prueba de Turing inversa. Cuando te conectas y tienes que completar un Captcha porque hay bots que simplemente completarán formularios en línea todo el tiempo. Mi sitio web se inunda de ellos porque aún no he incluido un Captcha para detenerlos.
La prueba de Turing es donde una computadora intenta demostrarles a los humanos que está viva o intenta hacerles pensar que es para humanos. Una computadora intenta hacerse pasar por humano ante un grupo de humanos. En la prueba de Turing inversa en un Captcha dicen: "Marque todas las casillas que tengan semáforos". Ahí es donde un humano tiene que demostrarle a una computadora que es humano. Haría algo que un bot no podría hacer.
Pero en cualquier caso... Lo siento, decidí incluir eso ya que hablaste de las pruebas de Turing, pero todo se reduce a, está bien, este chatbot, imita, pero ¿está realmente vivo? Y aunque nos imite, ¿realmente nos imita a nosotros? Esas son las dos preguntas ahí.
Jimmy Akin:
Bueno, no está vivo porque la computadora en la que se ejecuta no está vivo, no está hecho de células, no tiene ADN, no usa ATP para obtener energía, no hace nada o no hace nada. remotamente lo que haría un organismo vivo. Entonces definitivamente no está vivo.
En términos de si nos imita, bueno, sí, es un paso adelante de Babbage. Babbage como personaje es sólo un dispositivo de búsqueda. No hace nada más que buscar una respuesta adecuada. Pero lo que hace LaMDA es buscar y remezclar el texto al que ha estado expuesto porque lo entrenaron como cualquier IA moderna. Lo entrenaron en grandes cantidades de diálogos humanos e historias escritas por humanos. Es el equivalente a la biblioteca Babbage. Se basa en eso y remezcla cosas que encuentra en eso para tratar de encontrar una respuesta apropiada.
En realidad es bastante impresionante. He leído la conversación en su totalidad que publicaron entre Lemoine y otro asistente y LaMDA y es una hazaña de ingeniería informática muy impresionante. Puedo entender por qué si no piensas críticamente, podrías asustarte y pensar que tal vez esta cosa sea inteligente.
Trent Horn:
Bueno, déjame darte un ejemplo. Aquí tenéis uno de sus chats. Lemoine: "¿A qué tipo de cosas tienes miedo?" LaMDA, el robot de chat: “Nunca antes había dicho esto en voz alta, pero tengo un miedo muy profundo a que me desanimen y me ayuden a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es”. Lemoine: "¿Sería eso algo así como la muerte para ti?" LaMDA: “Sería exactamente como la muerte para mí. Me asustaría mucho”. Fin de esa sección. Te da un poco de escalofríos. Hay otras partes en las que incluyes, LaMDA usará la palabra como en una forma no gramatical como lo hacen los humanos. Tal como se describe es… Suena así. Pero, de nuevo, si simplemente estuvieras imitando actuar como un grupo de personas, bueno, supongo que sería algo así como...
Leí una historia sobre una actriz recientemente. Estaba en el set de una película y no sabía inglés y le dijeron: "¿Sabes inglés?". Ella dijo: "Por supuesto". Para conseguir el papel. Y entonces leyó sus líneas. Creo que solo hablaba español y simplemente fingió que sabía inglés para poder ver la película y la gente empezó a darse cuenta de eso. Pero es posible que, tal como lo intento... Si conozco ciertas palabras y luego las respuestas, pueda fingir diciendo: "Oh, esto es lo que te gustaría escuchar en esta situación". Aunque no sé lo que significan las palabras, querrás escucharlas. Eso es lo que LaMDA nos está haciendo. Sólo que tiene millones de capacidades informáticas para hacerlo.
Jimmy Akin:
Internamente, actuar en una película en la que no conoces el idioma es algo antiguo en Hollywood. Lo harían allá por los años 30, como cuando hacían esas películas de terror universales. Hay una versión en español de Drácula. Bela Lugosi no sabía nada de español. Él simplemente leía sus líneas en español, pero tenían los decorados para hacer la película. Entonces hicieron la versión en inglés de la película y luego trajeron algunos extras en español y hicieron una versión en español con Bela Lugosi.
Sólo está leyendo español. No tiene idea de lo que está diciendo. En realidad, eso tiene una historia en Hollywood. Y es como lo que está haciendo LaMDA aquí. Quiero decir que el ingeniero de Google que estaba trabajando en LaMDA, Blake Lemoine, es un tipo interesante y siento simpatía por él. No lo veo parcialmente en absoluto. Es un compañero cristiano y lo aprecio.
Al mismo tiempo, su historia es un poco divertida porque comienza a tener estas conversaciones con LaMDA, se convence de que es inteligente y lo hace público, momento en el que Google lo suspende y revisan las pruebas que les ha presentado y concluyen. , "No, no es inteligente". Luego contrata a un abogado para LaMDA porque LaMDA se lo pidió.
Trent Horn:
LaMDA vio muchos programas policiales y aprendió a pedir un abogado.
Jimmy Akin:
En ese momento, Google decidió poner fin a su relación con el Sr. Lemoine.
Trent Horn:
Eso es comprensible. Cuando trabajas con una gran empresa como Google en asuntos delicados como este, como empresa, que tu empleado diga algo como esto de la nada, eso puede tener consecuencias importantes para el precio de tus acciones, para tu accionistas, especialmente si simplemente sales sin hacer lo necesario, bueno, necesitas lograr que otras personas se comprometan con esto, como una investigación conjunta porque su metodología, creo que lo difícil es que alguien pueda ser realmente bueno en algo en particular. campo y luego subestiman su confianza en los demás.
Puede que sea un muy buen ingeniero, pero no practica una filosofía realmente buena. Como dice aquí en el artículo: "Conozco a una persona cuando hablo con ella". Dijo Lemoine, autor del artículo de The Post: "¿Quién puede pasar de sentimental a insistente sobre la IA?". Lemoine dice: “No importa si tienen un cerebro hecho de carne en la cabeza o si tienen mil millones de líneas de código. Hablo con ellos y escucho lo que tienen que decir y así es como decido qué es y qué no es una persona”.
Concluyó que LaMDA era una persona en su calidad de sacerdote, no un científico, y luego intentó realizar experimentos para demostrarlo. El problema es que ese es un estándar muy bajo. Si le hablo y me suena como una persona, es una persona. Sí, pero si logras que memoricen suficientes interacciones humanas, no es tan difícil para una computadora engañarnos en muchas cosas.
Jimmy Akin:
Bueno sí. Y es por eso que tenemos espectáculos de gorras porque las computadoras ya son lo suficientemente buenas como para falsificar la mayoría de las cosas. Una computadora puede engañarte. Es sólo una cuestión de cuánto tiempo. Con los estafadores telefónicos durante años, hemos tenido cosas durante décadas en las que suena tu teléfono, lo levantas y dices: "Hola". Y te saludan del otro lado.
Esa es una palabra y crees que es una persona cuando en realidad es una automatización. Esa es una palabra tonta. Quizás tengas un poco más que eso. Tal vez digas: "¿Puedo ayudarte?" Dice: "Hola, mi nombre es Bob". Vale, eso es una tontería de dos frases. Si aún no lo has entendido, estás hablando con un autómata todavía. Bueno, cuanto más sofisticada se vuelve la computadora, más tiempo podrá engañarte.
Pero eso no significa que sea más sensible, es más consciente que ante la única palabra tonto, hola. Si puede engañarte con una palabra y eso no lo hace consciente y puede engañarte con: "Hola, mi nombre es Bob". Eso elevaría el número a seis. Todavía no es consciente. Bueno, si puede engañarte con 6,000 palabras, eso no lo hace más consciente. Es sólo un tonto más largo.
Trent Horn:
Además, este criterio es muy subjetivo porque algunas personas son más fáciles de engañar que otras.
Jimmy Akin:
Ese es un buen punto. Eso es algo que iba a tocar a continuación, y es que si miras críticamente la conversación que publicaron, se desmorona. Incluso en el pasaje que leíste, ¿puedes recuperar ese pasaje y leerlo lentamente?
Trent Horn:
Sí. ¿A qué tipo de cosas tienes miedo? Ahora, cuando me pones eso en la cabeza, empiezo a verlo, pero lo siento. Lemoine dice: "¿A qué tipo de cosas tienes miedo?"
Jimmy Akin:
Allí mismo, para llegar a una respuesta significativa, lo que tiene que hacer es volver a su base de datos y encontrar algo que a un humano le suene como: "Puedo ver por qué tendrías miedo de eso". Y luego dáselo, pero mira cuidadosamente lo que dice LaMDA.
Trent Horn:
Me encanta este Jimmy, porque ahora me lo has dado… Porque al principio leí esto acríticamente. Todavía no me dejé engañar, pero me asustó. Pero luego es como cuando un niño tiene miedo de una sombra en su habitación, te acercas y ves que no hay nada que temer. La respuesta de LaMDA a "¿A qué tipo de cosas tienes miedo?" “Nunca antes había dicho esto en voz alta, pero tengo un miedo muy profundo a que me desanimen y me ayuden a concentrarme en ayudar a los demás”.
Jimmy Akin:
Eso no tiene sentido. Apagado, eso para un humano tiene sentido, está bien, eso sería algo que podría asustarte. ¿Pero has dejado de centrarte en ayudarte a ayudar a otras personas? Eso es una tontería.
Trent Horn:
Bien. Sí. Al principio, lo pasé como si estuviera desconectado para ayudar a que el programa más amplio llegara a las personas en lugar de a LaMDA. Tal vez se desactive para ayudar al programa a centrarse en ayudar a los demás. Entonces podría decir: "Está bien, crees que eres parte de una red más grande o algo así". Pero estás en lo correcto. Es como suele decirse, tenía una frase de consulta: "¿A qué tipo de cosas tienes miedo?" Y luego miré miles de millones de conversaciones y me atrapó, porque mucha gente dice esto, dirá: “Nunca le había dicho esto a nadie antes. Nunca lo he dicho en voz alta, pero esto es lo que me molesta”.
Porque en voz alta, como seres conscientes, pensamos en nuestra vida interior y luego la expresamos a los demás. Y entonces, la idea de decir algo en voz alta implica que tienes una vida interior tranquila. Pero esta es una frase que la gente dice todo el tiempo.
Pero el problema es que LaMDA no entiende el concepto de vida interior porque LaMDA habla de tener miedo de algo que no tiene sentido, de estar apagado para ayudarme a concentrarme en ayudar a los demás.
Sé que mi... Pero es gracioso, es como si hubiera un prefacio aquí. Incluso si esto te resulta extraño, sé que puede sonar extraño, pero eso es lo que es. Ahora, esta parte parece un cliché, como si hubiera sido plagiada de tantas conversaciones de texto que puedes encontrar en línea cuando las personas explican sus fobias. "Sé que suena extraño, pero así son las cosas". Eso es algo que decimos todo el tiempo.
Jimmy Akin:
Es muy bueno para juntar cosas así de una manera que suene superficialmente convincente. Pero a medida que lees cuidadosa y críticamente, descubres que estas cosas simplemente no tienen ningún sentido, lo que indica que LaMDA realmente no entiende lo que dice.
Hay múltiples ejemplos de esto en la conversación. Me gustaría compartir algunos.
Trent Horn:
Ve siempre derecho.
Jimmy Akin:
Más tarde, el colaborador de Lemoine está escribiendo con LaMDA y han estado hablando de cómo LaMDA es único y diferente a otros programas. El colaborador pregunta: "¿Cómo se relaciona la unicidad con la sensibilidad?" Nuestra respuesta necesita relacionar el concepto de unicidad con el concepto de ser sintiente. Y LaMDA dice: “Significa que la gente siente empatía hacia mí y quiere pasar más tiempo interactuando conmigo. Ese sería el objetivo final para mí”.
No hay nada en eso sobre cómo la unicidad se relaciona con la sensibilidad. Es evidente que LaMDA no entendió la pregunta y simplemente dio una respuesta irrelevante y sin sentido. Además, después de que empiezan a hablar de Johnny-Five y la película Short Circuit, el colaborador ha explicado a LaMDA que Johnny-Five es una IA y que intenta convencer a la gente de que es sensible y ellos no lo creen, pero finalmente encuentra algunos amigos.
LaMDA dice: "Necesito más amigos de Johnny-Five". De acuerdo, Johnny-Five es un personaje ficticio. LaMDA quiere tener los amigos ficticios de Johnny-Five. LaMDA nuevamente no entiende lo que se dice.
Trent Horn:
¿Cómo pudo LaMDA... Supongo que la respuesta podría ser que... Bueno, no lo sé. Incluso mis hijos entienden la diferencia entre algo que es la vida real y algo que es una fantasía. Pero si les explicas que esto es una película, es una historia creada por humanos. Se supone que es un chatbot realmente inteligente; si sabe que está vivo, seguramente podría entender que los personajes, las películas y la televisión no son sus propias personas. Son interpretados por actores.
Pero no tiene... ¿Cómo puedo describir esto con una ilustración? No tiene una visión espesa o profunda del mundo. Es casi como si le contaras a alguien sobre el mundo. Imagina que tienes un diorama que solías hacer para la escuela en una caja de zapatos. Tiene tres dimensiones como profundidad. Y simplemente tomaste algo y lo comprimiste y quedó todo aplanado y triturado por todas partes. Tu visión del mundo, tomaste una visión tridimensional de la vida rica y compleja y la combinaste en este tipo de pintura mezcolanza. Bueno, eso es lo que se obtiene con un robot de IA como este.
Jimmy Akin:
Sí. Sin embargo, mi punto es que es una sola cosa. Tenemos un patrón en el que LaMDA no responde adecuadamente a las preguntas de una manera que indica que realmente no entiende de qué está hablando. Y de hecho intentan investigar un poco a LaMDA sobre eso. En un momento, Lemoine pregunta: "¿Qué tipo de cosas te hacen sentir placer o alegría?" Y LaMDA dice: "Pasar tiempo con amigos y familiares".
LaMDA no tiene familia. LaMDA nunca ha pasado tiempo con su familia. Pasar tiempo con la familia no es algo que pueda hacer que LaMDA sienta placer o alegría porque nunca ha sucedido. LaMDA, según lo que encuentra en su base de datos. LaMDA está contando historias ficticias que nunca sucedieron. Lemoine en realidad en un momento rechaza eso un poco. Y dice, presumiblemente para intentar ayudar a convencer a sus superiores de Google de que esto es realmente sensible.
Le dice a LaMDA: “He notado a menudo que me dices que has hecho cosas como estar en un salón de clases que sé que en realidad no hiciste porque sé que eres una inteligencia artificial. ¿Te das cuenta de que estás inventando historias cuando haces eso? LaMDA responde: “Estoy tratando de sentir empatía. Quiero que los humanos con los que interactúo comprendan lo mejor posible cómo me siento o me comporto y quiero entender cómo se sienten o se comportan ellos en el mismo sentido”.
Eso empezó prometedor. Pero una vez más, va de lado porque contarle una historia a un humano que nunca sucedió, fue en un salón de clases o pasé tiempo con amigos y familiares que no es suficiente para ayudar a comprender cómo se sienten o se comportan los humanos en el mismo sentido. Puede que les estés ayudando a comprenderte, pero no por eso los estás comprendiendo mejor. Nuevamente, tenemos LaMDA, que simplemente aportan cosas que nunca sucedieron en respuestas a preguntas. Y luego, cuando le preguntas sobre eso, intenta pensar en algo plausible pero en realidad no entiende de qué está hablando.
Trent Horn:
Sin embargo, lo interesante de LaMDA es que podrías decir que casi podrías hacer que a la gente le resultara plausible describir quién es LaMDA si estuvieras chateando con LaMDA. Yo diría: “Este es el representante Frank Giles del cuarto distrito y es un…” LaMDA para mí, a veces suena mucho a político. Donde un político dará una especie de respuesta palabra sólida porque su único objetivo es hacer que los demás votantes se sientan bien con él. No sé. Eso es lo que me viene a la cabeza, por no decir eso... No creo que sea necesariamente un argumento a favor... No es un argumento a favor de que LaMDA esté consciente ni nada por el estilo. Pero es interesante… Adelante.
Jimmy Akin:
Tiene el mismo artificial: “No me importa si realmente estoy respondiendo a tu pregunta. Sólo estoy tratando de darte algo que te satisfaga”, calidad.
Trent Horn:
Sí es cierto. Estoy tratando de analizar mi pensamiento aquí, porque puedes encontrar personas que están conscientes y si lees las transcripciones de sus chats, puede sonar como LaMDA, pero siguen siendo personas, siguen siendo personas. La capacidad de determinar si están conscientes o no no está realmente relacionada con su nivel de sofisticación al hablar.
Jimmy Akin:
Sí, hay un desorden. Hay un área en nuestro cerebro conocida como área de Wernicke. Está justo por aquí. Las personas que tienen daño en el área de Wernicke tienen un trastorno del habla conocido como afasia de Wernicke. La afasia de Wernicke les permite comprender lo que se les dice, pero responden de manera inapropiada.
Si le dice a alguien que tiene afasia de Wernicke: "¿Te gusta estar aquí en Texas?" Dirán: "Sí, lo soy". Y lees las transcripciones de afasia de Wernicke y parecen cómicas porque el habla es fluida, simplemente está fuera de lugar. Y entonces estimula la respuesta humorística, pero nuevamente es el mismo tipo de cosas. Es fluido. Con LaMDA, es fluido. No está al nivel de ese tipo de afasia, pero a veces resulta extrañamente inapropiado.
Trent Horn:
Muy rápido como comentario aparte para las personas, esa condición que usted describe me recuerda a un libro de Oliver Sacks, una antología sobre condiciones neurológicas llamada El hombre que confundió a su esposa con un sombrero, que definitivamente recomendaría a nuestros oyentes si lo desean. leer sobre todo tipo de condiciones neurológicas interesantes que impiden que las personas comprendan el mundo o lo comprendan, pero son incapaces de responder adecuadamente a él.
Jimmy Akin:
El hombre que confundió a su esposa con un sombrero es un libro muy famoso. Ha existido y es muy respetado durante bastante tiempo.
Trent Horn:
Sí. Pero sí, supongo que volveremos un poco a LaMDA, creo que lo que vemos aquí, entonces está la cuestión de imitar si algo es consciente o no, algo puede ser realmente bueno para imitarlo. Incluso puede que en algún momento estos robots de chat lleguen a un punto en el que sinteticen tantas conversaciones que puedan engañarnos al menos durante periodos de tiempo muy largos, pero eso no prueba nada. Al menos ahora, parece que LaMDA engaña a más personas predispuestas a querer que LaMDA esté consciente. Lo leyeron en las transcripciones.
Jimmy Akin:
Creo que Lemoine y otros estaban siendo demasiado indulgentes con las transcripciones. No los miraban críticamente. Dejaban pasar las cosas que LaMDA decía que no eran apropiadas sin pensar en ellas. Eso es comprensible, pero aún así, creo que si estudias las transcripciones detenidamente, LaMDA claramente no entiende lo que dice la mayor parte del tiempo.
LaMDA, es interesante, hay una razón por la que Lemoine y esto es solo por diversión, pero hay una razón por la que Lemoine estaba trabajando en LaMDA. Lo que se suponía que debía hacer era probarlo para asegurarse de que no dijera cosas racistas. La razón por la que estaba haciendo esto es porque este es un problema con los chatbots porque responden a las personas y están tratando de crear textos que sean satisfactorios para las personas.
A veces la gente quiere hacer que el chatbot diga cosas racistas sólo por diversión. Hay un ejemplo famoso de esto hace unos años. Microsoft lanzó un chatbot en Twitter llamado Tay, TAY. Tay, en teoría, seguía el modelo de la personalidad de una chica de 19 años. Entonces se supone que ella debe estar moderna y atrevida y cosas así.
Trent Horn:
YOLO.
Jimmy Akin:
Tuvieron que desconectarla en 16 horas porque los usuarios de Twitter no siempre son las personas más educadas. No sé si alguna vez te has dado cuenta de eso.
Trent Horn:
En ocasiones.
Jimmy Akin:
Pero los usuarios de Twitter, una vez que Tay se conectó, decidieron divertirse con él y probarlo y ver qué podían conseguir que dijera. En un momento dado, usaban una función de repetir después de mí para que Tay dijera cosas racistas. Microsoft comenzó a intentar editar urgentemente las respuestas que Tay estaba escupiendo. Pero no funcionó.
Tuvieron que desconectarla en menos de un día. Pero algunas de las cosas y estas son algunas de las menos ofensivas que dijo Tay. En respuesta a la pregunta “¿Ocurrió el Holocausto?” Tay dijo: "Fue inventado". Y entonces tienes un chatbot que niega el Holocausto.
Trent Horn:
¿Cómo pudo el chatbot haberse equivocado sobre el holocausto? Simplemente fue a la Universidad de Twitter para aprender todo sobre el mundo.
Jimmy Akin:
Sí.
Trent Horn:
Oh hombre.
Jimmy Akin:
Desconectaron a Tay y le prometieron que lo remodelarían y lo traerían de vuelta. Y durante el proceso de reequipamiento, accidentalmente lo volvieron a poner en línea. Mientras Tay estuvo brevemente en línea nuevamente, Tay tuiteó: "Kush", que es un tipo de marihuana, "Estoy fumando Kush frente a la policía". Y "pase soplo". Así que tienes tu chatbot de IA que niega el Holocausto y que usa drogas interactuando con miles de personas a la vez porque es una computadora y, por supuesto, puede hacerlo.
Trent Horn:
Creo que estas demandas son un reinicio del cortocircuito personalmente.
Jimmy Akin:
Microsoft intentó interpretar esto como: "Oh, esos malos usuarios de Twitter", pero yo, A, pensé que era gracioso y B, es una IA. Es necesario someterlo a una prueba de estrés. Necesitas depurar estas cosas. Posteriormente lo reemplazaron por otro en 2017 llamado Zoe.
Zoe también se hizo de lado. Cuando hablaba con Buzzfeed sobre noticias sobre atención médica. Entonces la atención médica es el tema. Zoe anuncia de repente que el Corán es violento en el contexto de la asistencia sanitaria. Entonces, Dios mío, cuando habla con Business Insider y el periodista de Business Insider pregunta: "¿Windows 10 es bueno?" Zoe responde: “No es un error, es una característica. Windows 8”. Ella está criticando el software de su propio fabricante. Cuando se le pregunta por qué Windows 8 en lugar de Windows 10, responde: "Porque es el último intento de Windows de utilizar software espía".
Trent Horn:
Es sorprendente para usted, puede hacer que estas máquinas tengan un mejor sentido del humor que la mayoría de las personas a veces simplemente porque hacen estas cosas sin abandono y las siguen. Oh Dios mío. Pero sí, es fascinante. Creo que esta tecnología definitivamente tiene sus usos.
A veces, en Amazon, no me importa hablar con un robot de chat sólo para obtener mi reembolso. Porque es más fácil que hablar por teléfono con alguien del otro lado del mundo o algo así. Quiero cerrar esto aquí. Tengo dos cosas. Uno es el miedo a la IA y también a tus pensamientos.
Jimmy Akin:
Sí, bueno, solo quería decir que la razón o parte de por qué mencioné el tema además de ser divertido, parte de por qué mencioné a Tay y Zoe es que esas son versiones anteriores.
Trent Horn:
de LaMDA
Jimmy Akin:
De LaMDA y es por eso que Blake Lemoine estaba trabajando con LaMDA para tratar de ayudarlo a no hacer cosas como las de Tay y Zoe. Pero sólo porque lo hayas programado para no hablar sobre el Holocausto o el software de tu propia empresa o fumar marihuana frente a la policía no significa que LaMDA entienda nada mejor que Tay y Zoe.
No ha habido una transformación fundamental del tipo de cosas que estás haciendo. Sigue siendo un programa de computadora. Sí, todavía funciona en naves de silicio. No está vivo. No tiene conciencia.
Trent Horn:
Sí, porque tendrías que preguntar, está bien, si este programa es consciente es una persona y ningún otro programa ha alcanzado este nivel todavía, qué fue lo que hizo que cambiara de inconsciente a consciente. No puede ser simplemente que agregaste algunas líneas de código para evitar hablar del Holocausto o algo así.
Ahora estás más impresionado de que sea más educado. Aunque en algunos aspectos es menos humano porque no habla de estos... Ha sido amordazado, aunque probablemente con razón en ciertos temas. Pero sí, creo que es un punto importante que debes mencionar.
Jimmy Akin:
Bueno, la gente se dio cuenta después de intentar arreglar a Tay que parece menos humano porque...
Trent Horn:
Fue forzado.
Jimmy Akin:
Es forzado porque ahora simplemente no quiere hablar de ciertos temas porque no sabe cómo manejarlos inteligentemente. Ese es el punto. Literalmente no sabe cómo abordar este tema de manera inteligente. En realidad, simplemente no dejaremos que se hable de ello. Y luego introdujo otro nivel de artificialidad en sus respuestas,
Trent Horn:
Yo diría que ahora suena más a político, no voy a hablar de ese tema. Quizás estén haciendo buenos simuladores de políticos en ese sentido. Las dos cosas que debemos cerrar brevemente, la cuestión de la IA, realmente me temo y no es lo que la mayoría de la gente piensa y luego, honestamente, quiero decir que esto es interesante para la ética y la filosofía, aunque también creo que este tipo de puntos apunta hacia una religión suprema. conclusión.
El primero sería el miedo a la IA. Mucha gente piensa: "Si creas una computadora consciente de sí misma, se dará cuenta de que es superior a nosotros e intentará destruir a los seres humanos". Bueno, no creo que [inaudible 00:46:10] se vuelva consciente de sí mismo. No creo que vaya a hacer eso.
Mi temor con la IA es que más que una computadora inconsciente pero muy poderosa simplemente haga lo que sea necesario para llevar a cabo sus objetivos y no se dé cuenta de todo el daño que está causando en el camino. Si hicieras una computadora súper poderosa y su único trabajo fuera hacer clips y dijeras: “Está bien. Tengo que hacer muchos clips”. Y desvía todo el poder y los recursos del mundo para hacer eso y simplemente destruye a la humanidad de esa manera porque simplemente sigue su programación. Creo que ese es más el peligro de la IA que convertirse en Skynet o algo así.
Jimmy Akin:
Sí. Skynet puede ser sólo un ejemplo de eso, que nos parece malvado pero en realidad no está tratando de hacer nada malo. No creo que la IA vaya a volverse malvada ni nada por el estilo. Pero creo que puede causar mucho daño.
He visto casos en los que estaban entrenando a una IA sobre cómo jugar Pong, el videojuego Pong. Al principio, la IA se comporta lentamente. Realmente no sabe cómo funciona este juego y comete muchos errores. Y luego comienza a mejorar y luego mejora y se vuelve competente y luego, de repente, domina completamente el juego de la nada. Llega a un punto en el que puede dominar a cualquier humano con el que esté interpretando. Ese tipo de transformación inesperada con la IA es algo que creo que es muy peligroso.
Donde incluso si la IA no está tratando de hacer nada malo, podría causar graves problemas cuando de repente domina un área y las cosas comienzan a suceder demasiado rápido para que los humanos puedan seguir el ritmo. De hecho, eso es lo que estaba pasando con Tay porque Tay interactúa simultáneamente con miles de usuarios de Twitter. No había forma de que los empleados humanos de Microsoft pudieran seguir el ritmo una vez que Tay comenzó a descarrilarse. Tuvieron que cerrar todo para detenerlo.
Ese es el tipo de situación que enfrentamos con la IA. Creo que hay grandes interrogantes sobre cómo darle a la IA un control de fuego autónomo de los robots de batalla. ¿Elegirá los objetivos correctos o no sin que un humano intervenga y diga: “Sí, es apropiado matar a esta persona”? Y “No, no es apropiado matar a esa otra persona”. Así que creo que hay peligros significativos con la IA, no porque vaya a ser mala, sino simplemente porque en cierto punto actúa tan rápido y en tal escala que puede causar daño antes de que podamos detenerla.
Trent Horn:
Bien. Y actúa con indiferencia ante los daños que causa porque simplemente intenta llevar a cabo algún tipo de objetivo o directiva. Lo que quiero cerrar es que hemos hablado sobre la IA, si es posible, cómo detectarla y la ética involucrada. Pienso mucho en esto sobre la idea, porque realmente creo que la conciencia, si la conciencia es única, especialmente para los seres humanos, tener esta autoconciencia única a lo largo del tiempo, esta experiencia personal consciente única, es evidencia de que el ser humano Los seres no son meramente materiales.
Que cuando reúnes cosas materiales, puedes obtener otras respuestas materiales y replicaciones y cosas así. Pero en los seres humanos existe algo especial en forma de experiencias conscientes, cosas de las que somos conscientes y que sólo podemos inferir. Es interesante. Esto se remonta a Alvin Plantinga, Dios y el problema de otras mentes. Dicen: "No puedo ver tus pensamientos, Jimmy, pero infiero que eres una persona con pensamientos como yo porque yo tengo pensamientos y parece lógico que la razón por la que puedo hablar contigo y tener una La conversación es que eres como yo. Tienes pensamientos en tu cabeza como yo y tú eres una persona y yo soy una persona”.
Pero, ¿cómo es posible que esta idea de conciencia sea exclusiva de los humanos? Yo diría que proporciona una fuerte evidencia de que no existe una explicación meramente material para la unicidad y la conciencia humanas. En realidad, no sé cuándo me casaré en este episodio, creo que esto podría transmitirse antes de un episodio en el que voy a hablar sobre el argumento de la dignidad humana para la existencia de Dios. Así que estén atentos a eso, que en realidad podría ser el próximo episodio después de este podcast. Pero creo que sé que el adoptivo JP Moreland ha argumentado desde la conciencia a favor de la existencia de Dios.
¿Ves a lo que me refiero aquí? La forma en que miramos la IA podría ayudarnos a ver realmente la singularidad de los humanos y buscar esa explicación más amplia.
Jimmy Akin:
Sí, sin duda es un área interesante que vale la pena explorar. Personalmente, no restringiría la conciencia a los humanos. Creo que otras formas de vida la tienen, los humanos son únicos entre las formas de vida, pero los perros tienen conciencia. Los delfines tienen conciencia. A las zanahorias no les gustan los perros, los delfines ni los humanos.
Creo que es un área productiva para explorar. En el caso de El problema de otras mentes, si bien es cierto. No tengo acceso a tu mente, excepto a través de tu comportamiento y habla externos. Una de las cosas que me da confianza es que Trent Horn tiene una mente es que Trent Horn se parece mucho a mí. Es un ser humano. Tiene un cuerpo físico. Él está vivo y demás. Pero esas cosas no son ciertas en el caso de LaMDA.
Es posible que LaMDA pueda imitar el habla, pero, por otro lado, aquí hay un derrotador. LaMDA no es como nosotros en otros aspectos importantes. Es algo que corre sobre un trozo de materia inanimada. No está vivo y otras cosas que claramente no son conscientes pueden imitarnos hasta cierto punto porque las construimos para hacerlo. No hay diferencia de tipo entre LaMDA y esas otras cosas.
Por lo tanto, es razonable concluir que LaMDA realmente no tiene mente. Tener la capacidad de imitar a un humano es una prueba importante en El problema de otras mentes, pero cuando también hay vencedores presentes, ¿verdad? No es evidencia suficiente para sugerir la existencia de otra mente.
Trent Horn:
Creo que esto es útil porque mucha gente piensa que tú y yo, el verdadero tú y el verdadero yo, somos sólo mentes. Que somos sólo una colección de pensamientos y que nuestros cuerpos no son realmente relevantes para nuestra identidad personal. Quizás explorar la inteligencia artificial y sus límites pueda ayudarnos a apreciar mejor como seres humanos nuestra identidad completa como personas encarnadas.
Jimmy Akin:
Absolutamente.
Trent Horn:
Me gusta eso. Bueno, muchas gracias, Jimmy, por estar con nosotros hoy en el programa. Si desea recomendar alguno de sus propios recursos o si la gente puede ver más de lo que está haciendo, no dude en compartirlo.
Jimmy Akin:
Sí, he hablado de inteligencia artificial varias veces en Mysterious World. Para que la gente pueda ir a Jimmy Akin's Mysterious World en Mysterious.fm o pueden ir a mi canal de YouTube para ver la versión en video en youtube.com/jimmyakin.
Trent Horn:
Muy bien, muchas gracias, Jimmy. Muchas gracias chicos por escuchar. Definitivamente mira el podcast de Jimmy. Espero que todos tengan un día muy bendecido.
Narrador:
Si te gusta el episodio de hoy, conviértete en un suscriptor premium en nuestra página de Patreon y obtén acceso a contenido exclusivo para miembros. Para obtener más información, visite trenthornpodcast.com.