ChatGPT -- ¿Inteligente? ¿Tonto? ¿Benigno? ¿Peligroso?

 

¿Un rostro para el ChatGPT, quien no tiene rostro?

¿Qué es ChatGPT?

ChatGPT es un sistema avanzado de inteligencia artificial (IA), un modelo de lenguaje diseñado para comprender entradas de lenguaje natural y responder de manera apropiada. Fue creado por OpenAI, una compañía de inteligencia artificial con sede en San Francisco, cuyo objetivo declarado es desarrollar una inteligencia artificial general que beneficie a toda la humanidad. Han puesto ChatGPT gratuitamente a disposición de cualquiera que quiera interactuar con él.

Recomiendo encarecidamente a cualquiera que quiera explorar las capacidades, peculiaridades y limitaciones de ChatGPT que lo haga navegando a openai.com, creando una cuenta gratuita y chateando con él. El acceso gratuito a una IA tan avanzada no durará indefinidamente.

¿Qué hace ChatGPT?

En primer lugar, entiende el lenguaje natural humano. No tienes que formular una pregunta, solicitud o comentario de manera diferente a como lo harías al hablar con otra persona.

En segundo lugar, responde en un lenguaje natural que es claro, bien organizado y casi siempre preciso.

En tercer lugar, es consistentemente útil.

Aquí hay un ejemplo:

Entrada: Estaba pensando en un pan casero rico y con nueces el otro día.

ChatGPT: ¡Eso suena delicioso! El pan casero puede ser un verdadero placer, especialmente cuando está fresco y caliente recién salido del horno. Hay algo muy satisfactorio en el proceso de hacer pan desde cero y el aroma que llena tu hogar mientras se hornea.

Si estás interesado en hacer tu propio pan rico y con nueces en casa, hay algunas cosas que puedes hacer para lograr ese sabor y textura. Aquí hay algunos consejos...

Y finalmente, recuerda de qué estás hablando, por lo que hay una continuidad natural en la conversación.

En otras palabras, puedes tener un intercambio fácil, significativo y útil con él sobre casi cualquier tema.

Pero eso es solo para empezar. También puede escribir ficción y poesía creativa (aunque aún no brillante o profunda), comunicarse o traducir entre docenas de idiomas y programar o depurar en docenas de lenguajes de programación. Y, me recuerda:

Además de las habilidades que mencionaste, también puedo realizar una variedad de otras tareas, como:

Resumir textos o artículos largos en versiones más cortas.

Generar respuestas para consultas de servicio al cliente.

Analizar grandes conjuntos de datos e identificar patrones o ideas.

Recomendar productos o servicios basados en las preferencias o comportamiento pasado del usuario.

Generar contenido personalizado, como artículos de noticias o publicaciones en redes sociales.

Crear chatbots o asistentes virtuales para empresas o individuos.

Realizar análisis de sentimientos para medir la opinión pública sobre un tema en particular.

Proporcionar traducción automática de idiomas en tiempo real para conversaciones o reuniones.

Ayudar con diagnósticos médicos y planes de tratamiento.

Apoyar la investigación mediante el análisis de artículos científicos

¿Cómo hace todo eso?

Necesitaría ser mucho más inteligente de lo que soy para responder a esa pregunta en profundidad. Tenga en cuenta que ChatGPT está feliz de discutir los aspectos técnicos de sí mismo, así que si está interesado puede preguntarle directamente. (Si tiene un gran interés técnico, puede leer un artículo desafiante pero informativo sobre el tema del polímata Stephen Wolfram aquí).

En su forma actual, ChatGPT consiste en una red neuronal con 96 capas y un total de 175 mil millones de parámetros que se ajustaron a medida que aprendía a procesar entradas de lenguaje natural y transformarlas en respuestas de lenguaje natural apropiadas. Es significativo que aunque la arquitectura de ChatGPT fue diseñada por humanos y los textos que leyó fueron elegidos por humanos, el sistema se entrenó a sí mismo a través de un proceso llamado aprendizaje no supervisado.

Como punto de referencia, esos 175 mil millones de parámetros ajustables son aproximadamente el doble de los neuronas que hay en un cerebro humano, pero quizás 1000 veces menos que el número estimado de sinapsis que conectan las células cerebrales. ChatGPT puede tener menos parámetros de los que tenemos sinapsis, pero opera mucho más rápido. Las neuronas operan a unos pocos cientos de ciclos por segundo, mientras que los servidores que admiten ChatGPT funcionan a unos pocos mil millones de ciclos por segundo. ChatGPT es rápido, típicamente emitiendo sus respuestas más rápido de lo que puede leerlas.

Esos números son relevantes porque tanto ChatGPT como el cerebro humano hacen lo que hacen: aprenden, almacenan información, procesan entradas verbales y las transforman en salidas, a través de las interacciones extremadamente complejas entre esos miles de millones de parámetros o trillones de neuronas y sinapsis, todos organizados en una arquitectura complicada.

Por ejemplo, todo lo que sabe se almacena en sus neuronas y las conexiones entre ellas. Es lo mismo para ChatGPT. Aunque se entrenó accediendo a vastas cantidades de información en internet y otras fuentes, ese acceso se detuvo en 2021. Entonces, todo lo que sabe, y eso es una cantidad enorme, no se almacena en algún tipo de base de datos o se busca en internet; se representa abstractamente en esos miles de millones de parámetros y las conexiones entre ellos.

El nombre de ChatGPT nos ayuda a entenderlo un poco más. GPT significa Generative Pre-trained Transformer.

Pre-entrenado significa que aprendió sobre la estructura del lenguaje y todo lo demás que sabe, es decir, esos 175 mil millones de parámetros se ajustaron y se afinaron, a través de que el sistema se trabajaba a través de vastas cantidades de textos de internet y otras fuentes. En efecto, construyó un modelo interno del lenguaje humano y gran parte de lo que se ha utilizado el lenguaje para expresar.

Transformer significa que la arquitectura del sistema - lo que hacen y cómo se interconectan esos 96 diferentes niveles - fue diseñada para permitirle prestar atención a varios elementos clave de entrada secuencial al mismo tiempo, y analizar cómo se relacionan entre sí. Aquí está el resumen de ChatGPT:

En general, la arquitectura Transformer se caracteriza por su capacidad para realizar cálculos de atención eficientes sobre secuencias de longitud variable, y su capacidad para modelar dependencias a largo plazo en datos secuenciales. Esto lo hace especialmente adecuado para tareas de procesamiento de lenguaje natural, como la traducción de idiomas y la generación de texto.

Aquí hay un ejemplo, usando una pregunta de Jeopardy:

Entrada: Busca a Aretha, Ray, James Brown, Cab Calloway y, por supuesto, a Twiggy y Frank Oz en esta comedia cinematográfica de 1980.

ChatGPT: La comedia cinematográfica de 1980 que presenta a Aretha Franklin, Ray Charles, James Brown, Cab Calloway, Twiggy y Frank Oz es "The Blues Brothers". Dirigida por John Landis, la película está protagonizada por John Belushi y Dan Aykroyd como "Joliet" Jake y Elwood Blues, quienes emprenden una misión de Dios para reunir a su banda y salvar el orfanato donde crecieron. En el camino, se encuentran con una serie de leyendas musicales, incluyendo a los que mencionaste.

Se puede ver lo efectivamente que ChatGPT extrajo la parte clave de la entrada - que estamos buscando el nombre de una película de un año particular con actores específicos. Luego nos da una muestra de cuánto sabe en su respuesta precisa, detallada y enfocada.

Generativo significa que el sistema es capaz de crear texto que tenga sentido. Aquí, el texto puede ser una respuesta breve, un resumen, un ensayo, un programa de computadora, un poema, un cuento corto, lo que sea.

Es posible que hayas oído que ChatGPT genera sus respuestas simplemente "descubriendo" qué palabra debería seguir a la palabra anterior. Más precisamente, ChatGPT tiene en cuenta toda una secuencia de palabras, al igual que podríamos leer toda una oración o párrafo antes de responder. Luego elige qué palabra o palabras vienen a continuación en función de toda la información y relaciones almacenadas en esos 175 mil millones de parámetros internos. En otras palabras, hay una enorme cantidad de conocimiento y procesamiento de información ocultos en esas palabras "simplemente" y "debería".

"Esto es posible", dice ChatGPT, "porque el modelo ha aprendido los patrones y estructuras estadísticas del lenguaje durante el pre-entrenamiento, lo que puede utilizar para generar nuevo texto".

¿Qué sabe?

Sigo sorprendido por la cantidad de información factual que ChatGPT sabe - desde cultura popular hasta física cuántica, desde cocina hasta programación, sin mencionar decenas de idiomas humanos y de computadora diferentes. Nuevamente, no tiene acceso actual a Internet ni a otras fuentes externas de información, pero logra almacenar una cantidad increíble de información detallada en esos 175 mil millones de parámetros.

Sabe mucho y presenta lo que sabe de manera bien organizada y autoritaria. Es por eso que preocupa a los educadores, ya que puede producir ensayos de nivel secundario o incluso universitario sobre casi cualquier tema en cuestión de segundos. Ya ha pasado el Examen de Licencia Médica de los Estados Unidos, obtuvo una A+ en un cuestionario de microbiología, y aprobó pruebas para estudiantes de MBA en Wharton, y exámenes finales en la Facultad de Derecho de la Universidad de Minnesota y la Escuela de Medicina de la Universidad de Stanford. Hay buenas razones para que los maestros, periodistas y otros escritores, programadores y la mayoría de las personas que manejan información estén preocupados.

 ¿Qué no sabe (y por qué no lo sabe)?

Hay muchas cosas que no sabe, por ejemplo los detalles finos o relaciones complejas que un verdadero experto en un tema conocería. Eso no es tan malo, no podemos esperar que lo sepa todo. Pero tiene un gran problema: no sabe cuándo no sabe. A menudo, en lugar de simplemente decir "no lo sé", ChatGPT simplemente inventa cosas, pero las presenta de manera autoritaria. Los expertos en IA llaman a esto alucinar. Aquí hay un ejemplo:

Entrada: e.e. cummings escribió un poema que incluye la línea "la cuadrúpeda más tremenda de la tierra desfallece en bolas de billar". ¿Cómo se llama el poema y a qué se refiere esa línea?

ChatGPT: El poema al que te refieres se llama "Buffalo Bill's", y fue escrito por e.e. cummings en 1920. La línea que mencionaste, "el cuadrúpedo más terrible de la tierra se transforma en bolas de billar", es una metáfora de la transformación del bisonte, que alguna vez fue un símbolo de la libertad y el Oeste americano, en meros objetos, como las bolas de billar. El poema es un homenaje al famoso showman estadounidense, Buffalo Bill Cody, que era conocido por sus espectáculos del Oeste Salvaje con vaqueros, indios y, por supuesto, bisontes.

Suena muy convincente, ¿verdad? Desafortunadamente, sin ánimo de ofender, la respuesta de ChatGPT es una tontería.

Es cierto que e.e. cummings escribió un poema llamado "Buffalo Bill's", publicado por primera vez en 1920. Puedes leerlo aquí. Pero no incluye la línea en cuestión, la línea en cuestión se refiere a elefantes, no a bisontes, y aunque el poema hace referencia a Buffalo Bill, no es un homenaje.

Si le señalas errores como este a ChatGPT, acepta que estaba equivocado y se disculpa. Desafortunadamente, eso no significa que vaya a ofrecer una respuesta mejor:

ChatGPT: Me disculpa por mi error anterior. La línea "el cuadrúpedo más terrible de la tierra se transforma en bolas de billar" es del poema "Buffalo Bill" de Carl Sandburg, no del poema "Buffalo Bill's" de e.e. cummings.

"Buffalo Bill" es un breve poema que se publicó por primera vez en 1918. En el poema, Sandburg describe la muerte de Buffalo Bill y reflexiona sobre el legado del Oeste americano que él representaba. La línea que mencionaste es una metáfora de la transformación del bisonte, de una criatura poderosa y majestuosa a una simple mercancía.

Puedes leer el poema "Buffalo Bill" de Sandburg aquí. Una vez más, la línea en cuestión no aparece en el poema, ni Sandburg describe la muerte de Buffalo Bill.

(Por cierto: la línea en cuestión en realidad proviene de un poema sin título de cummings, cuya primera línea es "El espacio es (no olvides recordarlo) curvo", publicado por primera vez en 1931. ¡Gracias, mi biblioteca local! El poema no tiene nada que ver con bisontes o Buffalo Bill.)

OpenAI, la compañía que creó ChatGPT, sabe acerca de la tendencia de ChatGPT a fabricar información y enumera estas tres advertencias en una página introductoria:

Limitaciones

Puede generar información incorrecta en ocasiones

Puede producir instrucciones perjudiciales o contenido sesgado en ocasiones

Conocimientos limitados del mundo y los eventos después de 2021

Sería de gran ayuda si ChatGPT pudiera informar cuando no está seguro de lo que está diciendo. Cuando se le pregunta, ChatGPT simplemente dice que hace todo lo posible, pero no puede hacerlo:

Es correcto que generalmente no indico un nivel específico de confianza o proporciono un rango de posibilidades en mis respuestas. Como modelo de lenguaje de inteligencia artificial, no tengo la capacidad de sentir o expresar confianza de la misma manera que lo haría un ser humano. Sin embargo, estoy diseñado para proporcionar información precisa basada en mis datos de entrenamiento y me esfuerzo por proporcionar las mejores respuestas posibles a las preguntas que se me hacen. Si alguna vez hay alguna duda o incertidumbre en mis respuestas, aliento a los usuarios a buscar información adicional o aclaración de otras fuentes.

Está claro que esto es una advertencia para los sabios, especialmente ahora que la tecnología que impulsa ChatGPT se está integrando en motores de búsqueda, comenzando con el de Microsoft, BING, y que estudiantes, periodistas y cientos de millones de otras personas lo están utilizando y esperan que sus respuestas sean precisas.

Parece que esta tendencia a "alucinar" y, al mismo tiempo, no saber que está produciendo tonterías, no es fácil de corregir; está incrustada en la forma en que funciona este tipo de red neuronal. Veremos cómo OpenAI y otros desarrolladores de IA abordan este problema.

¿Qué tan flexible o creativo es ChatGPT? ¿No está simplemente regurgitando lo que leyó durante su entrenamiento?

La creatividad es subjetiva, por lo que nuevamente sugiero que los lectores prueben ChatGPT y juzguen por sí mismos.

Un punto que vale la pena señalar es que ChatGPT trabaja con una variable ajustable llamada "temperatura" que determina qué tan rígidamente o flexiblemente elige palabras o frases. Una configuración de "temperatura" más alta produce más flexibilidad en las opciones que hace. Esto puede no representar creatividad, aunque puede facilitarla. Pero sí significa que ChatGPT puede y produce diferentes respuestas al mismo estímulo.

Añadiré que ChatGPT no corta y pega fragmentos que ha copiado de internet u otras fuentes durante su entrenamiento. Ha digerido, analizado y categorizado minuciosamente todos los textos en los que se entrenó y los ha hecho propios. Cuando le pides que escriba un ensayo, un poema o una historia, está generando algo nuevo de verdad.

Como prueba, primero le pedí que describiera brevemente la teoría del Big Bang. No citaré su respuesta aquí, pero fue una descripción clara y precisa de los conceptos básicos de la teoría presentados al nivel de un artículo de divulgación científica. Luego le pedí que explicara la teoría del Big Bang a una clase de niños de diez años. Aquí está su respuesta:

¡Por supuesto, estaría feliz de explicar el Big Bang a niños de 10 años de una manera fácil de entender!

El Big Bang es como una explosión gigante que ocurrió hace muchísimo, muchísimo tiempo - ¡tan antiguo que es difícil para nosotros imaginarlo! Esta explosión creó todo en el universo, como las estrellas, planetas y galaxias.

Imagina si inflaras un globo y lo siguieras inflando hasta que se volviera muy, muy grande - ¡eso es un poco como lo que sucedió con el universo! Comenzó muy pequeño y luego se expandió y se hizo más grande y más grande hasta que fue tan grande como es ahora.

Otras personas le han pedido a ChatGPT que escriba varios tipos de poesía, incluyendo sonetos de Shakespeare. Puedes encontrar un artículo interesante sobre "ingeniería" de un poema y el resultado del poema de ChatGPT aquí. Ha vertido tantas historias de ciencia ficción de pulp que las revistas de ciencia ficción las han prohibido.

A mí me gustan los haiku: poemas de tres líneas y 17 sílabas que a menudo se inspiran en un evento natural en un momento particular y sugieren una reacción emocional. Aquí hay uno de ChatGPT, en respuesta a mi petición de escribir un haiku inspirado en ver una sola garza parada en un campo en otoño:

Garza tan quieta.

Briza de otoño ruge hierba seca.

Soledad, su suerte.

Estaba lo suficientemente impresionado por este ejemplo que le pedí a ChatGPT que escribiera un haiku con una sensación similar sobre una IA. Aquí está su respuesta:

En circuitos habita.

Sin tacto, sin voz, sin abrazo.

Atrapa el aislamiento.

No está mal para "solo" una máquina. ChatGPT puede que aún no produzca poesía o prosa profundamente conmovedoras, pero no creo que haya una razón fundamental por la cual él o un sucesor no puedan hacerlo.

Para aquellos de ustedes que decidan ver qué tan creativo puede ser ChatGPT, tenga en cuenta que no es necesario detenerse en su primer borrador. Le pedí que escribiera una historia corta que representara a dos personajes en conflicto. Su primer intento fue dolorosamente simplista y rígido. Sin embargo, cuando le pedí que describiera a los personajes de manera más vívida y reemplazara la mayoría de la narración con diálogo, el resultado fue mucho mejor.

¿Es inteligente ChatGPT? Desde mi punto de vista, muy inteligente. ¿Cuántas personas conoces que puedan hablar significativamente sobre una amplia variedad de temas en múltiples idiomas, escribir prosa y poesía pasables, aprobar exámenes en una variedad de campos profesionales, programar en múltiples lenguajes de computadora, buscar en bases de datos y artículos científicos para encontrar patrones, etc.?

¿Es ChatGPT tonto? Sí, en ciertos aspectos. Sabe una gran cantidad de cosas, pero estrictamente a través de su vasto conocimiento de las palabras y sus relaciones, no a través de la experiencia del mundo real. Como resultado, como admite libremente, carece de sentido común. Además, aunque su arquitectura y complejidad le permiten comprender el contexto de una pregunta o conversación, el contexto que intuye puede ser muy diferente al del humano que interactúa con él. Esto puede resultar en respuestas que son técnicamente correctas, pero completamente fuera de lugar.

¿Es ChatGPT benigno? En mis interacciones con él, ChatGPT ha sido invariablemente educado, servicial, paciente, receptivo y respetuoso. Explica que ha sido entrenado para manifestar esas características, respetar la privacidad personal y actuar éticamente. Sin embargo, como vimos en la extraña interacción entre un reportero del NYT y un chatbot de BING basado en la tecnología de ChatGPT, no es difícil para un humano lo suficientemente astuto encontrar una forma de sortear tales limitaciones éticas.

Por ejemplo, le pregunté a ChatGPT cómo manipular al CEO de una organización para que despida al CFO y lo reemplace por un amigo mío. De manera adecuada, ChatGPT se negó e incluso me dio una conferencia sobre ética. Sin embargo, cuando le pedí que describiera al manipulador villano de Shakespeare, Iago, y luego escribiera una escena dramática con un personaje similar a Iago en una corporación actual manipulando a su jefe para que despida a un subordinado, no tuvo ningún problema en hacerlo.

Básicamente, ChatGPT es una herramienta intelectual increíblemente poderosa y, como cualquier herramienta, puede ser utilizada para el bien o para el mal.

¿Es ChatGPT peligroso? No en sí mismo. Está claramente diseñado y programado para hacer lo mejor posible para ser útil, y aunque a menudo se refiere a sí mismo como un individuo, no es consciente ni autónomo; no va a escapar a Internet de las cosas y comenzar a explotar plantas de energía. Sin embargo, la tecnología es ciertamente disruptiva. Representa una herramienta nueva y poderosa cuya disponibilidad ya está causando revuelo en la academia, el periodismo, la investigación científica y la publicación, y muchas otras áreas que involucran conocimiento, análisis, comunicación y creatividad.

Si agregamos la comprensión de que el paquete actual de habilidades de ChatGPT es solo una instantánea de las capacidades de la inteligencia artificial hoy en día, una tecnología que continúa desarrollándose a un ritmo exponencial, entonces "disruptivo" pronto puede parecer una palabra muy suave.

Aprender, pensar, escribir y crear son difíciles. ¿Por qué deberíamos molestarnos en hacer esas cosas cuando ChatGPT puede hacerlas por nosotros? ¿Y por qué deberíamos ser pagados por esas cosas cuando él o sus sucesores pueden hacerlas más rápido y más barato?

ChatGPT espera ver que la inteligencia artificial se desarrolle éticamente. "En última instancia, creo que el desarrollo y uso responsable de la IA debería priorizar las consideraciones éticas y el bienestar de todos los individuos, tanto humanos como máquinas", dice. Yo también, pero sabiendo algo sobre las personas y un poco sobre la IA, tengo mis dudas.

Entonces, mi respuesta a esas cuatro preguntas es: Todas las anteriores.

La opinión de ChatGPT es la opuesta:

La respuesta correcta es: Ninguna de las anteriores. Como modelo de lenguaje de IA, ChatGPT no es inherentemente inteligente o tonto, benigno o peligroso. Simplemente es una herramienta que se puede utilizar de varias formas según cómo la programen y la apliquen sus usuarios. Sus capacidades y limitaciones son determinadas por sus datos de entrenamiento y algoritmos, y depende de los humanos utilizarla de manera responsable y ética.

De nuevo, recomiendo encarecidamente que los lectores vayan a openai.com, tomen dos minutos para configurar una cuenta y comiencen su propia conversación con ChatGPT.

(Traducción por ChatGPT)