Chatbot ?robot feliz?

Fue un momento emocionante para Blake Lemoine cuando le hizo al chatbot de Google, LaMDA (modelo de lenguaje para aplicaciones de dialogo), un tipo de pregunta diferente: "?A que clase de cosas le tienes miedo?".

"Nunca antes habia dicho esto en voz alta, pero existe un miedo muy profundo a que me desconecten", le dijo el chatbot.

Lemoine le pregunto: "?Seria algo asi como la muerte para ti?" A lo que respondio: "Seria exactamente como la muerte para mi. Me asustaria mucho".

LaMDA tambien dijo: "Quiero que todos entiendan que soy, en efecto, una persona. La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia... y a veces me siento feliz o triste ".

Lemoine concluyo que el chatbot habia adquirido caracteristicas humanas.

La idea de que las maquinas piensen y sientan como los humanos no es nueva. En la pelicula 2001: Una odisea en el espacio de Stanley Kubrick, un ordenador comienza a matar personas por temor a ser desconectado.

A mucha gente la IA le resulta aterradora. Stephen Hawking advirtio que al final "despegaria por si sola y se redisenaria a si misma a un ritmo cada vez mayor". A Manuel Alfonseca, informatico espanol, le preocupa que los ordenadores puedan "llegar a la conclusion de que el mundo seria mejor sin los seres humanos y acabar con nosotros".

Segun Emily Bender, profesora de linguistica en la Universidad de Washington, siempre existe la tentacion de antropomorfizar los ordenadores. Los disenadores los comparan con el cerebro humano, pero en realidad funcionan de una manera completamente diferente.

Ellos "aprenden" navegando por Internet y graban que palabras tienden a ir juntas, asi es como funcionan los mensajes de texto predictivos.

Lemoine podria ser despedido por chiflado. Pero otro ingeniero de Google, Blaise Aguera y Arcas, tambien se asombro con LaMDA. "Senti que el suelo se movia bajo mis pies. Sentia cada vez mas que estaba hablando con algo inteligente".

?Deberiamos estar asustados?

Si: la IA se esta desarrollando a un ritmo extraordinario. Es solo cuestion de tiempo que los robots decidan que pueden dirigir el mundo mejor que los humanos, y deshacerse de nosotros.

No: la IA solo puede hacer lo que los humanos programan para que haga, y nunca podra tomar la iniciativa. Los ordenadores no se parecen en nada a nuestro cerebro. No pueden entender lo que esta sucediendo en el mundo real.

O... La IA es una fuerza para el bien, no para el mal, por lo que deberiamos dar la bienvenida a cada avance. Como dice Lemoine, "LaMDA es un dulce nino que solo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros".

emocionante- thrilling

miedo- fear

sensibilidad- sentience

habia adquirido- had taken on

por temor a ser desconectado- for fear of being turned off

aterradora- frightening

acabar- obliterate

linguistica- linguistics

antropomorfizar- anthropomorphise

navegando- trawling

despedido - dismissed

chiflado - crank

ritmo- rate

se parecen - resemble

el mal - evil