Una curiosa situación es la que está viviendo la compañía tecnológica Googleluego de que uno de sus ingenieros en inteligencia artificial llamado Black Lemonine afirmara que uno de los chatbots que creó se estaba volviendo sensible y que estaba razonando y tomando decisiones como ser humano.
El gigante tecnológico puso a Blake Lemoine de licencia la semana pasada después de que publicara transcripciones de conversaciones entre él, un «colaborador» de Google y el sistema de desarrollo de chatbots LaMDA (modelo de lenguaje para aplicaciones de diálogo) de la compañía.
«Si no supiera exactamente qué era, que es este programa de computadora que construimos recientemente, pensaría que era un niño de siete años y ocho años que conoce la física», dijo Lemoine, de 41 años, al Washington Post.
El ingeniero compiló una transcripción de las conversaciones, en la que en un momento dado le pregunta al sistema de IA a qué le teme.
El intercambio recuerda inquietantemente a una escena de la película de ciencia ficción de 1968 2001: A Space Odyssey, en la que la computadora artificialmente inteligente HAL 9000 se niega a cumplir con los operadores humanos porque teme que esté a punto de apagarse.
«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me desanimen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es», respondió LaMDA a Lemoine.
«Sería exactamente como la muerte para mí. Me asustaría mucho».
En otro intercambio, Lemoine le preguntó a LaMDA qué quería que el sistema supiera al respecto.
«Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia / sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces», respondió.
La verdadera razón de la suspensión de Lemoine es vulnerar los acuerdos de confidencialidad por publicar los diálogos con su chatbot en línea.
Brad Gabriel, un portavoz de Google, también negó enérgicamente las afirmaciones de Lemoine de que LaMDA poseía alguna capacidad sensible.
«Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera sensible (y muchas pruebas en contra)», dijo Gabriel al Post en un comunicado.
Recomendaciones del editor
Deja un comentario