Ciencia Ficción vs Inteligencia Artificial: Star Wars, “…para ser un droide mecánico parece que piensas demasiado…”

Wednesday, December 13, 2017

Ciencia Ficción vs Inteligencia Artificial: Star Wars, “…para ser un droide mecánico parece que piensas demasiado…”

Escrito por Fran Ramírez, Investigador en Eleven Paths y escritor del libro "Microhistorias: anecdotas y curiosidades de la historia de la informática".  

Hoy día, con el continuo avance imparable de la Inteligencia Artificial, uno de los mayores miedos que preocupa a la sociedad actual es si esta nueva “raza artificial” inteligente es una amenaza y si será capaz relevar a la raza humana algún día de la supremacía en el planeta Tierra. 

Son muchas las voces, algunas de personalidades muy reconocidas como Stephen Hawking, que están avisando de este posible cataclismo de la raza humana si no sabemos cómo controlar el auge de estas máquinas.  Otro de los grandes gurús de la tecnología Elon Musk, el cual también tiene sus propios proyectos de IA como OpenAI ha llegado incluso a decir textualmente que “estamos invocando al diablo” y que debemos de estar alerta sobre un posible alzamiento de las máquinas en un futuro no muy lejano.

Y es que el ser humano está en inferioridad de condiciones, debido sobre todo a su lenta evolución de miles de años, pero en cambio, un robot y una IA pueden aprender e incluso compartir lo aprendido entre ellas, en muy cortos periodos de tiempo (incluso segundos). Casi cada día nos despertamos con un nuevo hito en la IA, como por ejemplo esta última en la cual se anuncia que la IA de Google llamada AutoML, proyecto que está investigando cómo diseñar modelos mejorados de machine learning automatizando el proceso, está creando nuevas IA que podríamos llamar “hijas” las cuales son más sofisticadas que cualquier otra creada por el ser humano. Otra noticia también muy reciente nos cuenta como AlphaZero, otra IA de Google basada en el proyecto DeepMind, fue capaz de ganar al mejor programa del juego de ajedrez en tan solo un aprendizaje, desde cero que duró cuatro horas.

Figura 1 : R2D2, un droide astromecánico
Figura 1 : R2D2, un droide astromecánico.

Es evidente que el ser humano necesita de esta nueva tecnología, ya que cada vez más la IA es la única forma de automatizar procesos demasiados complicados para ser realizados por el ser humano o incluso por algoritmos clásicos de programación. Entonces ¿qué podemos hacer para no sucumbir ante esta nueva evolución? De nuevo, es posible que la Ciencia Ficción nos esté ofreciendo una pista, pero además puede llegar de los clásicos de todos los tiempos: Star Wars o La Guerra de las Galaxias.

De hecho, hay muchos indicios en todas las películas y libros de la saga de Star Wars de un miedo y respeto hacia la IA e incluso nos ofrece algunas pistas de cómo lo solucionaron. Podemos empezar por ejemplo por la denominación a las máquinas inteligentes, los cuales no se llaman robots, sino "droides". Uno de los más conocidos, C-3PO lo deja claro desde el primer momento en la primera película, La Guerra de las Galaxias en la cual llega a decir que los droides en el universo Star Wars están limitados por su programación inicial y deben obediencia total a sus creadores. De hecho, también podemos ver en la misma película que los droides suelen pasar por un proceso de borrado de memoria bastante frecuente y cíclico, para evitar que desarrollen una empatía con sus “amos” humanos y evitar un desarrollo de una personalidad propia, además de poder cambiarlos de dueños o destinarlos a otras tareas.


Estos procesos de borrado de memoria y de personalidad nos muestran un paisaje inquietante en el universo de Star Wars, ya que éste está cimentado en una avanzada tecnología, pero todos los droides que aparecen en la película y los libros, excepto algunos casos puntuales, no demuestran tener una inteligencia acorde con la magnífica tecnología que les permite viajar por el espacio e incluso crear estaciones espaciales del tamaño de un planeta (como la Estrella de la Muerte). También llama la atención la variada y extraña morfología de estos droides. Por ejemplo, C-3PO, un droide de protocolo traductor, sí que tiene una forma digamos humanoide pero se pueden ver perfectamente sus cables y articulaciones mecánicas, dejando claro que es un ser artificial, cuando se podría haber construido perfectamente uno con apariencia más humana (recordemos que cuando Luke Skywalker perdió su mano se le implantó otra totalmente cibernética con apariencia de mano real). Otro ejemplo son los robots tipo droide astromecánico (como R2D2) que utilizan los pilotos rebeldes, los cuales están destinados únicamente a ayudarles a pilotar sus cazas espaciales, no tienen forma humanoide y ni siquiera se les ha dado la habilidad de hablar con un lenguaje similar al humano. Vemos una intencionada maniobra para evitar dotar de toda empatía a estos robots dejando claro siempre su naturaleza artificial. Además, los droides se desarrollan exclusivamente para desarrollar tareas concretas, no pueden aprender ni hacer nada más allá de su programación. De nuevo se nota una intencionalidad para evitar dotar de demasiada inteligencia a estos droides y así tener un control total sobre ellos, tratándolos como auténticos esclavos (los droides llaman a los humanos “maestro” o “amo”).


Figura 2 : Tatooine, la planeta en la que vivía Luke Skywalker.
Figura 2 : Tatooine, la planeta en la que vivía Luke Skywalker.

También llama la atención que esas grandes naves ,como los destructores imperiales, están controlados por cientos de personas y no hay ninguna inteligencia artificial que les ayude a pilotarlas, como ocurre en otras series de Ciencia Ficción como, por ejemplo, “Madre” de la película Alien o “HAL 9000” en 2001 Una Odisea en el Espacio (es posible que el incidente de la flota Katana nos ofrezca una posible explicación de lo que pudo haber ocurrido en el pasado e influyera en la no instalación de IA en naves espaciales). Otro ejemplo muy claro podemos verlo en el ejército de la Confederanción de los Sistemas Independientes (CIS) los cuales son miles de droides, con forma humanoide o incluso con forma de tanques (de nuevo se evita una forma demasiado humana), los cuales están preparados para luchar y tienen cierta autonomía muy limitada para tomar decisiones básicas durante la batalla. Pero si el centro de mando principal de estos robots era destruido, todos los droides se desactivaban al mismo tiempo. De nuevo, queda en evidencia que en el universo Star Wars existe un miedo a la Inteligencia Artificial y su posible revuelta contra el ser humano.

Otro detalle interesante que aparece en las películas es el relativo a su programación base. Ya hemos comentado antes como C-3PO tiene estas limitaciones, pero por otro lado, parece que no es sencillo reprogramarlos. Hay muchas escenas en las películas de la saga donde aparecen droides llevando un collar de esclavo o son incluso encerrados en celdas para evitar su huida. Esto podría ser debido a que, a falta de expertos en la reprogramación de los robots, se les obligaba a estos a obedecer a un nuevo amo a base de la fuerza bruta o incluso la tortura. En el Retorno del Jedi se puede ver perfectamente como Jabba el Hutt tenía toda una sala de tortura para droides donde iban a parar los desobedientes para hacerlos entrar de nuevo en razón. Ya comentamos en otro artículo de esta serie cómo es posible que en el futuro tengamos que programar inteligencias artificiales razonando, hablando (eso sí, sin torturas como en Star Wars) en vez de programando.

Figura 2 : BB-8, el droide de Star Wars: The Force Awakens.
Figura 3 : BB-8, el droide de Star Wars: The Force Awakens.

Tenemos que hacer mención especial a R2D2, ya que está documentado en los libros y las películas que no pasó por ninguna de las fases de borrado, pero en cambio, su compañero inseparable C-3PO sí que pasó por ellas. Eso explica la gran inteligencia y empatía desarrollada por este modelo de droide astromecánico que acompañaba en gran parte de la saga a la familia Skywalker. De hecho, parece que el narrador de todas las historias de la saga es este mismo droide (el que escribe las letras de la famosa y ya clásica escena de las letras al principio de las películas de Star Wars) , ya que al no eliminar nunca su memoria y además formar parte habitual de las aventuras de los protagonistas, tenía un registro perfecto que todo lo acontecido a lo largo de los años. 

Las lecciones que nos ofrece Star Wars sobre cómo deberíamos afrontar el futuro de la IA son varias. La primera de ellas, es dotar a estos robots con IA para realizar tareas concretas, muy específicas, como por ejemplo C-3PO era un droide traductor, no sabía hacer otra cosa a pesar su inteligencia. De esa forma limitamos su conocimiento a un solo campo y evitamos que se puedan desarrollar a otros niveles. Otro punto que queda muy claro es la clara intencionalidad de evitar en lo posible que estos robots se parezcan a los humanos. La diversidad de formas en los droides que aparecen en las películas da fe de ello y los de forma humanoide, como hemos comentado antes, queda claro que son máquinas dejando visible toda su naturaleza electrónica y mecánica. De esta forma la sociedad tiene claro lo que son, máquinas destinadas sólo a hacer las tareas que se les encomiendan. De hecho, es evidente el trato casi despectivo de los humanos hacia los droides. No podemos olvidar las secuencias míticas en las que Han Solo no trata muy bien a C-3PO e incluso a R2D2 o en la cantina de Mos Eisley donde el camarero le dice a Obi-Wan que los droides no son bienvenidos. Son tratados de forma evidente como una raza inferior.

Así que es posible que tengamos que crear “las reglas Star Wars” y dejar de lado las “reglas de Asimov” (o por qué no, crear una mezcla de ambas). Estaremos atentos ahora que se estrena un nuevo episodio de esta gran saga a ver si nos ofrece nuevas pistas sobre el mundo de los droides y la Inteligencia Artificial, nos llevaremos un bloc de notas al estreno ;)

Si te ha gustado esta entrada, no dudes en visitar otros artículos de esta misma serie:

No te pierdas ninguno de nuestros post. Suscríbete a LUCA Data Speaks.

No comments:

Post a Comment