Ciencia Ficción vs Inteligencia Artificial: Star Wars, “…para ser un droide mecánico parece que piensas demasiado…”

Fran Ramírez    13 diciembre, 2017
Escrito por Fran Ramírez, Investigador en Eleven Paths y escritor del libro “Microhistorias: anecdotas y curiosidades de la historia de la informática”.  


Hoy día, con el continuo avance imparable de la Inteligencia Artificial, uno de los mayores miedos que preocupa a la sociedad actual es si esta nueva “raza artificial” inteligente es una amenaza y si será capaz relevar a la raza humana algún día de la supremacía en el planeta Tierra. 


Son muchas las voces, algunas de personalidades muy reconocidas como Stephen Hawking, que están avisando de este posible cataclismo de la raza humana si no sabemos cómo controlar el auge de estas máquinas.  Otro de los grandes gurús de la tecnología Elon Musk, el cual también tiene sus propios proyectos de IA como OpenAI ha llegado incluso a decir textualmente que “estamos invocando al diablo” y que debemos de estar alerta sobre un posible alzamiento de las máquinas en un futuro no muy lejano.

Y es que el ser humano está en inferioridad de condiciones, debido sobre todo a su lenta evolución de miles de años, pero en cambio, un robot y una IA pueden aprender e incluso compartir lo aprendido entre ellas, en muy cortos periodos de tiempo (incluso segundos). Casi cada día nos despertamos con un nuevo hito en la IA, como por ejemplo esta última en la cual se anuncia que la IA de Google llamada AutoML, proyecto que está investigando cómo diseñar modelos mejorados de machine learning automatizando el proceso, está creando nuevas IA que podríamos llamar “hijas” las cuales son más sofisticadas que cualquier otra creada por el ser humano. Otra noticia también muy reciente nos cuenta como AlphaZero, otra IA de Google basada en el proyecto DeepMind, fue capaz de ganar al mejor programa del juego de ajedrez en tan solo un aprendizaje, desde cero que duró cuatro horas.

Figura 1 : R2D2, un droide astromecánico
Figura 1 : R2D2, un droide astromecánico.


Es evidente que el ser humano necesita de esta nueva tecnología, ya que cada vez más la IA es la única forma de automatizar procesos demasiados complicados para ser realizados por el ser humano o incluso por algoritmos clásicos de programación. Entonces ¿qué podemos hacer para no sucumbir ante esta nueva evolución? De nuevo, es posible que la Ciencia Ficción nos esté ofreciendo una pista, pero además puede llegar de los clásicos de todos los tiempos: Star Wars o La Guerra de las Galaxias.
De hecho, hay muchos indicios en todas las películas y libros de la saga de Star Wars de un miedo y respeto hacia la IA e incluso nos ofrece algunas pistas de cómo lo solucionaron. Podemos empezar por ejemplo por la denominación a las máquinas inteligentes, los cuales no se llaman robots, sino “droides”. Uno de los más conocidos, C-3PO lo deja claro desde el primer momento en la primera película, La Guerra de las Galaxias en la cual llega a decir que los droides en el universo Star Wars están limitados por su programación inicial y deben obediencia total a sus creadores. De hecho, también podemos ver en la misma película que los droides suelen pasar por un proceso de borrado de memoria bastante frecuente y cíclico, para evitar que desarrollen una empatía con sus “amos” humanos y evitar un desarrollo de una personalidad propia, además de poder cambiarlos de dueños o destinarlos a otras tareas.


Estos procesos de borrado de memoria y de personalidad nos muestran un
paisaje inquietante en el universo de
Star Wars, ya que éste está cimentado
en una avanzada tecnología, pero todos los droides
que aparecen en la película
y los libros, excepto
algunos casos puntuales, no demuestran tener una inteligencia acorde con
la magnífica tecnología que les permite viajar por el espacio e incluso crear
estaciones espaciales del tamaño de un planeta (como la
Estrella de la Muerte).
También llama la atención
la variada y extraña morfología de estos droides.
Por ejemplo, C-3PO, un droide de protocolo traductor, sí
que tiene una forma digamos humanoide pero se pueden ver perfectamente sus
cables y articulaciones mecánicas, dejando claro que
es un ser artificial,
cuando se podría haber construido perfectamente uno con apariencia más humana
(recordemos que cuando
Luke Skywalker perdió su mano se le implantó otra totalmente
cibernética con apariencia de mano real). Otro ejemplo son los robots tipo
droide
astromecánico
(como R2D2) que utilizan los
pilotos rebeldes, los cuales están destinados únicamente a ayudarles a pilotar
sus cazas espaciales, no tienen forma humanoide y ni siquiera se les ha dado la
habilidad de hablar con un lenguaje similar al humano. Vemos una intencionada
maniobra para evitar dotar de toda empatía a estos robots dejando claro siempre
su naturaleza artificial. Además,
los droides se desarrollan
exclusivamente para desarrollar tareas concretas
, no pueden aprender ni hacer
nada más allá de su programación. De nuevo se nota una intencionalidad para
evitar dotar de demasiada inteligencia a estos droides
y así tener un
control total sobre ellos, tratándolos como
auténticos esclavos (los droides
llaman a los humanos “maestro” o “amo”).

Figura 2 : Tatooine, la planeta en la que vivía Luke Skywalker.
Figura 2 : Tatooine, la planeta en la que vivía Luke Skywalker.



También llama la atención que esas grandes naves ,como los destructores imperiales,
están controlados por cientos de personas y no hay ninguna inteligencia
artificial que les ayude a pilotarlas, como ocurre en otras series de
Ciencia Ficción como, por ejemplo, “Madre” de la película Alien o “HAL 9000” en 2001
Una Odisea en el Espacio
(es posible que el incidente de la flota Katana nos ofrezca una posible explicación de lo que
pudo haber ocurrido en el pasado e influyera en la no instalación de IA en
naves espaciales). Otro ejemplo muy claro podemos verlo en el ejército de la Confederanción
de los Sistemas Independientes
(CIS) los cuales son miles de droides,
con forma humanoide o incluso con forma de tanques (de nuevo se evita una forma
demasiado humana), los cuales están preparados para luchar y tienen cierta
autonomía muy limitada para tomar decisiones básicas durante la batalla. Pero
si el centro de mando principal de estos robots era destruido, todos los droides
se desactivaban al mismo tiempo. De nuevo, queda en evidencia que en el
universo Star Wars existe un miedo a la Inteligencia Artificial y su
posible revuelta contra el ser humano.

Otro detalle interesante que aparece en las películas es el relativo a su
programación base
. Ya hemos comentado antes como C-3PO tiene estas
limitaciones, pero por otro lado, parece que no es sencillo reprogramarlos. Hay
muchas escenas en las películas de la saga donde aparecen droides llevando un
collar de esclavo o son incluso encerrados en celdas para evitar su huida. Esto
podría ser debido a que, a falta de expertos en la reprogramación de los
robots, se les obligaba a estos a obedecer a un nuevo amo a base de la fuerza
bruta o incluso la tortura. En el Retorno del Jedi se puede ver
perfectamente como Jabba el Hutt tenía toda una sala de tortura para droides
donde iban a parar los desobedientes para hacerlos entrar de nuevo en razón. Ya
comentamos en otro artículo de esta serie cómo es posible que en el futuro
tengamos que programar inteligencias artificiales razonando, hablando (eso sí, sin
torturas como en Star Wars) en vez de programando.

Figura 2 : BB-8, el droide de Star Wars: The Force Awakens.
Figura 3 : BB-8, el droide de Star Wars: The Force Awakens.

Tenemos que hacer mención especial a R2D2, ya que está documentado en los
libros y las películas que no pasó por ninguna de las fases de borrado, pero en
cambio, su compañero inseparable C-3PO
sí que pasó por ellas. Eso explica la gran inteligencia y empatía desarrollada
por este modelo de droide astromecánico que acompañaba en gran parte de la saga a la
familia Skywalker. De hecho, parece que el narrador de todas las historias de la saga es este mismo droide
(el que escribe las letras de la famosa y ya clásica escena de las letras al
principio de las películas de Star Wars) , ya que al no eliminar
nunca su memoria y además formar parte habitual de las aventuras de los
protagonistas, tenía un registro perfecto que todo lo acontecido a lo largo de
los años. 
Las lecciones que nos ofrece Star Wars sobre cómo deberíamos afrontar el
futuro de la IA son varias. La primera de ellas, es dotar a estos robots con IA
para realizar tareas concretas, muy específicas, como por ejemplo C-3PO
era un droide traductor, no sabía hacer otra cosa a pesar su
inteligencia. De esa forma limitamos su conocimiento a un solo campo y evitamos
que se puedan desarrollar a otros niveles. Otro punto que queda muy claro es la
clara intencionalidad de evitar en lo posible que estos robots se parezcan a
los humanos. La diversidad de formas en los droides que aparecen en
las películas da fe de ello y los de forma humanoide, como hemos comentado
antes, queda claro que son máquinas dejando visible toda su naturaleza
electrónica y mecánica. De esta forma la sociedad tiene claro lo que son,
máquinas destinadas sólo a hacer las tareas que se les encomiendan. De hecho,
es evidente el trato casi despectivo de los humanos hacia los droides. No
podemos olvidar las secuencias míticas en las que Han Solo no trata muy
bien a C-3PO e incluso a R2D2 o en la cantina de Mos
Eisley donde el camarero le dice a Obi-Wan que los droides no son
bienvenidos. Son tratados de forma evidente como una raza inferior.

Así que es posible que tengamos que crear “las reglas Star Wars” y
dejar de lado las “reglas de Asimov” (o por qué no, crear una mezcla de ambas).
Estaremos atentos ahora que se estrena un nuevo episodio de esta gran saga a
ver si nos ofrece nuevas pistas sobre el mundo de los droides y la Inteligencia
Artificial, nos llevaremos un bloc de notas al estreno 😉
Si te ha gustado esta entrada, no dudes en visitar otros artículos de esta
misma serie:

No te pierdas ninguno de nuestros post. Suscríbete a LUCA Data Speaks.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *