El robot esclavo: Entrevista a Roger Bartra

En la literatura y el cine muchas veces se han presentado a los robots y a las máquinas inteligentes como una suerte de esclavos. Por esta razón, vale la pena preguntarse si la posibilidad de que adquieran conciencia les permitiría revelarse contra este destino. De entrada, debemos recordar que la palabra “robot” significa “trabajador” en las lenguas eslavas. En este momento, es imposible dudar que las máquinas que conocemos —incluyendo las más inteligentes— son herramientas que tienen un dueño y que, solo si fueran concientes, se podría hablar de esclavitud. Por esta razón, señalar de este tipo de sometimiento en el caso de un teléfono celular o de cualquier otra máquina no tiene mucho sentido; pero, si surgieran robots concientes, nos enfrentaríamos a un problema moral, a un dilema ético: la máquina habría dejado de ser un objeto para transformarse en un sujeto, en un ser absolutamente individual que sería propiedad de alguien, de una persona o de una empresa o de un laboratorio, solo por mencionar algunas posibilidades. Así pues, en un futuro más o menos lejano quizá se pueda hablar de esta forma de esclavitud, pero hoy aún no tiene sentido.

Si echo a volar la imaginación, puedo suponer que —en la medida que en el futuro se crearán diferentes marcas de robots concientes— sí existiría la esclavitud y, además, también habría un racismo que se alimentaría de las marcas, las tecnologías y las diferentes calidades que tuvieran esas máquinas. Un robot que se creara con la mejor tecnología y los mejores materiales, sería superior a uno que fuera construido con tecnología vieja y una materia prima de menor calidad. La humanidad tiene una larga historia de racismo y, en este nuevo ámbito, tal vez reviviría con fuerza. Nuestros problemas y nuestras creencias se transferirían a estas máquinas, a los humanoides. Sin embargo, también aparecerían nuevos desafíos, pensemos que, si estas máquinas son autoconcientes, terminarán creando una cultura y una serie de redes sociales que no soy capaz de imaginar. Pero esto —no lo perdamos de vista— sólo es una especulación.

En la ciencia ficción, cuando las máquinas concientes se revelan, los robots casi siempre se convierten en seres malignos. El ciborg bondadoso y buena onda es una rareza que apenas existe en la literatura y el cine. El Yo, robot es un caso. Este es un asunto que estudié en otro de mis libros que se publicó hace poco tiempo: Los salvajes en el cine. En esas páginas muestro que una parte del mito del salvaje se encarna en los robots que se revela como una mezcla de humano y máquina. La máquina, vista desde esa perspectiva, cumple una función bestial que en el antiguo mito del salvaje desempeñaban sus cualidades animales, como ser medio lobo; pero la ciencia ficción —que podría verse como una suerte de mitología moderna— solo es literatura.

Así pues, si nos alejamos de la literatura y la mitología, pronto descubrimos el verdadero conflicto ético que en estos momentos enfrentamos: la autonomía de la inteligencia artificial, pues los robots aún no son concientes. Esta autonomía, sin duda alguna, puede ser muy peligrosa. El ejemplo evidente lo tenemos en las armas: los misiles inteligentes que son programados contra un objetivo también son autónomos y, debido a esto, la posibilidad de abortar su misión es muy difícil, por no decir es que casi imposible. La creación de estas armas ya es por sí misma un problema ético, y si a este problema se agrega la autonomía, el resultado es peligrosísimo. Evidentemente, la tecnología per se no tiene un signo moral, aunque todavía existen personas que están convencidas de que cualquier tecnología es maligna en sí misma. Yo no creo esto, estoy convencido de que su uso es el que crea los problemas; por lo tanto, el problema ético se encuentra en sus constructores y en la intencionalidad con la que son creadas esas máquinas. Construir un misil es distinto a fabricar una imprenta o una tecnología para ayudar a las cirugías.

En mis investigaciones, lo que más me ha impresionado es la existencia de una verdadera revolución tecnológica: el proceso de autoeducación de una máquina, lo que se conoce como “aprendizaje profundo”. Este proceso es el que permite que un robot, a partir de casi cero, pueda aprender a jugar ajedrez, go o cartas para ganar en el póquer. La primera máquina que venció a una humano en el ajedrez tenía la ventaja de contar con una inmensa memoria y una velocidad que no tenía la mente de Garri Kaspárov, aunque él era uno de los grandes maestros internacionales. Posteriormente se creó una nueva máquina que logró derrotar a la que venció a Kaspárov; sin embargo, ya no tenía en su memoria todos los juegos anteriores, sólo conocía las reglas del ajedrez y comenzó a jugar consigo misma a una velocidad tan grande que, en una semana, estaba en condiciones de derrotar a cualquier ajedrecista humano.

En Chamanes y robots —que es resultado de mis investigaciones— muestro que, si en verdad se quiere crear una conciencia artificial, los robots tendrán que desarrollar un “exocerebro” capaz de replicar el “exocerebro” humano. Me explico: la conciencia humana está basada en hechos biológicos, culturales y en lo que yo llamo un “exocerebro”, en las prótesis simbólicas externas que permiten lograr esta característica. Algunas de estas prótesis tienen un carácter técnico, pero otras son estrictamente simbólicas, justo como sucede con las letras que forman este texto o con la voz cuando hablamos, solo por mencionar las más conocidas. Este “exocerebro” abre la posibilidad de tejer relaciones culturales y sociales que, en el caso de las máquinas, darían paso a una cultura robótica.

Hasta hoy, las máquinas inteligentes están gobernadas por algoritmos; pero, en el preciso instante en que tengan prótesis culturales, generarán nuevos símbolos y las cosas se complicarían debido al nacimiento de una nueva cultura, una cultura robótica. No importa si estas prótesis culturales se nutren con algoritmos, con ellas sucedería algo muy parecido a lo que ocurrió con nosotros que funcionamos con neuronas y un sistema de símbolos e instrumentos. Este podría ser el futuro; pero nuestro encuentro con él aún tendrá que esperar a que pasen varios años.+