Francisco Serradilla
1 COMENTARIO

Francisco Serradilla, investigador en IA de la UPM

Las leyes de la robótica están bien si las usamos todos, incluidos los humanos

Parece chocante. Cuando se bucea en Internet curioseando los perfiles de Francisco Serradilla, se le define como poeta español y, luego, como doctor en Informática e investigador en el campo de la Inteligencia Artificial. Pero es que diez años antes de doctorarse ya había ganado el premio Adonais de Poesía y el Florián de Ocampo. Sin embargo, es su faceta como profesor e investigador la que nos lleva hasta su despacho en la UPM.

Hace unos días, varios nombres relevantes de la tecnología mundial difundieron una carta abierta en la que pedían que se establecieran una serie de normas éticas en el desarrollo de la Inteligencia Artificial. Una ética para los robots que vienen y los humanos que los crean. Existe una corriente que opina que el desarrollo de la IA puede desembocar, a futuro, en un escenario como el que plantea Terminator con su Skynet. Algo dentro de la mente humana siente miedo ante la idea de que la creación se rebele contra el creador. Si los mitos reflejan una realidad psicológica tememos convertirnos en un Urano castrado por Cronos, o en el mismo Cronos vencido luego por su hijo Zeus. Es Frankenstein y el Golem. HAL 9000 y El engendro mecánico. Galatea y Roy Batty.

Serradilla explica que la IA tiene distintos objetivos. Por un lado está el objetivo científico de construir una mente completa emulando la del ser humano, algo que en opinión del profesor “está lejos y es discutido que pueda conseguirse”. Alan Turing (cuya vida según la imaginación de Hollywood ha sido llevada al cine ahora en The Imitation Game) creía que efectivamente las máquinas podían llegar a pensar; para otros científicos esa posibilidad es, sencillamente imposible. En cualquier caso algo que está muy lejos de nuestro presente. El caso de la máquina Watson de IBM es algo aislado, la mayor parte de los investigadores se dedican, como Serradilla, a la ingeniería capaz de resolver problema concretos con éxito, “como predecir con exactitud el consumo de una central térmica, que lo hacen igual o mejor que las personas”.

¿Arte artificial?

En “En busca de cuadros” Rubén Darío dibuja el paseo del poeta lírico Ricardo hasta el cerro Alegre, atento a todo lo que se mueve a su alrededor, pendiente de cualquier cosa que pudiera despertar la inspiración para una nueva obra. El profesor Serradilla cuenta cómo crearon en su laboratorio un programa capaz de predecir las palabras que vendrían a continuación en un texto. En cierta ocasión regalaron un libro a un amigo acompañado de su pertinente dedicatoria. Cuando la leyó dijo: “¡Qué frase tan profunda!“. La había generado una máquina. El programa se alimentaba de miles de datos. Con ellos fue capaz de crear distintas combinaciones coherentes de palabras. Lo único que tuvieron que hacer fue seleccionar la que podía dar más juego.

si el cerebro puede crear, una máquina también

Ahora habla el Serradilla poeta. Explica que en realidad el humano tampoco lo hace de manera diferente. creamos cosas aleatorias, frases sonoras, palabras que evocan ideas, luego seleccionamos las mejores y descartamos las que no nos gustan“. En el caso de algo un poco más complejo como la música el proceso es similar. “Al ordenador le das partituras, un montón de música ya compuesta y entonces aprende y genera algo nuevo. Le das al sistema datos del pasado y aprende la lógica interna de los datos, qué es bueno y qué es malo, y aplica sus conocimientos para crear nuevos contenidos“. En este sentido la Universidad de Málaga desarrolló Iamus, un software capaz de componer música de forma automática por medio de algoritmos genéticos. Luego, los músicos son los que ponen su alma en la interpretación de esa partitura, creada por un ordenador. “Puede gustar más o menos, pero es técnicamente bueno, aunque se trata de música contemporánea. Hay IAs que lo hacen realmente, bien, pero no van a componer sinfonías“, señala. Esta creación proviene de datos previos y la orden de componer, ¿podrían llega a ser como el Ricardo de Rubén Darío, y que un arrebato de inspiración llevase a una máquina a componer sin estar programada para ello? La negativa de Serradilla es rotunda.

Una cosa es la inspiración y otra la creación. “Si el cerebro es capaz de crear, una máquina también“, señala el profesor. Hay muchos niveles en cómo las máquinas participan en los procesos creativos. No es necesario que lo hagan todo, de hecho, las máquinas ya están metidas en distintos momentos del proceso. En el caso de la música hay software capaz de afinar notas, de generar acompañamientos y otras muchas cosas, “lo interesante es que haya una simbiosis entre el humano y la máquina“. A fin de cuentas la máquina nace del hombre, que emplea el modelo que mejor conoce (él mismo) para hacerla a su imagen y semejanza. La máquina no es ajena al hombre ni el hombre a la máquina, como no lo es el hijo de su padre y viceversa. Lo que cuesta percibir es que lo que tan despectivamente señalamos a veces como “creado por la máquina” proviene inevitablemente de lo humano.

Robots y biorrobots

Biológica, emocional y mentalmente funcionamos como un robot. Ante determinado estímulo hay una respuesta ya programada en el “sistema operativo” humano. El neuromarketing se basa precisamente en eso, en estudiar y conocer los mecanismos psicomentales del hombre para saber cómo venderle hielo a un esquimal. No sabemos cómo surge el pensamiento, pero sí se sabe que el pensamiento reside en el cerebro y

el cerebro no es otra cosa que una máquina muy compleja, que no conocemos del todo bien.

Nos cuenta Serradilla que hay experimentos muy inquietantes en neurociencia que demuestran que la mayor parte de nuestras decisiones las tomamos realmente antes de ser conscientes de que las hemos tomado. Hay una línea de pensamiento que defiende que la conciencia es un epifenómeno, que la conciencia es lo que aparece después de que la mente decida, y la mayor parte de las veces (como parece demostrar el experimento) es así“. Sin embargo, cuando nos enfrentamos a cosas desconocidas, de las que no tenemos ningún referente previo, entonces sí que tenemos que usar primero nuestra conciencia. La impresión que da es que el ser humano, biorrobot o no, es fundamentalmente cómodo hasta para pensar. Vivimos en piloto automático el 90% del tiempo y el 10% sufrimos por las cosas que la vida nos pone delante requiriendo que pensemos por nosotros mismos y los llamamos “problemas”. Aquí todo empieza a tener un trasfondo de filosofía.

¿Cómo se alimenta la IA? No es una disciplina que viva sola, mantiene un estrecho contacto con la psicología y la neurociencia porque “todas llevan caminos paralelos“. Según explica Serradilla “los modelos de IA tratan de imitar lo que se conoce del cerebro como las redes neuronales, y por su parte los neurocientíficos quieren modelos de IA para realizar simulaciones con las que comprender mejor el funcionamiento del cerebro“. Las mismas redes neuronales en IA se han revelado como potentes herramientas para resolver complejos problemas de ingeniería.

La rebelión de las máquinas

Tanto Asimov con sus tres leyes como los firmantes de Future of Life Institute muestran su inquietud por un futuro en el que las máquinas tomen conciencia y se rebelen contra el hombre. ¿Podría un Watson convertirse en Skynet? Serradilla se muestra escéptico al respecto. “Sobre la inteligencia a la manera humana hay mucha discusión. Hay una buena parte de la gente que piensa que sí, que podemos llegar a ese futuro con máquinas que exterminan o esclavizan a la humanidad. Es posible copiar la inteligencia humana, pero las máquinas que lo consiguieran serían mejores, más inteligentes sólo por el hecho de acceder a Internet y estar interconectadas. En cuanto a los peligros que podría haber a causa de eso… es mucho más complicado“.

Y volvemos a entrar en cuestiones filosóficas.

No por ser más inteligentes las máquinas serían más benévolas

Si las máquinas nacen imitando a los humanos, ¿también replicarían la tendencia al bien o al mal? Serradilla defiende que el desarrollo de la civilización (y el desarrollo de la robótica) nos llevaría a un mundo mejor. “Creo que hemos avanzado, pero todos no avanzan por igual, hay seres capaces de poner bombas. Pensar que por ser más inteligentes serán más benévolos es incierto. Tenemos máquinas que matan personas, y son los humanos los que las han hecho. Si las máquinas creadas por nosotros para matar fuesen realmente inteligentes, puede que se negasen a matar, y eso no le gustaría a los humanos. Quizá siendo las máquinas más inteligentes y tomando conciencia de ello acabaríamos por ser para ellas igual que los monos para nosotros“.

Pero puntualicemos. “No podemos decir que las personas más inteligentes sean más buenas, pero sí que alguien que tiene un nivel de conciencia más alto es menos capaz de hacer daño“. En este aspecto Serradilla considera que si la educación va en la línea de la evolución social, las sociedades deberían ir siendo cada vez más buenas, y señala que hay una relación entre esa educación y el beneficio para las sociedades, que nos hace menos propensos a matarnos de forma salvaje “y ya estamos de nuevo hablando de filosofía“.

“No creo que de rebelarse las máquinas acabasen con nosotros, tendrían su propio mundo que nosotros casi ni entenderíamos y aún así quedaría mucho para que eso estuviese siquiera cerca de pasar”. Serradilla menciona a Marvin Minsky. ¿Heredarán la Tierra los robots? La respuesta es que sí, pero que seremos nosotros mismos. No es disparatado. Si cogemos un cerebro y vamos cambiando neurona a neurona sus componentes orgánicos por otros mecánicos, poco a poco, el ser humano seguiría pensando igual, afirma, y si esa neurona mecánica hace exactamente lo mismo que la biológica, seguiríamos siendo iguales, pero sin biología. Otros autores, dice Serradilla, creen que eso acabaría por transformarnos,

pero a día de hoy la realidad es que estamos en pañales, avanzamos hacia la IA, pero prefiero tener los pies en la Tierra y usar la IA para resolver problemas concretos.

Si miramos el coche de Google tenemos un ejemplo muy claro. Con la IA podemos hacer que el coche conduzca solo, pero no por eso va a tomar conciencia. Sabe hacer una tarea concreta y punto. La IA está en todas partes, desde los procesadores de texto a los buscadores, todo es IA y funciona muy bien… pero eso es una cosa y otra generar seres completos y autónomos de IA.

La primera ley dice…

Por muy lejos que esté el futuro este tiene la mala costumbre de llegar siempre. Puede que la IA esté en pañales, pero hay quienes ya piensan en el plan de pensiones de este “bebé”. ¿Sería descabellado entonces plantear ahora las medidas para evitar que las máquinas se vuelvan contra nosotros? Las tres leyes enunciadas por Asimov (que tuviese la capacidad de plantear estas reglas ya es de por sí alucinante, acota el profesor) se imaginaban capaces de servir de freno a cualquier impulso homicida de las máquinas. ¿Serviría de algo hacerlo ahora que el horizonte de los humanoides está más cerca?

Si conseguimos crear una IA a la manera humana no será metiendo reglas en la mente, sino imitando las neuronas, y ahí no podemos implantar una regla. Lo más que se puede hacer es poner un botón de apagado“, explica el profesor. De hecho comenta Serradilla que “las tres leyes de la robótica sólo son posibles en el contexto en el que Asimov las ideó. Si introduces aquí mentes mecánicas que imitan la mente humana, no les puedes poner reglas. Lo que hay que hacer entonces es educarles, hacer que vayan a un buen colegio, que aprendan normas éticas… básicamente igual que con los humanos“. Quizá es pos ahí por donde habría que empezar.

a las máquinas también habría que educarlas

Entonces, si llegamos a conocer tan bien la mecánica humana que la reproducimos en un robot hasta el punto de ser iguales que los humanos… ¿para qué hacerlo? ¿Para qué replicar (y multiplicar) lo que ya tenemos, en especial cuando las personas son capaces tanto del mayor bien como del mayor mal? ¿Para qué poner sobre la Tierra (u otro planeta) más seres con los mismos conflictos internos, incapaces igualmente de manejarlos? “Porque cuando creemos que podemos hacer algo, queremos hacerlo –dice Serradilla– aunque esta gente es una minoría. Por lo general los equipos de investigación tienen que vivir, y para eso tienen que resolver problemas“.

La otra razón que aduce es más pragmática e inquietante: “Por el interés de alcanzar la inmortalidad“. Las neuronas mueren, pero los circuitos, si se estropean, se cambian por otros nuevos. De todos los órganos del cuerpo humano el cerebro es el único que no se puede sustituir… de momento. En una máquina sólo tenemos, por ejemplo, que cambiar un disco duro por otro…” Eso plantea otra cuestión más a todas las que implica este tema. ¿Se puede hacer copia de seguridad del “disco duro” humano y que los nuevos circuitos neuronales mecánicos reproduzcan sin fallos esa información? La identidad del ser humano radica fundamentalmente en su capacidad para reconocerse, para recordar quién es, su trayectoria vital, experiencias y proyectos. Aunque fuésemos los mismos con un cerebro mecánico, ¿seríamos los mismos si perdiésemos nuestros recuerdos? No hacen falta máquinas para reconocer el problema que supone un fallo en la memoria. De hecho, igual que sucede en los ordenadores, en ocasiones nuestro “sistema operativo” sufre fallos, como en el caso de la creación de falsos recuerdos.

Volviendo a las leyes de la robótica, lo cierto es que el problema no son los robots, sino los humanos que programan y mandan a las máquinas. Para Serradilla está claro, “las leyes de la robótica están bien si las usamos todos, incluidos los humanos“.

One Response to Las leyes de la robótica están bien si las usamos todos, incluidos los humanos

  1. Borja Hernández 17 Enero, 2015 at 14:25 #

    Interesantísimo, para cuando la segunda parte?

Deja un comentario