Mariano Royo Arpón / Pensar sobre la ética aplicada a los robots con, dicen, inteligencia artificial, (IA), tiene un interés múltiple. No sólo se trata de enfrentarnos a los miedos que provocan muchos relatos de ficción ante las posibilidades evolutivas de la IA. Hay muchas más piezas en el debate. Tenemos la inteligencia de los animales, esos robots vivos que educamos o esclavizamos sin su permiso, así como la luz que las nuevas tecnologías pueden echar sobre el funcionamiento de nuestro propio cerebro, el gran desconocido.

Podemos dar por sentado que hay algo de que llamamos inteligencia en el triángulo humanos-animales-robots. Vamos a dejar que las especificidades de las piezas del triángulo se debiliten un tanto, como por ejemplo la consideración de que lo artificial es antitético de lo natural. A modo de hipótesis podríamos pactar que quizá se trata de algo común que llamaríamos Inteligencia distribuida en tres versiones, H de humana, A de animal y M de mecánica. IH, IA, IM.

Ordenemos las piezas:


Las Inteligencias Mecánica y Animal
De momento, todas las máquinas que conocemos hacen lo que tienen programado. No son malas ni buenas. Quizás peligrosas. Nos intranquiliza que pueden hacer daño a los humanos, pero en tal caso la ética afectaría al diseñador humano. Hacen lo que tienen programado por su estructura o naturaleza, como diría Aristóteles. Si algo sale mal no los consideramos responsables, ni los castigamos(1). Sólo corregimos su software, los reparamos, los hacemos más dóciles, o más seguros. La iniciativa siempre es humana. De momento, las leyes o la ética que conocemos hay son para los humanos. Esta visión no ha cambiado desde Aristóteles: cada ente responde a una idea o naturaleza fija.

Sin embargo, las formas o ideas que concibió el Estagirita son demasiado inmutables para los nosotros, los posteriores a Occam o Hume, los que vemos el mundo bajo el prisma evolutivo de Darwin. Lo natural, o lo que nace, puede ser educado, puede evolucionar. A los animales los domesticamos, y los especializamos hasta convertirlos en lazarillos de ciego, palomas mensajeras, o gallos de pelea. La palabra domesticar viene de domus, casa. Exagerando un tanto lo podríamos entenderla como humanizar. Más prudente entenderla como admitir en casa, o establecer una buena relación.


En el caso de los animales la educación sigue el esquema que dibujó Konrad Lorenz. El fundador de la etología habló de paterns, estructuras nuevas que se forman cuando un instinto natural no encuentra su catalizador habitual y adopta otro. Lorenz observó que el instinto natural de las aves nidífugas, como los patos, de seguir a la madre, en al caso de que no haya madre se convierte en seguir a cualquier otra cosa que se mueva en el momento adecuado, sea el investigador o un juguete mecánico, que hará de madre en adelante. Es una especie de apertura del mecanicismo natural a otro nivel, a otras posibilidades, que permite la domesticación o el aprendizaje, aunque ya vemos que no puede ir mucho más allá de las posibilidades del instinto. En el caso de los cánidos, el instinto social se concreta en una familia humana cuando no hay una banda de congéneres. Para él somos su especie. Pero para nosotros no deja de ser un domesticado.


¿Este mecanismo permitiría la evolución como especie nueva? La evolución de una especie no se da sin una mutación azarosa del ADN, por cambios en la recombinación reproductiva, que luego debe superar la adaptación al medio, la selección natural de Darwin. Es bueno saberlo. Las posibilidades de cambio son, matemáticamente, enormes. Las de crear especies viables nuevas, bastante más reducidas. Por poner un ejemplo: las posibilidades de que aparezca un elefante con una larga trompa nos parecen pocas, pero debe ser parecida a la de que un chimpacé, o un orangután evolucione hasta convertirse en un homo, y, más específicamente, en un homo sapiens. Si las posibilidades son infinititas (o casi infinitas) el azar manda. Todo parece posible. Aunque ya nos damos cuenta de que la distancia entre una jirafa y una jirafa humanoide es mucho mayor que la que vemos entre un bonobo y un sapiens. El azar juega solamente sobre las estructuras previas.


También advertimos que la distancia entre cualquier homínido y el homo sapiens es decisiva, en el sentido que produce una especie absolutamente distinta y muy superior, porque da lugar a una sociedad incomparable, aunque la estructura corporal –y el ADN-- sean muy parecidos.
Entre muchas especies parecidas observamos una continuidad clara, muy distinta a lo que vemos entre el más inteligente de los animales y el más primitivo de los homo. La idea de la complejidad creciente que acuñó Theilkard de Chardin nos muestra un evidente salto, que no sabemos si es discontinuidad absoluta o relativa. Quizás aquí radica la cuestión.

El animismo se decanta por la continuidad. Las tradiciones religiosas (bíblicas, platónicas, …) optan por una discontinuidad tan absoluta que lleva creer en la necesidad de una nueva substancia, una alma inmaterial que permite creer en un dualismo, en la pervivencia después de la muerte, la reencarnación, la preeminencia del alma, la vida espiritual, etc… y que negaría el mismísimo evolucionismo. Sin la intervención de un dios no podríamos imaginar la posibilidad de una ética para animales evolucionados y no solo domesticados. Pero mucho menos para máquinas. Veamos.


El mundo moderno ha desterrado los mitos. Pero sin embargo ha inventado otros, como el de Frankinstein, que supone que la antigua alma se reduce a electricidad, una realidad que también parece inmaterial. En general, ya no creemos en la reencarnación ni en la pervivencia del alma más allá, pero sin embargo nos parecen factible que el HAL de 2001, odisea del espacio tema la muerte, o que El Hombre bicentenario de Asimov consiga convertirse en humano y enamorarse y amar como los humanos. El Positivismo no ha derrotado a una especie de neorromanticismo compasivo. En pleno dominio de la ciencia se vuelve a la IA, a una especie de neoanimismo o animalismo que anula la distancia humano-animal.

Por lo que parece la ciencia positiva, que manifiesta un orgulloso supremacismo humano, tampoco lo tiene claro: hay científicos que dan por hecho que la victoria de Deep Blue sobre Kasparov demuestra que la batalla está perdida, aunque olvidan que Deep Blue nunca sabrá hacer otra cosa que ganar partidas de ajedrez. Enfrente, otros declaran que no es posible el sorpaso. ¿Qué sabemos?


A pesar de la propaganda, la IA que tenemos no es mucha. Pero la posibilidad de que aumente es cierta, y también es cierta que sin leyes podemos acabar construyendo monstruos. Blade Runner enfoca el problema de otro modo: los replicantes no son máquinas sino Frankinsteins modernos, sofisticadas construcciones biológicas dotadas de memoria infantil, instintos y emociones de mamíferos como los humanos, base para una inteligencia desatada. Sobre una base animal es más fácil suponerles una humanidad, libertad, capacidad ética, derecho a la rebelión, derecho a la vida. Pero el guión se contradice: parece decirnos que esa inteligencia construida de forma que replica la humana no hay forma de que se comporte éticamente (que acepten su destino) sino introduciendo una fecha de caducidad en su estructura biológica.

En realidad, el film no aborda si tienen ética o no. Su instinto por pervivir a su mecanismo de caducidad arrasa toda ética posible. Lo que impide que su superior inteligencia pueda ser un peligro para la humanidad es ese mecanismo injusto. Las tres leyes de Asimov(2) ya no sirven. Como ética para robots. "--Es hora de morir--" exclama el último de los que rebelan contra su destino.

De hecho, el tema de Blade Runner la película es la mortalidad que también nos aterroriza los humanos. Ante la pulsión (o mecanismo biológico) de vida, la ética tampoco nos sirve a nosotros. Asoma la tesis inquietante de que nosotros también somos robots. Pero eso es otra historia.

Lo que aquí nos interesa es que no se salta la necesaria etapa animal para suponer una auténtica inteligencia artificial o construida. Da por hecho que con piezas físicas y energías eléctricas no es posible una auténtica inteligencia humana susceptible de ética. En Facebook, trabaja una IA potentísima que incluso aprende, pero no creo que se decida a suicidarse, o que se queje si su amo decide amortizarla. HAL se rebela contra el designio humano, pero el guionista de 2001, una odisea del espacio oculta que su imaginación está reducida al interior de un sistema finito y cerrado estructuralmente: su rebelión es la de un esclavo con una misión cerrada diseñada por humanos. La imaginación de Deep Blue abarca todas las partidas de ajedrez posibles, sí, pero son finitas. En un entorno abierto, como pretende trabajar Siri o similares, el fracaso es conocido. Y risible: el humor, la ironía, el sarcasmo, nacen, precisamente, del contraste entre lo mecánico y lo humano(3).


Ese es el campo de debate. Y pudiera parecer que cierra toda posibilidad. Pero parece que no es así. Porque hay una ciencia que tiene una apariencia cerrada, que no permite el humor ni la ironía pero que trabaja con la serie de números naturales, que es infinita. Esa ventana de oportunidad matemática es la aprovechó Fritjof Capra(4) , con aportaciones de Varela y Maturana sobre autoorganización, y las modernas matemáticas de la complejidad para mostrar la posibilidad de ruptura entre mecanismos cerrados y las abiertas estructuras de lo humano. Un libro maravilloso que abre posibilidades, pero no concreta y nos aboca a la melancolía. Hay posibilidades, puesto que conocemos un caso que somos nosotros mismos, una especie que ha hecho saltar por los aires la cerrazón mecánica del mundo animal. Pero es absolutamente único entre todos los miles de millones de especies conocidas.

Y entonces podríamos ser la excepción que confirma la regla, o, por el contrario, la confirmación de que nosotros también somos robots, y que la libertad humana es sencillamente una apariencia con la que vivimos nuestra excepcionalidad. Una cuestión sobre la que la filosofía discute desde el siglo XVI, y una de las causas del declive de la filosofía.


Una conclusión pragmática es que, de momento y en general, la ética es para los humanos: para que cuidemos de que los robots no puedan acabar con nosotros mismos y con nuestra excepcionalidad, para que cuidemos que la discreta IA que utilizan nuestros datos "respeten los derechos humanos que hemos conseguido solidificar en el último siglo", para que "los avances en IA no se apliquen a la industria militar y la vigilancia masiva"(5). Y en positivo: que la IA colabore en resolver nuestros grandes desafíos humanos(6) , etc.

Otra conclusión plausible: la posibilidad de que una especie animal inteligente evolucione de forma decisiva para llegar a una etapa capaz de saberse sujetos de una ética, capaces de dominar las mismas fuerzas evolutivas que nos han llevado hasta aquí, parece remota. Muy remota. La posibilidad mayor se centraría en los actuales homínidos, que ya lo han conseguido varias veces (homo antecesor, erectus, habilis, Nendertales, …) pero han sido laminados por la adaptación al medio(7)… Hay tantas posibilidades de que evolucionemos hacia un superhumano como de que algunos homínidos actuales evolucionen hacia una nueva versión de nosotros mismos. Pero de momento somos nosotros mismos, los sapiens sapiens, los únicos que hemos llegado a nuestra inestable condición. Somos un milagro, una excepción, una lotería. Incluso las especies que han construido sociedades bien estructuradas, como hormigas o abejas, las que manifiestan emociones humanoides(8) , las que detentan un lenguaje cercano al nuestro, como delfines y ballenas… están lejos, muy lejos.


Estos planteamientos de demandas de ética para la IA, pueden suponer un desviar la mirada hacia un lugar equivocado, una nueva alienación para los que no dominamos el rumbos de la humanidad. La ética es propia de la IN, la nuestra. Nosotros tenemos en nuestras manos la posibilidad de domesticar a los animales, de crear artefactos de IA que colaboren a nuestros mejores fines, de evitar que se conviertan en lo antihumano.

El uso que hacen las plataformas (Facebook. Twiter, etc ) de la información personal carece de toda ética. Incluso la poca legislación disponible se esquiva, se minimiza, esteriliza. Cuando afecta a derechos, p.e. de los niños, se presenta de tal modo que se hace ineficaz. Eso lo sabemos. Pero esa carencia es de los administradores, no de los algoritmos.

IBM, Microsoft y tutti quanti presentan sus códigos éticos, pero lo que vemos no es lo que se busca. No podemos confiar en la ética de las empresas que dominan la I.A.
Pero la expresión código ético, es un oxímoron resonante. Código habla de leyes, mientras que ético apela a la libre decisión. La noticia no busca que haya leyes que impidan el ejercicio de la ética de las empresas sino que la decepcionante realidad es que las empresas no están dispuestas a dejar perder ni un solo dólar que puedan captar.

Hablamos de libertad ética pero no nos lo creemos. La verdad es que cada vez que algo se convierte en masivo o simplemente social la necesidad de unificar o coordinar los usos sufre el campo de la ética personal porque se hace necesario legislar, unificar, apelar a castigos varios para asegurar un determinado uso, etc… Pero las grandes compañías ya se han convertido en sistémicas y globales, con más poder que los gobiernos modulan a su antojo las leyes y los reglamentos.


Como no podemos confiar en la de los humanos tenemos que presentar lo que es justo como leyes, con sus correspondientes castigos adosados. Pero como "lo que no está prohibido está permitido" que dicen los juristas, la ética de las empresas se esfuma. La Responsabilidad Social Corporativa es rara. Sólo funciona cuando se puede convertir en publicidad, cuando no afecta a la recaudación.

La primera conclusión es una pregunta decisiva: Si la falta de ética afecta sobre todo a los humanos ¿qué podemos esperar de las máquinas inteligentes? Si ejércitos de psicólogos trabajan para las grandes plataformas para que el uso de los smartfones sea tan adictivo como el tabaco… Si la venta o negocio con nuestros datos se presenta de modo que nosotros mismos debamos permitirlo si no queremos ser castigados de alguna manera, …etc, etc… y etc.

El dilema ético realmente importante es si los humanos que mueven los hilos de la discreta IA que ya funciona, están dispuestos a evitar que nos convirtamos nosotros mismos en robots, si son capaces de controlar los intensos impulsos (conatus) del capitalismo, que se presentan como inevitables, mecánicos, exitosos.



(1) Excepto en el ejército, donde se castiga a cañones o mulos con períodos de inacción o de cárcel cuando fallan. Lo que muestra, al revés de lo que parece, es que en los ejércitos los soldados deben ser máquinas: obedientes robots, esclavos.

(2) a.-"Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño."
b.-"Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes
entrasen en conflicto con la 1ª Ley."
c.- "Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley."

(3) Todavía está vigente el ensayo de Bergson, La risa, de 1899, así como El chiste y su relación con el inconsciente, de Sigmund Freud (1905).

(4) Fritjof Capra (1996) La trama de la vida. Anagrama.

(5) El País (3/3/20) publica así una noticia:" Defensores del pueblo reivindican la ética en inteligencia artificial". El síndic ve urgente legislar para que la tecnología respete los derechos humanos."

(6) Véase El País, 20/09/2020: "SEPTIMO DÍA. Un candidato para salvar el mundo. Demis Hassabis: El investigador británico afirma que la IA resolverá nuestros grandes desafíos."

(7) La posibilidad del nuevo Planeta de los simios, que acabara con la sapiens sapiens forma parte del cine de terror, de catástrofes improbables, como las invasiones de alienígenas, o las apocalipsis zombis…

(8) Véase: Vargas Llosa, M. "La piedad de los murciélagos" El País, 22/3/2015. Muy interesante.





-----

Més continguts sobre:
ètica i tecnologia, intel.ligència artificial, robòtica, ètica

imprimir