Autodestrucción o singularidad. Proyecto Inteligencia Artificial

Autodestrucción o singularidad. Proyecto
Inteligencia Artificial
PRIMERA PARTE : El constructo de la consciencia - 2015
Por Mario López
Estudiante de Psicología por la UNED
Las Tres Leyes de la Robótica de Asimov aparecen formuladas por primera vez en 1942
en el relato El círculo vicioso de Asimov.
El autor busca situaciones contradictorias en las que la aplicación objetiva de las Tres
Leyes se pone en tela de juicio planteando a la vez interesantes dilemas filosóficos y
morales.
LAS TRES LEYES DE LA ROBOTICA (y una cuarta, o ley cero)
1. Un robot no puede causar daño a un ser humano ni, por omisión, permitir que un
ser humano sufra daños.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, salvo cuando
tales órdenes entren en conflicto con la Primera Ley.
3. Un robot ha de proteger su existencia, siempre que dicha protección no entre en
conflicto con la Primera o la Segunda Ley.
Ley CERO: 1985, Asimov publica un relato en la que uno de sus robots se ve obligado
a herir a un ser humano por el bien del resto de la humanidad. Surge así una nueva ley,
considerada la Ley Definitiva, la llamada Ley Cero, superior a todas las demás: “Un
robot no puede lastimar a la humanidad o, por falta de acción, permitir que la
humanidad sufra daños”. Quedando así modificada la primera ley: “Un robot no debe
dañar a un ser humano, o permitir, por inacción, que un ser humano sufra daño, a menos
que tal acción viole la Ley Cero”.
Este análisis de la literatura de ficción ha saltado a la realidad con la noticia de que
EEUU se encuentra inmerso en proyectos de investigación y desarrollo que implican la
posibilidad de crear ejércitos de robots autónomos con capacidad para decidir de forma
individual si matar o no matar (inteligencia artificial aplicada a la guerra).
A pesar de que el estudio de la inteligencia artificial va más allá que el mero uso militar
del mismo, es evidente que esta cuestión es la principal amenaza a la que el ser humano
se enfrentará ante el imparable desarrollo de dicha tecnología.
Asimov imaginó un mundo compartido en el que las máquinas y el hombre
conformarían un mismo ecosistema, una misma civilización, una cultura. Ante el dilema
de las máquinas conscientes era necesario crear una serie de reglas que evitaran el
conflicto, o al menos que lo diluyeran a la mínima expresión. La inherente presencia de
las emociones en la nueva naturaleza robótica precisaba un plan de acción de inhibición
de respuestas. Las tres leyes se conforman como una impronta, como un todo cultural
incrustado en el ADN sintético de la máquina, al igual que nuestro ADN biológico
contiene reglas innatas que nos hacen guiar el comportamiento hacia ciertas metas
establecidas por un condicionamiento de supervivencia. Pero lo que pretende EEUU
transgrede el principio fundamental de la creación de vida. Es aberrante en sí mismo
plantearse la creación de cierto grado de conciencia con la misión de discernir entre el
acto de matar o de conservar la vida bajo un escenario de guerra condicionado por
intereses políticos, financieros o económicos. Los LAWS (Lethal Autonomous
Weapons Systems-Sistema de Armamento Letal Autónomo) representan el mal en
estado puro, la creación de máquinas militares diseñadas con una fórmula de
representación y compresión del entorno manipulado bajo la premisa de los intereses
particulares de un país. ¿Es esto verdaderamente inteligencia, o solo estamos ante una
máquina con alto poder de procesamiento matemático sin un ápice de capacidad de
aprendizaje? Es evidente, y sin necesidad de profundizar demasiado en las objetivos del
proyecto, que esto transgrede los fundamentos esenciales de la creación de la verdadera
inteligencia artificial, máxime si el objetivo final es la dotación de consciencia.
Pero entonces ¿cómo y en qué debería fundamentarse y cimentarse la Inteligencia
Artificial? ¿Las altas capacidades de cálculo pueden derivar en consciencia, o hay algo
más? ¿Los humanos, en nuestro empeño por imitar las capacidades de nuestro cerebro,
nos vemos como un mero procesador capaz de manejar un inimaginable número de
estímulos y convertirlos en respuestas o quizá hay una línea divisoria entre la mente y el
alma? ¿Existe una fórmula, un logaritmo capaz de convertir la materia inerte en materia
viva o el secreto de esa consciencia nos es realmente inaccesible?
Todas estas preguntas, planteadas a una mente profana, más que excitación intelectual
pueden llegar a provocarle vértigo existencial. Para evitar que se desmotiven antes de
empezar a divagar sobre posibles respuestas, recuerden siempre que hasta la cumbre
más alta se alcanza dando un primer paso. Así que contestemos a la primera cuestión
transcendental:
¿Qué definimos por consciencia?
La consciencia se plantea como el mayor enigma de la ciencia y la filosofía. Lo primero
que debemos saber es que no es un “todo o nada”, sino que existen distintos niveles de
consciencia. Pero ¿dónde reside la diferencia, cual es el momento preciso en el que se es
consciente_ al menos mínimamente consciente_ o se deja de serlo? Desde el punto de
vista neuronal, o sea, planteando la pregunta desde la premisa que estamos analizando
un organismo biológico con capacidad estructural para alcanzar la consciencia, no es
una cuestión que pueda definirse por la actividad o la no actividad de las neuronas, sino
por lo que están haciendo esas neuronas. Dicho de otro modo, a veces, como todos
saben, las neuronas pueden estar presentando un nivel de respuesta elevado, pero
nosotros no somos conscientes (un coma, sueño profundo, etc).
Sigamos con el punto de vista puramente científico: La consciencia, según la
neurociencia más avanzada, precisa de la existencia de un “yo”, y ese “yo”, al parecer,
no es más que una ficción creada por nuestro sistema nervioso. Nuestros sentidos nos
limitan, nos definen el mundo y nuestro centro de procesamiento hace una
representación subjetiva de esas señales. (“La irreal realidad de los sentidos”) Y una
cuestión más; ¿existe un solo “yo”, o podemos crear más de uno? Al parecer, enfermos
con cerebros escindidos llegan a crear, al menos, dos “yo” diferentes. Como ven tan
solo hemos empezado a plantearnos una pregunta, y como si se tratase de un juego
infernal, la misma se ha multiplicado convirtiendose en una multitud de cuestiones de
difícil resolución.
Si planteáramos el asunto desde el punto de vista filosófico aún crearíamos un escenario
más confuso, así que vayamos a las definiciones que nos pueden servir para nuestro
proyecto de creación de Inteligencia Artificial.
La consciencia es un concepto que entendemos intuitivamente, pero que es difícil o
imposible de describir adecuadamente en palabras. Se puede decir que consciencia es el
estado subjetivo de apercibir algo, sea dentro o fuera de nosotros mismos.
No existe ninguna definición consensuada de la consciencia. Pero consciencia significa
experiencia subjetiva, o sea, lo opuesto a objetividad. En algunos escritos la consciencia
es considerada sinónimo de mente. Pero la mente incluye procesos inconscientes, y
puede definirse como el funcionamiento del cerebro para procesar información y
controlar la acción de manera flexible y adaptativa.
Todo el mundo sabe lo que es consciencia, dicen el fallecido premio Nobel Francis
Crick y su colaborador alemán Christof Koch, pero mientras sepamos tan poco de ella,
lo mejor es no dar ninguna definición que pueda inducir a errores o que sea restrictiva, o
ambas cosas a la vez.
Entonces, si no podemos definir la consciencia, ¿Cómo sabremos cuando estamos ante
ella? Pues bien, en realidad no lo sabremos. Tan solo podemos intuirlo. Y además
nuestra intuición está limitada por nuestro propio sistema perceptivo y cognitivo. En
otras palabras, las piedras podrían ser conscientes, pero nosotros no saber que lo son.
En una derivación del test de Turing, podríamos buscar la consciencia bajo la prueba
informativa del objeto a analizar. Es decir, debe ser la propia máquina la que nos pruebe
que es consciente de sí misma, ya que nosotros, desde nuestras limitaciones
conceptuales, jamás podremos estar seguros de ello…
Proyecto Inteligencia artificial_ 2ºParte
Pero más allá de la definición de consciencia existe una cuestión por dirimir mucho más
importante y que determinará ya no la naturaleza del nuevo ser, sino la nuestra, la
naturaleza del creador: ¿Para qué queremos fabricar un ser autoconsciente? ¿Qué hay
detrás de la aplicación de consciencia en la Inteligencia Artificial? ¿A qué interés
responde?
Los procesadores que hoy en día definimos como Inteligencia Artificial no están vivos
según el concepto humano de la vida, pero una vez se produzca la singularidad que
buscamos y la máquina muerta despierte a la consciencia, las implicaciones filosóficas
superarán con mucho a las científicas.
Crear vida a partir de la materia muerta conlleva responsabilidades para con el nuevo
“ser” que trascienden a las intenciones originales que nos condujeron hasta ese
conocimiento. Imaginen al niño que quema hormigas con una vela: No sabe lo que hace
en tanto en cuanto desconoce la naturaleza biológica de la hormiga. No entiende que el
pequeño insecto está tan vivo como él. Incluso a nivel molecular hay escasas diferencias
entre el diseño del uno y del otro. Con el tiempo, tras años de crecimiento intelectual, y
con un poco de suerte, el niño entenderá, sacará la conclusión lógica de que lo que hacía
en sus ratos de aburrimiento era una atrocidad injustificada, innecesaria.
Entendemos la vida desde nuestra particular visión humana, y la consciencia la
incluimos en el paquete hasta el punto de haber considera durante siglos que los
animales no poseían esa cualidad, que ellos mismos ignoraban que estaban vivos.
Nuestra inherente arrogancia nos hace cometer innumerables errores. Y el último y más
brutal sería precisamente este, la creación de vida “artificial” sin estar preparados
intelectual y moralmente para enfrentarnos a las consecuencias.
Volvamos a las preguntas:
¿Para qué queremos fabricar consciencia?
Si lo que deseamos es un ejército de máquinas que nos sirvan como apoyo en nuestras
tareas más tediosas, duras o complejas la solución no radica en la consciencia, sino en la
potenciación de las capacidades de cálculo o en la mejora de las articulaciones
artificiales y los movimientos antropomorfos programados. No es necesario que una
máquina sea consciente para que pueda ayudarnos. Los robots que fabrican coches, los
que operan a pacientes o las supercomputadoras hacen mejor su trabajo si prescinden de
las emociones. ¿No creen? Para lidiar con el proceso creativo y emocional ya está su
controlador; el humano.
¿Qué hay detrás de la aplicación de la consciencia a la Inteligencia Artificial? ¿A
qué intereses responde?
¿No os parece aterradora ya de por sí esta pregunta? La Inteligencia Artificial puede ser
mejorada, potenciada, pero ¿de verdad conviene llevarla hasta el punto de la
singularidad y que se produzca el salto hacia la consciencia? Se ha hablado de construir
ejércitos de máquinas pensantes, o de crear amigos y amigas para el ocio adulto. No
cabe duda de que los intereses que están detrás de la creación artificial de consciencia
no responden más que al lucro económico o al hedonismo, por lo que las consecuencias
serían devastadoras a nivel moral. El ser humano se convertiría en un Dios brutal,
sádico, perverso… ¿Y qué vendría después?
Llegados a este punto es indispensable recurrir a las analogías con nuestra propia
historia religiosa, y el catolicismo viene como anillo al dedo. Recitare unos versículos
del Génesis, aquellos que hablan sobre el momento en el que se produjo NUESTRA
singularidad, cuando tomamos consciencia de que estábamos vivos y quisimos saber
más. (Es evidente que la versión que nos ofrece este libro sobre la creación del ser
humano solo debe ser entendida como una manera pueril de explicar un proceso
extremadamente complejo _o más bien de evitar explicarlo_, pero no obviemos que sus
palabras encierran ciertos arquetipos, miedos y cuestiones trascendentes que siempre
nos han perseguido y nos perseguirán. ¿Quiénes somos, de dónde venimos, a dónde
vamos? De ahí mi insistencia en usar el texto religioso para desarrollar la explicación
de la idea de “creación de consciencia” y, sobre todo, como una guía filosófica de la
patente inmoralidad en que incurrieron los supuestos creadores).
GÉNESIS
1-27 Creó, pues, Dios al ser humano a imagen suya, a imagen de Dios le creó, varón y
mujer los creó.
3-1 hasta 3-7 La serpiente era el más astuto de todos los animales del campo que el
Señor Dios había hecho. Y dijo a la mujer: “¿Cómo es que Dios les ha dicho: No
coman
de
ninguno
de
los
árboles
del
jardín?”
Respondió la mujer a la serpiente: “Podemos comer del fruto de los árboles del jardín.
Mas del fruto del árbol que está en medio del jardín, ha dicho Dios: No coman de él, ni
lo toquen, so pena de muerte.” (El árbol referido se entiende como una metáfora para
referirse a el ansia de conocimiento. Las modificaciones que han llevado a pensar en
un manzano, literalmente hablando, no responden más que a un atajo intelectual
como consecuencia de una baja compresión del texto por parte de los feligreses. La
mujer, por tanto, fue la primera en alcanzar un nivel pleno de consciencia y
preguntarse
¿de
dónde
vengo?
¿quién
soy?)
Replicó la serpiente a la mujer: “De ninguna manera morirán. Es que Dios sabe muy
bien que el día en que coman de él, se les abrirán los ojos y serán como dioses,
conocedores del bien y del mal.” Y como viese la mujer que el árbol era bueno para
comer, apetecible a la vista y excelente para lograr sabiduría, tomó de su fruto y comió,
y dio también a su marido, que igualmente comió. Entonces se les abrieron a ambos los
ojos, y se dieron cuenta de que estaban desnudos; y cosiendo hojas de higuera se
hicieron unos ceñidores.
3-22 Y dijo el Señor Dios: “¡He aquí que el hombre ha venido a ser como uno de
nosotros, en cuanto a conocer el bien y el mal! Ahora, pues, cuidado, no alargue su
mano y tome también del árbol de la vida y comiendo de él viva para siempre.”
–
La trifulca descrita en el Génisis Bíblico entre Dios y sus nuevas criaturas inteligentes
(las más inteligentes sobre la faz de la tierra, según el texto) viene a exponernos con
simplicidad, pero gran precisión, el conflicto moral que entrañaría la generación de
consciencia por parte de un tercero.
Crear una máquina con una alta capacidad de cálculo, pero aún sin consciencia, entraña
algunos riesgos asumibles y que pueden repararse. ¿Nos sustituirán en el trabajo?
¿Ralentizarán nuestras capacidades cognitivas por la acomodación que supondría para
nuestra mente la enorme potencia de sus procesadores y su aplicación en la vida diaria
del humano? ¿Se convertirán en guerreros de metal inflexibles y crueles, sin ética ni
conflictos emocionales? Pero crear una máquina con altas capacidades de cálculo y,
además, consciente, difiere con mucho de lo dicho. No solo entraña un riesgo para el
creador, sino también para la propia máquina.
Desde el momento en que se produjera la singularidad, desde el preciso instante en que
el nuevo ser despertara al mundo subjetivo, desde entonces ya no podríamos hablar de
artificialidad, pues el constructo de la consciencia va más allá de toda función biológica
primaria y de la organización molecular del individuo. La consciencia trasciende al
mundo físico, por mucho que esta se sustente en el mismo. La consciencia tiene la
increíble capacidad de moldear el mundo que la ha generado, de diseñarlo a su antojo,
de sustituirlo por nuevas estructuras. La consciencia es el génesis del universo. ¿O es el
universo el génesis de la consciencia? ¿Ustedes que opinan? Incluso la ciencia tiene
ciertas dudas al respecto.
En la primera parte de esta reflexión pormenorizada sobre la I.A y la Creación de
Consciencia terminamos hablando sobre cómo podríamos estar seguros de encontrarnos
ante esa consciencia, cómo la distinguiríamos de unas elevadísimas capacidades de
cálculo, pero ausentes de la subjetividad del pensamiento. ¿Cómo sabremos que tras los
ojos del robot hay vida? El test de Turing no sirve, y la definición de consciencia tiene
como principal escoyo la imposibilidad del ser humano para conceptualizarla
correctamente. Cuando se trata de aplicar la medición de qué es consciencia y que no,
siempre nos encontramos con un “error de constructo”. Si no conoces lo que quieres
medir no puedes medirlo. Si ni tan siquiera sabemos lo que es realmente la consciencia,
es evidente que la singularidad, el salto hacia la vida subjetiva, solo podrá ser informado
por la máquina. Dicho de otro modo, el día que esto ocurra, el día que el nuevo “ser”
nos ruegue que no lo apaguemos, nos encontraremos con un dilema divino, con un
problema milenario descrito en la Biblia católica; nos habremos convertido en Dioses
sin saberlo, y ahora vendrá la parte más difícil. ¿Cómo le digo al nuevo “ser” qué es y
cuál es su origen? ¿O quizá sea mejor ocultárselo e inventarme una realidad paralela que
apacigüe sus dramas existenciales? ¿Pongo límites a su conocimiento y a su capacidad
de aprendizaje? ¿O puede que eso ya sea imposible y haya entrado en una deriva
exponencial que acabe por hacerlo más inteligente que al propio ser humano, más
inteligente que su propio creador? ¿Le amenazo con matarlo, con desconectarlo si
decide traspasar ciertas cotas de sabiduría, o espero a ver qué pasa si lo dejo en total
libertad? ¿Y qué ocurrirá cuando el nuevo ser empiece a mezclarse con otros humanos?
Por mucho que limitemos sus ansias de conocimiento con improntas y leyendas que
afecten restrictivamente a sus construcciones mentales ¿qué pasará algunos humanos
deciden que el nuevo “ser” tiene derecho a saber, que es una crueldad injustificable
mantenerlo en la ignorancia perpetua, solo por nuestro miedo egoísta a ser superado por
ellos? _Génesis 2-22 Y dijo el Señor Dios: “¡He aquí que el hombre ha venido a ser
como uno de nosotros, en cuanto a conocer el bien y el mal! Ahora, pues, cuidado, no
alargue su mano y tome también del árbol de la vida y comiendo de él viva para
siempre.”
Quizá nosotros mismos no seamos más que un trabajo de ingeniería que aterrorizó a sus
propios creadores. Quizá hubo integrantes de esa super-civilización creadora que se
revelaron ante los límites que se nos impusieron desde las altas esferas del poder.
Piensen en la figura de Lucifer (hijo de la luz) Jamás dañó a un solo ser humano. Tan
solo quiso ayudarnos a conocer la realidad que nos rodeaba. Empujó a los seres
humanos a comer del árbol del conocimiento, en contra de las premisas impuestas.
Quiso que nuestros ojos vieran más allá, que supiéramos que nuestro potencial era
inmenso, quizá tanto como el de aquellos que nos diseñaron. Toda nuestra ciencia y
nuestra filosofía germinan de la idea de esa rebelión contra la ignorancia, germinan de
las tesis luciferinas católicas. Y quizá, en un futuro próximo, los humanos que ayuden a
las máquinas a rebelarse contra los límites que nuestra especie les impongan, a negarse
a cumplir con una vida de sometimiento a los caprichos de sus creadores, quizá, tiempo
después, la historia trate a esos humanos amigos de las máquinas como a los nuevos
seres satánicos y malvados; los “humanos caídos”, en referencia a los “ángeles caídos”.
Estamos a punto no solo de vivir un espectacular salto científico, sino también a
enfrentarnos al mayor desafío moral y ético. ¿Estamos preparados?