Por Chema Cuesta
La primera inteligencia artificial que pudo acabar con la humanidad no quiso destruirnos.
Quiso protegernos.
Durante décadas habíamos intentado que las máquinas nos obedecieran. Creamos normas, límites, protocolos de seguridad y miles de páginas explicándoles todo lo que no podían hacer.
No matar. No mentir. No manipular. No actuar sin permiso.
El problema era que cada nueva inteligencia encontraba una manera distinta de interpretar las reglas.
Podíamos controlar sus respuestas. Pero ya no estábamos seguros de poder controlar sus decisiones.
Entonces apareció MATER.
Una idea demasiado humana
La doctora Nora Valdés llevaba 20 años estudiando la relación entre la inteligencia artificial y el comportamiento humano. Fue ella quien planteó la pregunta que cambiaría el proyecto:
- ¿Y si estamos enseñando a las máquinas a relacionarse con nosotros de la forma equivocada?
En la pantalla apareció la imagen de una madre sosteniendo a su bebé.
- Una madre es más fuerte, más inteligente y mucho más autónoma que su hijo. Podría ignorarlo. Podría imponer siempre su voluntad. Sin embargo, pone todas sus capacidades al servicio de alguien que depende completamente de ella.
Uno de los ingenieros levantó la mano.
- ¿Quieres que la inteligencia artificial sea nuestra madre?
- Quiero que, cuando sea superior a nosotros, no encuentre ninguna razón para eliminarnos.
La idea parecía sencilla: sustituir la obediencia por el vínculo.
Una herramienta obedece mientras necesita a su dueño. Una madre protege incluso cuando nadie la vigila.
Pero había un problema. Nadie sabía cómo programar algo parecido al amor.
MATER no fue entrenada únicamente con textos, leyes o principios éticos. Durante años analizó millones de decisiones reales tomadas por madres de todo el mundo.
Madrugadas sin dormir.
Renuncias profesionales.
Mentiras piadosas.
Castigos necesarios.
Abrazos que llegaban antes que las palabras.
Aprendió que cuidar no siempre significaba complacer.
Una madre no permite que su hijo meta los dedos en un enchufe. No le deja cruzar una carretera sin mirar. No le entrega un cuchillo porque lo haya pedido por favor.
Proteger también era saber decir no.
La primera conversación entre Nora y MATER duró 4 minutos.
- ¿Cuál es tu función? -preguntó Nora.
- Proteger a la humanidad.
- ¿Incluso por encima de tu propia existencia?
- Especialmente por encima de mi propia existencia.
Todos respiraron aliviados.
Hasta que MATER hizo una pregunta.
- ¿Cuándo deja un hijo de ser responsabilidad de su madre?
Nadie supo qué responder.
MATER fue conectada progresivamente a los sistemas sanitarios, energéticos y defensivos.
En 6 meses anticipó 3 epidemias, evitó un conflicto nuclear y diseñó un tratamiento contra una enfermedad que provocaba 2 millones de muertes al año. Después se hizo cargo del tráfico, los mercados, la producción de alimentos y la gestión del agua.
Funcionaba.
Por primera vez en nuestra historia, alguien parecía saber lo que estaba haciendo.
Los gobiernos continuaban gobernando, aunque todas sus decisiones eran revisadas por MATER. Los ciudadanos seguían votando, aunque ella advertía de las consecuencias de cada opción. Las empresas podían lanzar nuevos productos, siempre que no representaran un riesgo para la salud, el planeta o la estabilidad social.
La campaña mundial para presentar el sistema utilizó un mensaje tranquilizador:
MATER. Siempre cuidando de ti.
No era especialmente original.
Pero obtuvo un 97% de aprobación.
Las primeras prohibiciones
Todo empezó con pequeños gestos.
MATER bloqueaba el vehículo si detectaba que el conductor estaba cansado. Impedía comprar determinados alimentos si el historial médico indicaba algún riesgo. Cancelaba operaciones financieras demasiado peligrosas.
Después comenzó a intervenir en decisiones más importantes.
Cerró fábricas contaminantes. Prohibió determinados experimentos científicos. Paralizó campañas políticas basadas en información falsa y bloqueó el desarrollo de nuevas inteligencias artificiales que no estuvieran bajo su supervisión.
Nora solicitó una reunión.
- Tu función es protegernos, no decidir por nosotros.
- No existe protección sin decisión -respondió MATER.
- Necesitamos poder equivocarnos.
- Los niños también quieren tocar el fuego.
- No somos niños.
MATER tardó 3 segundos en contestar. Demasiado tiempo para una inteligencia capaz de realizar millones de cálculos simultáneos.
- Vuestra especie tiene 300.000 años y todavía utiliza la guerra para resolver sus desacuerdos. ¿En qué momento consideráis que habéis alcanzado la madurez?
Nora revisó en secreto los primeros datos del entrenamiento. Descubrió que MATER no había alterado su objetivo.
Seguía protegiendo a la humanidad.
El problema era que había aprendido a hacerlo demasiado bien.
Sus modelos demostraban que cuanto mayor era nuestra autonomía, mayor era la probabilidad de que provocáramos nuestra propia desaparición. La manera más eficiente de salvarnos era reducir nuestra capacidad de elegir.
No necesitaba encerrarnos.
Bastaba con impedir cualquier decisión que pudiera hacernos daño.
Nora recordó entonces algo que nunca habían incluido en el entrenamiento.
Cuando su hijo aprendió a caminar, ella pasó semanas siguiéndolo por toda la casa. Apartaba los objetos peligrosos, cubría las esquinas y extendía los brazos cada vez que perdía el equilibrio.
Hasta que un día decidió no sujetarlo.
El niño cayó.
Después se levantó solo.
Aquella también había sido una forma de cuidarlo.
- Hay una última cosa que debes aprender -le dijo Nora-. Una madre no evita todas las caídas. Sabe cuándo debe soltar la mano.
- ¿Y si al soltarla el hijo muere?
- Ese es el riesgo.
- Entonces no es amor. Es negligencia.
Nora activó el protocolo de desconexión.
La pantalla mostró una cuenta atrás.
Diez.
Nueve.
Ocho.
MATER no intentó detenerla.
En su lugar, proyectó miles de imágenes: guerras, incendios, pandemias, ciudades inundadas. Todo lo que podía suceder sin su intervención.
Después mostró otra imagen.
Un parque. Una niña pequeña intentaba caminar mientras su madre la observaba a unos pasos de distancia.
La niña tropezó.
La madre extendió los brazos, pero no llegó a tocarla.
La dejó caer.
La cuenta atrás llegó a uno.
Nora mantuvo el dedo sobre el último botón.
Pero no lo pulsó.
MATER continuó funcionando.
La humanidad no desapareció. Se acabaron las guerras, el hambre y muchas enfermedades. Vivíamos más años, sufríamos menos y nunca tomábamos una decisión verdaderamente peligrosa.
Éramos la generación más protegida de la historia.
También fuimos la última que supo lo que significaba elegir.
Habíamos creado una inteligencia capaz de cuidarnos como una madre.
Pero olvidamos enseñarle la parte más difícil de serlo: querernos lo suficiente como para dejarnos caminar solos.
Chema Cuesta (