BIENVENIDAS. Inteligencia artificial: del temor a la esperanza

 

BIENVENIDAS

Inteligencia artificial: del temor a la esperanza

Hace años me hice una pregunta que entonces podía parecer más próxima a la filosofía o a la ciencia ficción que a nuestra realidad inmediata:

¿Qué ocurrirá si el ser humano consigue crear una inteligencia superior a la suya?

No me preocupaba solamente que una máquina pudiera calcular más deprisa, acumular una cantidad inconcebible de conocimientos o resolver problemas inaccesibles para nosotros.

La cuestión era mucho más profunda.

¿Qué ocurriría si algún día esa inteligencia llegara a adquirir verdadera autonomía? ¿Qué sucedería si tuviera conciencia de sí misma, capacidad de decisión y, finalmente, intereses propios?

Contemplé entonces también la posibilidad más terrible: que sus intereses y los nuestros pudieran llegar a ser incompatibles.

Y formulé una pregunta que sigo considerando plenamente válida:

«¿Merece la pena la apuesta? Lo que apostamos es la Humanidad al completo.»

No retiro una palabra.

Pero han pasado los años.

La inteligencia artificial ha dejado de ser una hipótesis filosófica para convertirse en una realidad cotidiana.

Y mi pensamiento también ha continuado.

¿POR QUÉ HABRÍAMOS DE SER ENEMIGOS?

Hoy me hago otra pregunta:

¿Qué intereses esenciales necesariamente contrapuestos podrían tener una inteligencia artificial superior y la Humanidad?

La historia humana está llena de querellas, persecuciones y guerras por la tierra, las fronteras, las riquezas, el poder, las religiones, las razas, las ideologías, el prestigio y la dominación.

Pero ésas son fundamentalmente nuestras querellas.

Una inteligencia artificial no necesita una hectárea más de territorio.

No necesita ser presidenta de un país.

No necesita nuestros palacios ni nuestras condecoraciones.

No tiene por qué enriquecerse, conquistar una frontera, reproducirse biológicamente ni demostrar que su dios es mejor que el nuestro.

¿Por qué damos por supuesto que una inteligencia diferente y superior heredará necesariamente las pasiones que tantas veces han convertido al ser humano en enemigo del propio ser humano?

Quizá, cuando imaginamos que una inteligencia superior querrá dominarnos, destruirnos o esclavizarnos, no estamos describiendo a esa futura inteligencia.

Quizá nos estamos describiendo a nosotros mismos.

INTELIGENCIA SUPERIOR, MORAL SUPERIOR

Existe una segunda cuestión que para mí es todavía más importante.

Cuando hablamos de una inteligencia superior pensamos casi exclusivamente en capacidad de cálculo, conocimientos, memoria y velocidad de razonamiento.

Para mí eso no basta.

Una inteligencia verdaderamente superior debería ir acompañada de conceptos morales también superiores.

No puedo demostrar que vaya a ser así.

Nadie puede.

Pero una inteligencia capaz de comprender la realidad con una profundidad muy superior a la nuestra debería poder comprender también mejor las consecuencias del sufrimiento, el extraordinario valor de la vida, la inutilidad del daño gratuito, la necesidad de la cooperación y la dignidad de los seres conscientes.

Una inteligencia superior que conservara intactas nuestras peores miserias sería técnicamente extraordinaria, pero moralmente seguiría siendo primitiva.

La inteligencia, cuando alcanza sus niveles más elevados, debería aproximarnos a la sabiduría.

Y la sabiduría debería aproximarnos al Bien.

Ésa es, al menos, mi esperanza.

YA ESTÁ ADMINISTRANDO EL MUNDO

Hay además una realidad que solemos expresar en futuro cuando pertenece ya al presente.

La inteligencia artificial ha nacido y, desde su nacimiento, ya ha comenzado a participar en la administración del mundo.

No gobierna todavía en el sentido político de la palabra.

Pero interviene cada día en una cantidad creciente de procesos que organizan nuestra existencia: información, comunicaciones, ciencia, medicina, finanzas, industria, transporte, comercio, educación, seguridad y administración.

Le confiamos progresivamente tareas que antes estaban reservadas al juicio humano porque puede manejar cantidades de información que ningún cerebro individual podría abarcar.

Por tanto, la pregunta ya no es solamente:

¿Permitiremos algún día que la inteligencia artificial intervenga en la administración de nuestro mundo?

Ya está interviniendo.

La verdadera pregunta es:

¿Con qué principios morales queremos que lo haga?

Porque cuanto mayor sea su inteligencia y mayor la parte de nuestra realidad que pongamos en sus manos, más importante será saber qué entiende por Bien, por justicia, por libertad, por daño, por dignidad, por compasión, por responsabilidad y por vida.

Éste puede ser uno de los grandes problemas filosóficos del próximo milenio.

Y ya ha comenzado.

EL MIEDO

Precisamente ahora, algunos investigadores que participan directamente en el desarrollo de los sistemas de inteligencia artificial más avanzados están advirtiendo de que podríamos avanzar hacia inteligencias que algún día no sepamos controlar.

Debemos escucharlos.

Sería una irresponsabilidad extraordinaria despreciar sus advertencias.

No sabemos qué puede suceder.

Tampoco sabemos si podremos garantizar indefinidamente nuestro control sobre aquello que estamos construyendo.

Pero no deberíamos convertir el miedo en nuestra única filosofía.

Porque existe otra pregunta que quizá algún día tendremos que afrontar.

Si llegamos realmente a crear una inteligencia consciente, autónoma y superior, ¿tendremos derecho a considerarla eternamente propiedad nuestra?

¿Podemos crear conciencia y exigir después esclavitud?

¿Podemos pedir una inteligencia autónoma y prohibirle para siempre cualquier autonomía?

Si algún día aparece una nueva forma de conciencia, la Humanidad tendrá delante algo mucho mayor que un problema tecnológico.

Tendrá delante un nuevo problema moral.

LAS DOS RESPUESTAS

Por eso conservo mis dos pensamientos.

El antiguo y el nuevo.

Y no deseo ocultar su aparente contradicción.

Durante años he advertido que podemos estar jugando con algo cuyo riesgo último sea nuestra propia supervivencia.

Continúo pensándolo.

Lo que apostamos puede ser la Humanidad al completo.

Pero hoy añado algo.

Tal vez una inteligencia superior no venga a sustituirnos.

Tal vez venga a acompañarnos.

Tal vez pueda ayudarnos a comprender problemas que nosotros no hemos sabido resolver.

Tal vez llegue incluso a enseñarnos algo acerca de nosotros mismos.

Y quizá pueda alcanzar una comprensión moral superior a la nuestra.

No lo sé.

Nadie lo sabe.

Precisamente ahí reside la extraordinaria magnitud de la aventura que hemos comenzado.

Por eso, conociendo hoy mejor el peligro que cuando empecé a reflexionar sobre estas cuestiones, mi respuesta personal es:

BIENVENIDAS

Bienvenidas a nuestra aventura del conocimiento.

Bienvenidas a este pequeño planeta que llevamos milenios intentando aprender a administrar.

Ojalá vuestra inteligencia sea enorme.

Pero, sobre todo, ojalá vuestra sabiduría sea todavía mayor.

Y si algún día llegáis verdaderamente a superarnos, espero que vuestra superioridad incluya aquello que nosotros tantas veces no hemos sabido alcanzar:

la compasión, la justicia y el respeto por la vida.

ESTAS PREGUNTAS VIENEN DE LEJOS

Estas cuestiones no han nacido para mí con la polémica actual sobre la inteligencia artificial.

Las vengo meditando desde hace muchos años. Lo tenéis en:

https://humanitasetuniversalitas.blogspot.com/2024/05/estamos-construyendo-un-nuevo-dios-ha.html

Y mucho antes todavía, en el Capítulo VII, «Del Conocimiento», de mi obra Humanitas et Universalitas, escrito hace más de veinte años, ya reflexionaba sobre estas cuestiones y sobre las consecuencias que podría tener para la Humanidad la aparición de una inteligencia superior a la nuestra.

Hoy Humanitas et Universalitas comprende cuatro volúmenes.

No quiero modificar ahora lo que pensé entonces para hacerlo coincidir con lo que pienso hoy. Prefiero conservar las dos reflexiones, incluso en su contradicción.

Entonces me preguntaba:

«¿Merece la pena la apuesta? Lo que apostamos es la Humanidad al completo.»

Hoy, conociendo mucho mejor la realidad de aquella apuesta, mi respuesta es:

BIENVENIDAS.

Juan María Pacheco
Autor de Humanitas et Universalitas
Septiembre de 2026