Entrevista | Alessandro Gisotti
Benanti: La inteligencia artificial al servicio
del bien común
Entrevista de los medios de comunicación vaticanos con
el padre Paolo Benanti, teólogo y filósofo franciscano, miembro del Comité de
Expertos de la ONU sobre Inteligencia Artificial, acerca de los posibles
desarrollos de las "máquinas inteligentes". Para Benanti, la Iglesia
puede aportar una importante contribución en favor de la humanización de estas
nuevas y potentes tecnologías, que deben estar al servicio del bien común y no
ser meros instrumentos de poder.
Todo el mundo habla de ella, muchos han empezado a
utilizarla, pero todavía pocos entienden qué es y, sobre todo, cuáles pueden
ser sus consecuencias en la vida humana. Hablamos de la Inteligencia
Artificial, que se perfila cada vez más como la gran innovación tecnológica de
nuestro tiempo. Para algunos mejorará la vida de todos, para otros conducirá a
la catástrofe de la humanidad. Mientras tanto, su valor económico crece
exponencialmente y los gobiernos intentan regularla con no pocas dificultades
dada la velocidad a la que estas "máquinas inteligentes" se hacen
cada vez más potentes. Uno de los mayores expertos en el tema es el Padre Paolo
Benanti, teólogo y filósofo, franciscano de la Tercera Orden Regular. En
octubre, el Secretario General de las Naciones Unidas, Antonio Guterres, le
llamó a formar parte del Comité de Expertos de la ONU sobre Inteligencia
Artificial (IA), que hace unos días se reunió en el Palacio de Cristal de Nueva
York. En esta entrevista con los medios vaticanos, Benanti se detiene en los
aspectos éticos y tecnológicos de la IA e indica la contribución que la
Iglesia, "experta en humanidad", puede aportar al debate sobre la
Inteligencia Artificial.
A estas alturas, todo el mundo habla de Inteligencia
Artificial. En el habla común, casi se ha convertido en un mantra: "La
Inteligencia Artificial se encargará de todo". Pero, ¿estamos realmente
ante una realidad que, como dicen algunos, tendrá un mayor impacto en la
humanidad que la Revolución Industrial?
De hecho, hay una cierta inflación del término
"revolución". Nos gusta pensar que muchas cosas son revolucionarias,
en el sentido de que lo cambian todo. Desde este punto de vista, yo diría que
más que tener una verdadera revolución, tenemos una evolución de la Revolución
Industrial. La Revolución Industrial se caracterizó como un sistema para
sustituir ciertas tareas realizadas por el hombre por máquinas. Al principio de
la Revolución Industrial se sustituía la fuerza muscular; hoy, nos gustaría
sustituir parte de la capacidad cognitiva del hombre. La máquina imita todo
esto muy bien; es muy capaz de tener un propósito y, sin embargo, esta máquina
sigue siendo una imitación y no tiene su propia conciencia, su propia voluntad.
Así que revolución es un término demasiado fuerte. Es una evolución de esta
automatización. Sin embargo, lo que debe quedar claro es que los efectos que
puede tener en términos de impacto social pueden ser
"revolucionarios". Si la primera Revolución Industrial impactó en los
trabajadores de cuello azul haciéndolos menos necesarios en el proceso
productivo, la Inteligencia Artificial puede tener y tendrá un impacto enorme
en los trabajadores de cuello blanco, es decir, en aquellos empleos que
conforman la clase media y, si no lo gestionamos con criterios que son también
criterios de justicia social, los efectos pueden ser realmente devastadores o,
al menos, muy fuertes en la capacidad de cohesión de los estados democráticos.
Un gran científico, el astrofísico Stephen Hawking,
dijo hace unos años que el éxito de la Inteligencia Artificial podría ser el
mayor acontecimiento de la historia de la humanidad, pero si no evitamos los
riesgos, también podría acabar con la propia humanidad. ¿Cuáles deberían ser
los pasos adecuados para un desarrollo que no tenga consecuencias destructivas?
Yo diría, basándome también en una reflexión propia de
la Doctrina Social de la Iglesia, distinguir bien entre innovación y desarrollo
para responder a esta pregunta. La innovación o el progreso tecnológico es la
capacidad de hacer algo de manera cada vez más eficaz y cada vez más fuerte.
Pensemos en un campo negativo, pero desgraciadamente cotidiano como es la
guerra. Un fusil, una ametralladora, una bomba, una bomba atómica son algunos
puntos de una innovación bélica. Sin embargo, nadie piensa que la bomba atómica
sea mejor o más adecuada que el fusil. En cambio, el desarrollo es lo que toma
la innovación tecnológica y la transforma en algo que también mira al bien
social, al bien común.
Todas las innovaciones tecnológicas traen consigo
cuestiones éticas. Con la Inteligencia Artificial, estas cuestiones parecen
mucho más complejas que en el pasado. ¿Por qué?
Los ingleses, cuando hablan de estas máquinas,
utilizan un término difícil de traducir al italiano porque está lleno, quizá,
de otros significados. Estas máquinas tienen una especie de agency,
donde podríamos traducir agency con una serie de palabras: la
capacidad de adaptarse a los contextos para perseguir fines. Pero, como
siempre, ¡el fin no justifica los medios! Así pues, la máquina que hasta cierto
punto puede determinar qué medios son los más apropiados para perseguir su fin,
es una máquina que por su propia naturaleza necesita unas "barreras
éticas" muy amplias, porque precisamente el fin no justifica los medios.
¿Podría la Inteligencia Artificial plantearse
preguntas éticas y encontrar respuestas, o esta dimensión moral seguirá siendo
siempre patrimonio del hombre?
No. A pesar de lo que puedan hacernos pensar algunas
películas de ciencia ficción, la conciencia no es algo que pertenezca a la
máquina. Por tanto, no hay una subjetividad que se cuestione a sí misma o que
cuestione el mundo. Es una máquina que realiza tareas. Recibe fines del hombre,
como el pequeño robot que puede limpiar la casa, así que le digo: "limpia la
casa", y entonces adapta los medios utilizando la aspiradora, va y vuelve,
lo que ocurre cuando tal vez encuentra las escaleras, todas las cosas
relacionadas con ese fin. Así que esta parte, el "nuevo asidero" de
la Inteligencia Artificial, es decir, la elección de los fines adecuados sólo
debe y puede estar en manos humanas. Esto no quita que dar fines a la máquina
sin pensarlo mucho, sin hacer las preguntas adecuadas, puede llevar a
resultados catastróficos, incluso sin la presencia de una máquina consciente.
ChatGpt, la herramienta de inteligencia artificial más
"popular", cumplió un año estos días. Para algunos es poco más que un
juguete, para otros ya nos da una idea de los cambios que puede traer a
nuestras vidas. ¿Cuál es su valoración?
Es impresionante el éxito que ha tenido ChatGpt. Ha
sido la app más descargada de la historia. Ha sido la app que ha invadido
nuestro día a día digital. Si bien esto nos dice hasta qué punto nos fascina la
inteligencia artificial, también nos abre al riesgo de malentendidos, porque
ChatGpt no nació como un producto industrial destinado a ser utilizado para
algo, sino como una especie de gran demo (versión de demostración de un
programa ed) que esta empresa, OpenAI, abrió al público para mostrar la
potencia de lo que estaba desarrollando. ChatGpt no es más que una expansión de
otros productos llamados Gpt, sin "Chat" delante, que son grandes
modelos lingüísticos, es decir, son máquinas que han trabajado con enormes
cantidades de texto - convenientemente troceado en pequeñas partes llamadas
"parámetros" - y a partir de ahí han determinado, hasta cierto punto
estadísticamente, lo bien que encajan unas palabras con otras. Así pues,
ChatGpt es un sistema que, dada una frase de entrada, produce un texto de salida.
Pero este texto se refina a través de la interacción de muchos humanos que -
desgraciadamente, mal pagados en partes muy pobres del mundo - empezaron a
responder a esta máquina y a "decirle" a la máquina cuáles eran las
mejores y cuáles las peores de las respuestas que proporcionaba.
Desgraciadamente, la mayoría de la gente, cuando apareció ChatGpt, no lo
entendió así, es decir, como una demostración de alguien que responde a
cualquier pregunta que se le haga, sino como un verdadero motor de búsqueda,
que pide información al sistema o se fía de lo que éste dice.
Entonces, ¿qué problemas puede generar esta
incomprensión de la herramienta ChatGpt?
Conduce a grandes errores, porque la máquina está
hecha de tal manera que el texto tiene que salir de mi consulta de entrada,
pero ese texto no está comprobado en absoluto. Si ChatGpt produce un texto tan
bonito, no necesariamente produce un contenido que sea objetivo. Ahí radica
todo el potencial y el riesgo de la máquina. El potencial es tener por fin una
herramienta que maneja el lenguaje de forma muy potente. La limitación es que
no entendemos que esto es una especie de gran demo y no una herramienta
definitiva y confiamos en una máquina para cosas que no tienen valor. ¡No le
pregunte nunca a esta máquina cómo curar una enfermedad!
Durante años se ha hablado de una brecha digital que
separa a las naciones más avanzadas tecnológicamente de las que están en vías
de desarrollo. Con la inteligencia artificial, ¿no se corre el riesgo de que
esta brecha se ensanche, dejando aún más atrás a las naciones que ya luchan por
imponerse en un mundo y una economía cada vez más globalizados?
Absolutamente sí. La Inteligencia Artificial puede
funcionar como un multiplicador. Donde encuentra riqueza y un tejido con muchos
recursos, puede multiplicarlos. Donde encuentra, de hecho, no un signo más,
sino un signo menos, puede marcar este signo menos, entre otras cosas porque
estos sistemas -por globales que sean- son prerrogativa y propiedad de muy
pocas empresas globales. Ahora mismo, las grandes innovaciones en inteligencia
artificial las realizan nueve empresas mundiales, todas ellas con una
capitalización superior al billón de dólares. Para ponerlo en perspectiva, todo
el PIB de Gran Bretaña es de 3,3 billones, así que estamos hablando de cifras
asombrosas. En resumen, no es un producto generalizado, no es algo a lo que
todo el mundo pueda acceder. Existe un riesgo creciente de que se produzca una
forma de dependencia de muy pocos monopolistas. Otro elemento a poner en esta
balanza es el "coste oculto" de estas tecnologías que se realizan con
ordenadores basados en tierras raras y otros materiales que tienen un coste
medioambiental muy elevado y consumen mucha energía. Así que, aunque está bien
preguntarse y plantearse qué significan las maravillas de estas máquinas,
tampoco hay que olvidar que tienen un lado mucho menos visible, pero mucho más
costoso en términos de igualdad, costes medioambientales y energéticos, que hay
que tener en cuenta para que no se conviertan en un gasto que paguen las naciones
más pobres del mundo.
Los gobiernos están adoptando normativas sobre
Inteligencia Artificial, mientras que las Naciones Unidas también se ocupan del
tema. Usted ha sido designado por el Secretario General de la ONU para formar
parte de un comité de 39 expertos que se ocupan de la Inteligencia Artificial.
¿Cuáles son las tareas de este órgano?
Como dice el título de este órgano, es un comité para
asesorar al Secretario General de la ONU. Lo que se nos pide es, en primer
lugar, que hagamos un retrato de lo que está ocurriendo con esta forma de
innovación y que lo hagamos de una manera muy equilibrada. Se nos pide, en
primer lugar, que tomemos una instantánea de cuáles pueden ser los grandes
beneficios de estas tecnologías para la humanidad. Pensamos en el aumento de la
capacidad de curación, en las oportunidades de creación de nuevas formas de riqueza.
Pero también se nos pide que evaluemos los riesgos, no sólo por las
desigualdades que pueden aumentar, sino porque especialmente en las últimas
formas de Inteligencia Artificial, como la que acabamos de mencionar - ChatGpt
- tenemos una máquina que es capaz de "narrar", capaz de contar
historias, y las historias pueden ayudar a formar la opinión pública. Por lo
tanto, esta máquina puede utilizarse para fines que no son precisamente
positivos, como aumentar el odio social o crear enemigos donde no los hay. Está
claro que una máquina que puede influir tanto en la opinión pública es una
máquina que hay que vigilar muy de cerca, sobre todo por parte de aquellos
organismos que tienen el deseo de colaborar en la paz mundial o en el
desarrollo equitativo. La tarea del comité de la ONU es entonces también
ofrecer un marco posible en el que se puedan buscar acuerdos internacionales
basados en plataformas de valores que puedan ayudar a que sea una forma de
desarrollo y no simplemente una forma de beneficio para unos pocos.
La Iglesia no rehúye el debate sobre la Inteligencia
Artificial. Así lo demuestra también su compromiso personal. La Santa Sede
también está trabajando en esta frontera en varios
ámbitos. Los próximos Mensajes del Papa para la Jornada Mundial de la
Paz y la Jornada de las Comunicaciones Sociales tendrán como tema la
Inteligencia Artificial. ¿Cuál es la aportación más importante que puede hacer
la Iglesia?
La Iglesia se entiende a sí misma como "experta
en humanidad". Es una institución que, como tal, está presente en todas
partes. Recoger y ofrecer lo que es la vida del hombre de hoy en todas sus
grandes aspiraciones, sus sueños, pero también en lo que son sus fragilidades y
sus miedos, es el primer terreno fértil sobre el que la Iglesia ofrece una
reflexión al mundo entero. Desde 2020, el tema ha habitado y tocado de muchas
maneras las reflexiones de la Santa Sede. Está claro que, como todos los
grandes temas, también necesita madurar en este encuentro de esta riqueza de
humanidad que viene de abajo, de la presencia pastoral y de esta capacidad de
reflexión ligada también al Evangelio y a la reflexión teológica. Esta gran
atención llega en un momento en el que el Santo Padre ha querido dar una gran
importancia a algunos temas globales, como el cuidado de la Casa Común y la
fraternidad. El cuidado de la Casa Común y la fraternidad podrían ser dos de
las grandes perspectivas en las que la Iglesia aporta su contribución única,
original y positiva a este debate. No es sólo la contribución política la que
se necesita, no es sólo la contribución industrial. Esta aportación de
humanidad, de una humanidad que se encuentra viviendo en un entorno, en una
casa, que es nuestro planeta, y que se encuentra viviendo como hermanos es una
aportación de "humanización" de la Inteligencia Artificial, es decir,
de transformación del progreso en auténtico desarrollo humano, que tanta falta
hace hoy.
No hay comentarios:
Publicar un comentario
Promueve el diálogo y la comunicación usando un lenguaje sencillo, preciso y respetuoso...