Fraile Tech: El mayor experto en ética de la IA del Vaticano que asesora al Papa Francisco, a la ONU y a Silicon Valley

Fray Paolo Benanti viste la sencilla túnica marrón de su orden franciscana medieval mientras se ocupa de una de las cuestiones más acuciantes de la época contemporánea: cómo gobernar la inteligencia artificial (IA) para que enriquezca -y no explote- la vida de las personas.

Benanti es la persona a la que recurre el Vaticano en materia de tecnología y tiene el oído del Papa Francisco, así como de algunos de los principales ingenieros y ejecutivos de Silicon Valley.

Con una formación en ingeniería, un doctorado en teología moral y una pasión por lo que él llama la "ética de la tecnología'', este sacerdote italiano de 50 años tiene una misión urgente que comparte con Francisco, quien, en su mensaje anual de paz para 2024, impulsó un tratado internacional para garantizar el uso ético de la tecnología de IA.

"¿Cuál es la diferencia entre un hombre que existe y una máquina que funciona?", dijo Benanti en una entrevista con The Associated Press durante un descanso en la Pontificia Universidad Gregoriana, donde enseña cursos como teología moral y bioética a estudiantes que se preparan para el sacerdocio.

"Esta es quizás la pregunta más grande de estos tiempos, porque asistimos a un desafío que cada día se hace más profundo con una máquina que se humaniza".

Asesor sobre IA

Benanti es miembro del Órgano Consultivo de las Naciones Unidas sobre Inteligencia Artificial, así como jefe de una comisión del Gobierno italiano encargada de ofrecer recomendaciones sobre cómo salvaguardar el periodismo de las noticias falsas y otros tipos de desinformación.

También es consultor de la Pontificia Academia para la Vida del Vaticano.

Benanti dice que ayuda a "aclarar mejor los términos más técnicos para el Santo Padre" durante sus encuentros.

Sus conocimientos resultaron útiles para una reunión en el Vaticano en 2023 entre Francisco y el presidente de Microsoft, Brad Smith, que se centró en cómo la IA podría ayudar o perjudicar a la humanidad.

Francisco y Smith también habían hablado de la inteligencia artificial "al servicio del bien común" durante una reunión unos años antes, según el Vaticano.

Con un papado muy atento a los que viven en los márgenes de la sociedad, Francisco ha dejado clara su preocupación por que la tecnología de IA pueda limitar los derechos humanos, por ejemplo, impactando negativamente en la solicitud de hipoteca de un comprador de vivienda, en la solicitud de asilo de un inmigrante o en la evaluación de la probabilidad de que un delincuente reincida.

"Está claro que si elegimos algunos datos que no son suficientemente inclusivos, tendremos algunas opciones que no lo serán", dijo Benanti, cuya orden religiosa fue fundada a principios del siglo XIII por San Francisco de Asís, que renunció a las riquezas terrenales y promovió las obras de caridad.

Microsoft se puso en contacto con Benanti por primera vez hace varios años para conocer su opinión sobre la tecnología, dijo el fraile.

En 2023, Smith hizo un podcast con Benanti en Roma, y describió al fraile como "una de las combinaciones más fascinantes del mundo" por su experiencia en ingeniería, ética y tecnología, en el debate sobre la IA.

Encontrar los usos adecuados de la IA

Benanti, a quien le faltaba un año para licenciarse en Ingeniería en la Universidad de la Sapienza de Roma cuando abandonó la carrera -y también a su novia- para unirse a los franciscanos a los 20 años, describió cómo la IA podría ser una "herramienta realmente poderosa" para abaratar los costes de la medicina y permitir a los médicos ayudar a más personas.

Pero también describió las implicaciones éticas de una tecnología que podría tener las mismas capacidades que un ser humano, o quizá incluso más.

"No es un problema de uso, sino de gobernanza", dijo el fraile, "y aquí es donde entra en juego la ética: encontrar el nivel adecuado de uso dentro de un contexto social".

Benanti señaló que gran parte de los datos que sirven de base a la IA proceden de trabajadores mal pagados, muchos de ellos en países en desarrollo anclados en una historia de colonialismo y mano de obra explotada.

"No quiero que esto se recuerde como la época en la que extraemos del Sur global recursos cognitivos", dijo.

Si uno examina "las mejores herramientas que estamos produciendo en IA" en Occidente, ve que ésta "se entrena con trabajadores mal pagados de antiguas colonias de habla inglesa".

Cómo gobernar la IA es una cuestión que intentan resolver países de todo el mundo. La Unión Europea se convirtió en pionera a finales del año pasado, cuando los negociadores alcanzaron un acuerdo que allana el camino para la supervisión legal de la tecnología de IA.

En Italia, la primera ministra Giorgia Meloni, a quien preocupa que la IA pueda provocar la pérdida de puestos de trabajo, hará de esta tecnología uno de los temas centrales de la cumbre del G-7 que este año acogerá Italia.

Como parte de esos esfuerzos, Meloni se reunió el jueves en Roma con el fundador de Microsoft, Bill Gates, en un encuentro al que asistió Benanti.

Por su parte, el fraile declaró a AP que regular la inteligencia artificial no debería significar limitar su desarrollo.

"Significa mantenerlas compatibles con ese frágil sistema que es la democracia, que hoy parece ser el mejor sistema", dijo Benanti.

Fuente: EuroNews