Christopher Olah, de Anthropic, insta a una supervisión moral global de la IA durante una presentación en el Vaticano

(OSV News) -- El discurso pronunciado el 25 de mayo por Christopher Olah, cofundador de Anthropic, durante la presentación de la primera encíclica del pontificado del Papa León XIV, concluyó con una petición especial: “Necesitamos que más sectores del mundo --comunidades religiosas, sociedad civil, académicos y gobiernos-- hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y ayudar a orientar los acontecimientos hacia una mejor dirección”.

Olah, sentado en el Aula del Sínodo para la presentación de “Magnifica Humanitas” --la encíclica del Papa León sobre la custodia de la persona humana dijo que el mundo de la tecnología necesita “críticos informados que les digan a los laboratorios cuándo estamos fallando”, así como “voces morales que los incentivos no puedan doblegar”.

“Hoy es solo el comienzo”, dijo, “el inicio de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver aquello que nosotros, desde dentro, no podemos ver”.

Afirmó que el evento “es una poderosa ilustración de la forma que podría adoptar este proyecto global de buena voluntad. Que también sea un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad”, dijo.

Su discurso, si bien humilde y abierto a la colaboración en las dimensiones éticas, también puso de manifiesto marcadas diferencias entre las realidades de la industria y lo que el Papa León solicitaba en la encíclica.

Olah admitió que, mientras se encontraba sentado en la misma sala junto al Papa, estas palabras pueden sonar extrañas “viniendo del cofundador de una empresa de inteligencia artificial, y de alguien que eligió este trabajo movido por el deseo de contribuir a que las cosas vayan bien para la humanidad”; sin embargo, señaló que todo laboratorio de IA de vanguardia --incluido el suyo propio-- “operan dentro de un conjunto de incentivos y restricciones que, a veces, pueden entrar en conflicto con hacer lo correcto”.

Los incentivos --geopolíticos, comerciales o de investigación-- influyen en la industria, explicó.

Ha surgido tres desafíos urgentes en el mundo de la IA, afirmó.Primero, “existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme”.

Si eso sucede, dijo Olah, “apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas”.

El Papa León escribió en “Magnifica Humanitas” que la dignidad del trabajo, en una época de transición digital, constituye una preocupación fundamental.

“El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio, y el orden económico debe permanecer subordinado a su dignidad y al bien común”, escribió el Papa León.

“Para los jóvenes, la precariedad laboral es especialmente grave... Cuando el acceso al empleo se ve obstaculizado..., muchos jóvenes ven bloqueado su camino hacia la realización personal y profesional”.

La tarea de preservar los empleos será ya de por sí “bastante difícil”, dijo Olah el 25 de mayo en el Vaticano; “pero me preocupa es que gran parte del diálogo actual ignore un desafío aún mayor”, añadió.

“El desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente?”, preguntó Olah. “No tenemos un mecanismo para ello. Es un problema sin resolver, y es precisamente el tipo de problema que históricamente la Iglesia se ha negado a permitir que el mundo ignore”.

De hecho, el Papa León escribió en su encíclica que “custodiar la libertad frente a la dependencia y la mercantilización” es una tarea urgente.

“Cuando los modelos de negocio prosperan a costa de la debilidad humana, la persona es tratada como un medio y no como un fin”, afirmó el Papa, subrayando que, si la tecnología “se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato, un engranaje o una mercancía”.

“O basta con que la IA nos haga más eficientes o conectados, debe servir para edificar esa familia humana universal, con derechos y deberes compartidos”, escribió el Papa León, destacando que la Iglesia está llamada a buscar “leer los signos de los tiempos a la luz del Evangelio y se deja evangelizar por los pobres con quienes comparte la historia”.

Olah señaló que otro desafío es “la necesidad de imaginació