El Papa Francisco sobre la Inteligencia Artificial (IA) y las nuevas tecnologías

La semana pasada el Papa Francisco participó en la reunión de líderes mundiales del Grupo de los Siete (G7). El G7 congrega a las más grandes e importantes economías del mundo, excluyendo a China y Rusia. Su presentación versó sobre los retos de la IA para el mundo. No es la primera vez que comenta el tema, pero ahora fue de manera integrada.

Las alusiones del Papa sobre la IA han sido diversas, destacando lo señalado en Laudato Si, sobre el cuidado de la casa común (2015) y en Fratelli Tutti, sobre la fraternidad y la amistad social (2020. Ahora se agregan nuevos elementos e integran en esta presentación al G7.

Ya en Laudato Si nos planteó que para el surgimiento de nuevos modelos de progreso necesitamos cambiar el modelo de desarrollo global, lo cual implica reflexionar responsablemente sobre el sentido de la economía y su finalidad, para corregir sus disfunciones y distorsiones. Asimismo, anotó que un desarrollo tecnológico y económico que no deja un mundo mejor y una calidad de vida integralmente superior no puede considerarse progreso.

Origen IA

Según el Papa Francisco Dios ha dado a los hombres su espíritu para que tengan habilidad, talento y experiencia en la ejecución de toda clase de trabajos. La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseen los seres humanos. Ahora bien, la IA se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado.

La IA es un instrumento extremadamente poderoso, que se emplea en numerosas áreas de la actividad humana: de la medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la educación a la política. Y es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos.

Ambivalencia

El Papa Francisco señala que el tema de la IA a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse. Al respecto, no se puede dudar de que la llegada de la IA representa una auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época.

Por ejemplo, la IA podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una cultura del encuentro y favoreciendo una cultura del descarte.

Instrumento

El Papa Francisco anota que la IA es un instrumento fascinante y tremendo al mismo tiempo, y exige una reflexión a la altura de la situación. En esa dirección se podría partir de la constatación de que la IA es sobre todo un instrumento. Y resulta espontáneo afirmar que los beneficios o los daños que esta conlleve dependerán de su uso.

La capacidad de construir herramientas, en una cantidad y complejidad que no tiene igual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido una relación con el ambiente mediada por los instrumentos que iba produciendo. No es posible separar la historia del hombre y de la civilización de la historia de esos instrumentos.

Peligros

Sin embargo, afirma el Papa Francisco, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y hermanas, y de la casa común, esto no siempre sucede.

Es más, no pocas veces, precisamente gracias a su libertad radical, la humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta. La misma suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza su vocación al servicio de lo humano revelarán no sólo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de cultivar y cuidar el planeta y todos sus habitantes.

Complejidad

La IA es una herramienta compleja y sui generis señala el Papa Francisco. Así, mientras que el uso de una herramienta simple —como un cuchillo—está bajo el control del ser humano que lo utiliza y su buen uso depende sólo de él, la IA puede adaptarse de forma autónoma a la tarea que se le asigne y, si se diseña de esa manera, podría tomar decisiones independientemente del ser humano para alcanzar el objetivo fijado.

Lo que hace la máquina, señala el Papa, es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica.

A veces, frecuentemente en la difícil tarea de gobernar, también estamos llamados a decidir con consecuencias para muchas personas. Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida.

Luego continúa señalando que condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Se necesita garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de IA. Está en juego la misma dignidad humana.

Por otra parte, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas armas autónomas letales para prohibir su uso, empezando por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.

Mecanismo básico

La IA es una herramienta diseñada para resolver un problema y funciona mediante un encadenamiento lógico de operaciones algebraicas, realizado en base a categorías de datos, que se comparan para descubrir correlaciones y mejorar su valor estadístico mediante un proceso de autoaprendizaje basado en la búsqueda de datos adicionales y la automodificación de sus procedimientos de cálculo.

Nunca se debe olvidar, señala el Papa Francisco, que la IA no es otro ser humano y que no puede proponer principios generales. La calidad de las respuestas que los programas de IA pueden dar, sean más o menos sofisticadas, depende en última instancia de los datos que manejan y de cómo estos se estructuran.

IA generativa

Respecto de la llamada IA generativa, anota el Papa Francisco, se olvida que en sentido estricto no es propiamente generativa. En realidad, lo que esta hace es buscar información de la Big data y confeccionarla en el estilo que se le ha pedido. No desarrolla conceptos o análisis nuevos. Repite lo que encuentra, dándole una forma atractiva.

Y cuanto más repetida encuentra una noción o una hipótesis, más la considera legítima y válida. Más que generativa, se la podría llamar reforzadora, en el sentido de que reordena los contenidos existentes, contribuyendo a consolidarlos, muchas veces sin controlar si tienen errores o prejuicios.

Así no sólo se corre el riesgo de legitimar la difusión de noticias falsas y robustecer la ventaja de una cultura dominante, sino de minar también el proceso educativo en ciernes. La educación, que debería dar a los estudiantes la posibilidad de una reflexión auténtica, corre el riesgo de reducirse a una repetición de nociones, que se considerarán cada vez más incontestables, simplemente a causa de ser continuamente presentadas.

Algorética

Según el Papa Francisco pareciera que se está perdiendo el valor y el profundo significado de la categoría de persona humana. Para que estos instrumentos sean para la construcción del bien y de un futuro mejor, deben estar siempre ordenados al bien de todo ser humano. Deben contener una inspiración ética.

La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de esos valores. A esa forma de moderación ética de los algoritmos y de los programas de IA él la ha llamado algorética. El término condensa una serie de principios que se revelan como una plataforma global y plural capaz de encontrar el apoyo de las culturas, las religiones, las organizaciones internacionales y las grandes empresas protagonistas de este desarrollo.

Políticas necesarias

No podemos, según el Papa Francisco, ocultar el riesgo concreto, de que la IA limite la visión del mundo a realidades que pueden expresarse en números y encerradas en categorías preestablecidas, eliminando la aportación de otras formas de verdad e imponiendo modelos antropológicos, socioeconómicos y culturales uniformes.

La IA corre el riesgo de dar paso a un paradigma mucho más peligroso, que ya ha identificado con el nombre de paradigma tecnocrático. No se puede permitir que una herramienta tan poderosa e indispensable como IA refuerce tal paradigma.

Frente a todos estos retos la respuesta debe ser la buena política. Esta que, ante tantas formas mezquinas e inmediatistas de política, la grandeza política se muestra cuando, en momentos difíciles, se obra por grandes principios y pensando en el bien común a largo plazo.

Colofón

El Papa Francisco termina señalando la importancia de la sana política para mirar con esperanza y confianza nuestro futuro a propósito de la IA. La sociedad mundial tiene serias fallas estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales.

Hay cosas que deben ser cambiadas con replanteos de fondo y transformaciones importantes. Corresponde a cada uno hacer un buen uso de la IA, y corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero.

COMENTARIOS

  • 1
  • 24.06.2024
  • 12:58:46 hs
C. Enrique J. Alvarado Icaza.

Interesante.Sabiduría,voluntad y libertad atributos inherentes al ser humano. Insustituibles e irreemplazables.

  • 2
  • 02.07.2024
  • 08:21:19 hs
GERMÁN ALARCO

Estimado Enrique, totalmente de acuerdo contigo, Gerem´n

DEJE SU COMENTARIO

La finalidad de este servicio es sumar valor a las noticias y establecer un contacto más fluido con nuestros lectores. Los comentarios deben acotarse al tema de discusión. Se apreciará la brevedad y claridad.


No se lee? Cambie el texto.


TODOS los blogs


Invirtiendo a futuro

Gino Bettocchi

La era inteligente

Rafael Lemor Ferrand

Doña cata

Rosa Bonilla

Blindspot

Alfonso de los Heros

Construyendo Xperiencias

Rodrigo Fernández de Paredes A.

Diversidad en acción

Pamela Navarro

Sin data no hay paraíso

Carlo Rodriguez

Conexión ESAN

Conexión ESAN

Conexión universitaria

Conexion-universitaria

Café financiero

 Sergio Urday

La pepa de Wall Street

Vania Diez Canseco Rizo Patrón

Comunicación en movimiento

Benjamín Edwards

Zona de disconfort

Alana Visconti

Universo físico y digital

Patricia Goicochea

Desde Columbia

Maria Paz Oliva

Inversión alternativa

James Loveday

Con sentido de propósito

Susy Caballero Jara

Shot de integridad

Carolina Sáenz Llanos

Detrás del branding

Daniela Nicholson

Persona in Centro

Cecilia Flores

Mindset en acción

Víctor Lozano

Marketing de miércoles

Jorge Lazo Arias

Derecho y cultura política

Adrián Simons Pino

VITAMINA ESG

Sheila La Serna

ID: Inteligencia Digital

por Eduardo Solis

Coaching para liderar

Mariana Isasi

El buen lobby

Felipe Gutiérrez

TENGO UNA QUEJA

Debora Delgado

De Pyme a Grande

Hugo Sánchez

Sostenibilidad integrada

Adriana Quirós C.

Gestión de la Gobernanza

Marco Antonio Zaldivar

Marca Personal 360º

Silvia Moreno Gálvez

Creatividad al natural

Andrés Briceño

Mindset de CEO

Carla Olivieri

Clic Digital

IAB Perú

Market-IN

Jose Oropeza

Cuadrando Cuentas

Julia y Luis

Liderazgo con ciencia

Mauricio Bock

Pluma Laboral

Alonso J. Camila

Economía e Integridad

Carlos Bustamante B.

Aprendiendo - nivel CEO

Francisco Pinedo

Portafolio Global

BlackRock

Menos face más book

Rafael Zavala Batlle

Visiones para el desarrollo

CAF –Banco de Desarrollo de América Latina y el Caribe–

Te lo cuento fácil

Alumnos de la Universidad del Pacífico

Fuera de la caja

María Camino

Orquestación Estratégica

Dr. Diego Noreña

Más allá del efectivo

Felipe Rincón

Mujer, ejecutiva y trasgresora

Zendy Manzaneda Cipriani

Disrupcion en la nube

Disrupción en la Nube

Revolución digital

Pablo Bermudez

Economía desde el campus

Grupo Económica

Síntesis legislativa

José Ignacio Beteta Bazán

La parábola del mudo

Javier Dávila Quevedo

Arturo Goga

Arturo Goga

Sumando Valores

Superintendencia del Mercado de Valores

@infraestructura

Rosselló Abogados

Minería 2021

Instituto de Ingenieros de Minas del Perú (IIMP)

Conciencia Corporativa

Verónica Roca Rey

Agenda Legal

Estudio Echecopar

Perspectiva Forestal

Comité Forestal SNI y Comité de Madera e Industria de la Madera ADEX

Pensando laboralmente

César Puntriano

Auditoria del Siglo 21

Karla Barreto

Economía conductual

Bertrand Regader

Cultura financiera

Walter Eyzaguirre

Triple enfoque

Cecilia Rizo Patrón

Gestiona tus Finanzas

Giovanna Prialé Reyes

Segunda opinión

Eduardo Herrera Velarde

Parte de Guerra

Pablo O'Brien

El cine es un espejo

Raúl Ortiz Mory

Ruarte's - Washington Capital

R. Washington Lopez

Atalaya Económica

Manuel Romero Caro

Terapia de Pareja

Luciana Olivares

Próspero Perú

Gladys Triveño

Herejías Económicas

Germán Alarco

Inversión e Infraestructura

Profesor de ESAN Graduate School of Business Sergio Bravo Orellana

Blog Universitario

Blog Universitario

Juegomaniáticos

Juan Pablo Robles

Gestión del Talento

Ricardo Alania Vera

Querido Gerente

Ana Romero

Millennials

Pamela Romero Wilson

Reglas de Juego

Pierino Stucchi

Humor S.A.

Jaime Herrera

Bitácora bursátil.

Equipo de Análisis de Intéligo SAB

Vivir Seguro

Asociación Peruana de Empresas de Seguros

El deporte de hacer negocios

Luis Carrillo Pinto

Zona de Intercambio

Julio Guadalupe

Innovar o ser cambiado

Andy Garcia Peña

Economía aplicada

Juan Mendoza

El Vino de la Semana

José Bracamonte

Carpeta Gerencial

IE Business School

Desafíos para el progreso

Banco Interamericano de Desarrollo

Diálogo a fondo

Fondo Monetario Internacional

Predio legal

Martín Mejorada

e-strategia

José Kusunoki Gutiérrez

Vinos, piscos y mucho más

Sommelier Giovanni Bisso

Palabra de Gestión

Julio Lira Segura

Impacto ambiental

Lorenzo de la Puente

Inversiones Globales

Carlos Palomino Selem

Moda Inc.

Daniel Trelles

Divina Ejecutiva

Fiorella

Menú Legal

Oscar Sumar

Analizando tus inversiones

Diego Alonso Ruiz

Reformas incompletas

Instituto Peruano de Economía

Empresa&Familia

Pablo Domínguez

Hoy sí atiendo provincias

Félix Villanueva - Aurum Consultoría y Mercado

Smart money

Luis Ramírez

Consumer Psyco

Cristina

Gestión de servicios

Otto Regalado Pezúa

Marketing 20/20

Michael Penny

Mercados&Retail

Percy Vigil Vidal

CAFÉ TAIPÁ

Milton Vela

Anuncias, luego existes

Alexander Chiu Werner

Marcas & Mentes

Lizardo Vargas Bianchi

Riesgos Financieros

Gregorio Belaunde

Economía para todos

Carlos Parodi

De regreso a lo básico

Paúl Lira Briceño