El año pasado me tocó dar una clase sobre compliance y tecnología en la que abordamos herramientas de inteligencia artificial y machine learning. Decidí comenzar con la canción del Cuarteto de Nos “Contrapunto para humano y computadora” para ponernos en ambiente. Luego invité a los alumnos a reflexionar sobre los temas que íbamos a tratar, citando una famosa frase de Epicteto, representante del estoicismo: “El principio más importante en la vida es distinguir lo que depende de nosotros de lo que no depende de nosotros”.
Situados en una clase en Montevideo, ¿era razonable pensar que nuestra oposición a estas herramientas iba a evitar su crecimiento? ¿No era una opción más racional aceptar que estas tecnologías existen y prepararnos para utilizarlas, capacitándonos adecuadamente para el mundo actual y para el que viene?
Si bien esta postura resulta razonable en un contexto de tareas especializadas que pueden optimizarse mediante herramientas de IA, no necesariamente lo es cuando hablamos de tercerizar por completo el pensamiento humano. Y menos aún cuando esa postura proviene de entidades que, a diferencia de nosotros en aquella clase, tienen la capacidad de influir en el pensamiento a escala global.
La semana pasada, el papa León XIV publicó la encíclica Magnifica Humanitas, un documento que cuestiona el uso de la inteligencia artificial. Y lo hace precisamente el Papa que sucede en nombre a León XIII, quien en 1891, en el contexto de la Revolución Industrial, publicó la encíclica Rerum Novarum, marcando un cambio de paradigma que muchos de nosotros estudiamos en filosofía.
Ahora, frente a una nueva revolución tecnológica, León XIV nos deja reflexiones que vale la pena considerar sobre los sesgos de la inteligencia artificial, la justicia y la falta de responsabilidad en decisiones adoptadas por algoritmos.
De hecho, durante la presentación del documento, el Papa dejó una frase tan provocadora como llamativa: “hay que desarmar la inteligencia artificial”. Más allá de las distintas interpretaciones que pueda admitir esa afirmación, la expresión da una idea de la relevancia y profundidad del debate que plantea la encíclica.
En esa línea, el documento advierte:
“Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas. Lo que disminuye, en este proceso, no es sólo la empatía hacia el excluido, que puede ser imitada artificialmente, sino la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte.”
No soy quien deba pronunciarse sobre si esta visión es la correcta. Sin embargo, sí me atrevo a afirmar que se trata de un documento que merece ser analizado y que no debería pasar desapercibido. Sobre todo en tiempos en los que Sam Altman, CEO de OpenAI, sostiene que la inteligencia artificial terminará convirtiéndose en un servicio público comparable al agua o la electricidad.
Cuando dejamos que la IA tome decisiones por nosotros, estamos tercerizando nuestro razonamiento y nuestro pensamiento. ¿Cuáles pueden ser las consecuencias de esto en el largo plazo?.
Administre su riesgo 