El viernes 21 de agosto, en la Sala Clementina del Palacio Apostólico, León XIV recibió a los participantes de la decimoséptima reunión anual de la Red Internacional de Legisladores Católicos, una organización que reúne a parlamentarios de distintos países y que este año había convocado su encuentro romano, del 20 al 23 de agosto, bajo un enunciado que explica por sí solo el interés del discurso: dignidad humana e inteligencia artificial, desafíos, oportunidades y control. Estaban presentes, como patronos de la red, los cardenales Christoph Schönborn, Béchara Boutros Raï y Charles Maung Bo. El auditorio no era, por tanto, una audiencia general ni un grupo de peregrinos: eran legisladores en ejercicio, gente que redacta y vota leyes, y a ellos se dirigió el discurso con una precisión que conviene examinar antes de resumirla.
La imagen que abrió los titulares fue la más literaria. La humanidad, dijo, puede construir «una nueva Torre de Babel, donde el poder, la eficiencia y el control oscurezcan el rostro de la persona humana», o bien puede edificar una civilización en la que la técnica sirva al desarrollo integral del hombre. Es una metáfora eficaz y viajó bien por la prensa, como suelen viajar las metáforas. Pero la parte del discurso que merecía el titular estaba unas líneas más abajo, y es la que la mayor parte de la cobertura recortó.
Al hablar de la familia —a la que llamó «la primera escuela de la humanidad», el lugar donde se aprende la confianza, la generosidad y el diálogo—, el Papa enumeró tres modos concretos en que la inteligencia artificial podría erosionarla. Los dos primeros aparecieron en casi todas las crónicas: reducir a las personas y sus relaciones a datos y simulaciones, e inundar las mentes jóvenes de contenidos que distorsionan el deseo. El tercero, en cambio, desapareció de la mayoría de los resúmenes, incluido el que circuló en español. La versión completa de la frase advierte que no debe permitirse que la inteligencia artificial erosione esa célula primaria de la sociedad ni por reducir a las personas a datos, ni por inundar de contenidos a los jóvenes, ni por modelos económicos que vuelven precaria la vida familiar.
Conviene detenerse en la diferencia entre esas tres cláusulas, porque no son del mismo género. Las dos primeras son advertencias antropológicas y morales: sostienen que hay algo en el trato con las máquinas que empobrece el modo humano de vincularse. Se pueden discutir, pero se discuten en el terreno de los valores, que es donde el público espera encontrar a un pontífice y donde, por tanto, su intervención resulta previsible y fácilmente archivable. La tercera cláusula es de otra naturaleza. Afirma que existen modelos económicos —no vicios individuales, no relajación de las costumbres, sino arquitecturas de mercado y de empleo— que hacen materialmente inviable formar y sostener una familia. Y esa es una proposición empírica: se puede medir. Se mide en la relación entre el precio de la vivienda y el salario medio de un joven de treinta años, en la proporción de contratos que no permiten prever los ingresos del mes siguiente, en la edad a la que se tiene el primer hijo y en la distancia entre los hijos que la gente declara querer y los que efectivamente tiene. Cualquier oficina estadística de cualquier país desarrollado publica esas series.
El mismo razonamiento reapareció al hablar del trabajo, y ahí la formulación fue todavía más directa: el Papa describió modelos en los que «la dignidad de los trabajadores se subordina a la optimización de los sistemas», y señaló en ellos formas sutiles de dominación tecnológica. Nótese lo que esa frase no dice. No dice que la automatización destruya empleos, que es la queja habitual y la más fácil de responder. Dice algo más incómodo: que el criterio con que se organiza el trabajo ha pasado a ser la eficiencia del sistema, y que la persona se acomoda a ese criterio en lugar de al revés. Quien haya visto un algoritmo asignar turnos, medir tiempos de descanso o calificar rendimiento entiende de inmediato a qué se refiere, sin necesidad de compartir ninguna premisa religiosa.
De ahí que el tramo dirigido específicamente a los legisladores tenga más contenido operativo del que se le concedió. La legislación sana, sostuvo, debe alentar la creatividad científica y tecnológica al tiempo que salvaguarda los derechos y las libertades fundamentales; debe proteger a los usuarios de la explotación, preservar la privacidad personal, garantizar la transparencia en el uso de las tecnologías emergentes y asegurar que éstas fortalezcan las instituciones democráticas en lugar de debilitarlas. Y precisó que ello exige marcos jurídicos sólidos, supervisión independiente y usuarios informados. No se trata, dijo, de obstaculizar la innovación, sino de guiarla con prudencia. La formulación es lo bastante concreta como para contrastarla con lo que efectivamente está sobre la mesa de los parlamentos: supervisión independiente significa un organismo con presupuesto propio y capacidad de inspección, no un comité consultivo; transparencia significa poder saber qué datos entrenaron un sistema que decide sobre una persona; usuarios informados significa que la información llegue antes de la firma y no en un documento de cuarenta páginas.
Ahora bien, la objeción es previsible y merece respuesta antes de que la formule otro. Se dirá que un jefe de Estado con dos mil años de institución detrás tiene todos los incentivos para desconfiar de una tecnología que reordena la autoridad sobre el conocimiento, y que sus advertencias deben leerse a esa luz. La observación es legítima y no altera nada, porque el origen de una afirmación no determina su verdad: si los modelos económicos que vuelven precaria la vida familiar existen, existirán tanto si lo dice un pontífice como si lo dice un instituto de estadística, y si no existen, no los creará ninguna autoridad moral. La única manera de resolverlo es mirar las series de datos, que es exactamente lo que la cláusula omitida invita a hacer y lo que su omisión impide.
Porque ése es el efecto práctico del recorte, y probablemente no fue deliberado. Cuando de las tres cláusulas sobreviven las dos morales y se pierde la económica, el discurso entero se reclasifica: pasa de ser una intervención sobre política pública, discutible con cifras, a ser una exhortación espiritual que cada cual archiva según su afinidad previa. El creyente asiente, el indiferente pasa de página, y nadie tiene que ir a buscar el dato de vivienda. La cláusula que se cayó era justamente la que obligaba a un legislador a hacer algo comprobable con lo que acababa de oír.
Queda la frase con la que cerró, y que resume el criterio entero: el mundo no necesita una inteligencia artificial que disminuya a la humanidad, sino una inteligencia humana iluminada por la sabiduría, una autoridad política guiada por la conciencia y una innovación tecnológica orientada por la caridad. Suena a formulación de despacho, y lo es en parte, pero contiene una tesis identificable: que el problema de la técnica no se resuelve dentro de la técnica. Ningún dispositivo de seguridad de un sistema decide para qué debe servir ese sistema; esa decisión ocurre siempre fuera, en la cabeza de alguien que ya tiene un criterio, y por eso la calidad del criterio importa más que la del dispositivo.
Los parlamentarios que escucharon el discurso vuelven ahora a sus cámaras, donde hay proyectos de ley sobre inteligencia artificial en tramitación en casi todos los países representados. Lo que valdrá la pena comprobar dentro de un año no es cuántos citaron la Torre de Babel en un discurso de campaña, que serán varios, sino cuántos presentaron una enmienda sobre supervisión independiente, sobre transparencia de los datos de entrenamiento o sobre la conciliación de horarios en empleos gestionados por algoritmo. La tercera cláusula, la que se cayó de las crónicas, es la única de las tres que puede convertirse en un artículo de una ley. Y precisamente por eso convenía no perderla.
Nota Legal: El presente análisis crítico se realiza bajo el amparo del Art. 28 (noticias de interés general) y el Art. 10 (derecho de cita) de la Ley 11.723 de Propiedad Intelectual de la República Argentina. La obra original y su título pertenecen a su respectivo autor y medio de publicación, citados en esta página.