Santiago Taboada Castillo
En 2020, varios empleados dejaron OpenAI, la empresa de Chat GPT, al considerar que la empresa priorizaba el beneficio económico sobre la seguridad. Fundaron Anthropic, e impulsaron la “Constitución de la IA”, un documento que fijaba principios como la seguridad, la honestidad y el florecimiento personal.
En los agradecimientos del documento figuraba Paul Tighe, secretario de Cultura del Dicasterio para la Cultura y la Educación. ¿Por qué un sacerdote asesoró a una empresa de IA?
MONS. PAUL TIGHE
Secretario Cultura, Dicasterio para la Educación
Christopher Olah, uno de los fundadores de Anthropic, estaba deseando hablar con alguien del mundo católico sobre lo que estaban haciendo e intentar comprender lo que hacían. Y quería una respuesta desde una perspectiva católica. Así que nos reunimos con él de manera informal. Y fue bastante interesante. Me llamó mucho la atención su actitud. Lo que percibí fue la sinceridad absoluta de su deseo de que, hiciera lo que hiciera Claude, fuera algo que realmente sirviera a las personas y no causara daño ni perjuicio. Algo que él temía que pudiera ocurrir.
Olah estaba muy interesado en la opinión de un profesor de Teología Moral y Ética.
MONS. PAUL TIGHE
Y, por su cuenta, habían llegado a la conclusión de que no bastaba con imponer normas a Claude. Y es que quienes dirigen a Claude partieron, en gran medida, de un enfoque muy utilitarista de la ética, inspirado en el movimiento del altruismo eficaz, y le impusieron normas que garantizaran que hiciera lo correcto en todos los contextos.
Anthropic se propuso entrenar a la IA con lo que representase mejor el comportamiento humano. Aunque para el profesor Tighe las buenas intenciones no son suficientes para la moralidad.
MONS. PAUL TIGHE
Deben estar dispuestas a escuchar diferentes opiniones y perspectivas para asegurarse de que su concepción del bien humano sea una visión plenamente enriquecida, integrada y desarrollada.
Tan solo Claude acudió a la presentación de la Magnifica Humanitas de León XIV.
CHRISTOPHER OLAH
Directivo, Anthropic
Por muy sinceramente que cualquiera de nosotros pretenda hacer lo correcto —y creo que muchos lo hacemos—, siempre nos veremos influidos por esos incentivos. Por eso, si queremos que esta tecnología funcione bien, es de vital importancia que haya personas ajenas a esos incentivos. Personas a las que les importe que las cosas salgan bien, que presten mucha atención, que estén dispuestas a decir cosas difíciles e insistir en la seguridad, y que estén dispuestas a ser nuestros críticos sinceros y reflexivos.
MONS. PAUL TIGHE
Creo que esa es precisamente la razón por la que es importante que la Iglesia mantenga un diálogo con las personas que trabajan. Para ofrecerles ese apoyo, ese respaldo moral a su deseo de hacer el bien.
¿Es Claude de inspiración católica? No, pero comparte con el papa la preocupación por acompañar los avances tecnológicos de una reflexión moral.
