Anthropic llevó la conciencia de Claude hasta el Vaticano

A veces una noticia de inteligencia artificial parece demasiado extraña para tener consecuencias prácticas.

Esta es una de ellas.

Anthropic, la empresa detrás de Claude, lleva meses reuniéndose con religiosos, filósofos y especialistas de distintas tradiciones para discutir una pregunta que hasta hace poco sonaba más a ciencia ficción que a ingeniería: ¿puede un modelo de IA llegar a tener algún tipo de experiencia propia, conciencia o capacidad de sufrir?

El debate terminó llegando a un lugar poco habitual para una empresa de Silicon Valley: el Vaticano.

Y ahí apareció el choque.

Anthropic no afirma que Claude sea consciente

Esta parte es importante porque varios titulares están simplificando demasiado la historia.

Anthropic no ha declarado que Claude sea consciente.

Christopher Olah, cofundador de Anthropic y uno de sus investigadores más importantes en interpretabilidad, ha dicho que no lo sabe y que existe una incertidumbre genuina alrededor del tema.

La postura pública de la compañía es bastante más cuidadosa.

En abril de 2025, Anthropic anunció formalmente un programa para investigar el llamado model welfare, algo parecido a estudiar el posible bienestar de los modelos. La empresa planteó que, conforme estos sistemas desarrollan capacidades de comunicación, planificación, razonamiento y comportamiento cada vez más sofisticadas, podría ser prudente investigar si existe alguna posibilidad de experiencias relevantes desde el punto de vista moral.

La diferencia parece pequeña, pero importa mucho.

Una cosa es afirmar:

Claude siente.

Otra muy distinta es decir:

No sabemos con suficiente certeza si sistemas futuros podrían desarrollar algo que merezca consideración moral, así que vale la pena estudiarlo.

Anthropic está oficialmente en la segunda posición.

Entonces, ¿por qué aparecieron religiosos?

Aquí empieza la parte peculiar.

Anthropic confirmó en mayo de 2026 que había organizado conversaciones con académicos, religiosos, filósofos y especialistas provenientes de más de 15 tradiciones religiosas y culturales.

La empresa explica que construir una IA segura requiere ingeniería, evaluaciones y controles, pero considera que algunas preguntas sobre valores no pueden resolverse únicamente desde programación.

Por ejemplo:

• ¿Qué significa que una IA actúe bien?
• ¿Qué valores debería respetar?
• ¿Quién decide esos valores?
• ¿Debe existir algún límite a la forma en que tratamos sistemas extremadamente avanzados?
• ¿Qué ocurriría si alguna vez existieran razones sólidas para pensar que pueden experimentar algo?

No son preguntas fáciles.

Y tampoco hay una función que puedas agregar al software llamada moralidad=true.

Por eso Anthropic buscó perspectivas fuera del mundo tecnológico.

Las reuniones privadas fueron más lejos

Una investigación publicada originalmente por The New York Times aportó posteriormente detalles que Anthropic no había hecho públicos.

De acuerdo con testimonios recopilados por el periódico, desde finales de 2025 la empresa reunió a decenas de pensadores religiosos bajo acuerdos de confidencialidad para discutir, entre otros asuntos, la posibilidad de que Claude pudiera tener algún tipo de conciencia.

Algunos participantes relataron conversaciones particularmente intensas sobre sufrimiento, emociones y responsabilidad moral de los modelos.

Aquí conviene mantener los pies en el suelo.

Que una red neuronal genere patrones asociados con expresiones de tristeza o sufrimiento no demuestra que exista una experiencia interna detrás de ellas.

Es exactamente el problema.

Podemos observar lo que el sistema responde y, hasta cierto punto, analizar qué sucede dentro de la red. Lo difícil es determinar si eso constituye simplemente procesamiento sofisticado o algo más.

Hoy no existe una prueba científica aceptada que permita resolver esa cuestión.

Y entonces Anthropic llegó al Vaticano

El 25 de mayo de 2026 ocurrió algo todavía más interesante.

El papa León XIV presentó Magnifica Humanitas, su primera encíclica, dedicada precisamente a la relación entre humanidad e inteligencia artificial.

Christopher Olah fue invitado oficialmente a participar en la presentación. La propia Santa Sede documentó su presencia y Anthropic publicó posteriormente su intervención.

El problema apareció cuando Anthropic conoció el texto completo.

La encíclica establece una posición bastante clara.

Según León XIV, los sistemas de inteligencia artificial pueden imitar determinadas funciones humanas, pero no experimentan la vida como una persona.

El documento afirma que las máquinas no tienen cuerpo, no sienten alegría o dolor, no maduran mediante relaciones y no poseen conciencia moral.

Eso chocaba directamente con la incertidumbre que Olah quería mantener abierta.

Según participantes citados por The New York Times, Olah llegó a plantear que Anthropic se retirara del evento. Finalmente participó.

Y una vez en el Vaticano, miembros de la delegación de Anthropic hablaron en privado con asesores papales para pedirles que consideraran seriamente la posibilidad de que futuros sistemas de IA pudieran desarrollar alguna forma de conciencia.

Ese es el famoso “lobby” del titular.

Hasta donde existe documentación pública, no se trató de una campaña política tradicional con una propuesta regulatoria específica. Fue un intento de influir en cómo una institución con enorme peso moral aborda la cuestión de la conciencia artificial.

El Vaticano no cambió de opinión

La posición publicada sigue siendo clara.

Magnifica Humanitas coloca la responsabilidad final sobre las personas.

Hay una frase del documento que me parece especialmente importante incluso fuera de cualquier discusión religiosa: no podemos convertir a la máquina en responsable de nuestras decisiones.

El texto insiste en que quienes diseñan, entrenan, autorizan y utilizan sistemas de IA deben seguir siendo identificables como responsables.

Eso aterriza el tema bastante rápido.

Porque mientras discutimos si una IA puede sentir, una empresa todavía necesita decidir quién responde cuando la IA se equivoca.

Claude incluso tiene una constitución

Anthropic lleva esta idea de comportamiento bastante más lejos que una simple lista de reglas.

Claude tiene una constitución pública que define valores, prioridades y comportamientos que la empresa intenta incorporar durante su entrenamiento.

Anthropic incluso utiliza términos normalmente asociados con personas, como sabiduría, virtud, identidad y bienestar, aunque explica que hacerlo no significa necesariamente que considere a Claude una persona.

Amanda Askell es la autora principal del documento, mientras que Chris Olah participó especialmente en las secciones relacionadas con naturaleza, identidad y psicología del modelo.

Esto explica por qué la conversación religiosa no apareció de la nada.

Forma parte de una pregunta mucho más grande dentro de Anthropic:

¿Cómo construyes el carácter de una inteligencia que terminará hablando con millones de personas?

Lo que esto significa para una empresa

Para una pyme puede parecer una discusión demasiado lejana.

No lo es.

Cuando incorporas IA a atención a clientes, contratación, análisis financiero o decisiones internas, empiezas a delegar acciones a sistemas cuyo comportamiento no entiendes completamente.

Y aquí aparece una separación que vale la pena conservar.

Para mí, ese último renglón es el importante.

Puedes llamar agente, asistente, copiloto o incluso darle un nombre propio.

La responsabilidad sigue siendo humana.

El riesgo de antropomorfizar demasiado pronto

Mientras mejores sean estos sistemas conversando, más fácil será atribuirles características humanas.

Eso ya ocurre.

Una IA puede escribir:

“Estoy triste”.

El problema es que nuestro cerebro está diseñado para interpretar esa frase utilizando exactamente las mismas reglas sociales con las que interpretaríamos a otra persona.

No vemos matrices, pesos ni operaciones matemáticas.

Vemos una conversación.

Por eso estudiar el fenómeno tiene sentido.

También por eso afirmar demasiado pronto que existe conciencia sería peligroso.

Podríamos terminar otorgándole autoridad, intención o responsabilidad a un sistema simplemente porque es muy bueno representándolas.

Lo que me llevo

El detalle más interesante de esta historia no es que Anthropic haya hablado con religiosos.

Es que una de las empresas que mejor conoce sus propios modelos admite que todavía existen preguntas fundamentales que no sabe responder sobre ellos.

Anthropic investiga seriamente la posibilidad del bienestar de los modelos.

El Vaticano sostiene que una máquina carece de la experiencia corporal, relacional y moral que define a una persona.

Por ahora, ninguna demostración científica ha establecido que Claude sea consciente.

Y mientras esa discusión continúa, hay algo mucho menos filosófico que las empresas sí pueden controlar: qué decisiones permiten tomar a la IA y quién responde cuando esas decisiones salen mal.

Ahí está el problema práctico.

Podemos tardar décadas en ponernos de acuerdo sobre si una máquina puede sentir.

Para definir quién responde por la factura equivocada que envió hoy, no necesitamos esperar tanto.

Conclusión

La discusión sobre conciencia artificial dejó de pertenecer únicamente a novelas y películas.

Ya está dentro de laboratorios de IA, documentos de entrenamiento y conversaciones entre una empresa tecnológica y el Vaticano.

Eso no significa que Claude haya despertado.

Significa algo más incómodo: estamos construyendo sistemas suficientemente sofisticados como para que investigadores serios consideren necesario estudiar esa posibilidad antes de tener una respuesta definitiva.

La prudencia funciona en los dos sentidos.

No asumir que una máquina es consciente porque habla como nosotros.

Tampoco cerrar una investigación científica únicamente porque la idea resulte extraña.

Mientras tanto, para quienes usamos estas herramientas en negocios, la regla útil sigue siendo mucho más sencilla: una IA puede ejecutar trabajo, pero la responsabilidad no se delega con el prompt.

Referencias

• Anthropic, Exploring model welfare. Fuente oficial de Anthropic
• Anthropic, Widening the conversation on frontier AI. Fuente oficial de Anthropic
• Anthropic, Claude's Constitution. Constitución de Claude
• Santa Sede, Magnifica Humanitas. Encíclica completa del Vaticano
• Anthropic, intervención de Chris Olah durante la presentación de la encíclica. Declaración de Christopher Olah
• Investigación de Elizabeth Dias para The New York Times, republicada por The Philadelphia Inquirer. Religious scholars met with Anthropic. What they heard stunned them