Carmody Grey y el “no” a Anthropic: por qué la ética de la IA no se negocia a puerta cerrada
La teóloga y filósofa Carmody Grey, profesora en la Universidad Radboud de Países Bajos, rechazó una invitación formal de Anthropic —creadores del modelo Claude— para participar en una “colaboración de investigación con las tradiciones de sabiduría” destinada a orientar la formación moral de sus sistemas. La negativa, relatada en un ensayo para el Financial Times y profundizada en conversación con EL PAÍS, no fue un capricho académico, sino un acto deliberado para desenmascarar cómo las grandes tecnológicas capturan el lenguaje ético para blindar su modelo de negocio.
Una invitación en sus términos, en su terreno
La propuesta sonaba grandilocuente: reunir sabiduría ancestral y teológica para “alinear” la inteligencia artificial. Sin embargo, Grey detectó inmediatamente la trampa estructural. ¿Qué tradición de sabiduría había pedido colaborar con Anthropic? La presunción de que la empresa convoca y define el marco de la conversación reveló el primer problema: el diálogo se planteaba a puerta cerrada, en San Francisco, bajo sus reglas.
Tras varias conversaciones y una reflexión profunda con colegas, Grey declinó. No buscaba un contrato —de hecho, la empresa sabía de antemano su postura crítica—, sino que le ofrecieron un asiento en una mesa donde el menú ya estaba decidido. Su contrapropuesta fue radicalmente distinta: un debate público, transparente y en terreno neutral, como la BBC. Anthropic no aceptó.
Filosofía como servicio de marketing
El fichaje de filósofos por parte de Google, OpenAI o Anthropic se vende como una apuesta por la seguridad y la ética. Grey distingue entre la buena fe de muchos investigadores internos y la instrumentalización corporativa de las humanidades. “Tienen una maquinaria de comunicación muy sofisticada, saben cómo montar un relato de seriedad intelectual y moral”, señala.
El riesgo no es que los filósofos “se vendan”, sino que su trabajo —necesariamente alineado con los intereses de su empleador— se presente como neutralidad académica. Grey lo resume con crudeza: quien trabaja para una empresa de IA sirve a esa empresa. No debería llamarse filósofo, sino “alguien con formación filosófica que trabaja para una empresa de IA”. La independencia intelectual exige no aceptar que el patrocinador dicte las preguntas.
Las preguntas equivocadas: antropomorfizar el producto
El núcleo de la crítica de Grey radica en el poder de la pregunta. Anthropic quería debatir si Claude es una entidad nueva, si tiene carácter o si puede sufrir. Para Grey, eso es una distracción estratégica: “Si la conversación que quieres tener es sobre Claude, pues claro que preguntas si Claude es consciente. Si Claude es tu producto, esa es la pregunta adecuada”.
Usa una analogía contundente: discutir si una persona de otra raza es “realmente humana” ya revela una actitud racista, aunque la respuesta final sea afirmativa. La pregunta envenena el pozo. Las humanidades, argumenta, no sirven para dar respuestas correctas a preguntas mal planteadas, sino para garantizar que la conversación correcta tenga lugar: quién se beneficia, quién paga los costes, cómo afecta al poder, a la soledad, a la naturaleza.
Cambiar de tema: el humano, no la máquina
Grey celebra que la encíclica del Papa León XIV sobre IA logre precisamente eso: desplazar el foco de la tecnología a la persona. “La IA no es el tema central. El humano es el tema central”. Pero advierte: ni el Papa ha logrado romper el monopolio narrativo de Silicon Valley. La prensa, los gobiernos y la academia siguen discutiendo en los términos que imponen las big tech.
Su diagnóstico es severo: “Existen para vender un producto”. Y ese producto concentra poder, difumina responsabilidad, esquilma recursos naturales, expropia culturas y lenguas con ánimo de lucro, y probablemente nos haga “más solos y tontos”. La amenaza existencial real, insiste, no es una superinteligencia rebelde, sino el calentamiento global y la destrucción de la naturaleza. Si Silicon Valley logra que miramos solo al salpicadero (la IA), el coche (el planeta) se estrellará.
El coste invisible de la comodidad cognitiva
Grey practica lo que predica: evita el uso rutinario de chatbots. Los usa, muy de tarde en tarde, solo para traducir si no hay un humano disponible. Su argumento es fisiológico y existencial: externalizar el pensamiento y la relación atrofia las facultades humanas, igual que un robot que nos impide caminar atrofia las piernas.
¿Con quién no estás hablando? ¿Qué libros no estás leyendo? ¿Qué facultades tuyas se están muriendo por falta de uso? La vida humana está hecha de relación: con los demás, con la naturaleza, con uno mismo y con lo sagrado. La IA pone en riesgo esa trama relacional.
La prueba de fuego para las humanidades
De cara a los próximos cinco años, Grey establece dos baremos para saber si las humanidades estuvieron a la altura:
- Independencia real: tratar la investigación corporativa de IA con la misma desconfianza que los informes de las petroleras sobre energía. Diálogo sí, pero público, transparente y sin aceptar el guion ajeno.
- Cambio de agenda: que el debate deje de girar en torno a la conciencia de la máquina para preguntarse qué hace que una vida humana tenga sentido, sea bella o digna, y cómo la tecnología contribuye o socava eso.
La filósofa londinense no busca protagonismo —el titular “La filósofa que dijo que no a Anthropic” fue decisión del periódico—, sino recuperar la soberanía de la pregunta. Mientras la conversación pase por San Francisco, el diagnóstico seguirá siendo el de la empresa. La salida, concluye, no es técnica ni regulatoria únicamente: es antropológica. Volver a poner al ser humano —frágil, relacional, mortal— en el centro del escenario.
Referencias: Ensayo original en Financial Times | Anthropic | Perfil en Universidad Radboud
