- Sam Altman dijo en X que le incomoda que se atribuya fuerza religiosa a los modelos de IA y lo consideró un problema de seguridad.
- Christopher Olah, cofundador de Anthropic, se reunió con líderes religiosos y filosóficos y ayudó a redactar una guía interna de 84 páginas para el modelo Claude.
- La industria muestra una división entre quienes ven la IA como herramienta bajo responsabilidad humana y quienes buscan dotarla de marcos morales internos.
- El debate sobre seguridad se corre hacia la confianza pública, las compras y la regulación, con posible impacto en decisiones empresariales y en la reputación de Anthropic.
Sam Altman, CEO de OpenAI, publicó el sábado en X que le genera "mucha incomodidad" que las personas atribuyan fuerza religiosa a los modelos de inteligencia artificial. Según el ejecutivo, esa tendencia constituye un problema real de seguridad.
La declaración se produce después de que a fines de septiembre se conociera que Christopher Olah, cofundador de Anthropic, se reunió con líderes religiosos y filosóficos y participó en la elaboración de una guía interna de 84 páginas conocida como "Soul Doc" para el modelo Claude.
El intercambio evidencia una división filosófica en la industria. Un sector sostiene que la IA debe ser tratada como una herramienta bajo responsabilidad humana, mientras otro busca incorporar marcos morales internos en los modelos.
Investigadores destacados en IA y figuras religiosas rechazaron públicamente la atribución de conciencia o estatus espiritual a los modelos. Ni OpenAI ni Anthropic respondieron de inmediato a solicitudes de comentario.
El debate desplaza parte de la conversación sobre seguridad desde las fallas técnicas hacia cuestiones de confianza pública, compras y regulación. Eso podría incidir en decisiones empresariales, en la reputación de Anthropic y en sus planes de negocio.