- Sam Altman admitió que el temor social ante la IA está justificado.
- Tres renuncias de investigadores en seguridad encendieron las alarmas en el sector.
- Altman defiende la autorregulación de las empresas mientras pide ralentizar si fallan las garantías.
El consejero delegado de OpenAI, Sam Altman, afirmó que el temor social ante el avance de la inteligencia artificial está justificado, aunque defendió que las propias empresas pueden supervisarse. Lo dijo durante la conferencia anual de Salesforce en San Francisco, según declaraciones recogidas por la BBC. "Ya no hace falta tanta imaginación como antes para que imaginemos cómo esto podría salir mal. Creo que el mundo tiene razón al temer esto", sostuvo.
La intervención se produjo después de varias semanas marcadas por renuncias de especialistas en seguridad de los principales laboratorios de inteligencia artificial. Jacob Coxon dejó Anthropic tras cuestionar el rumbo de la carrera tecnológica y advirtió sobre avanzar hacia una IA superior sin garantías suficientes. También se sumaron las salidas de Bilal Chughtai y Josh Engels, ambos vinculados a Google DeepMind. Chughtai trabajaba en seguridad y alineamiento, mientras que Engels se incorporó a METR, organización dedicada a evaluar capacidades y riesgos de modelos avanzados.
Las tres dimisiones comparten una inquietud: el progreso de las capacidades podría estar superando al de las herramientas para vigilar y controlar su comportamiento. Estas advertencias reforzaron los pedidos de reducir la velocidad de desarrollo hasta contar con medidas más fiables. Altman sostuvo que las compañías pueden supervisarse a sí mismas: "El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y somos conscientes de la magnitud de esto", manifestó.
La postura genera dudas entre quienes consideran que los intereses comerciales y la competencia dificultan una autorregulación efectiva. Dario Amodei, director ejecutivo de Anthropic, pidió ralentizar el desarrollo de los sistemas más potentes y reclamó intervención de los gobiernos. Su propuesta recibió el respaldo de Altman, del cofundador de Google DeepMind Demis Hassabis y de Elon Musk.
Altman aseguró que OpenAI reducirá la velocidad si los avances técnicos superan las garantías disponibles. "Lo haremos bien", afirmó a la BBC, y añadió que si las empresas no logran mantener "la alineación y la seguridad muy por delante de las capacidades", tendrán que "ralentizar su ritmo o detenerse". El debate continúa abierto sobre el papel de las autoridades y el margen de la industria.
El avance mundial de la inteligencia artificial también alcanza a Calamuchita, donde empresas y usuarios incorporan estas herramientas mientras el debate por su regulación sigue sin resolverse.