- Timnit Gebru sostiene que el alarmismo sobre la extinción por IA distrae de daños reales como las armas autónomas y la crisis climática.
- Criticó la inversión en problemas matemáticos como estrategia de marketing de OpenAI y la rapidez con que los anuncios llegan a proyectos de ley.
- Comparó la IA con un puente que colapsa: la responsabilidad está en quienes lo construyen, no en una supuesta voluntad de la máquina.
- Advirtió que la industria combina cultos y creyentes, y que el discurso de la singularidad se repite desde hace décadas.
La investigadora en tecnología e inteligencia artificial Timnit Gebru sostuvo que el discurso sobre el riesgo de extinción humana por parte de la IA funciona como una distracción para evitar discutir daños concretos, como las armas autónomas y las máquinas de matar que ya se utilizan en guerras. Sus declaraciones se producen en una semana de fuerte debate en la industria, tras la pelea por un problema matemático de un millón de dólares y la renuncia pública de un investigador de Anthropic que trabajó antes en OpenAI.
Gebru, conocida por su salida de Google en 2018 luego de que la empresa rechazara un artículo sobre los peligros de los modelos de lenguaje a gran escala, publicará el año próximo un libro sobre su experiencia titulado Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist. En una entrevista con WIRED, cuestionó que la atención se centre en escenarios apocalípticos en lugar de en los perjuicios que la industria puede perpetrar.
Según Gebru, la inversión en resolver problemas matemáticos o de programación responde a la necesidad de las empresas de mostrar que "resolvieron" la inteligencia. Señaló que OpenAI busca instalar ese relato, pero que si el avance hubiera pasado por el proceso de validación de la comunidad matemática se habría sabido con precisión cuánto había de novedoso. Mencionó la Declaración de Leiden, que advierte sobre las consecuencias de que las corporaciones usen la matemática de ese modo, y criticó la velocidad con que los anuncios empresariales se convierten en proyectos de ley, como el del senador Bernie Sanders, sin consultar a los especialistas.
La investigadora vinculó ese apuro con las salidas a bolsa previstas por las compañías. Recordó que antes los investigadores de empresas competidoras, como Google, Microsoft y Amazon, colaboraban entre sí, y que hoy la dinámica es de competencia frenética por los problemas que creen resolver.
Sobre la renuncia del ingeniero de Anthropic que denunció imprudencia y apuestas con vidas humanas, Gebru dijo que comparte el diagnóstico de recklessness pero rechaza el marco del "fin de la civilización". Explicó que su artículo sobre los "loros estocásticos" de 2021 ya planteaba que las preguntas estaban mal formuladas, cuando OpenAI decía que GPT-2 era demasiado poderoso para publicarlo.
Para ilustrar su postura, Gebru comparó la IA con un puente que colapsa: no se analiza si el puente fue ético o sintiente, sino quién lo construyó mal y qué permisos y pruebas faltaron. A su juicio, el debate sobre máquinas que se vuelven rebeldes hace perder de vista esas responsabilidades.
Gebru enumeró amenazas que considera existenciales y concretas: las armas autónomas, la crisis climática exacerbada por lo que construyen las tecnológicas, el uso de la IA como excusa para despedir trabajadores y la posibilidad de que se creen y usen armas químicas. Poco después de la entrevista, Anthropic reveló que había bloqueado intentos maliciosos de científicos para construir armas biológicas.
También cuestionó el sesgo de privilegio en quienes temen a una máquina-dios: si no preocupan la brutalidad policial, las inundaciones o la guerra, es más fácil obsesionarse con ese relato. Afirmó que la industria combina cultos y creyentes fervientes, y que la singularidad se anuncia desde hace décadas. Como ejemplo, contó que suele leer citas sobre inteligencia artificial de distintas épocas y la mayoría no puede identificar en qué década se pronunciaron porque todas suenan igual.
Timnit Gebru es una científica en computación etíope-estadounidense, reconocida como una de las voces más influyentes en ética de la inteligencia artificial. Especializada en sesgo algorítmico y minería de datos, cofundó en 2016 Black in AI, la primera comunidad global de investigadores negros en IA, y en 2018 lideró un estudio pionero que reveló sesgos raciales en sistemas de reconocimiento facial. Tras trabajar como codirectora del equipo de Ética en IA de Google, fue despedida en diciembre de 2020 tras un conflicto por un paper crítico sobre grandes modelos de lenguaje, episodio que generó indignación en la comunidad tecnológica. En 2021 lanzó el DAIR Institute, un instituto de investigación independiente que documenta el impacto de la IA en grupos marginados. Elegida entre las 100 personas más influyentes por Time en 2022, Gebru es crítica frontal del relato apocalíptico sobre la IA y reclama atención a los daños actuales: sesgos raciales, discriminación, vigilancia masiva y concentración de poder en pocas empresas.