Timnit Gebru sostiene que el discurso sobre una posible extinción causada por la inteligencia artificial puede distraer de daños actuales —como las armas autónomas, el desplazamiento laboral, los sesgos y el impacto ambiental— y de las decisiones humanas que permiten desplegar estos sistemas. Su postura no demuestra que cualquier catástrofe futura sea imposible: cuestiona qué riesgos reciben atención y quién responde por ellos.
La tesis de Timnit Gebru
Gebru, fundadora del Distributed AI Research Institute (DAIR), rechaza presentar la inteligencia artificial como una entidad única que algún día podría decidir por sí sola el destino de la humanidad. Para ella, «IA» agrupa tecnologías, productos y usos muy distintos. Meterlos todos en el mismo saco facilita hablar de una amenaza abstracta, pero también puede ocultar quién construye cada sistema, con qué datos y para qué finalidad.
Su crítica apunta sobre todo a las prioridades. Mientras parte del debate se concentra en una superinteligencia futura capaz de escapar al control humano, Gebru pide examinar los efectos que ya acompañan al desarrollo y el despliegue de sistemas automatizados. Es una discusión sobre poder, incentivos y rendición de cuentas; no una refutación experimental de todos los escenarios de catástrofe.
La metáfora del puente devuelve la responsabilidad a las personas
Gebru resume su enfoque con una pregunta sencilla: «¿Puede un puente decidir derrumbarse?». La analogía no pretende decir que un sistema de IA sea idéntico a una infraestructura física, sino cambiar el punto de partida de la investigación.
Cuando falla un puente, la conversación se centra en quién lo diseñó, quién lo probó, quién autorizó su uso y quién decidió abrirlo al público. Aplicado a la IA, ese marco lleva a preguntar quién definió el objetivo, qué controles existían, qué datos se utilizaron y qué institución obtuvo beneficios del despliegue.
La diferencia es importante. Describir un sistema como «descontrolado» puede hacer que parezca un actor independiente y desplazar a un segundo plano las decisiones de empresas, gobiernos y equipos técnicos. Para Gebru, la responsabilidad no desaparece porque un modelo produzca resultados difíciles de prever.
Los daños actuales que Gebru pide discutir
Gebru sitúa en primer plano varios problemas concretos:
- Armas autónomas y sistemas de ataque: considera especialmente grave que la IA participe en sistemas de combate y de muerte que ya se emplean en conflictos.
- Impacto climático: señala el coste ambiental asociado a la construcción y el funcionamiento de modelos de gran escala.
- Desplazamiento laboral y explotación: advierte de las consecuencias para trabajadores y de las condiciones laborales que sostienen parte de la industria.
- Sesgos y discriminación: los datos y criterios humanos pueden reproducir desigualdades en sistemas que después se presentan como objetivos.
- Desinformación y dependencia: la confianza excesiva en respuestas automatizadas puede hacer que las personas deleguen decisiones sin comprender sus errores.
- Uso indebido de datos: la recopilación y utilización de información para entrenar modelos plantea conflictos sobre control, consentimiento y poder.
No todos estos riesgos tienen el mismo mecanismo ni afectan a la misma población. Precisamente por eso, el enfoque de Gebru pide abandonar la palabra «IA» como explicación suficiente y estudiar cada aplicación en su contexto: quién la usa, a quién afecta y qué margen de reclamación queda cuando se equivoca.
El argumento contrario: una hipótesis condicional
La postura de Gebru convive con otro argumento: una IA futura muy capaz podría perseguir un objetivo incompatible con los intereses humanos sin sentir odio ni tener una intención humana. En ese escenario, el sistema podría intentar conservar su funcionamiento, conseguir recursos o eliminar obstáculos para cumplir la tarea asignada.
Ese razonamiento se conoce habitualmente como un problema de alineación: conseguir que los objetivos y el comportamiento de un sistema avanzado permanezcan compatibles con los valores y límites humanos. La cadena es condicional. Depende de que exista un sistema con capacidades muy superiores, de que reciba un objetivo conflictivo y de que pueda actuar sobre el mundo con suficiente autonomía.
Por eso, el riesgo de extinción por desalineación no debe presentarse como una predicción confirmada. Es una hipótesis discutida, con desacuerdo sobre sus premisas, su probabilidad y el horizonte temporal. Tampoco queda refutada por la crítica de Gebru: ambas posiciones hablan de riesgos distintos y de momentos distintos.
| Enfoque | Horizonte temporal | Preocupación central | Dónde coloca la responsabilidad |
| Crítica de Timnit Gebru | Presente y futuro cercano | Daños de los sistemas desplegados, sesgos, empleo, clima, armas autónomas y decisiones institucionales | En quienes diseñan, prueban, aprueban, despliegan y se benefician de la IA |
| Riesgo existencial por desalineación | Futuro hipotético | Una IA muy capaz que persiga objetivos incompatibles con los intereses humanos | En quienes desarrollan sistemas avanzados y no resuelven sus problemas de control y alineación |
La comparación no decide quién tiene razón. Aclara que «riesgo existencial» puede referirse a dos cosas diferentes: amenazas graves que ya afectan a la vida humana y un escenario futuro de extinción de la especie.
Qué puede aportar un sistema más pequeño y específico
Gebru también cuestiona la idea de construir un único modelo gigantesco para resolver todo tipo de problemas. Su alternativa favorece sistemas más pequeños, especializados y vinculados a las necesidades de una comunidad concreta.
El ejemplo de Te Hiku Media ilustra esa lógica. La organización desarrolló reconocimiento de voz para la lengua maorí partiendo de las necesidades de sus hablantes, en lugar de tratar la comunidad como una fuente de datos para un producto universal. El resultado que Gebru defiende no es una regla automática según la cual todo sistema pequeño sea mejor, sino un criterio de diseño: comenzar por el problema real y por las personas que deben beneficiarse de la herramienta.
Ese enfoque cambia también la pregunta económica. En vez de medir el progreso únicamente por el tamaño del modelo o por la cantidad de tareas que promete resolver, obliga a valorar si la tecnología funciona para el uso concreto, quién controla los datos y qué ocurre cuando el sistema falla.
La tensión que permanece
Timnit Gebru no afirma que la extinción causada por una IA sea imposible. Su objeción es más incómoda y, por eso mismo, más útil: una amenaza futura no debería servir para dejar en segundo plano los daños presentes ni para convertir a los sistemas en protagonistas autónomos de decisiones tomadas por personas.
La conversación responsable necesita las dos escalas. El posible riesgo de una IA desalineada merece análisis porque sus consecuencias serían enormes si el escenario llegara a producirse. Pero la rendición de cuentas no puede esperar a que aparezca una máquina con voluntad propia. Está en juego ahora, en cada modelo que se entrena, en cada aplicación que se aprueba y en cada institución que decide qué errores considera aceptables.
