Las garantías para evaluadores de IA son condiciones destinadas a que expertos externos puedan examinar sistemas y prácticas de las empresas sin que estas controlen su trabajo. El AI Evaluator Forum publicó el 18 de septiembre de 2026 una carta que propone cinco: independencia, pluralidad, transparencia, protección frente a represalias y acceso comparable al de evaluadores internos sénior.
Importan porque evaluar una IA requiere algo más que observar sus respuestas: también puede exigir acceso a sistemas, herramientas, datos y personal de la empresa.
Qué condiciones propone la carta
| Garantía propuesta | Qué plantea el AI Evaluator Forum |
| Independencia sustantiva | Que las empresas evaluadas no sean propietarias ni dirijan a los evaluadores; que estos no mantengan otros vínculos comerciales importantes con ellas ni reciban pagos sujetos a sus conclusiones. También pide control editorial y que se declaren y mitiguen los conflictos de interés. |
| Varias perspectivas | Que participen varias organizaciones con experiencia y enfoques distintos sobre los riesgos prioritarios, en lugar de depender de un único equipo. |
| Transparencia | Que se comuniquen los métodos, los resultados, el acceso y las condiciones de evaluación, y que los evaluadores puedan dirigirse sin filtros a los órganos de supervisión. La carta contempla redacciones acotadas y sujetas a plazo para proteger intereses específicos. |
| Protección frente a represalias | Que existan protecciones frente a litigios de represalia y fórmulas de financiación que no penalicen a los evaluadores por emplear métodos razonables o llegar a conclusiones desfavorables. |
| Acceso comparable al de empleados sénior | Que los evaluadores puedan consultar los sistemas, datos, herramientas y espacios pertinentes, y hablar directamente con el personal. La propuesta reconoce excepciones para proteger datos sensibles de clientes y terceros. |
La independencia, en este contexto, no consiste solo en que quien evalúa trabaje fuera de la empresa: también depende de quién lo dirige, de sus relaciones comerciales y de si su remuneración puede variar según el resultado. El acceso, por su parte, se refiere a información y recursos pertinentes para evaluar riesgos, no a una autorización general para consultar cualquier dato.
Cómo encaja la carta con los compromisos de las empresas
Según se informó el 25 de septiembre, Dario Amodei, consejero delegado de Anthropic, y Sam Altman, consejero delegado de OpenAI, se habían comprometido a incorporar evaluaciones externas dentro de sus empresas. Elon Musk, consejero delegado de xAI, respaldó la propuesta de Amodei.
La carta del AI Evaluator Forum desarrolla las condiciones que, a su juicio, deberían acompañar a ese tipo de evaluación. Su publicación plantea un conjunto de salvaguardas; no establece una norma vinculante.
La evaluación integrada complementa otras formas de supervisión
El AI Evaluator Forum plantea la evaluación integrada como una pieza más: debe complementar la transparencia general y el acceso de investigadores independientes, no sustituirlos. La idea es que los evaluadores puedan examinar los sistemas y las prácticas de las empresas junto con otras formas de escrutinio externo.
