Une enquête de Reuters datée du 13 octobre, résumée par 20minutos le 15 octobre et par The Verge, fait état d’un différend entre OpenAI et Anthropic sur ce que les évaluateurs externes de l’IA peuvent publier. Les arrangements rapportés varient selon les évaluateurs, et OpenAI conteste vouloir approuver les rapports dans leur intégralité.
À quoi servent les évaluateurs externes ?
Des organismes spécialisés examinent des modèles d’IA pour repérer des risques pour la sécurité, des comportements inappropriés ou des vulnérabilités, selon le compte rendu de 20minutos. La question de la publication porte donc sur la manière dont ces évaluations et leurs conclusions peuvent être rendues publiques.
Anthropic distingue ses partenaires établis des nouvelles sociétés
Anthropic affirme que ses partenaires d’évaluation établis gardent la maîtrise de leurs méthodes, de leurs critères, de leurs conclusions et de leurs décisions de publication. Pour les nouvelles sociétés d’évaluation, 20minutos rapporte qu’Anthropic se réserve le droit de commenter leurs rapports et de les approuver, pendant que les équipes découvrent ses modèles et établissent une relation de travail.
OpenAI dit occulter les informations confidentielles
OpenAI nie chercher à approuver l’intégralité des rapports des évaluateurs externes et indique occulter les informations confidentielles. The Verge rapporte séparément que les évaluateurs pourraient signaler les occultations qu’ils jugent importantes.
