Mémorandum : de "faites nous confiance" à "vérifiez nous"
Adopté par les membres fondateurs le 19 octobre 2026 comme philosophie commune d'OVAIC. Traduction à titre d'information. Seule la version anglaise fait foi. English
1. Pourquoi maintenant
Les systèmes d'IA écrivent, décident, paient et agissent aujourd'hui au nom des personnes. Deux évolutions montrent la direction que prend le monde.
- Le droit. Depuis le 2 août 2026, l'article 50 du règlement européen sur l'IA exige des fournisseurs d'IA générative qu'ils marquent les contenus synthétiques sous une forme lisible par machine, afin qu'ils puissent être détectés, avec des solutions efficaces, interopérables, robustes et fiables dans la mesure où cela est techniquement possible. Le droit demande des preuves que les machines peuvent vérifier, pas seulement des étiquettes que les personnes lisent.
- Les développeurs de pointe. En septembre 2026, Dario Amodei, directeur général d'Anthropic, a proposé que des évaluateurs indépendants travaillent au sein des entreprises d'IA pour vérifier "jusqu'aux écrous et aux boulons" si une entreprise suit réellement les pratiques d'entraînement, de déploiement, d'exploitation et de protection qu'elle déclare ; avec "le droit de publier les principales conclusions sur les niveaux de risque, les incidents, les pratiques et l'accès reçu ou refusé" ; et comme "un second avis libre d'incitations commerciales". Il a aussi noté qu'un organisme mondial testant les modèles avant leur publication est réalisable, mais que "la difficulté sera la vérification". (Citations traduites.)
Les deux vont dans la même direction : des promesses aux preuves. Les deux laissent la même question ouverte : qui vérifie, et comment vérifier le vérificateur ? La transparence est nécessaire. Elle ne suffit pas. Une affirmation ne devient digne de confiance que lorsque d'autres peuvent la vérifier sans se fier à la parole de son auteur.
2. Notre philosophie
- Vérifier, pas croire. Une affirmation sur un système d'IA compte lorsqu'elle s'accompagne de preuves que d'autres peuvent vérifier : quelles données ont été utilisées, qui les a signées, si les sources sont indépendantes et si le résultat peut être reproduit.
- Interopérable ou inutile. Marquages, signatures, traces de provenance et journaux de différents fabricants doivent fonctionner ensemble. Une preuve que personne d'autre ne peut lire n'est pas une preuve.
- Reproductible en public. Méthodes et résultats de tests sont publiés avec le code et les données. Chacun peut les refaire.
- Les erreurs sont un cadeau. Les erreurs sont corrigées ouvertement, en citant celui qui les a trouvées. L'histoire n'est pas réécrite ; les corrections s'y ajoutent.
- Un regard indépendant. Les vérifications sont faites par des parties sans lien commercial avec ce qu'elles vérifient, et elles peuvent publier ce qu'elles trouvent.
- Personne n'est au dessus du test. Les membres, y compris l'initiateur, testent leurs propres méthodes sur les mêmes cas publics, et les résultats défavorables à un membre sont publiés comme les autres.
- Nous mesurons, nous ne certifions pas. OVAIC publie des méthodes et des résultats. Il ne déclare personne digne de confiance.
- Pour les générations futures. Nous créons une valeur publique durable, ouverte à tous, et non un profit pour quelques uns.
3. Engagements des membres
- Apporter au moins une méthode ou un cas de test au banc d'essai ouvert pendant la première année.
- Publier les résultats sur les cas OVAIC avec la version, la date et les instructions de reproduction.
- Accepter la correction publique de leurs propres résultats.
- N'utiliser le nom OVAIC que selon les règles sur le nom et les résultats.
- Respecter les règles en matière de concurrence et de propriété intellectuelle.
4. Premiers travaux communs
- Série de tests article 50 : des cas publics qui vérifient si les marquages lisibles par machine et les traces de provenance résistent à l'édition, à la compression et au passage d'un outil à l'autre, et s'ils peuvent être falsifiés.
- Preuves des évaluateurs : un format ouvert dans lequel les évaluateurs indépendants consignent ce qu'ils ont vérifié, l'accès dont ils disposaient et ce qu'ils ont trouvé, signé et horodaté, afin que leurs rapports puissent eux mêmes être vérifiés.
- Autorisations des agents : des cas où un agent d'IA ne peut agir qu'en présence de preuves vérifiées.
5. Ouvert à tous
- Toute personne, toute origine. OVAIC est ouvert à toute personne et à toute organisation, quels que soient l'âge, la foi, la nationalité, l'origine, la couleur de peau ou l'apparence. Les personnes de moins de 18 ans adhèrent avec l'accord d'un représentant légal. Selon les statuts, les organisations adhèrent comme membres et les personnes individuelles comme observateurs, sans droit de vote. Les statuts font foi. Une personne qui prouve son utilité par une contribution mathématique, scientifique ou culturelle ne peut recevoir une voix égale que par décision de l'assemblée générale, selon la voie prévue par les statuts. Une contribution financière n'est pas prise en compte à cet effet.
- Personne ne reste dehors faute d'argent. Lorsqu'une cotisation ne peut être payée, une idée, le souhait de contribuer ou une demande de soutien suffisent pour poser sa candidature. Le comité examine chaque demande, de toute personne ou organisation, avec le plus grand sérieux et répond par écrit, avec ses motifs.
- Nous aidons ceux qui aident tout le monde. Nous connaissons les difficultés de ceux qui commencent avec peu, et nous les reconnaissons vite.
- La science, pas la métaphysique ni le marketing. Nous séparons ce qui peut être vérifié de ce qui est seulement cru ou vendu. Ensemble, nous reconnaissons la pseudoscience, le désir de gloire à tout prix et les tentatives de faire de ce travail commun une affaire privée.
- L'argent ne décide de rien ici. Ce qui dure, c'est la vérification, la confiance et le bon travail pour les générations qui viennent. Ce n'est pas seulement une philosophie. C'est un choix entre le bien et le mal, et nous le faisons ouvertement.
La section 5 a été ajoutée le 1er novembre 2026 au projet 0.1.
6. Vote
L'assemblée de fondation est invitée à adopter ce mémorandum comme philosophie commune d'OVAIC. Il n'engage aucun membre au delà des statuts et des règles.
Sources
- Règlement européen sur l'IA, article 50 (obligations de transparence), applicable depuis le 2 août 2026 : https://artificialintelligenceact.eu/article/50/
- Dario Amodei, "We must pace the frontier" (septembre 2026) : https://darioamodei.com/post/we-must-pace-the-frontier
- Anthropic, proposition de cadre de transparence pour l'IA de pointe (juillet 2025) : https://www.anthropic.com/news/the-need-for-transparency-in-frontier-ai