Memorandum: da "fidatevi di noi" a "verificateci"
Adottato dai membri fondatori il 19 ottobre 2026 come filosofia comune di OVAIC. Traduzione a scopo informativo. Fa fede la versione inglese. English
1. Perché ora
Oggi i sistemi di IA scrivono, decidono, pagano e agiscono per conto delle persone. Due sviluppi mostrano dove sta andando il mondo.
- Il diritto. Dal 2 agosto 2026 l'articolo 50 del regolamento europeo sull'IA impone ai fornitori di IA generativa di marcare i contenuti sintetici in un formato leggibile da macchina, così che possano essere rilevati, con soluzioni efficaci, interoperabili, robuste e affidabili per quanto tecnicamente possibile. Il diritto chiede prove che le macchine possano verificare, non solo etichette che le persone leggono.
- Gli sviluppatori di frontiera. Nel settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha proposto che valutatori indipendenti lavorino all'interno delle aziende di IA per verificare "fino a dadi e bulloni" se un'azienda segue davvero le pratiche di addestramento, rilascio, gestione e protezione che dichiara; con "il diritto di pubblicare i risultati principali su livelli di rischio, incidenti, pratiche e sull'accesso ricevuto o negato"; e come "un secondo parere libero da incentivi commerciali". Ha anche osservato che un organismo mondiale che testi i modelli prima del rilascio è realizzabile, ma che "la difficoltà sarà la verifica". (Citazioni tradotte.)
Entrambi vanno nella stessa direzione: dalle promesse alle prove. Entrambi lasciano aperta la stessa domanda: chi verifica, e come si verifica il verificatore? La trasparenza è necessaria. Non basta. Un'affermazione diventa affidabile solo quando altri possono verificarla senza fidarsi della parola di chi l'ha fatta.
2. La nostra filosofia
- Verificare, non credere. Un'affermazione su un sistema di IA vale quando è accompagnata da prove che altri possono verificare: quali dati sono stati usati, chi li ha firmati, se le fonti sono indipendenti e se il risultato è riproducibile.
- Interoperabile o inutile. Marcature, firme, registri di provenienza e log di produttori diversi devono funzionare insieme. Una prova che nessun altro può leggere non è una prova.
- Riproducibile in pubblico. Metodi e risultati dei test sono pubblicati con codice e dati. Chiunque può ripeterli.
- Gli errori sono un dono. Gli errori sono corretti apertamente, citando chi li ha trovati. La storia non viene riscritta; le correzioni vi si aggiungono.
- Occhi indipendenti. Le verifiche sono fatte da parti senza legami commerciali con ciò che verificano, e possono pubblicare ciò che trovano.
- Nessuno è al di sopra del test. I membri, compreso il promotore, testano i propri metodi sugli stessi casi pubblici, e i risultati sfavorevoli a un membro sono pubblicati come tutti gli altri.
- Misuriamo, non certifichiamo. OVAIC pubblica metodi e risultati. Non dichiara nessuno affidabile.
- Per le generazioni future. Creiamo un valore pubblico duraturo, aperto a tutti, non profitto per pochi.
3. Impegni dei membri
- Portare almeno un metodo o un caso di prova al banco di prova aperto nel primo anno.
- Pubblicare i risultati sui casi OVAIC con versione, data e istruzioni per riprodurli.
- Accettare la correzione pubblica dei propri risultati.
- Usare il nome OVAIC solo come consentito dalle regole sul nome e sui risultati.
- Rispettare le regole in materia di concorrenza e di proprietà intellettuale.
4. Primo lavoro comune
- Serie di test sull'articolo 50: casi pubblici che verificano se marcature leggibili da macchina e registri di provenienza resistono a modifica, compressione e passaggio tra strumenti, e se possono essere falsificati.
- Prove dei valutatori: un formato aperto in cui i valutatori indipendenti registrano che cosa hanno verificato, quale accesso avevano e che cosa hanno trovato, firmato e con marca temporale, così che i loro rapporti possano essere a loro volta verificati.
- Permessi degli agenti: casi in cui un agente di IA può agire solo in presenza di prove verificate.
5. Aperto a tutti
- Ogni persona, ogni provenienza. OVAIC è aperto a ogni persona e a ogni organizzazione, qualunque siano età, fede, nazionalità, origine, colore della pelle o aspetto. Le persone sotto i 18 anni aderiscono con il consenso di un rappresentante legale. Secondo lo statuto, le organizzazioni aderiscono come membri e le persone fisiche come osservatori, senza diritto di voto. Lo statuto è vincolante. Una persona che dimostra la propria utilità con un contributo matematico, scientifico o culturale può ricevere un voto uguale solo per decisione dell'assemblea generale, nel modo previsto dallo statuto. Un contributo finanziario non conta a questo fine.
- Nessuno resta fuori per mancanza di denaro. Quando una quota non può essere pagata, un'idea, il desiderio di contribuire o una richiesta di sostegno bastano per candidarsi. Il comitato esamina ogni richiesta, da qualsiasi persona o organizzazione, con la massima serietà e risponde per iscritto, con motivazione.
- Aiutiamo chi aiuta tutti. Conosciamo le difficoltà di chi parte con poco, e le riconosciamo presto.
- Scienza, non metafisica né marketing. Separiamo ciò che si può verificare da ciò che è solo creduto o venduto. Insieme riconosciamo la pseudoscienza, il desiderio di fama a ogni costo e i tentativi di fare di questo lavoro comune un affare privato.
- Qui il denaro non decide nulla. Ciò che resta sono verifica, fiducia e buon lavoro per le generazioni dopo di noi. Non è solo una filosofia. È una scelta tra il bene e il male, e la facciamo apertamente.
La sezione 5 è stata aggiunta il 1° novembre 2026 alla bozza 0.1.
6. Voto
L'assemblea di fondazione è invitata ad adottare questo memorandum come filosofia comune di OVAIC. Non vincola alcun membro oltre lo statuto e le regole.
Fonti
- Regolamento europeo sull'IA, articolo 50 (obblighi di trasparenza), applicabile dal 2 agosto 2026: https://artificialintelligenceact.eu/article/50/
- Dario Amodei, "We must pace the frontier" (settembre 2026): https://darioamodei.com/post/we-must-pace-the-frontier
- Anthropic, proposta di quadro di trasparenza per l'IA di frontiera (luglio 2025): https://www.anthropic.com/news/the-need-for-transparency-in-frontier-ai