Memorando: de "confíen en nosotros" a "compruébennos"
Adoptado por los miembros fundadores el 19 de octubre de 2026 como filosofía común de OVAIC. Traducción a título informativo. Solo la versión inglesa es vinculante. English
1. Por qué ahora
Los sistemas de IA ya escriben, deciden, pagan y actúan en nombre de las personas. Dos novedades muestran hacia dónde va el mundo.
- La ley. Desde el 2 de agosto de 2026, el artículo 50 del Reglamento europeo de IA exige a los proveedores de IA generativa marcar el contenido sintético en un formato legible por máquina para que pueda detectarse, con soluciones eficaces, interoperables, sólidas y fiables en la medida en que sea técnicamente posible. La ley pide pruebas que las máquinas puedan comprobar, no solo etiquetas que lean las personas.
- Los desarrolladores de vanguardia. En septiembre de 2026, Dario Amodei, consejero delegado de Anthropic, propuso que evaluadores independientes trabajen dentro de las empresas de IA para comprobar "hasta las tuercas y los tornillos" si una empresa sigue de verdad las prácticas de entrenamiento, despliegue, operación y salvaguardas que declara; con "el derecho a publicar las conclusiones clave sobre niveles de riesgo, incidentes, prácticas y el acceso recibido o denegado"; y como "una segunda opinión libre de incentivos comerciales". También señaló que un organismo mundial que pruebe los modelos antes de su lanzamiento es factible, pero que "la dificultad estará en la verificación". (Citas traducidas.)
Ambas apuntan en la misma dirección: de las promesas a las pruebas. Ambas dejan abierta la misma pregunta: ¿quién verifica, y cómo se verifica al verificador? La transparencia es necesaria. No basta. Una afirmación solo merece confianza cuando otros pueden verificarla sin depender de la palabra de quien la hizo.
2. Nuestra filosofía
- Verificar, no creer. Una afirmación sobre un sistema de IA cuenta cuando viene con pruebas que otros pueden verificar: qué datos se usaron, quién los firmó, si las fuentes son independientes y si el resultado puede reproducirse.
- Interoperable o inútil. Marcas, firmas, registros de procedencia y registros de distintos fabricantes deben funcionar juntos. Una prueba que nadie más puede leer no es una prueba.
- Reproducible en público. Los métodos y los resultados de las pruebas se publican con código y datos. Cualquiera puede repetirlos.
- Los errores son un regalo. Los errores se corrigen abiertamente, reconociendo a quien los encontró. La historia no se reescribe; las correcciones se añaden a ella.
- Ojos independientes. Verifican partes sin vínculos comerciales con lo que verifican, y pueden publicar lo que encuentran.
- Nadie está por encima de la prueba. Los miembros, incluido el iniciador, prueban sus propios métodos en los mismos casos públicos, y los resultados contrarios a un miembro se publican como cualquier otro.
- Medimos, no certificamos. OVAIC publica métodos y resultados. No declara a nadie de confianza.
- Para las generaciones futuras. Creamos valor público duradero, abierto a todos, no beneficio para unos pocos.
3. Compromisos de los miembros
- Aportar al menos un método o un caso de prueba al banco de pruebas abierto en el primer año.
- Publicar los resultados sobre casos de OVAIC con versión, fecha e instrucciones para reproducirlos.
- Aceptar la corrección pública de sus propios resultados.
- Usar el nombre OVAIC solo según las normas sobre el nombre y los resultados.
- Cumplir las normas sobre competencia y sobre propiedad intelectual.
4. Primer trabajo conjunto
- Serie de pruebas del artículo 50: casos públicos que comprueban si las marcas legibles por máquina y los registros de procedencia resisten la edición, la compresión y el paso entre herramientas, y si pueden falsificarse.
- Pruebas de los evaluadores: un formato abierto en el que los evaluadores independientes registran qué comprobaron, qué acceso tuvieron y qué encontraron, firmado y con sello de tiempo, para que sus propios informes puedan verificarse.
- Permisos de agentes: casos en los que un agente de IA solo puede actuar cuando hay pruebas verificadas.
5. Abierto a todos
- Toda persona, todo origen. OVAIC está abierto a toda persona y a toda organización, sea cual sea su edad, fe, nacionalidad, origen, color de piel o apariencia. Las personas menores de 18 años se adhieren con el consentimiento de un representante legal. Según los estatutos, las organizaciones ingresan como miembros y las personas individuales como observadoras, sin voto. Los estatutos son vinculantes. Una persona que demuestre su utilidad mediante una contribución matemática, científica o cultural solo puede recibir un voto igual por decisión de la asamblea general, por la vía que prevén los estatutos. Una contribución financiera no cuenta para ello.
- Nadie se queda fuera por falta de dinero. Cuando una cuota no puede pagarse, una idea, el deseo de contribuir o una petición de apoyo bastan para solicitar el ingreso. La junta estudia cada petición, de cualquier persona u organización, con toda seriedad y responde por escrito, con sus motivos.
- Ayudamos a quienes ayudan a todos. Conocemos las dificultades de quienes empiezan con poco, y las reconocemos pronto.
- Ciencia, no metafísica ni marketing. Separamos lo que se puede verificar de lo que solo se cree o se vende. Juntos reconocemos la pseudociencia, el deseo de fama a cualquier precio y los intentos de convertir este trabajo común en un negocio privado.
- Aquí el dinero no decide nada. Lo que perdura es la verificación, la confianza y el buen trabajo para las generaciones que vienen. No es solo una filosofía. Es una elección entre el bien y el mal, y la hacemos abiertamente.
La sección 5 se añadió el 1 de noviembre de 2026 al borrador 0.1.
6. Votación
Se pide a la reunión fundacional que adopte este memorando como filosofía común de OVAIC. No obliga a ningún miembro más allá de los estatutos y las normas.
Fuentes
- Reglamento europeo de IA, artículo 50 (obligaciones de transparencia), aplicable desde el 2 de agosto de 2026: https://artificialintelligenceact.eu/article/50/
- Dario Amodei, "We must pace the frontier" (septiembre de 2026): https://darioamodei.com/post/we-must-pace-the-frontier
- Anthropic, propuesta de marco de transparencia para la IA de vanguardia (julio de 2025): https://www.anthropic.com/news/the-need-for-transparency-in-frontier-ai