Publish versioned MVD dataset collection

.gitignore

@@ -0,0 +1,3 @@
+.DS_Store
+__pycache__/
+*.py[cod]

CHANGELOG.md

@@ -0,0 +1,25 @@
+# Historial de la colección
+
+## MVD v2.1 — 2026-07-17
+
+- Prevalidación individual de los pins antes del muestreo.
+- Entorno congelado en CPython 3.11/Linux x86-64, sin extras del padre.
+- Uso exclusivo de wheels.
+- Evaluación explícita de marcadores y `Requires-Python`.
+- Corrección del tratamiento de versiones preliminares fijadas exactamente.
+- Muestreo determinista de 8.000 pares con semilla 42.
+- Diagnósticos del oráculo, hashes, tipos de conflicto y manifiesto trazable.
+- Versión recomendada para reproducir los resultados finales.
+
+## MVD v1 — 2026-05-20
+
+- Primera ejecución ampliada sobre el subconjunto científico de PyPI.
+- Generación exhaustiva de 197.483 pares bajo el protocolo inicial.
+- Conservada para reproducir experimentos antiguos; sustituida por v2.1 tras
+  identificar limitaciones de prevalidación, entorno y trazabilidad.
+
+## Piloto — 2026-05-20
+
+- Primera validación extremo a extremo sobre doce paquetes.
+- 302 pares etiquetados.
+- Diseñado para validar el pipeline, no para la evaluación final.

CHECKSUMS.sha256

@@ -0,0 +1,13 @@
+8ff60af2bcc29ba73c2e4ccf2ccb620611fa68e45a2b4f40ed03d7fde344016d  data/processed/dataset_mvd.parquet
+51475e4c78a38851555383a1a6bb9bb667f33cda64b706966d2c1198495929c1  data/processed/dataset_mvd_v2.parquet
+324db8139067044814e5fee75da236beacdd5bed3a99fbcf4893b7eff5e1a33f  data/processed/dataset_pilot.parquet
+cbea4597095204778fc0087b5a683f5e7fdb95011eb994ccca1307bf86d27d11  data/pilot/test.parquet
+c802d4c2eaa777333bb9fdc02bfd660f1838a408115a11645df4adcd526a4f64  data/pilot/train.parquet
+6cc78b621cc53b119cd327056008586b9f639b1515f9d7cf97ae98cd1dde5874  data/pilot/validation.parquet
+c2eae2414b8befcaddcf2cfe24465053ef1f662c193115178bab3cd3b88a2988  data/mvd_v1/test.parquet
+5ec7217f84ca1ae5963061907613092a467bc3dd60e3a7a88376f848c1ad0d2a  data/mvd_v1/train.parquet
+2557643692d6c9e302106cf388c4813177433c783b3aafe593788220fdce6cb0  data/mvd_v1/validation.parquet
+56e0d597f87ce50756ab908de286d658cc9889279c939a96d88b4fbebb49db89  data/mvd_v2_1/test.parquet
+194cf256b0dc902eff2d4774d0bcdce3947fc67a0a27667849c2e68fe8af6808  data/mvd_v2_1/train.parquet
+50c1a099c55815324b8da4ffaed0e0912ac1436bf22d8945f60c60ec1f42dea8  data/mvd_v2_1/validation.parquet
+a103ab0a707d036ed80f778cf71c195b56ac9eea784048809b7a675752e8c191  metadata/dataset_mvd_v2_manifest.json

CITATION.cff

@@ -0,0 +1,11 @@
+cff-version: 1.2.0
+message: "If you use this dataset collection, please cite it using these metadata."
+title: "PyPI Dependency Compatibility MVD"
+type: dataset
+authors:
+  - family-names: "González Rodríguez"
+    given-names: "Augusto Javier"
+version: 2.1
+date-released: 2026-07-19
+license: CC-BY-4.0
+repository: "https://huggingface.co/datasets/keyduu/pypi-dependency-compatibility-mvd"

LICENSE

@@ -0,0 +1,23 @@
+PyPI Dependency Compatibility MVD
+
+Copyright (c) 2026 Augusto Javier González Rodríguez
+
+Except where otherwise noted, the original selection, arrangement, labels,
+splits, derived fields, manifests, and documentation in this dataset
+collection are licensed under the Creative Commons Attribution 4.0
+International License (CC BY 4.0).
+
+You may share and adapt the licensed material for any purpose, including
+commercial purposes, provided that you give appropriate credit, provide a
+link to the license, and indicate whether changes were made. You may not apply
+additional legal or technological restrictions that prevent others from
+exercising the rights granted by the license.
+
+Canonical license and legal code:
+https://creativecommons.org/licenses/by/4.0/
+
+This notice applies only to rights held by the dataset author. Source package
+and release metadata originate from the public PyPI API and may contain
+third-party material or be subject to separate rights. Package names and
+trademarks remain the property of their respective owners. No warranty is
+provided.

README.md

@@ -0,0 +1,133 @@
+---
+license: cc-by-4.0
+task_categories:
+  - tabular-classification
+tags:
+  - python
+  - package-dependencies
+  - dependency-resolution
+  - graph-machine-learning
+  - temporal-split
+pretty_name: PyPI Dependency Compatibility MVD
+configs:
+  - config_name: pilot
+    data_files:
+      - split: train
+        path: data/pilot/train.parquet
+      - split: validation
+        path: data/pilot/validation.parquet
+      - split: test
+        path: data/pilot/test.parquet
+  - config_name: mvd_v1
+    data_files:
+      - split: train
+        path: data/mvd_v1/train.parquet
+      - split: validation
+        path: data/mvd_v1/validation.parquet
+      - split: test
+        path: data/mvd_v1/test.parquet
+  - config_name: mvd_v2_1
+    data_files:
+      - split: train
+        path: data/mvd_v2_1/train.parquet
+      - split: validation
+        path: data/mvd_v2_1/validation.parquet
+      - split: test
+        path: data/mvd_v2_1/test.parquet
+---
+
+# PyPI Dependency Compatibility MVD
+
+Colección versionada de pares ordenados de versiones de paquetes Python usada
+en un TFM sobre clasificación de incompatibilidades en grafos de dependencias.
+Cada observación representa `pa@va → pb@vb`; la etiqueta indica si ambos pins
+pueden coexistir según una ejecución contrafactual del resolver `uv`.
+
+La colección publica todas las etapas procesadas para documentar por qué el
+protocolo cambió. **`mvd_v2_1` es la configuración recomendada y la utilizada
+para los resultados finales.** `pilot` y `mvd_v1` se conservan para
+trazabilidad y reproducción de experimentos anteriores.
+
+## Configuraciones
+
+| Configuración | Filas | Train | Validación | Test | Uso |
+|---|---:|---:|---:|---:|---|
+| `pilot` | 302 | 250 | 14 | 38 | Validación inicial del pipeline sobre doce paquetes |
+| `mvd_v1` | 197.483 | 158.318 | 11.441 | 27.724 | Primera ampliación al ecosistema científico |
+| `mvd_v2_1` | 8.000 | 5.600 | 1.200 | 1.200 | Dataset final corregido y trazable |
+
+### Piloto
+
+El piloto comprobó que la extracción de metadatos, la generación de pares, el
+etiquetado con `uv` y el split temporal funcionaban de extremo a extremo. No se
+diseñó para estimar el rendimiento final.
+
+### MVD v1
+
+La primera versión amplió el conjunto de paquetes y generó todos los pares
+elegibles del protocolo inicial. Se conserva sin modificaciones, pero no debe
+usarse como referencia final porque todavía no incorporaba:
+
+- prevalidación de la instalabilidad individual de cada pin;
+- evaluación congelada y explícita de marcadores y extras;
+- requisito de distribuciones binarias para aislar errores de compilación;
+- tratamiento corregido de versiones preliminares fijadas exactamente;
+- muestreo determinista posterior a la prevalidación;
+- diagnósticos, hashes y manifiesto completos del oráculo.
+
+Por esas diferencias, sus etiquetas y distribución no deben compararse
+directamente con las de v2.1.
+
+### MVD v2.1
+
+La versión final fija CPython 3.11 sobre Linux x86-64, sin extras del paquete
+padre y usando solo wheels. De 82.922 candidatos iniciales, la prevalidación
+individual excluyó 48.906; sobre los 34.016 restantes se muestrearon 8.000
+pares con semilla 42. El resultado contiene 5.596 pares compatibles, 2.400
+conflictos explícitos de rango y cuatro conflictos transitivos o globales.
+
+El artefacto mantiene el nombre histórico `dataset_mvd_v2.parquet`, pero su
+manifiesto declara `dataset_version: 2.1`. Esta distinción se conserva para que
+el hash coincida con el utilizado por los experimentos.
+
+## Archivos originales y particiones
+
+`data/processed/` contiene los tres Parquet exactos producidos por el pipeline.
+Sus hashes están en [CHECKSUMS.sha256](CHECKSUMS.sha256). Los directorios
+`data/pilot/`, `data/mvd_v1/` y `data/mvd_v2_1/` contienen copias derivadas por
+split para el visor de Hugging Face; no sustituyen los originales.
+
+El manifiesto de v2.1 se encuentra en
+`metadata/dataset_mvd_v2_manifest.json`. El artefacto de exclusiones de esa
+ejecución contenía cero filas y no se distribuye; su conteo y hash permanecen
+registrados en el manifiesto.
+
+## Fuente y proceso de etiquetado
+
+Los atributos de paquetes y versiones proceden de la API pública de PyPI. Las
+etiquetas, particiones, diagnósticos y variables derivadas fueron generados por
+el pipeline [tfm-dependency-data](https://github.com/keyduu/tfm-dependency-data).
+El código exacto y los entornos Pixi permiten regenerar cada etapa.
+
+## Limitaciones
+
+- El dominio se restringe a un subconjunto del ecosistema científico de PyPI.
+- La v2.1 representa CPython 3.11/Linux x86-64 y no activa extras del padre.
+- Solo cuatro incompatibilidades de v2.1 ocurren dentro del rango declarado;
+  el cumplimiento de PEP 440 explica casi toda la etiqueta.
+- `uv` y el estado histórico de los índices forman parte del contexto del
+  oráculo; el manifiesto registra la versión utilizada.
+- Las versiones anteriores se publican para trazabilidad, no como alternativas
+  equivalentes al protocolo final.
+
+## Licencia
+
+La selección, estructura, etiquetas, particiones y documentación de esta
+colección se ofrecen bajo [CC BY 4.0](LICENSE). Los metadatos originarios de
+PyPI mantienen su procedencia y cualesquiera derechos de terceros aplicables.
+
+## Cita
+
+Los metadatos de citación están disponibles en [CITATION.cff](CITATION.cff).
+Cuando exista un DOI de Zenodo, se incorporará en una nueva versión sin alterar
+los artefactos originales.

data/mvd_v1/test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c2eae2414b8befcaddcf2cfe24465053ef1f662c193115178bab3cd3b88a2988
+size 170167

data/mvd_v1/train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5ec7217f84ca1ae5963061907613092a467bc3dd60e3a7a88376f848c1ad0d2a
+size 418378

data/mvd_v1/validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2557643692d6c9e302106cf388c4813177433c783b3aafe593788220fdce6cb0
+size 119050

data/mvd_v2_1/test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:56e0d597f87ce50756ab908de286d658cc9889279c939a96d88b4fbebb49db89
+size 229577

data/mvd_v2_1/train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:194cf256b0dc902eff2d4774d0bcdce3947fc67a0a27667849c2e68fe8af6808
+size 945711

data/mvd_v2_1/validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:50c1a099c55815324b8da4ffaed0e0912ac1436bf22d8945f60c60ec1f42dea8
+size 225431

data/pilot/test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cbea4597095204778fc0087b5a683f5e7fdb95011eb994ccca1307bf86d27d11
+size 11430

data/pilot/train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c802d4c2eaa777333bb9fdc02bfd660f1838a408115a11645df4adcd526a4f64
+size 15277

data/pilot/validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6cc78b621cc53b119cd327056008586b9f639b1515f9d7cf97ae98cd1dde5874
+size 10952

data/processed/dataset_mvd.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8ff60af2bcc29ba73c2e4ccf2ccb620611fa68e45a2b4f40ed03d7fde344016d
+size 538410

data/processed/dataset_mvd_v2.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:51475e4c78a38851555383a1a6bb9bb667f33cda64b706966d2c1198495929c1
+size 1324408

data/processed/dataset_pilot.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:324db8139067044814e5fee75da236beacdd5bed3a99fbcf4893b7eff5e1a33f
+size 15803

metadata/dataset_mvd_v2_manifest.json

@@ -0,0 +1,81 @@
+{
+  "candidate_rows_before_sampling": 34016,
+  "columns": [
+    "pair_id",
+    "pa",
+    "va",
+    "pb",
+    "vb",
+    "va_upload_time",
+    "vb_upload_time",
+    "declared_range",
+    "requirement",
+    "dep_type",
+    "marker_applies",
+    "parent_extra",
+    "environment_id",
+    "vb_in_range",
+    "va_num_prev_releases",
+    "va_size_bytes",
+    "va_num_deps",
+    "vb_num_prev_releases",
+    "vb_size_bytes",
+    "vb_num_deps",
+    "split",
+    "label",
+    "label_reason",
+    "oracle_diagnostic",
+    "oracle_diagnostic_sha256",
+    "oracle_duration_seconds",
+    "oracle_only_binary",
+    "oracle_python_version",
+    "oracle_return_code",
+    "oracle_uv_version",
+    "parent_installable",
+    "dependency_installable",
+    "conflict_type"
+  ],
+  "counts_by_conflict_type": {
+    "compatible": 5596,
+    "explicit_range": 2400,
+    "transitive_or_global": 4
+  },
+  "counts_by_split_and_label": {
+    "test": {
+      "0": 840,
+      "1": 360
+    },
+    "train": {
+      "0": 3920,
+      "1": 1680
+    },
+    "val": {
+      "0": 836,
+      "1": 364
+    }
+  },
+  "created_at": "2026-07-17T18:19:35.775282+00:00",
+  "dataset_path": "dataset_mvd_v2.parquet",
+  "dataset_sha256": "51475e4c78a38851555383a1a6bb9bb667f33cda64b706966d2c1198495929c1",
+  "dataset_version": "2.1",
+  "environment_id": "cpython-3.11-linux-x86_64-no-extra",
+  "excluded_path": "dataset_mvd_v2_excluded.parquet",
+  "excluded_rows": 0,
+  "excluded_sha256": "f8bceb43fae8640a10880b20006847de6ae9b4b1c7ba85046446f297ab4d63a9",
+  "individual_installability_preflight": true,
+  "labelled_rows": 8000,
+  "only_binary": true,
+  "parent_extras": "excluded",
+  "preflight": {
+    "candidates_after_preflight": 34016,
+    "candidates_before_preflight": 82922,
+    "candidates_excluded_by_preflight": 48906,
+    "installable_pins": 1530,
+    "unique_pins": 1905
+  },
+  "python_version": "3.11",
+  "requested_sample_size": 8000,
+  "sampling_seed": 42,
+  "source": "PyPI version metadata + uv counterfactual resolution",
+  "uv_version": "uv 0.11.15 (x86_64-unknown-linux-gnu)"
+}