Datasets:
Publish completed OpenAI Terra Batch Brasil x 25 smoke test
Browse filesCurated exports and audit metadata for the completed 25-task document matrix smoke run. Raw API requests, source excerpt, run.db and Batch transport files are intentionally excluded.
- README.md +158 -0
- alpaca/train.jsonl +25 -0
- canonical/train.jsonl +25 -0
- messages/train.jsonl +25 -0
- metadata/config.resolved.json +162 -0
- metadata/generation_info.json +302 -0
- metadata/manifest.json +101 -0
- metadata/plan.json +84 -0
- metadata/report.json +303 -0
- prompt_completion/train.jsonl +25 -0
README.md
ADDED
|
@@ -0,0 +1,158 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
pretty_name: "Smoke OpenAI Terra Batch — Brasil × 25 tasks"
|
| 3 |
+
language:
|
| 4 |
+
- pt
|
| 5 |
+
task_categories:
|
| 6 |
+
- text-generation
|
| 7 |
+
- question-answering
|
| 8 |
+
- summarization
|
| 9 |
+
- text-classification
|
| 10 |
+
size_categories:
|
| 11 |
+
- n<1K
|
| 12 |
+
tags:
|
| 13 |
+
- synthetic-data
|
| 14 |
+
- supervised-fine-tuning
|
| 15 |
+
- sft
|
| 16 |
+
- portuguese
|
| 17 |
+
- brazilian-portuguese
|
| 18 |
+
- wikipedia
|
| 19 |
+
- openai
|
| 20 |
+
- batch-api
|
| 21 |
+
configs:
|
| 22 |
+
- config_name: messages
|
| 23 |
+
data_files:
|
| 24 |
+
- split: train
|
| 25 |
+
path: messages/train.jsonl
|
| 26 |
+
- config_name: prompt_completion
|
| 27 |
+
data_files:
|
| 28 |
+
- split: train
|
| 29 |
+
path: prompt_completion/train.jsonl
|
| 30 |
+
- config_name: alpaca
|
| 31 |
+
data_files:
|
| 32 |
+
- split: train
|
| 33 |
+
path: alpaca/train.jsonl
|
| 34 |
+
- config_name: canonical
|
| 35 |
+
data_files:
|
| 36 |
+
- split: train
|
| 37 |
+
path: canonical/train.jsonl
|
| 38 |
+
---
|
| 39 |
+
|
| 40 |
+
# Smoke OpenAI Terra Batch — Brasil × 25 tasks
|
| 41 |
+
|
| 42 |
+
Run real de validação do fluxo matricial `document_task_matrix`, executada
|
| 43 |
+
sobre um único documento da Wikipédia em português com o título **Brasil**.
|
| 44 |
+
Cada uma das 25 tasks canônicas recebeu exatamente um slot inicial.
|
| 45 |
+
|
| 46 |
+
## Resultado
|
| 47 |
+
|
| 48 |
+
- status: `completed`
|
| 49 |
+
- documentos: 1
|
| 50 |
+
- pares planejados: 25
|
| 51 |
+
- exemplos aceitos: 25
|
| 52 |
+
- pares pulados: 0
|
| 53 |
+
- pares esgotados: 0
|
| 54 |
+
- resultados reais do backend: 27
|
| 55 |
+
- retries com nova chamada: 2
|
| 56 |
+
- backend: `openai_api`
|
| 57 |
+
- modalidade: Responses API Batch
|
| 58 |
+
- modelo: `gpt-5.6-terra`
|
| 59 |
+
- custo calculado pelo usage: US$ 0,453900
|
| 60 |
+
- tokens de entrada: 602.472
|
| 61 |
+
- tokens de entrada em cache: 580.253
|
| 62 |
+
- cache hit rate: 96,312%
|
| 63 |
+
- tokens de saída: 47.146
|
| 64 |
+
- reasoning tokens reportados: 41.647
|
| 65 |
+
|
| 66 |
+
Três batches remotos foram processados, sem requests remotamente falhos. Uma
|
| 67 |
+
retomada posterior preservou exatamente 27 resultados e três batches, sem
|
| 68 |
+
duplicar chamadas.
|
| 69 |
+
|
| 70 |
+
## Tasks e tentativas
|
| 71 |
+
|
| 72 |
+
| Task | Status | Tentativas do slot | Resultados do backend |
|
| 73 |
+
|---|---:|---:|---:|
|
| 74 |
+
| `definition` | accepted | 1 | 1 |
|
| 75 |
+
| `closed_qa` | accepted | 1 | 1 |
|
| 76 |
+
| `summarization` | accepted | 1 | 1 |
|
| 77 |
+
| `information_extraction` | accepted | 1 | 1 |
|
| 78 |
+
| `comparison` | accepted | 1 | 1 |
|
| 79 |
+
| `classification` | accepted | 1 | 1 |
|
| 80 |
+
| `timeline` | accepted | 1 | 1 |
|
| 81 |
+
| `rewrite` | accepted | 1 | 1 |
|
| 82 |
+
| `concept_explanation` | accepted | 1 | 1 |
|
| 83 |
+
| `structured_extraction` | accepted | 1 | 1 |
|
| 84 |
+
| `fact_checking` | accepted | 1 | 1 |
|
| 85 |
+
| `taxonomy` | accepted | 1 | 1 |
|
| 86 |
+
| `short_answer` | accepted | 1 | 1 |
|
| 87 |
+
| `didactic_explanation` | accepted | 1 | 1 |
|
| 88 |
+
| `reasoning` | accepted | 1 | 1 |
|
| 89 |
+
| `multiple_choice_exact` | accepted | 1 | 1 |
|
| 90 |
+
| `binary_qa_exact` | accepted | 2 | 1 |
|
| 91 |
+
| `textual_entailment` | accepted | 2 | 1 |
|
| 92 |
+
| `semantic_similarity` | accepted | 2 | 1 |
|
| 93 |
+
| `extractive_qa` | accepted | 2 | 1 |
|
| 94 |
+
| `causal_multiple_choice` | accepted | 3 | 2 |
|
| 95 |
+
| `brazilian_cultural_choice` | accepted | 3 | 2 |
|
| 96 |
+
| `fact_verification_exact` | accepted | 2 | 1 |
|
| 97 |
+
| `sentiment_exact` | accepted | 2 | 1 |
|
| 98 |
+
| `intent_classification` | accepted | 2 | 1 |
|
| 99 |
+
|
| 100 |
+
Algumas tentativas reservadas foram liberadas antes do despacho pelo controle
|
| 101 |
+
de orçamento; por isso a contagem durável do slot pode ser maior que a
|
| 102 |
+
quantidade de resultados pagos do backend.
|
| 103 |
+
|
| 104 |
+
## Formatos
|
| 105 |
+
|
| 106 |
+
- `messages`: conversas com exatamente as roles `system`, `user` e `assistant`;
|
| 107 |
+
- `prompt_completion`: prompt e completion;
|
| 108 |
+
- `alpaca`: `instruction`, `input` e `output`;
|
| 109 |
+
- `canonical`: candidatos completos, incluindo task, dificuldade, evidências
|
| 110 |
+
e metadados de geração.
|
| 111 |
+
|
| 112 |
+
Somente candidatos aceitos aparecem nesses arquivos. Requests da API,
|
| 113 |
+
`source_excerpt`, banco SQLite, corpus local e arquivos brutos de Batch não
|
| 114 |
+
fazem parte desta publicação.
|
| 115 |
+
|
| 116 |
+
## Validação
|
| 117 |
+
|
| 118 |
+
Todos os 25 payloads aceitos foram novamente validados contra o documento
|
| 119 |
+
selecionado. A auditoria verificou:
|
| 120 |
+
|
| 121 |
+
- plano v3 e unicidade dos 25 pares documento–task;
|
| 122 |
+
- backend `openai_api`, modalidade Batch e modelo fixo;
|
| 123 |
+
- exatamente as roles `system`, `user` e `assistant`;
|
| 124 |
+
- contratos de respostas exatas;
|
| 125 |
+
- spans extrativos literais;
|
| 126 |
+
- evidências e offsets;
|
| 127 |
+
- formato `<think>...</think>` somente em `reasoning`;
|
| 128 |
+
- ausência de slots pending ou exhausted;
|
| 129 |
+
- conciliação do custo dos resultados com os batches remotos;
|
| 130 |
+
- igualdade dos contadores antes e depois de `resume`.
|
| 131 |
+
|
| 132 |
+
Os artefatos de auditoria ficam em `metadata/`: configuração resolvida, plano,
|
| 133 |
+
manifesto, relatório final e `generation_info.json`.
|
| 134 |
+
|
| 135 |
+
## Reprodução
|
| 136 |
+
|
| 137 |
+
```bash
|
| 138 |
+
RUN=runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-<novo-id>
|
| 139 |
+
|
| 140 |
+
.venv/bin/sft-dataset plan \
|
| 141 |
+
--config smoke/openai-smoke-gpt-5.6-terra-batch-brasil.json \
|
| 142 |
+
--run-dir "$RUN"
|
| 143 |
+
|
| 144 |
+
.venv/bin/sft-dataset run --plan "$RUN/plan.json"
|
| 145 |
+
.venv/bin/sft-dataset run --resume "$RUN"
|
| 146 |
+
.venv/bin/python smoke/verify_openai_batch_run.py "$RUN"
|
| 147 |
+
```
|
| 148 |
+
|
| 149 |
+
## Origem e limitações
|
| 150 |
+
|
| 151 |
+
O exemplo deriva do registro `id=0`, título `Brasil`, do snapshot local criado
|
| 152 |
+
a partir de `costadev00/wiki-brazil`. Consulte o dataset-fonte e a Wikipédia
|
| 153 |
+
para termos de atribuição e licenciamento.
|
| 154 |
+
|
| 155 |
+
Este repositório é um smoke test de integração com somente 25 exemplos. Ele
|
| 156 |
+
serve para auditoria da pipeline e não constitui um benchmark de qualidade nem
|
| 157 |
+
um corpus suficiente para treinamento isolado. As respostas são sintéticas e
|
| 158 |
+
devem ser revisadas antes de uso em produção.
|
alpaca/train.jsonl
ADDED
|
@@ -0,0 +1,25 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{"id": "slot-00000001-a1", "instruction": "Defina o Brasil.", "input": "", "output": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 2 |
+
{"id": "slot-00000002-a1", "instruction": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "input": "", "output": "governador", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 3 |
+
{"id": "slot-00000003-a1", "instruction": "Resuma as características do programa espacial brasileiro.", "input": "", "output": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 4 |
+
{"id": "slot-00000004-a1", "instruction": "Extraia os esportes mencionados no formato Campo = valor.", "input": "", "output": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 5 |
+
{"id": "slot-00000005-a1", "instruction": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "input": "", "output": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 6 |
+
{"id": "slot-00000006-a1", "instruction": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "input": "", "output": "mais avançado da América Latina", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 7 |
+
{"id": "slot-00000007-a1", "instruction": "Organize quatro acontecimentos em ordem cronológica.", "input": "", "output": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 8 |
+
{"id": "slot-00000008-a1", "instruction": "Reescreva a frase com ordem sintática diferente, preservando o sentido.", "input": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "output": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 9 |
+
{"id": "slot-00000009-a1", "instruction": "Explique quais capacidades caracterizam o programa espacial brasileiro.", "input": "", "output": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 10 |
+
{"id": "slot-00000010-a1", "instruction": "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "input": "", "output": "Primeiro astronauta brasileiro = Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 11 |
+
{"id": "slot-00000011-a1", "instruction": "Verifique a afirmação apresentada.", "input": "O skate está entre os esportes mais praticados no Brasil.", "output": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 12 |
+
{"id": "slot-00000012-a1", "instruction": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "input": "", "output": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 13 |
+
{"id": "slot-00000013-a1", "instruction": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "input": "", "output": "Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 14 |
+
{"id": "slot-00000014-a1", "instruction": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "input": "", "output": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 15 |
+
{"id": "slot-00000015-a1", "instruction": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "input": "", "output": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 16 |
+
{"id": "slot-00000016-a1", "instruction": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace", "output": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 17 |
+
{"id": "slot-00000017-a2", "instruction": "Responda à pergunta usando exatamente Sim ou Não.", "input": "Passagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?", "output": "Sim", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 18 |
+
{"id": "slot-00000018-a2", "instruction": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.", "input": "Premissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil.", "output": "Implicação", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 19 |
+
{"id": "slot-00000019-a2", "instruction": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.", "input": "Sentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "5", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 20 |
+
{"id": "slot-00000020-a2", "instruction": "Extraia da passagem somente o trecho literal que responde à pergunta.", "input": "Passagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?", "output": "capoeira", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 21 |
+
{"id": "slot-00000021-a3", "instruction": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central", "output": "A", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 22 |
+
{"id": "slot-00000022-a3", "instruction": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.", "input": "Pergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei", "output": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 23 |
+
{"id": "slot-00000023-a2", "instruction": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.", "input": "Contexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil.", "output": "Verdadeiro", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 24 |
+
{"id": "slot-00000024-a2", "instruction": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.", "input": "Texto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "neutra", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 25 |
+
{"id": "slot-00000025-a2", "instruction": "Classifique a intenção da solicitação usando somente uma classe permitida.", "input": "Solicitação:\nComece uma partida de futsal.", "output": "tocar/jogar", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
canonical/train.jsonl
ADDED
|
@@ -0,0 +1,25 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{"id": "slot-00000001-a1", "slot_id": "slot-00000001", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "instruction": "Defina o Brasil.", "input": "", "output": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Defina o Brasil."}, {"role": "assistant", "content": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina."}], "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "definition", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Defina o Brasil.", "", "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 2 |
+
{"id": "slot-00000002-a1", "slot_id": "slot-00000002", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "instruction": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "input": "", "output": "governador", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?"}, {"role": "assistant", "content": "governador"}], "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "closed_qa", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "", "governador"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 3 |
+
{"id": "slot-00000003-a1", "slot_id": "slot-00000003", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "instruction": "Resuma as características do programa espacial brasileiro.", "input": "", "output": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Resuma as características do programa espacial brasileiro."}, {"role": "assistant", "content": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "summarization", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Resuma as características do programa espacial brasileiro.", "", "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 4 |
+
{"id": "slot-00000004-a1", "slot_id": "slot-00000004", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "instruction": "Extraia os esportes mencionados no formato Campo = valor.", "input": "", "output": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia os esportes mencionados no formato Campo = valor."}, {"role": "assistant", "content": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "information_extraction", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Extraia os esportes mencionados no formato Campo = valor.", "", "Esportes mencionados = capoeira, skate, surfe, judô e atletismo"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 5 |
+
{"id": "slot-00000005-a1", "slot_id": "slot-00000005", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "instruction": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "input": "", "output": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste."}, {"role": "assistant", "content": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns."}], "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "comparison", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "", "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 6 |
+
{"id": "slot-00000006-a1", "slot_id": "slot-00000006", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "instruction": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "input": "", "output": "mais avançado da América Latina", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente."}, {"role": "assistant", "content": "mais avançado da América Latina"}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "classification", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "", "mais avançado da América Latina"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 7 |
+
{"id": "slot-00000007-a1", "slot_id": "slot-00000007", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "instruction": "Organize quatro acontecimentos em ordem cronológica.", "input": "", "output": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Organize quatro acontecimentos em ordem cronológica."}, {"role": "assistant", "content": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "timeline", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Organize quatro acontecimentos em ordem cronológica.", "", "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 8 |
+
{"id": "slot-00000008-a1", "slot_id": "slot-00000008", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "instruction": "Reescreva a frase com ordem sintática diferente, preservando o sentido.", "input": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "output": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Reescreva a frase com ordem sintática diferente, preservando o sentido.\n\nEntrada:\nO Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}, {"role": "assistant", "content": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "rewrite", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Reescreva a frase com ordem sintática diferente, preservando o sentido.", "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 9 |
+
{"id": "slot-00000009-a1", "slot_id": "slot-00000009", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "instruction": "Explique quais capacidades caracterizam o programa espacial brasileiro.", "input": "", "output": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique quais capacidades caracterizam o programa espacial brasileiro."}, {"role": "assistant", "content": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "concept_explanation", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Explique quais capacidades caracterizam o programa espacial brasileiro.", "", "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 10 |
+
{"id": "slot-00000010-a1", "slot_id": "slot-00000010", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "instruction": "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "input": "", "output": "Primeiro astronauta brasileiro = Marcos Pontes", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia o primeiro astronauta brasileiro no formato Campo = valor."}, {"role": "assistant", "content": "Primeiro astronauta brasileiro = Marcos Pontes"}], "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "structured_extraction", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "", "Primeiro astronauta brasileiro = Marcos Pontes"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 11 |
+
{"id": "slot-00000011-a1", "slot_id": "slot-00000011", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "instruction": "Verifique a afirmação apresentada.", "input": "O skate está entre os esportes mais praticados no Brasil.", "output": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Verifique a afirmação apresentada.\n\nEntrada:\nO skate está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil."}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "fact_checking", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Verifique a afirmação apresentada.", "O skate está entre os esportes mais praticados no Brasil.", "Verdadeiro: o skate está entre os esportes mais praticados no Brasil."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 12 |
+
{"id": "slot-00000012-a1", "slot_id": "slot-00000012", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "instruction": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "input": "", "output": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país."}, {"role": "assistant", "content": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "taxonomy", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "", "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 13 |
+
{"id": "slot-00000013-a1", "slot_id": "slot-00000013", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "instruction": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "input": "", "output": "Marcos Pontes", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?"}, {"role": "assistant", "content": "Marcos Pontes"}], "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "short_answer", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "", "Marcos Pontes"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 14 |
+
{"id": "slot-00000014-a1", "slot_id": "slot-00000014", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "instruction": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "input": "", "output": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro."}, {"role": "assistant", "content": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "didactic_explanation", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "", "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 15 |
+
{"id": "slot-00000015-a1", "slot_id": "slot-00000015", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "instruction": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "input": "", "output": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes."}, {"role": "assistant", "content": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "reasoning", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "", "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 16 |
+
{"id": "slot-00000016-a1", "slot_id": "slot-00000016", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "instruction": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace", "output": "B", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace"}, {"role": "assistant", "content": "B"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "multiple_choice_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?", "Emerson Fittipaldi", "Nelson Piquet", "Ayrton Senna", "Autódromo José Carlos Pace"], "visible_source_quotes": ["Emerson Fittipaldi, em 1972 e 1974", "Nelson Piquet, em 1981, 1983 e 1987", "Ayrton Senna, em 1988, 1990 e 1991", "Autódromo José Carlos Pace"], "choice_labels": ["A", "B", "C", "D"]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 17 |
+
{"id": "slot-00000017-a2", "slot_id": "slot-00000017", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "instruction": "Responda à pergunta usando exatamente Sim ou Não.", "input": "Passagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?", "output": "Sim", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Responda à pergunta usando exatamente Sim ou Não.\n\nEntrada:\nPassagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?"}, {"role": "assistant", "content": "Sim"}], "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "binary_qa_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "O Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?"], "visible_source_quotes": ["do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 18 |
+
{"id": "slot-00000018-a2", "slot_id": "slot-00000018", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "instruction": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.", "input": "Premissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil.", "output": "Implicação", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.\n\nEntrada:\nPremissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Implicação"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "textual_entailment", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "O atletismo está entre os esportes mais praticados no Brasil."], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 19 |
+
{"id": "slot-00000019-a2", "slot_id": "slot-00000019", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "instruction": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.", "input": "Sentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "5", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.\n\nEntrada:\nSentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "5"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "semantic_similarity", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 20 |
+
{"id": "slot-00000020-a2", "slot_id": "slot-00000020", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "instruction": "Extraia da passagem somente o trecho literal que responde à pergunta.", "input": "Passagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?", "output": "capoeira", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia da passagem somente o trecho literal que responde à pergunta.\n\nEntrada:\nPassagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?"}, {"role": "assistant", "content": "capoeira"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "extractive_qa", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual arte marcial é mencionada entre os esportes mais praticados no país?"], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 21 |
+
{"id": "slot-00000023-a2", "slot_id": "slot-00000023", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "instruction": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.", "input": "Contexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil.", "output": "Verdadeiro", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.\n\nEntrada:\nContexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil."}, {"role": "assistant", "content": "Verdadeiro"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "fact_verification_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "A peteca é um esporte criado no Brasil."], "visible_source_quotes": ["Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 22 |
+
{"id": "slot-00000024-a2", "slot_id": "slot-00000024", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "instruction": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.", "input": "Texto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "neutra", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.\n\nEntrada:\nTexto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "neutra"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "sentiment_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo."], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 23 |
+
{"id": "slot-00000025-a2", "slot_id": "slot-00000025", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "instruction": "Classifique a intenção da solicitação usando somente uma classe permitida.", "input": "Solicitação:\nComece uma partida de futsal.", "output": "tocar/jogar", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a intenção da solicitação usando somente uma classe permitida.\n\nEntrada:\nSolicitação:\nComece uma partida de futsal."}, {"role": "assistant", "content": "tocar/jogar"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "intent_classification", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Comece uma partida de futsal."], "visible_source_quotes": ["Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 24 |
+
{"id": "slot-00000021-a3", "slot_id": "slot-00000021", "attempt": 3, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "instruction": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central", "output": "A", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central"}, {"role": "assistant", "content": "A"}], "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "causal_multiple_choice", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?", "longos períodos de seca", "florestas equatoriais no Norte", "regiões semiáridas no Nordeste", "savanas tropicais no Brasil central"], "visible_source_quotes": ["No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca.", "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central.", "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central.", "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central.", "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."], "choice_labels": ["A", "B", "C", "D"], "causal_supported": true}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 25 |
+
{"id": "slot-00000022-a3", "slot_id": "slot-00000022", "attempt": 3, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "instruction": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.", "input": "Pergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei", "output": "B", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.\n\nEntrada:\nPergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei"}, {"role": "assistant", "content": "B"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "brazilian_cultural_choice", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual variação do futebol é apresentada como sua versão oficial em ambiente fechado?", "Futebol de praia", "futsal", "futetênis", "futebol de saco", "futevôlei"], "visible_source_quotes": ["Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Algumas variações de esportes têm suas origens no Brasil."], "choice_labels": ["A", "B", "C", "D", "E"], "brazilian_supported": true}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
|
messages/train.jsonl
ADDED
|
@@ -0,0 +1,25 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{"id": "slot-00000001-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Defina o Brasil."}, {"role": "assistant", "content": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 2 |
+
{"id": "slot-00000002-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?"}, {"role": "assistant", "content": "governador"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 3 |
+
{"id": "slot-00000003-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Resuma as características do programa espacial brasileiro."}, {"role": "assistant", "content": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 4 |
+
{"id": "slot-00000004-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia os esportes mencionados no formato Campo = valor."}, {"role": "assistant", "content": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 5 |
+
{"id": "slot-00000005-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste."}, {"role": "assistant", "content": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 6 |
+
{"id": "slot-00000006-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente."}, {"role": "assistant", "content": "mais avançado da América Latina"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 7 |
+
{"id": "slot-00000007-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Organize quatro acontecimentos em ordem cronológica."}, {"role": "assistant", "content": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 8 |
+
{"id": "slot-00000008-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Reescreva a frase com ordem sintática diferente, preservando o sentido.\n\nEntrada:\nO Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}, {"role": "assistant", "content": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 9 |
+
{"id": "slot-00000009-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique quais capacidades caracterizam o programa espacial brasileiro."}, {"role": "assistant", "content": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 10 |
+
{"id": "slot-00000010-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia o primeiro astronauta brasileiro no formato Campo = valor."}, {"role": "assistant", "content": "Primeiro astronauta brasileiro = Marcos Pontes"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 11 |
+
{"id": "slot-00000011-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Verifique a afirmação apresentada.\n\nEntrada:\nO skate está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 12 |
+
{"id": "slot-00000012-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país."}, {"role": "assistant", "content": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 13 |
+
{"id": "slot-00000013-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?"}, {"role": "assistant", "content": "Marcos Pontes"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 14 |
+
{"id": "slot-00000014-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro."}, {"role": "assistant", "content": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 15 |
+
{"id": "slot-00000015-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes."}, {"role": "assistant", "content": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 16 |
+
{"id": "slot-00000016-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace"}, {"role": "assistant", "content": "B"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 17 |
+
{"id": "slot-00000017-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Responda à pergunta usando exatamente Sim ou Não.\n\nEntrada:\nPassagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?"}, {"role": "assistant", "content": "Sim"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 18 |
+
{"id": "slot-00000018-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.\n\nEntrada:\nPremissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Implicação"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 19 |
+
{"id": "slot-00000019-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.\n\nEntrada:\nSentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "5"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 20 |
+
{"id": "slot-00000020-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia da passagem somente o trecho literal que responde à pergunta.\n\nEntrada:\nPassagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?"}, {"role": "assistant", "content": "capoeira"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 21 |
+
{"id": "slot-00000021-a3", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central"}, {"role": "assistant", "content": "A"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 22 |
+
{"id": "slot-00000022-a3", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.\n\nEntrada:\nPergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei"}, {"role": "assistant", "content": "B"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 23 |
+
{"id": "slot-00000023-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.\n\nEntrada:\nContexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil."}, {"role": "assistant", "content": "Verdadeiro"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 24 |
+
{"id": "slot-00000024-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.\n\nEntrada:\nTexto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "neutra"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 25 |
+
{"id": "slot-00000025-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a intenção da solicitação usando somente uma classe permitida.\n\nEntrada:\nSolicitação:\nComece uma partida de futsal."}, {"role": "assistant", "content": "tocar/jogar"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
metadata/config.resolved.json
ADDED
|
@@ -0,0 +1,162 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"planning_mode": "document_task_matrix",
|
| 3 |
+
"name": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
|
| 4 |
+
"language": "pt-BR",
|
| 5 |
+
"profile": null,
|
| 6 |
+
"source": {
|
| 7 |
+
"plugin": "local",
|
| 8 |
+
"params": {
|
| 9 |
+
"path": "runs/wiki-brazil-full-1000/corpus-selected.jsonl",
|
| 10 |
+
"format": "jsonl"
|
| 11 |
+
},
|
| 12 |
+
"field_map": {
|
| 13 |
+
"id": "id",
|
| 14 |
+
"text": "text",
|
| 15 |
+
"title": "title",
|
| 16 |
+
"sections": "sections",
|
| 17 |
+
"license": "license",
|
| 18 |
+
"source": "source"
|
| 19 |
+
}
|
| 20 |
+
},
|
| 21 |
+
"selection": {
|
| 22 |
+
"count": 1,
|
| 23 |
+
"fraction": null,
|
| 24 |
+
"seed": 42,
|
| 25 |
+
"strata": [],
|
| 26 |
+
"filters": {
|
| 27 |
+
"id": "0"
|
| 28 |
+
}
|
| 29 |
+
},
|
| 30 |
+
"target": {
|
| 31 |
+
"max_attempts_per_slot": 3
|
| 32 |
+
},
|
| 33 |
+
"task_names": [
|
| 34 |
+
"definition",
|
| 35 |
+
"closed_qa",
|
| 36 |
+
"summarization",
|
| 37 |
+
"information_extraction",
|
| 38 |
+
"comparison",
|
| 39 |
+
"classification",
|
| 40 |
+
"timeline",
|
| 41 |
+
"rewrite",
|
| 42 |
+
"concept_explanation",
|
| 43 |
+
"structured_extraction",
|
| 44 |
+
"fact_checking",
|
| 45 |
+
"taxonomy",
|
| 46 |
+
"short_answer",
|
| 47 |
+
"didactic_explanation",
|
| 48 |
+
"reasoning",
|
| 49 |
+
"multiple_choice_exact",
|
| 50 |
+
"binary_qa_exact",
|
| 51 |
+
"textual_entailment",
|
| 52 |
+
"semantic_similarity",
|
| 53 |
+
"extractive_qa",
|
| 54 |
+
"causal_multiple_choice",
|
| 55 |
+
"brazilian_cultural_choice",
|
| 56 |
+
"fact_verification_exact",
|
| 57 |
+
"sentiment_exact",
|
| 58 |
+
"intent_classification"
|
| 59 |
+
],
|
| 60 |
+
"generation": {
|
| 61 |
+
"plugin": "openai_api",
|
| 62 |
+
"params": {
|
| 63 |
+
"api_mode": "batch",
|
| 64 |
+
"api_key_env": "OPENAI_API_KEY",
|
| 65 |
+
"budget_usd": 1.0,
|
| 66 |
+
"budget_stop_usd": 0.95,
|
| 67 |
+
"reasoning_effort": "low",
|
| 68 |
+
"text_verbosity": "low",
|
| 69 |
+
"poll_interval_seconds": 10.0,
|
| 70 |
+
"batch_max_requests": 100,
|
| 71 |
+
"batch_max_queued_tokens": 4500000,
|
| 72 |
+
"max_active_batches": 2,
|
| 73 |
+
"token_estimate_margin": 1.1,
|
| 74 |
+
"price_snapshot": {
|
| 75 |
+
"date": "2026-07-24",
|
| 76 |
+
"source": "https://developers.openai.com/api/docs/models/gpt-5.6-terra",
|
| 77 |
+
"model": "gpt-5.6-terra",
|
| 78 |
+
"currency": "USD",
|
| 79 |
+
"input_per_million": 2.5,
|
| 80 |
+
"cached_input_per_million": 0.25,
|
| 81 |
+
"output_per_million": 15.0,
|
| 82 |
+
"context_window": 1050000,
|
| 83 |
+
"max_output_tokens": 128000,
|
| 84 |
+
"long_context_threshold": 272000,
|
| 85 |
+
"long_input_multiplier": 2.0,
|
| 86 |
+
"long_output_multiplier": 1.5,
|
| 87 |
+
"cache_write_multiplier": 1.25,
|
| 88 |
+
"batch_discount": 0.5
|
| 89 |
+
}
|
| 90 |
+
},
|
| 91 |
+
"model": "gpt-5.6-terra",
|
| 92 |
+
"model_revision": null,
|
| 93 |
+
"context_window": 1050000,
|
| 94 |
+
"max_input_tokens": 1045904,
|
| 95 |
+
"max_output_tokens": 4096,
|
| 96 |
+
"temperature": 0.1,
|
| 97 |
+
"batching": {
|
| 98 |
+
"mode": "async",
|
| 99 |
+
"max_inflight_requests": 4,
|
| 100 |
+
"queue_capacity": 8,
|
| 101 |
+
"preparation_batch_size": 25,
|
| 102 |
+
"request_timeout_seconds": 900.0
|
| 103 |
+
}
|
| 104 |
+
},
|
| 105 |
+
"evaluation": {
|
| 106 |
+
"plugin": "composite",
|
| 107 |
+
"deterministic": true,
|
| 108 |
+
"llm": null,
|
| 109 |
+
"routing": {
|
| 110 |
+
"audit_fraction": 0.1,
|
| 111 |
+
"judge_hard_tasks": true,
|
| 112 |
+
"judge_truncated_context": true,
|
| 113 |
+
"judge_high_risk": true,
|
| 114 |
+
"judge_weak_grounding": true
|
| 115 |
+
},
|
| 116 |
+
"acceptance": {
|
| 117 |
+
"overall_score": 4.0,
|
| 118 |
+
"grounding_score": 4.0
|
| 119 |
+
},
|
| 120 |
+
"near_duplicate_threshold": 0.92
|
| 121 |
+
},
|
| 122 |
+
"output": {
|
| 123 |
+
"formats": [
|
| 124 |
+
"messages",
|
| 125 |
+
"prompt_completion",
|
| 126 |
+
"alpaca"
|
| 127 |
+
],
|
| 128 |
+
"containers": [
|
| 129 |
+
"jsonl"
|
| 130 |
+
],
|
| 131 |
+
"splits": {
|
| 132 |
+
"train": 1.0,
|
| 133 |
+
"validation": 0.0,
|
| 134 |
+
"test": 0.0
|
| 135 |
+
}
|
| 136 |
+
},
|
| 137 |
+
"runtime": {
|
| 138 |
+
"run_root": "runs",
|
| 139 |
+
"cache_dir": ".cache/sft-dataset-creator",
|
| 140 |
+
"store_model_io": null,
|
| 141 |
+
"fail_on_partial": true,
|
| 142 |
+
"checkpoint": {
|
| 143 |
+
"enabled": true,
|
| 144 |
+
"formats": [
|
| 145 |
+
"canonical",
|
| 146 |
+
"messages",
|
| 147 |
+
"prompt_completion",
|
| 148 |
+
"alpaca"
|
| 149 |
+
],
|
| 150 |
+
"shard_size": 25,
|
| 151 |
+
"progress_interval_seconds": 5.0,
|
| 152 |
+
"scheduler_batch_size": 25,
|
| 153 |
+
"document_cache_size": 1,
|
| 154 |
+
"attempt_storage": "full"
|
| 155 |
+
}
|
| 156 |
+
},
|
| 157 |
+
"publish": {
|
| 158 |
+
"repo_id": null,
|
| 159 |
+
"private": true,
|
| 160 |
+
"token_env": "HF_TOKEN"
|
| 161 |
+
}
|
| 162 |
+
}
|
metadata/generation_info.json
ADDED
|
@@ -0,0 +1,302 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"project": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
|
| 3 |
+
"planning_mode": "document_task_matrix",
|
| 4 |
+
"examples": 25,
|
| 5 |
+
"task_names": [
|
| 6 |
+
"definition",
|
| 7 |
+
"closed_qa",
|
| 8 |
+
"summarization",
|
| 9 |
+
"information_extraction",
|
| 10 |
+
"comparison",
|
| 11 |
+
"classification",
|
| 12 |
+
"timeline",
|
| 13 |
+
"rewrite",
|
| 14 |
+
"concept_explanation",
|
| 15 |
+
"structured_extraction",
|
| 16 |
+
"fact_checking",
|
| 17 |
+
"taxonomy",
|
| 18 |
+
"short_answer",
|
| 19 |
+
"didactic_explanation",
|
| 20 |
+
"reasoning",
|
| 21 |
+
"multiple_choice_exact",
|
| 22 |
+
"binary_qa_exact",
|
| 23 |
+
"textual_entailment",
|
| 24 |
+
"semantic_similarity",
|
| 25 |
+
"extractive_qa",
|
| 26 |
+
"causal_multiple_choice",
|
| 27 |
+
"brazilian_cultural_choice",
|
| 28 |
+
"fact_verification_exact",
|
| 29 |
+
"sentiment_exact",
|
| 30 |
+
"intent_classification"
|
| 31 |
+
],
|
| 32 |
+
"planned_pairs": 25,
|
| 33 |
+
"initial_requests": 25,
|
| 34 |
+
"max_requests": 75,
|
| 35 |
+
"accepted_examples": 25,
|
| 36 |
+
"skipped_pairs": 0,
|
| 37 |
+
"formats": [
|
| 38 |
+
"messages",
|
| 39 |
+
"prompt_completion",
|
| 40 |
+
"alpaca"
|
| 41 |
+
],
|
| 42 |
+
"containers": [
|
| 43 |
+
"jsonl"
|
| 44 |
+
],
|
| 45 |
+
"generator": "gpt-5.6-terra",
|
| 46 |
+
"generator_backend": "openai_api",
|
| 47 |
+
"billing_mode": "batch",
|
| 48 |
+
"tokens": {
|
| 49 |
+
"input_tokens": 602472,
|
| 50 |
+
"ordinary_input_tokens": 22219,
|
| 51 |
+
"cached_input_tokens": 580253,
|
| 52 |
+
"cache_write_tokens": 0,
|
| 53 |
+
"output_tokens": 47146,
|
| 54 |
+
"reasoning_tokens": 41647,
|
| 55 |
+
"cache_hit_rate": 0.96312
|
| 56 |
+
},
|
| 57 |
+
"cost": {
|
| 58 |
+
"actual_cost_microusd": 453900,
|
| 59 |
+
"estimated_cost_microusd": 1640027,
|
| 60 |
+
"reserved_cost_microusd": 0,
|
| 61 |
+
"projected_cost_microusd": 453900,
|
| 62 |
+
"actual_cost_usd": 0.4539,
|
| 63 |
+
"estimated_cost_usd": 1.640027,
|
| 64 |
+
"reserved_cost_usd": 0.0,
|
| 65 |
+
"projected_cost_usd": 0.4539,
|
| 66 |
+
"cost_per_accepted_usd": 0.018156,
|
| 67 |
+
"by_task": {
|
| 68 |
+
"binary_qa_exact": {
|
| 69 |
+
"calls": 2,
|
| 70 |
+
"actual_cost_microusd": 9176,
|
| 71 |
+
"actual_cost_usd": 0.009176,
|
| 72 |
+
"cost_per_accepted_usd": 0.009176
|
| 73 |
+
},
|
| 74 |
+
"brazilian_cultural_choice": {
|
| 75 |
+
"calls": 3,
|
| 76 |
+
"actual_cost_microusd": 34299,
|
| 77 |
+
"actual_cost_usd": 0.034299,
|
| 78 |
+
"cost_per_accepted_usd": 0.034299
|
| 79 |
+
},
|
| 80 |
+
"causal_multiple_choice": {
|
| 81 |
+
"calls": 3,
|
| 82 |
+
"actual_cost_microusd": 52556,
|
| 83 |
+
"actual_cost_usd": 0.052556,
|
| 84 |
+
"cost_per_accepted_usd": 0.052556
|
| 85 |
+
},
|
| 86 |
+
"classification": {
|
| 87 |
+
"calls": 1,
|
| 88 |
+
"actual_cost_microusd": 13586,
|
| 89 |
+
"actual_cost_usd": 0.013586,
|
| 90 |
+
"cost_per_accepted_usd": 0.013586
|
| 91 |
+
},
|
| 92 |
+
"closed_qa": {
|
| 93 |
+
"calls": 1,
|
| 94 |
+
"actual_cost_microusd": 12878,
|
| 95 |
+
"actual_cost_usd": 0.012878,
|
| 96 |
+
"cost_per_accepted_usd": 0.012878
|
| 97 |
+
},
|
| 98 |
+
"comparison": {
|
| 99 |
+
"calls": 1,
|
| 100 |
+
"actual_cost_microusd": 27767,
|
| 101 |
+
"actual_cost_usd": 0.027767,
|
| 102 |
+
"cost_per_accepted_usd": 0.027767
|
| 103 |
+
},
|
| 104 |
+
"concept_explanation": {
|
| 105 |
+
"calls": 1,
|
| 106 |
+
"actual_cost_microusd": 13585,
|
| 107 |
+
"actual_cost_usd": 0.013585,
|
| 108 |
+
"cost_per_accepted_usd": 0.013585
|
| 109 |
+
},
|
| 110 |
+
"definition": {
|
| 111 |
+
"calls": 1,
|
| 112 |
+
"actual_cost_microusd": 38709,
|
| 113 |
+
"actual_cost_usd": 0.038709,
|
| 114 |
+
"cost_per_accepted_usd": 0.038709
|
| 115 |
+
},
|
| 116 |
+
"didactic_explanation": {
|
| 117 |
+
"calls": 1,
|
| 118 |
+
"actual_cost_microusd": 28347,
|
| 119 |
+
"actual_cost_usd": 0.028347,
|
| 120 |
+
"cost_per_accepted_usd": 0.028347
|
| 121 |
+
},
|
| 122 |
+
"extractive_qa": {
|
| 123 |
+
"calls": 2,
|
| 124 |
+
"actual_cost_microusd": 7464,
|
| 125 |
+
"actual_cost_usd": 0.007464,
|
| 126 |
+
"cost_per_accepted_usd": 0.007464
|
| 127 |
+
},
|
| 128 |
+
"fact_checking": {
|
| 129 |
+
"calls": 1,
|
| 130 |
+
"actual_cost_microusd": 8420,
|
| 131 |
+
"actual_cost_usd": 0.00842,
|
| 132 |
+
"cost_per_accepted_usd": 0.00842
|
| 133 |
+
},
|
| 134 |
+
"fact_verification_exact": {
|
| 135 |
+
"calls": 2,
|
| 136 |
+
"actual_cost_microusd": 11344,
|
| 137 |
+
"actual_cost_usd": 0.011344,
|
| 138 |
+
"cost_per_accepted_usd": 0.011344
|
| 139 |
+
},
|
| 140 |
+
"information_extraction": {
|
| 141 |
+
"calls": 1,
|
| 142 |
+
"actual_cost_microusd": 10481,
|
| 143 |
+
"actual_cost_usd": 0.010481,
|
| 144 |
+
"cost_per_accepted_usd": 0.010481
|
| 145 |
+
},
|
| 146 |
+
"intent_classification": {
|
| 147 |
+
"calls": 2,
|
| 148 |
+
"actual_cost_microusd": 12225,
|
| 149 |
+
"actual_cost_usd": 0.012225,
|
| 150 |
+
"cost_per_accepted_usd": 0.012225
|
| 151 |
+
},
|
| 152 |
+
"multiple_choice_exact": {
|
| 153 |
+
"calls": 1,
|
| 154 |
+
"actual_cost_microusd": 25081,
|
| 155 |
+
"actual_cost_usd": 0.025081,
|
| 156 |
+
"cost_per_accepted_usd": 0.025081
|
| 157 |
+
},
|
| 158 |
+
"reasoning": {
|
| 159 |
+
"calls": 1,
|
| 160 |
+
"actual_cost_microusd": 22542,
|
| 161 |
+
"actual_cost_usd": 0.022542,
|
| 162 |
+
"cost_per_accepted_usd": 0.022542
|
| 163 |
+
},
|
| 164 |
+
"rewrite": {
|
| 165 |
+
"calls": 1,
|
| 166 |
+
"actual_cost_microusd": 11863,
|
| 167 |
+
"actual_cost_usd": 0.011863,
|
| 168 |
+
"cost_per_accepted_usd": 0.011863
|
| 169 |
+
},
|
| 170 |
+
"semantic_similarity": {
|
| 171 |
+
"calls": 2,
|
| 172 |
+
"actual_cost_microusd": 7881,
|
| 173 |
+
"actual_cost_usd": 0.007881,
|
| 174 |
+
"cost_per_accepted_usd": 0.007881
|
| 175 |
+
},
|
| 176 |
+
"sentiment_exact": {
|
| 177 |
+
"calls": 2,
|
| 178 |
+
"actual_cost_microusd": 8143,
|
| 179 |
+
"actual_cost_usd": 0.008143,
|
| 180 |
+
"cost_per_accepted_usd": 0.008143
|
| 181 |
+
},
|
| 182 |
+
"short_answer": {
|
| 183 |
+
"calls": 1,
|
| 184 |
+
"actual_cost_microusd": 22125,
|
| 185 |
+
"actual_cost_usd": 0.022125,
|
| 186 |
+
"cost_per_accepted_usd": 0.022125
|
| 187 |
+
},
|
| 188 |
+
"structured_extraction": {
|
| 189 |
+
"calls": 1,
|
| 190 |
+
"actual_cost_microusd": 18173,
|
| 191 |
+
"actual_cost_usd": 0.018173,
|
| 192 |
+
"cost_per_accepted_usd": 0.018173
|
| 193 |
+
},
|
| 194 |
+
"summarization": {
|
| 195 |
+
"calls": 1,
|
| 196 |
+
"actual_cost_microusd": 9749,
|
| 197 |
+
"actual_cost_usd": 0.009749,
|
| 198 |
+
"cost_per_accepted_usd": 0.009749
|
| 199 |
+
},
|
| 200 |
+
"taxonomy": {
|
| 201 |
+
"calls": 1,
|
| 202 |
+
"actual_cost_microusd": 14942,
|
| 203 |
+
"actual_cost_usd": 0.014942,
|
| 204 |
+
"cost_per_accepted_usd": 0.014942
|
| 205 |
+
},
|
| 206 |
+
"textual_entailment": {
|
| 207 |
+
"calls": 2,
|
| 208 |
+
"actual_cost_microusd": 9199,
|
| 209 |
+
"actual_cost_usd": 0.009199,
|
| 210 |
+
"cost_per_accepted_usd": 0.009199
|
| 211 |
+
},
|
| 212 |
+
"timeline": {
|
| 213 |
+
"calls": 1,
|
| 214 |
+
"actual_cost_microusd": 23365,
|
| 215 |
+
"actual_cost_usd": 0.023365,
|
| 216 |
+
"cost_per_accepted_usd": 0.023365
|
| 217 |
+
}
|
| 218 |
+
}
|
| 219 |
+
},
|
| 220 |
+
"api_operations": {
|
| 221 |
+
"calls": 27,
|
| 222 |
+
"retries": 2,
|
| 223 |
+
"rate_limit_errors": 0,
|
| 224 |
+
"timeout_errors": 0,
|
| 225 |
+
"failed_attempts": 2,
|
| 226 |
+
"latency_p50_seconds": 0.0,
|
| 227 |
+
"latency_p95_seconds": 0.0,
|
| 228 |
+
"batch_duration_p50_seconds": 391.0,
|
| 229 |
+
"batch_duration_p95_seconds": 515.0,
|
| 230 |
+
"remote_batches_by_status": {
|
| 231 |
+
"processed": 3
|
| 232 |
+
}
|
| 233 |
+
},
|
| 234 |
+
"remote_batches": [
|
| 235 |
+
{
|
| 236 |
+
"batch_key": "bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e",
|
| 237 |
+
"remote_batch_id": "batch_6a63cfa509648190a1f4a61846387a52",
|
| 238 |
+
"input_file_id": "file-B856wsHKi9hacN7U6X9BZe",
|
| 239 |
+
"output_file_id": "file-TkTmB4JtwxBvuuduaUHtrq",
|
| 240 |
+
"error_file_id": null,
|
| 241 |
+
"status": "processed",
|
| 242 |
+
"request_count": 15,
|
| 243 |
+
"completed_count": 15,
|
| 244 |
+
"failed_count": 0,
|
| 245 |
+
"estimated_cost_microusd": 909909,
|
| 246 |
+
"actual_cost_microusd": 276532,
|
| 247 |
+
"metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e\"}",
|
| 248 |
+
"created_at": "2026-07-24 20:48:35",
|
| 249 |
+
"updated_at": "2026-07-24 20:57:10"
|
| 250 |
+
},
|
| 251 |
+
{
|
| 252 |
+
"batch_key": "fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa",
|
| 253 |
+
"remote_batch_id": "batch_6a63d1a81510819086c8ec4f76d416c8",
|
| 254 |
+
"input_file_id": "file-UCQFE124FvVGfCaymbXQUF",
|
| 255 |
+
"output_file_id": "file-Tj7fLXijmZ2DkasqPSqPx4",
|
| 256 |
+
"error_file_id": null,
|
| 257 |
+
"status": "processed",
|
| 258 |
+
"request_count": 10,
|
| 259 |
+
"completed_count": 10,
|
| 260 |
+
"failed_count": 0,
|
| 261 |
+
"estimated_cost_microusd": 607496,
|
| 262 |
+
"actual_cost_microusd": 131833,
|
| 263 |
+
"metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa\"}",
|
| 264 |
+
"created_at": "2026-07-24 20:57:11",
|
| 265 |
+
"updated_at": "2026-07-24 21:03:42"
|
| 266 |
+
},
|
| 267 |
+
{
|
| 268 |
+
"batch_key": "430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6",
|
| 269 |
+
"remote_batch_id": "batch_6a63d32f0b708190ab055a8025b3f561",
|
| 270 |
+
"input_file_id": "file-GSeNZdfuvyNfMCyutSCv1M",
|
| 271 |
+
"output_file_id": "file-Uq44pr4sJ58XiAaB2ipJzA",
|
| 272 |
+
"error_file_id": null,
|
| 273 |
+
"status": "processed",
|
| 274 |
+
"request_count": 2,
|
| 275 |
+
"completed_count": 2,
|
| 276 |
+
"failed_count": 0,
|
| 277 |
+
"estimated_cost_microusd": 122622,
|
| 278 |
+
"actual_cost_microusd": 45535,
|
| 279 |
+
"metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6\"}",
|
| 280 |
+
"created_at": "2026-07-24 21:03:42",
|
| 281 |
+
"updated_at": "2026-07-24 21:08:20"
|
| 282 |
+
}
|
| 283 |
+
],
|
| 284 |
+
"price_snapshot": {
|
| 285 |
+
"date": "2026-07-24",
|
| 286 |
+
"source": "https://developers.openai.com/api/docs/models/gpt-5.6-terra",
|
| 287 |
+
"model": "gpt-5.6-terra",
|
| 288 |
+
"currency": "USD",
|
| 289 |
+
"input_per_million": 2.5,
|
| 290 |
+
"cached_input_per_million": 0.25,
|
| 291 |
+
"output_per_million": 15.0,
|
| 292 |
+
"context_window": 1050000,
|
| 293 |
+
"max_output_tokens": 128000,
|
| 294 |
+
"long_context_threshold": 272000,
|
| 295 |
+
"long_input_multiplier": 2.0,
|
| 296 |
+
"long_output_multiplier": 1.5,
|
| 297 |
+
"cache_write_multiplier": 1.25,
|
| 298 |
+
"batch_discount": 0.5
|
| 299 |
+
},
|
| 300 |
+
"evaluator": "deterministic only",
|
| 301 |
+
"config_hash": "b63f9320f5c7e033803bfbb0da96397f4ccb9999ce7004899cb8643c52cb3ba8"
|
| 302 |
+
}
|
metadata/manifest.json
ADDED
|
@@ -0,0 +1,101 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"run_id": "20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320",
|
| 3 |
+
"project_name": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
|
| 4 |
+
"status": "completed",
|
| 5 |
+
"config_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/config.resolved.json",
|
| 6 |
+
"plan_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/plan.json",
|
| 7 |
+
"database_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/run.db",
|
| 8 |
+
"created_at": "2026-07-24T20:48:33.957273+00:00",
|
| 9 |
+
"updated_at": "2026-07-24T21:20:54.877715+00:00",
|
| 10 |
+
"environment": {
|
| 11 |
+
"python": "3.12.13",
|
| 12 |
+
"platform": "Linux-7.0.0-22-generic-x86_64-with-glibc2.43",
|
| 13 |
+
"gpus": [
|
| 14 |
+
{
|
| 15 |
+
"index": 0,
|
| 16 |
+
"name": "NVIDIA RTX 4000 Ada Generation",
|
| 17 |
+
"memory_total_mb": 20475,
|
| 18 |
+
"memory_free_mb": 20260,
|
| 19 |
+
"driver": "580.159.03"
|
| 20 |
+
},
|
| 21 |
+
{
|
| 22 |
+
"index": 1,
|
| 23 |
+
"name": "NVIDIA RTX 4000 Ada Generation",
|
| 24 |
+
"memory_total_mb": 20475,
|
| 25 |
+
"memory_free_mb": 20044,
|
| 26 |
+
"driver": "580.159.03"
|
| 27 |
+
},
|
| 28 |
+
{
|
| 29 |
+
"index": 2,
|
| 30 |
+
"name": "NVIDIA RTX 4000 Ada Generation",
|
| 31 |
+
"memory_total_mb": 20475,
|
| 32 |
+
"memory_free_mb": 20260,
|
| 33 |
+
"driver": "580.159.03"
|
| 34 |
+
},
|
| 35 |
+
{
|
| 36 |
+
"index": 3,
|
| 37 |
+
"name": "NVIDIA RTX 4000 Ada Generation",
|
| 38 |
+
"memory_total_mb": 20475,
|
| 39 |
+
"memory_free_mb": 20260,
|
| 40 |
+
"driver": "580.159.03"
|
| 41 |
+
}
|
| 42 |
+
],
|
| 43 |
+
"plugins": {
|
| 44 |
+
"sources": [
|
| 45 |
+
"huggingface",
|
| 46 |
+
"local"
|
| 47 |
+
],
|
| 48 |
+
"tasks": [
|
| 49 |
+
"binary_qa_exact",
|
| 50 |
+
"brazilian_cultural_choice",
|
| 51 |
+
"causal_multiple_choice",
|
| 52 |
+
"classification",
|
| 53 |
+
"closed_qa",
|
| 54 |
+
"comparison",
|
| 55 |
+
"concept_explanation",
|
| 56 |
+
"definition",
|
| 57 |
+
"didactic_explanation",
|
| 58 |
+
"extractive_qa",
|
| 59 |
+
"fact_checking",
|
| 60 |
+
"fact_verification_exact",
|
| 61 |
+
"information_extraction",
|
| 62 |
+
"intent_classification",
|
| 63 |
+
"multiple_choice_exact",
|
| 64 |
+
"reasoning",
|
| 65 |
+
"rewrite",
|
| 66 |
+
"semantic_similarity",
|
| 67 |
+
"sentiment_exact",
|
| 68 |
+
"short_answer",
|
| 69 |
+
"structured_extraction",
|
| 70 |
+
"summarization",
|
| 71 |
+
"taxonomy",
|
| 72 |
+
"textual_entailment",
|
| 73 |
+
"timeline"
|
| 74 |
+
],
|
| 75 |
+
"backends": [
|
| 76 |
+
"fake",
|
| 77 |
+
"openai_api",
|
| 78 |
+
"openai_compatible",
|
| 79 |
+
"vllm_local"
|
| 80 |
+
],
|
| 81 |
+
"evaluators": [
|
| 82 |
+
"composite"
|
| 83 |
+
],
|
| 84 |
+
"exporters": [
|
| 85 |
+
"alpaca",
|
| 86 |
+
"messages",
|
| 87 |
+
"prompt_completion"
|
| 88 |
+
]
|
| 89 |
+
},
|
| 90 |
+
"packages": {
|
| 91 |
+
"pydantic": true,
|
| 92 |
+
"typer": true,
|
| 93 |
+
"rich": true,
|
| 94 |
+
"datasets": true,
|
| 95 |
+
"vllm": true,
|
| 96 |
+
"openai": true,
|
| 97 |
+
"tiktoken": true,
|
| 98 |
+
"pyarrow": true
|
| 99 |
+
}
|
| 100 |
+
}
|
| 101 |
+
}
|
metadata/plan.json
ADDED
|
@@ -0,0 +1,84 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"version": "3",
|
| 3 |
+
"planning_mode": "document_task_matrix",
|
| 4 |
+
"project_name": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
|
| 5 |
+
"run_id": "20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320",
|
| 6 |
+
"config_hash": "b63f9320f5c7e033803bfbb0da96397f4ccb9999ce7004899cb8643c52cb3ba8",
|
| 7 |
+
"seed": 42,
|
| 8 |
+
"created_at": "2026-07-24T20:48:33.957056+00:00",
|
| 9 |
+
"corpus_snapshot": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/corpus-selected",
|
| 10 |
+
"database_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/run.db",
|
| 11 |
+
"documents": [],
|
| 12 |
+
"reserve_document_ids": [],
|
| 13 |
+
"slots": [],
|
| 14 |
+
"task_names": [
|
| 15 |
+
"definition",
|
| 16 |
+
"closed_qa",
|
| 17 |
+
"summarization",
|
| 18 |
+
"information_extraction",
|
| 19 |
+
"comparison",
|
| 20 |
+
"classification",
|
| 21 |
+
"timeline",
|
| 22 |
+
"rewrite",
|
| 23 |
+
"concept_explanation",
|
| 24 |
+
"structured_extraction",
|
| 25 |
+
"fact_checking",
|
| 26 |
+
"taxonomy",
|
| 27 |
+
"short_answer",
|
| 28 |
+
"didactic_explanation",
|
| 29 |
+
"reasoning",
|
| 30 |
+
"multiple_choice_exact",
|
| 31 |
+
"binary_qa_exact",
|
| 32 |
+
"textual_entailment",
|
| 33 |
+
"semantic_similarity",
|
| 34 |
+
"extractive_qa",
|
| 35 |
+
"causal_multiple_choice",
|
| 36 |
+
"brazilian_cultural_choice",
|
| 37 |
+
"fact_verification_exact",
|
| 38 |
+
"sentiment_exact",
|
| 39 |
+
"intent_classification"
|
| 40 |
+
],
|
| 41 |
+
"tasks_per_document": 25,
|
| 42 |
+
"planned_pairs": 25,
|
| 43 |
+
"initial_requests": 25,
|
| 44 |
+
"max_requests": 75,
|
| 45 |
+
"estimates": {
|
| 46 |
+
"planning_mode": "document_task_matrix",
|
| 47 |
+
"eligible_documents": 1,
|
| 48 |
+
"selected_documents": 1,
|
| 49 |
+
"primary_documents": 1,
|
| 50 |
+
"reserve_documents": 0,
|
| 51 |
+
"task_names": [
|
| 52 |
+
"definition",
|
| 53 |
+
"closed_qa",
|
| 54 |
+
"summarization",
|
| 55 |
+
"information_extraction",
|
| 56 |
+
"comparison",
|
| 57 |
+
"classification",
|
| 58 |
+
"timeline",
|
| 59 |
+
"rewrite",
|
| 60 |
+
"concept_explanation",
|
| 61 |
+
"structured_extraction",
|
| 62 |
+
"fact_checking",
|
| 63 |
+
"taxonomy",
|
| 64 |
+
"short_answer",
|
| 65 |
+
"didactic_explanation",
|
| 66 |
+
"reasoning",
|
| 67 |
+
"multiple_choice_exact",
|
| 68 |
+
"binary_qa_exact",
|
| 69 |
+
"textual_entailment",
|
| 70 |
+
"semantic_similarity",
|
| 71 |
+
"extractive_qa",
|
| 72 |
+
"causal_multiple_choice",
|
| 73 |
+
"brazilian_cultural_choice",
|
| 74 |
+
"fact_verification_exact",
|
| 75 |
+
"sentiment_exact",
|
| 76 |
+
"intent_classification"
|
| 77 |
+
],
|
| 78 |
+
"tasks_per_document": 25,
|
| 79 |
+
"planned_pairs": 25,
|
| 80 |
+
"initial_requests": 25,
|
| 81 |
+
"max_requests": 75,
|
| 82 |
+
"estimated_input_tokens": 522550
|
| 83 |
+
}
|
| 84 |
+
}
|
metadata/report.json
ADDED
|
@@ -0,0 +1,303 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"run_id": "20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320",
|
| 3 |
+
"status": "completed",
|
| 4 |
+
"target_examples": 25,
|
| 5 |
+
"accepted_examples": 25,
|
| 6 |
+
"attempted_examples": 36,
|
| 7 |
+
"rejected_examples": 0,
|
| 8 |
+
"reviewed_examples": 0,
|
| 9 |
+
"speculative_examples": 0,
|
| 10 |
+
"llm_judged_examples": 0,
|
| 11 |
+
"planned_pairs": 25,
|
| 12 |
+
"skipped_pairs": 0,
|
| 13 |
+
"exhausted_pairs": 0,
|
| 14 |
+
"attempted_calls": 27,
|
| 15 |
+
"skips_by_task": {},
|
| 16 |
+
"skips_by_reason": {},
|
| 17 |
+
"deficits": {},
|
| 18 |
+
"metrics": {
|
| 19 |
+
"acceptance_rate": 0.9259259259259259,
|
| 20 |
+
"llm_judge_coverage": 0.0,
|
| 21 |
+
"semantic_judge_configured": false,
|
| 22 |
+
"python": "3.12.13",
|
| 23 |
+
"backend_calls": {
|
| 24 |
+
"dispatched": 27,
|
| 25 |
+
"results_received": 27
|
| 26 |
+
},
|
| 27 |
+
"generation": {
|
| 28 |
+
"requests": 0,
|
| 29 |
+
"duration_seconds": 0.0,
|
| 30 |
+
"model_startup_seconds": 0.0,
|
| 31 |
+
"requests_per_minute": 0.0,
|
| 32 |
+
"input_tokens": 0,
|
| 33 |
+
"output_tokens": 0,
|
| 34 |
+
"tokens_per_second": 0.0,
|
| 35 |
+
"latency_p50_seconds": 0.0,
|
| 36 |
+
"latency_p95_seconds": 0.0,
|
| 37 |
+
"max_worker_queue_depth": 0,
|
| 38 |
+
"gpu": {
|
| 39 |
+
"sample_count": 0,
|
| 40 |
+
"gpu_count": 0,
|
| 41 |
+
"average_utilization_percent": null,
|
| 42 |
+
"peak_memory_used_mb": null
|
| 43 |
+
},
|
| 44 |
+
"rounds": []
|
| 45 |
+
},
|
| 46 |
+
"evaluation": {
|
| 47 |
+
"requests": 0,
|
| 48 |
+
"duration_seconds": 0.0,
|
| 49 |
+
"model_startup_seconds": 0.0,
|
| 50 |
+
"requests_per_minute": 0.0,
|
| 51 |
+
"input_tokens": 0,
|
| 52 |
+
"output_tokens": 0,
|
| 53 |
+
"tokens_per_second": 0.0,
|
| 54 |
+
"latency_p50_seconds": 0.0,
|
| 55 |
+
"latency_p95_seconds": 0.0,
|
| 56 |
+
"max_worker_queue_depth": 0,
|
| 57 |
+
"gpu": {
|
| 58 |
+
"sample_count": 0,
|
| 59 |
+
"gpu_count": 0,
|
| 60 |
+
"average_utilization_percent": null,
|
| 61 |
+
"peak_memory_used_mb": null
|
| 62 |
+
},
|
| 63 |
+
"rounds": []
|
| 64 |
+
},
|
| 65 |
+
"tokens": {
|
| 66 |
+
"input_tokens": 602472,
|
| 67 |
+
"ordinary_input_tokens": 22219,
|
| 68 |
+
"cached_input_tokens": 580253,
|
| 69 |
+
"cache_write_tokens": 0,
|
| 70 |
+
"output_tokens": 47146,
|
| 71 |
+
"reasoning_tokens": 41647,
|
| 72 |
+
"cache_hit_rate": 0.96312
|
| 73 |
+
},
|
| 74 |
+
"cost": {
|
| 75 |
+
"actual_cost_microusd": 453900,
|
| 76 |
+
"estimated_cost_microusd": 1640027,
|
| 77 |
+
"reserved_cost_microusd": 0,
|
| 78 |
+
"projected_cost_microusd": 453900,
|
| 79 |
+
"actual_cost_usd": 0.4539,
|
| 80 |
+
"estimated_cost_usd": 1.640027,
|
| 81 |
+
"reserved_cost_usd": 0.0,
|
| 82 |
+
"projected_cost_usd": 0.4539,
|
| 83 |
+
"cost_per_accepted_usd": 0.018156,
|
| 84 |
+
"by_task": {
|
| 85 |
+
"binary_qa_exact": {
|
| 86 |
+
"calls": 2,
|
| 87 |
+
"actual_cost_microusd": 9176,
|
| 88 |
+
"actual_cost_usd": 0.009176,
|
| 89 |
+
"cost_per_accepted_usd": 0.009176
|
| 90 |
+
},
|
| 91 |
+
"brazilian_cultural_choice": {
|
| 92 |
+
"calls": 3,
|
| 93 |
+
"actual_cost_microusd": 34299,
|
| 94 |
+
"actual_cost_usd": 0.034299,
|
| 95 |
+
"cost_per_accepted_usd": 0.034299
|
| 96 |
+
},
|
| 97 |
+
"causal_multiple_choice": {
|
| 98 |
+
"calls": 3,
|
| 99 |
+
"actual_cost_microusd": 52556,
|
| 100 |
+
"actual_cost_usd": 0.052556,
|
| 101 |
+
"cost_per_accepted_usd": 0.052556
|
| 102 |
+
},
|
| 103 |
+
"classification": {
|
| 104 |
+
"calls": 1,
|
| 105 |
+
"actual_cost_microusd": 13586,
|
| 106 |
+
"actual_cost_usd": 0.013586,
|
| 107 |
+
"cost_per_accepted_usd": 0.013586
|
| 108 |
+
},
|
| 109 |
+
"closed_qa": {
|
| 110 |
+
"calls": 1,
|
| 111 |
+
"actual_cost_microusd": 12878,
|
| 112 |
+
"actual_cost_usd": 0.012878,
|
| 113 |
+
"cost_per_accepted_usd": 0.012878
|
| 114 |
+
},
|
| 115 |
+
"comparison": {
|
| 116 |
+
"calls": 1,
|
| 117 |
+
"actual_cost_microusd": 27767,
|
| 118 |
+
"actual_cost_usd": 0.027767,
|
| 119 |
+
"cost_per_accepted_usd": 0.027767
|
| 120 |
+
},
|
| 121 |
+
"concept_explanation": {
|
| 122 |
+
"calls": 1,
|
| 123 |
+
"actual_cost_microusd": 13585,
|
| 124 |
+
"actual_cost_usd": 0.013585,
|
| 125 |
+
"cost_per_accepted_usd": 0.013585
|
| 126 |
+
},
|
| 127 |
+
"definition": {
|
| 128 |
+
"calls": 1,
|
| 129 |
+
"actual_cost_microusd": 38709,
|
| 130 |
+
"actual_cost_usd": 0.038709,
|
| 131 |
+
"cost_per_accepted_usd": 0.038709
|
| 132 |
+
},
|
| 133 |
+
"didactic_explanation": {
|
| 134 |
+
"calls": 1,
|
| 135 |
+
"actual_cost_microusd": 28347,
|
| 136 |
+
"actual_cost_usd": 0.028347,
|
| 137 |
+
"cost_per_accepted_usd": 0.028347
|
| 138 |
+
},
|
| 139 |
+
"extractive_qa": {
|
| 140 |
+
"calls": 2,
|
| 141 |
+
"actual_cost_microusd": 7464,
|
| 142 |
+
"actual_cost_usd": 0.007464,
|
| 143 |
+
"cost_per_accepted_usd": 0.007464
|
| 144 |
+
},
|
| 145 |
+
"fact_checking": {
|
| 146 |
+
"calls": 1,
|
| 147 |
+
"actual_cost_microusd": 8420,
|
| 148 |
+
"actual_cost_usd": 0.00842,
|
| 149 |
+
"cost_per_accepted_usd": 0.00842
|
| 150 |
+
},
|
| 151 |
+
"fact_verification_exact": {
|
| 152 |
+
"calls": 2,
|
| 153 |
+
"actual_cost_microusd": 11344,
|
| 154 |
+
"actual_cost_usd": 0.011344,
|
| 155 |
+
"cost_per_accepted_usd": 0.011344
|
| 156 |
+
},
|
| 157 |
+
"information_extraction": {
|
| 158 |
+
"calls": 1,
|
| 159 |
+
"actual_cost_microusd": 10481,
|
| 160 |
+
"actual_cost_usd": 0.010481,
|
| 161 |
+
"cost_per_accepted_usd": 0.010481
|
| 162 |
+
},
|
| 163 |
+
"intent_classification": {
|
| 164 |
+
"calls": 2,
|
| 165 |
+
"actual_cost_microusd": 12225,
|
| 166 |
+
"actual_cost_usd": 0.012225,
|
| 167 |
+
"cost_per_accepted_usd": 0.012225
|
| 168 |
+
},
|
| 169 |
+
"multiple_choice_exact": {
|
| 170 |
+
"calls": 1,
|
| 171 |
+
"actual_cost_microusd": 25081,
|
| 172 |
+
"actual_cost_usd": 0.025081,
|
| 173 |
+
"cost_per_accepted_usd": 0.025081
|
| 174 |
+
},
|
| 175 |
+
"reasoning": {
|
| 176 |
+
"calls": 1,
|
| 177 |
+
"actual_cost_microusd": 22542,
|
| 178 |
+
"actual_cost_usd": 0.022542,
|
| 179 |
+
"cost_per_accepted_usd": 0.022542
|
| 180 |
+
},
|
| 181 |
+
"rewrite": {
|
| 182 |
+
"calls": 1,
|
| 183 |
+
"actual_cost_microusd": 11863,
|
| 184 |
+
"actual_cost_usd": 0.011863,
|
| 185 |
+
"cost_per_accepted_usd": 0.011863
|
| 186 |
+
},
|
| 187 |
+
"semantic_similarity": {
|
| 188 |
+
"calls": 2,
|
| 189 |
+
"actual_cost_microusd": 7881,
|
| 190 |
+
"actual_cost_usd": 0.007881,
|
| 191 |
+
"cost_per_accepted_usd": 0.007881
|
| 192 |
+
},
|
| 193 |
+
"sentiment_exact": {
|
| 194 |
+
"calls": 2,
|
| 195 |
+
"actual_cost_microusd": 8143,
|
| 196 |
+
"actual_cost_usd": 0.008143,
|
| 197 |
+
"cost_per_accepted_usd": 0.008143
|
| 198 |
+
},
|
| 199 |
+
"short_answer": {
|
| 200 |
+
"calls": 1,
|
| 201 |
+
"actual_cost_microusd": 22125,
|
| 202 |
+
"actual_cost_usd": 0.022125,
|
| 203 |
+
"cost_per_accepted_usd": 0.022125
|
| 204 |
+
},
|
| 205 |
+
"structured_extraction": {
|
| 206 |
+
"calls": 1,
|
| 207 |
+
"actual_cost_microusd": 18173,
|
| 208 |
+
"actual_cost_usd": 0.018173,
|
| 209 |
+
"cost_per_accepted_usd": 0.018173
|
| 210 |
+
},
|
| 211 |
+
"summarization": {
|
| 212 |
+
"calls": 1,
|
| 213 |
+
"actual_cost_microusd": 9749,
|
| 214 |
+
"actual_cost_usd": 0.009749,
|
| 215 |
+
"cost_per_accepted_usd": 0.009749
|
| 216 |
+
},
|
| 217 |
+
"taxonomy": {
|
| 218 |
+
"calls": 1,
|
| 219 |
+
"actual_cost_microusd": 14942,
|
| 220 |
+
"actual_cost_usd": 0.014942,
|
| 221 |
+
"cost_per_accepted_usd": 0.014942
|
| 222 |
+
},
|
| 223 |
+
"textual_entailment": {
|
| 224 |
+
"calls": 2,
|
| 225 |
+
"actual_cost_microusd": 9199,
|
| 226 |
+
"actual_cost_usd": 0.009199,
|
| 227 |
+
"cost_per_accepted_usd": 0.009199
|
| 228 |
+
},
|
| 229 |
+
"timeline": {
|
| 230 |
+
"calls": 1,
|
| 231 |
+
"actual_cost_microusd": 23365,
|
| 232 |
+
"actual_cost_usd": 0.023365,
|
| 233 |
+
"cost_per_accepted_usd": 0.023365
|
| 234 |
+
}
|
| 235 |
+
}
|
| 236 |
+
},
|
| 237 |
+
"api_operations": {
|
| 238 |
+
"calls": 27,
|
| 239 |
+
"retries": 2,
|
| 240 |
+
"rate_limit_errors": 0,
|
| 241 |
+
"timeout_errors": 0,
|
| 242 |
+
"failed_attempts": 2,
|
| 243 |
+
"latency_p50_seconds": 0.0,
|
| 244 |
+
"latency_p95_seconds": 0.0,
|
| 245 |
+
"batch_duration_p50_seconds": 391.0,
|
| 246 |
+
"batch_duration_p95_seconds": 515.0,
|
| 247 |
+
"remote_batches_by_status": {
|
| 248 |
+
"processed": 3
|
| 249 |
+
}
|
| 250 |
+
},
|
| 251 |
+
"remote_batches": [
|
| 252 |
+
{
|
| 253 |
+
"batch_key": "bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e",
|
| 254 |
+
"remote_batch_id": "batch_6a63cfa509648190a1f4a61846387a52",
|
| 255 |
+
"input_file_id": "file-B856wsHKi9hacN7U6X9BZe",
|
| 256 |
+
"output_file_id": "file-TkTmB4JtwxBvuuduaUHtrq",
|
| 257 |
+
"error_file_id": null,
|
| 258 |
+
"status": "processed",
|
| 259 |
+
"request_count": 15,
|
| 260 |
+
"completed_count": 15,
|
| 261 |
+
"failed_count": 0,
|
| 262 |
+
"estimated_cost_microusd": 909909,
|
| 263 |
+
"actual_cost_microusd": 276532,
|
| 264 |
+
"metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e\"}",
|
| 265 |
+
"created_at": "2026-07-24 20:48:35",
|
| 266 |
+
"updated_at": "2026-07-24 20:57:10"
|
| 267 |
+
},
|
| 268 |
+
{
|
| 269 |
+
"batch_key": "fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa",
|
| 270 |
+
"remote_batch_id": "batch_6a63d1a81510819086c8ec4f76d416c8",
|
| 271 |
+
"input_file_id": "file-UCQFE124FvVGfCaymbXQUF",
|
| 272 |
+
"output_file_id": "file-Tj7fLXijmZ2DkasqPSqPx4",
|
| 273 |
+
"error_file_id": null,
|
| 274 |
+
"status": "processed",
|
| 275 |
+
"request_count": 10,
|
| 276 |
+
"completed_count": 10,
|
| 277 |
+
"failed_count": 0,
|
| 278 |
+
"estimated_cost_microusd": 607496,
|
| 279 |
+
"actual_cost_microusd": 131833,
|
| 280 |
+
"metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa\"}",
|
| 281 |
+
"created_at": "2026-07-24 20:57:11",
|
| 282 |
+
"updated_at": "2026-07-24 21:03:42"
|
| 283 |
+
},
|
| 284 |
+
{
|
| 285 |
+
"batch_key": "430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6",
|
| 286 |
+
"remote_batch_id": "batch_6a63d32f0b708190ab055a8025b3f561",
|
| 287 |
+
"input_file_id": "file-GSeNZdfuvyNfMCyutSCv1M",
|
| 288 |
+
"output_file_id": "file-Uq44pr4sJ58XiAaB2ipJzA",
|
| 289 |
+
"error_file_id": null,
|
| 290 |
+
"status": "processed",
|
| 291 |
+
"request_count": 2,
|
| 292 |
+
"completed_count": 2,
|
| 293 |
+
"failed_count": 0,
|
| 294 |
+
"estimated_cost_microusd": 122622,
|
| 295 |
+
"actual_cost_microusd": 45535,
|
| 296 |
+
"metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6\"}",
|
| 297 |
+
"created_at": "2026-07-24 21:03:42",
|
| 298 |
+
"updated_at": "2026-07-24 21:08:20"
|
| 299 |
+
}
|
| 300 |
+
]
|
| 301 |
+
},
|
| 302 |
+
"finished_at": "2026-07-24T21:20:54.875005+00:00"
|
| 303 |
+
}
|
prompt_completion/train.jsonl
ADDED
|
@@ -0,0 +1,25 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{"id": "slot-00000001-a1", "prompt": "Defina o Brasil.", "completion": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 2 |
+
{"id": "slot-00000002-a1", "prompt": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "completion": "governador", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 3 |
+
{"id": "slot-00000003-a1", "prompt": "Resuma as características do programa espacial brasileiro.", "completion": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 4 |
+
{"id": "slot-00000004-a1", "prompt": "Extraia os esportes mencionados no formato Campo = valor.", "completion": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 5 |
+
{"id": "slot-00000005-a1", "prompt": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "completion": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 6 |
+
{"id": "slot-00000006-a1", "prompt": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "completion": "mais avançado da América Latina", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 7 |
+
{"id": "slot-00000007-a1", "prompt": "Organize quatro acontecimentos em ordem cronológica.", "completion": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do ve��culo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 8 |
+
{"id": "slot-00000008-a1", "prompt": "Reescreva a frase com ordem sintática diferente, preservando o sentido.\n\nEntrada:\nO Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "completion": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 9 |
+
{"id": "slot-00000009-a1", "prompt": "Explique quais capacidades caracterizam o programa espacial brasileiro.", "completion": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 10 |
+
{"id": "slot-00000010-a1", "prompt": "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "completion": "Primeiro astronauta brasileiro = Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 11 |
+
{"id": "slot-00000011-a1", "prompt": "Verifique a afirmação apresentada.\n\nEntrada:\nO skate está entre os esportes mais praticados no Brasil.", "completion": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 12 |
+
{"id": "slot-00000012-a1", "prompt": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "completion": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 13 |
+
{"id": "slot-00000013-a1", "prompt": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "completion": "Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 14 |
+
{"id": "slot-00000014-a1", "prompt": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "completion": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 15 |
+
{"id": "slot-00000015-a1", "prompt": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "completion": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 16 |
+
{"id": "slot-00000016-a1", "prompt": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace", "completion": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 17 |
+
{"id": "slot-00000017-a2", "prompt": "Responda à pergunta usando exatamente Sim ou Não.\n\nEntrada:\nPassagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?", "completion": "Sim", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 18 |
+
{"id": "slot-00000018-a2", "prompt": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.\n\nEntrada:\nPremissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil.", "completion": "Implicação", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 19 |
+
{"id": "slot-00000019-a2", "prompt": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.\n\nEntrada:\nSentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "completion": "5", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 20 |
+
{"id": "slot-00000020-a2", "prompt": "Extraia da passagem somente o trecho literal que responde à pergunta.\n\nEntrada:\nPassagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?", "completion": "capoeira", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 21 |
+
{"id": "slot-00000021-a3", "prompt": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central", "completion": "A", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 22 |
+
{"id": "slot-00000022-a3", "prompt": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.\n\nEntrada:\nPergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei", "completion": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 23 |
+
{"id": "slot-00000023-a2", "prompt": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.\n\nEntrada:\nContexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil.", "completion": "Verdadeiro", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 24 |
+
{"id": "slot-00000024-a2", "prompt": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.\n\nEntrada:\nTexto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "completion": "neutra", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|
| 25 |
+
{"id": "slot-00000025-a2", "prompt": "Classifique a intenção da solicitação usando somente uma classe permitida.\n\nEntrada:\nSolicitação:\nComece uma partida de futsal.", "completion": "tocar/jogar", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
|