costadev00 commited on
Commit
894cc7d
·
verified ·
1 Parent(s): 3c313a9

Publish completed OpenAI Terra Batch Brasil x 25 smoke test

Browse files

Curated exports and audit metadata for the completed 25-task document matrix smoke run. Raw API requests, source excerpt, run.db and Batch transport files are intentionally excluded.

README.md ADDED
@@ -0,0 +1,158 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pretty_name: "Smoke OpenAI Terra Batch — Brasil × 25 tasks"
3
+ language:
4
+ - pt
5
+ task_categories:
6
+ - text-generation
7
+ - question-answering
8
+ - summarization
9
+ - text-classification
10
+ size_categories:
11
+ - n<1K
12
+ tags:
13
+ - synthetic-data
14
+ - supervised-fine-tuning
15
+ - sft
16
+ - portuguese
17
+ - brazilian-portuguese
18
+ - wikipedia
19
+ - openai
20
+ - batch-api
21
+ configs:
22
+ - config_name: messages
23
+ data_files:
24
+ - split: train
25
+ path: messages/train.jsonl
26
+ - config_name: prompt_completion
27
+ data_files:
28
+ - split: train
29
+ path: prompt_completion/train.jsonl
30
+ - config_name: alpaca
31
+ data_files:
32
+ - split: train
33
+ path: alpaca/train.jsonl
34
+ - config_name: canonical
35
+ data_files:
36
+ - split: train
37
+ path: canonical/train.jsonl
38
+ ---
39
+
40
+ # Smoke OpenAI Terra Batch — Brasil × 25 tasks
41
+
42
+ Run real de validação do fluxo matricial `document_task_matrix`, executada
43
+ sobre um único documento da Wikipédia em português com o título **Brasil**.
44
+ Cada uma das 25 tasks canônicas recebeu exatamente um slot inicial.
45
+
46
+ ## Resultado
47
+
48
+ - status: `completed`
49
+ - documentos: 1
50
+ - pares planejados: 25
51
+ - exemplos aceitos: 25
52
+ - pares pulados: 0
53
+ - pares esgotados: 0
54
+ - resultados reais do backend: 27
55
+ - retries com nova chamada: 2
56
+ - backend: `openai_api`
57
+ - modalidade: Responses API Batch
58
+ - modelo: `gpt-5.6-terra`
59
+ - custo calculado pelo usage: US$ 0,453900
60
+ - tokens de entrada: 602.472
61
+ - tokens de entrada em cache: 580.253
62
+ - cache hit rate: 96,312%
63
+ - tokens de saída: 47.146
64
+ - reasoning tokens reportados: 41.647
65
+
66
+ Três batches remotos foram processados, sem requests remotamente falhos. Uma
67
+ retomada posterior preservou exatamente 27 resultados e três batches, sem
68
+ duplicar chamadas.
69
+
70
+ ## Tasks e tentativas
71
+
72
+ | Task | Status | Tentativas do slot | Resultados do backend |
73
+ |---|---:|---:|---:|
74
+ | `definition` | accepted | 1 | 1 |
75
+ | `closed_qa` | accepted | 1 | 1 |
76
+ | `summarization` | accepted | 1 | 1 |
77
+ | `information_extraction` | accepted | 1 | 1 |
78
+ | `comparison` | accepted | 1 | 1 |
79
+ | `classification` | accepted | 1 | 1 |
80
+ | `timeline` | accepted | 1 | 1 |
81
+ | `rewrite` | accepted | 1 | 1 |
82
+ | `concept_explanation` | accepted | 1 | 1 |
83
+ | `structured_extraction` | accepted | 1 | 1 |
84
+ | `fact_checking` | accepted | 1 | 1 |
85
+ | `taxonomy` | accepted | 1 | 1 |
86
+ | `short_answer` | accepted | 1 | 1 |
87
+ | `didactic_explanation` | accepted | 1 | 1 |
88
+ | `reasoning` | accepted | 1 | 1 |
89
+ | `multiple_choice_exact` | accepted | 1 | 1 |
90
+ | `binary_qa_exact` | accepted | 2 | 1 |
91
+ | `textual_entailment` | accepted | 2 | 1 |
92
+ | `semantic_similarity` | accepted | 2 | 1 |
93
+ | `extractive_qa` | accepted | 2 | 1 |
94
+ | `causal_multiple_choice` | accepted | 3 | 2 |
95
+ | `brazilian_cultural_choice` | accepted | 3 | 2 |
96
+ | `fact_verification_exact` | accepted | 2 | 1 |
97
+ | `sentiment_exact` | accepted | 2 | 1 |
98
+ | `intent_classification` | accepted | 2 | 1 |
99
+
100
+ Algumas tentativas reservadas foram liberadas antes do despacho pelo controle
101
+ de orçamento; por isso a contagem durável do slot pode ser maior que a
102
+ quantidade de resultados pagos do backend.
103
+
104
+ ## Formatos
105
+
106
+ - `messages`: conversas com exatamente as roles `system`, `user` e `assistant`;
107
+ - `prompt_completion`: prompt e completion;
108
+ - `alpaca`: `instruction`, `input` e `output`;
109
+ - `canonical`: candidatos completos, incluindo task, dificuldade, evidências
110
+ e metadados de geração.
111
+
112
+ Somente candidatos aceitos aparecem nesses arquivos. Requests da API,
113
+ `source_excerpt`, banco SQLite, corpus local e arquivos brutos de Batch não
114
+ fazem parte desta publicação.
115
+
116
+ ## Validação
117
+
118
+ Todos os 25 payloads aceitos foram novamente validados contra o documento
119
+ selecionado. A auditoria verificou:
120
+
121
+ - plano v3 e unicidade dos 25 pares documento–task;
122
+ - backend `openai_api`, modalidade Batch e modelo fixo;
123
+ - exatamente as roles `system`, `user` e `assistant`;
124
+ - contratos de respostas exatas;
125
+ - spans extrativos literais;
126
+ - evidências e offsets;
127
+ - formato `<think>...</think>` somente em `reasoning`;
128
+ - ausência de slots pending ou exhausted;
129
+ - conciliação do custo dos resultados com os batches remotos;
130
+ - igualdade dos contadores antes e depois de `resume`.
131
+
132
+ Os artefatos de auditoria ficam em `metadata/`: configuração resolvida, plano,
133
+ manifesto, relatório final e `generation_info.json`.
134
+
135
+ ## Reprodução
136
+
137
+ ```bash
138
+ RUN=runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-<novo-id>
139
+
140
+ .venv/bin/sft-dataset plan \
141
+ --config smoke/openai-smoke-gpt-5.6-terra-batch-brasil.json \
142
+ --run-dir "$RUN"
143
+
144
+ .venv/bin/sft-dataset run --plan "$RUN/plan.json"
145
+ .venv/bin/sft-dataset run --resume "$RUN"
146
+ .venv/bin/python smoke/verify_openai_batch_run.py "$RUN"
147
+ ```
148
+
149
+ ## Origem e limitações
150
+
151
+ O exemplo deriva do registro `id=0`, título `Brasil`, do snapshot local criado
152
+ a partir de `costadev00/wiki-brazil`. Consulte o dataset-fonte e a Wikipédia
153
+ para termos de atribuição e licenciamento.
154
+
155
+ Este repositório é um smoke test de integração com somente 25 exemplos. Ele
156
+ serve para auditoria da pipeline e não constitui um benchmark de qualidade nem
157
+ um corpus suficiente para treinamento isolado. As respostas são sintéticas e
158
+ devem ser revisadas antes de uso em produção.
alpaca/train.jsonl ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {"id": "slot-00000001-a1", "instruction": "Defina o Brasil.", "input": "", "output": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
2
+ {"id": "slot-00000002-a1", "instruction": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "input": "", "output": "governador", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
3
+ {"id": "slot-00000003-a1", "instruction": "Resuma as características do programa espacial brasileiro.", "input": "", "output": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
4
+ {"id": "slot-00000004-a1", "instruction": "Extraia os esportes mencionados no formato Campo = valor.", "input": "", "output": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
5
+ {"id": "slot-00000005-a1", "instruction": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "input": "", "output": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
6
+ {"id": "slot-00000006-a1", "instruction": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "input": "", "output": "mais avançado da América Latina", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
7
+ {"id": "slot-00000007-a1", "instruction": "Organize quatro acontecimentos em ordem cronológica.", "input": "", "output": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
8
+ {"id": "slot-00000008-a1", "instruction": "Reescreva a frase com ordem sintática diferente, preservando o sentido.", "input": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "output": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
9
+ {"id": "slot-00000009-a1", "instruction": "Explique quais capacidades caracterizam o programa espacial brasileiro.", "input": "", "output": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
10
+ {"id": "slot-00000010-a1", "instruction": "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "input": "", "output": "Primeiro astronauta brasileiro = Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
11
+ {"id": "slot-00000011-a1", "instruction": "Verifique a afirmação apresentada.", "input": "O skate está entre os esportes mais praticados no Brasil.", "output": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
12
+ {"id": "slot-00000012-a1", "instruction": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "input": "", "output": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
13
+ {"id": "slot-00000013-a1", "instruction": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "input": "", "output": "Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
14
+ {"id": "slot-00000014-a1", "instruction": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "input": "", "output": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
15
+ {"id": "slot-00000015-a1", "instruction": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "input": "", "output": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
16
+ {"id": "slot-00000016-a1", "instruction": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace", "output": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
17
+ {"id": "slot-00000017-a2", "instruction": "Responda à pergunta usando exatamente Sim ou Não.", "input": "Passagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?", "output": "Sim", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
18
+ {"id": "slot-00000018-a2", "instruction": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.", "input": "Premissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil.", "output": "Implicação", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
19
+ {"id": "slot-00000019-a2", "instruction": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.", "input": "Sentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "5", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
20
+ {"id": "slot-00000020-a2", "instruction": "Extraia da passagem somente o trecho literal que responde à pergunta.", "input": "Passagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?", "output": "capoeira", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
21
+ {"id": "slot-00000021-a3", "instruction": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central", "output": "A", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
22
+ {"id": "slot-00000022-a3", "instruction": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.", "input": "Pergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei", "output": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
23
+ {"id": "slot-00000023-a2", "instruction": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.", "input": "Contexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil.", "output": "Verdadeiro", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
24
+ {"id": "slot-00000024-a2", "instruction": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.", "input": "Texto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "neutra", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
25
+ {"id": "slot-00000025-a2", "instruction": "Classifique a intenção da solicitação usando somente uma classe permitida.", "input": "Solicitação:\nComece uma partida de futsal.", "output": "tocar/jogar", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
canonical/train.jsonl ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {"id": "slot-00000001-a1", "slot_id": "slot-00000001", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "instruction": "Defina o Brasil.", "input": "", "output": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Defina o Brasil."}, {"role": "assistant", "content": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina."}], "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "definition", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Defina o Brasil.", "", "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
2
+ {"id": "slot-00000002-a1", "slot_id": "slot-00000002", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "instruction": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "input": "", "output": "governador", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?"}, {"role": "assistant", "content": "governador"}], "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "closed_qa", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "", "governador"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
3
+ {"id": "slot-00000003-a1", "slot_id": "slot-00000003", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "instruction": "Resuma as características do programa espacial brasileiro.", "input": "", "output": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Resuma as características do programa espacial brasileiro."}, {"role": "assistant", "content": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "summarization", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Resuma as características do programa espacial brasileiro.", "", "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
4
+ {"id": "slot-00000004-a1", "slot_id": "slot-00000004", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "instruction": "Extraia os esportes mencionados no formato Campo = valor.", "input": "", "output": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia os esportes mencionados no formato Campo = valor."}, {"role": "assistant", "content": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "information_extraction", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Extraia os esportes mencionados no formato Campo = valor.", "", "Esportes mencionados = capoeira, skate, surfe, judô e atletismo"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
5
+ {"id": "slot-00000005-a1", "slot_id": "slot-00000005", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "instruction": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "input": "", "output": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste."}, {"role": "assistant", "content": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns."}], "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "comparison", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "", "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
6
+ {"id": "slot-00000006-a1", "slot_id": "slot-00000006", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "instruction": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "input": "", "output": "mais avançado da América Latina", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente."}, {"role": "assistant", "content": "mais avançado da América Latina"}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "classification", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "", "mais avançado da América Latina"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
7
+ {"id": "slot-00000007-a1", "slot_id": "slot-00000007", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "instruction": "Organize quatro acontecimentos em ordem cronológica.", "input": "", "output": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Organize quatro acontecimentos em ordem cronológica."}, {"role": "assistant", "content": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "timeline", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Organize quatro acontecimentos em ordem cronológica.", "", "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
8
+ {"id": "slot-00000008-a1", "slot_id": "slot-00000008", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "instruction": "Reescreva a frase com ordem sintática diferente, preservando o sentido.", "input": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "output": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Reescreva a frase com ordem sintática diferente, preservando o sentido.\n\nEntrada:\nO Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}, {"role": "assistant", "content": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "rewrite", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Reescreva a frase com ordem sintática diferente, preservando o sentido.", "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
9
+ {"id": "slot-00000009-a1", "slot_id": "slot-00000009", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "instruction": "Explique quais capacidades caracterizam o programa espacial brasileiro.", "input": "", "output": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique quais capacidades caracterizam o programa espacial brasileiro."}, {"role": "assistant", "content": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "concept_explanation", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Explique quais capacidades caracterizam o programa espacial brasileiro.", "", "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
10
+ {"id": "slot-00000010-a1", "slot_id": "slot-00000010", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "instruction": "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "input": "", "output": "Primeiro astronauta brasileiro = Marcos Pontes", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia o primeiro astronauta brasileiro no formato Campo = valor."}, {"role": "assistant", "content": "Primeiro astronauta brasileiro = Marcos Pontes"}], "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "structured_extraction", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "", "Primeiro astronauta brasileiro = Marcos Pontes"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
11
+ {"id": "slot-00000011-a1", "slot_id": "slot-00000011", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "instruction": "Verifique a afirmação apresentada.", "input": "O skate está entre os esportes mais praticados no Brasil.", "output": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Verifique a afirmação apresentada.\n\nEntrada:\nO skate está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil."}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "fact_checking", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Verifique a afirmação apresentada.", "O skate está entre os esportes mais praticados no Brasil.", "Verdadeiro: o skate está entre os esportes mais praticados no Brasil."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
12
+ {"id": "slot-00000012-a1", "slot_id": "slot-00000012", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "instruction": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "input": "", "output": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país."}, {"role": "assistant", "content": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "taxonomy", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "", "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
13
+ {"id": "slot-00000013-a1", "slot_id": "slot-00000013", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "instruction": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "input": "", "output": "Marcos Pontes", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?"}, {"role": "assistant", "content": "Marcos Pontes"}], "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "short_answer", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "", "Marcos Pontes"], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
14
+ {"id": "slot-00000014-a1", "slot_id": "slot-00000014", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "instruction": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "input": "", "output": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro."}, {"role": "assistant", "content": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "didactic_explanation", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "", "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
15
+ {"id": "slot-00000015-a1", "slot_id": "slot-00000015", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "instruction": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "input": "", "output": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro.", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes."}, {"role": "assistant", "content": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro."}], "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "reasoning", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "", "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro."], "visible_source_quotes": []}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
16
+ {"id": "slot-00000016-a1", "slot_id": "slot-00000016", "attempt": 1, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "instruction": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace", "output": "B", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace"}, {"role": "assistant", "content": "B"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "multiple_choice_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?", "Emerson Fittipaldi", "Nelson Piquet", "Ayrton Senna", "Autódromo José Carlos Pace"], "visible_source_quotes": ["Emerson Fittipaldi, em 1972 e 1974", "Nelson Piquet, em 1981, 1983 e 1987", "Ayrton Senna, em 1988, 1990 e 1991", "Autódromo José Carlos Pace"], "choice_labels": ["A", "B", "C", "D"]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
17
+ {"id": "slot-00000017-a2", "slot_id": "slot-00000017", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "instruction": "Responda à pergunta usando exatamente Sim ou Não.", "input": "Passagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?", "output": "Sim", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Responda à pergunta usando exatamente Sim ou Não.\n\nEntrada:\nPassagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?"}, {"role": "assistant", "content": "Sim"}], "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "binary_qa_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "O Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?"], "visible_source_quotes": ["do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
18
+ {"id": "slot-00000018-a2", "slot_id": "slot-00000018", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "instruction": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.", "input": "Premissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil.", "output": "Implicação", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.\n\nEntrada:\nPremissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Implicação"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "textual_entailment", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "O atletismo está entre os esportes mais praticados no Brasil."], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
19
+ {"id": "slot-00000019-a2", "slot_id": "slot-00000019", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "instruction": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.", "input": "Sentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "5", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.\n\nEntrada:\nSentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "5"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "semantic_similarity", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
20
+ {"id": "slot-00000020-a2", "slot_id": "slot-00000020", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "instruction": "Extraia da passagem somente o trecho literal que responde à pergunta.", "input": "Passagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?", "output": "capoeira", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia da passagem somente o trecho literal que responde à pergunta.\n\nEntrada:\nPassagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?"}, {"role": "assistant", "content": "capoeira"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "extractive_qa", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual arte marcial é mencionada entre os esportes mais praticados no país?"], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
21
+ {"id": "slot-00000023-a2", "slot_id": "slot-00000023", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "instruction": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.", "input": "Contexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil.", "output": "Verdadeiro", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.\n\nEntrada:\nContexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil."}, {"role": "assistant", "content": "Verdadeiro"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "fact_verification_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "A peteca é um esporte criado no Brasil."], "visible_source_quotes": ["Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
22
+ {"id": "slot-00000024-a2", "slot_id": "slot-00000024", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "instruction": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.", "input": "Texto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "output": "neutra", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.\n\nEntrada:\nTexto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "neutra"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "sentiment_exact", "reference_values": ["Você é um assistente prestativo, preciso e objetivo."], "visible_source_quotes": ["capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
23
+ {"id": "slot-00000025-a2", "slot_id": "slot-00000025", "attempt": 2, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "instruction": "Classifique a intenção da solicitação usando somente uma classe permitida.", "input": "Solicitação:\nComece uma partida de futsal.", "output": "tocar/jogar", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a intenção da solicitação usando somente uma classe permitida.\n\nEntrada:\nSolicitação:\nComece uma partida de futsal."}, {"role": "assistant", "content": "tocar/jogar"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "intent_classification", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Comece uma partida de futsal."], "visible_source_quotes": ["Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."]}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
24
+ {"id": "slot-00000021-a3", "slot_id": "slot-00000021", "attempt": 3, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "instruction": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.", "input": "Pergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central", "output": "A", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central"}, {"role": "assistant", "content": "A"}], "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "causal_multiple_choice", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?", "longos períodos de seca", "florestas equatoriais no Norte", "regiões semiáridas no Nordeste", "savanas tropicais no Brasil central"], "visible_source_quotes": ["No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca.", "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central.", "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central.", "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central.", "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."], "choice_labels": ["A", "B", "C", "D"], "causal_supported": true}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
25
+ {"id": "slot-00000022-a3", "slot_id": "slot-00000022", "attempt": 3, "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "instruction": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.", "input": "Pergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei", "output": "B", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.\n\nEntrada:\nPergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei"}, {"role": "assistant", "content": "B"}], "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "metadata": {"risk": "low", "raw_response_stored": true, "task_contract": {"task": "brazilian_cultural_choice", "reference_values": ["Você é um assistente prestativo, preciso e objetivo.", "Qual variação do futebol é apresentada como sua versão oficial em ambiente fechado?", "Futebol de praia", "futsal", "futetênis", "futebol de saco", "futevôlei"], "visible_source_quotes": ["Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol.", "Algumas variações de esportes têm suas origens no Brasil."], "choice_labels": ["A", "B", "C", "D", "E"], "brazilian_supported": true}, "context_truncated": false, "chunk_id": null, "document_title": "Brasil"}, "generator": "openai_api", "model": "gpt-5.6-terra"}
messages/train.jsonl ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {"id": "slot-00000001-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Defina o Brasil."}, {"role": "assistant", "content": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
2
+ {"id": "slot-00000002-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?"}, {"role": "assistant", "content": "governador"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
3
+ {"id": "slot-00000003-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Resuma as características do programa espacial brasileiro."}, {"role": "assistant", "content": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
4
+ {"id": "slot-00000004-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia os esportes mencionados no formato Campo = valor."}, {"role": "assistant", "content": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
5
+ {"id": "slot-00000005-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste."}, {"role": "assistant", "content": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
6
+ {"id": "slot-00000006-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente."}, {"role": "assistant", "content": "mais avançado da América Latina"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
7
+ {"id": "slot-00000007-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Organize quatro acontecimentos em ordem cronológica."}, {"role": "assistant", "content": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
8
+ {"id": "slot-00000008-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Reescreva a frase com ordem sintática diferente, preservando o sentido.\n\nEntrada:\nO Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}, {"role": "assistant", "content": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
9
+ {"id": "slot-00000009-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique quais capacidades caracterizam o programa espacial brasileiro."}, {"role": "assistant", "content": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
10
+ {"id": "slot-00000010-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia o primeiro astronauta brasileiro no formato Campo = valor."}, {"role": "assistant", "content": "Primeiro astronauta brasileiro = Marcos Pontes"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
11
+ {"id": "slot-00000011-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Verifique a afirmação apresentada.\n\nEntrada:\nO skate está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
12
+ {"id": "slot-00000012-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país."}, {"role": "assistant", "content": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
13
+ {"id": "slot-00000013-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?"}, {"role": "assistant", "content": "Marcos Pontes"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
14
+ {"id": "slot-00000014-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro."}, {"role": "assistant", "content": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
15
+ {"id": "slot-00000015-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes."}, {"role": "assistant", "content": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro."}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
16
+ {"id": "slot-00000016-a1", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace"}, {"role": "assistant", "content": "B"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
17
+ {"id": "slot-00000017-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Responda à pergunta usando exatamente Sim ou Não.\n\nEntrada:\nPassagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?"}, {"role": "assistant", "content": "Sim"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
18
+ {"id": "slot-00000018-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.\n\nEntrada:\nPremissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil."}, {"role": "assistant", "content": "Implicação"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
19
+ {"id": "slot-00000019-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.\n\nEntrada:\nSentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "5"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
20
+ {"id": "slot-00000020-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Extraia da passagem somente o trecho literal que responde à pergunta.\n\nEntrada:\nPassagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?"}, {"role": "assistant", "content": "capoeira"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
21
+ {"id": "slot-00000021-a3", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central"}, {"role": "assistant", "content": "A"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
22
+ {"id": "slot-00000022-a3", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.\n\nEntrada:\nPergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei"}, {"role": "assistant", "content": "B"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
23
+ {"id": "slot-00000023-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.\n\nEntrada:\nContexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil."}, {"role": "assistant", "content": "Verdadeiro"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
24
+ {"id": "slot-00000024-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.\n\nEntrada:\nTexto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}, {"role": "assistant", "content": "neutra"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
25
+ {"id": "slot-00000025-a2", "messages": [{"role": "system", "content": "Você é um assistente prestativo, preciso e objetivo."}, {"role": "user", "content": "Classifique a intenção da solicitação usando somente uma classe permitida.\n\nEntrada:\nSolicitação:\nComece uma partida de futsal."}, {"role": "assistant", "content": "tocar/jogar"}], "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
metadata/config.resolved.json ADDED
@@ -0,0 +1,162 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "planning_mode": "document_task_matrix",
3
+ "name": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
4
+ "language": "pt-BR",
5
+ "profile": null,
6
+ "source": {
7
+ "plugin": "local",
8
+ "params": {
9
+ "path": "runs/wiki-brazil-full-1000/corpus-selected.jsonl",
10
+ "format": "jsonl"
11
+ },
12
+ "field_map": {
13
+ "id": "id",
14
+ "text": "text",
15
+ "title": "title",
16
+ "sections": "sections",
17
+ "license": "license",
18
+ "source": "source"
19
+ }
20
+ },
21
+ "selection": {
22
+ "count": 1,
23
+ "fraction": null,
24
+ "seed": 42,
25
+ "strata": [],
26
+ "filters": {
27
+ "id": "0"
28
+ }
29
+ },
30
+ "target": {
31
+ "max_attempts_per_slot": 3
32
+ },
33
+ "task_names": [
34
+ "definition",
35
+ "closed_qa",
36
+ "summarization",
37
+ "information_extraction",
38
+ "comparison",
39
+ "classification",
40
+ "timeline",
41
+ "rewrite",
42
+ "concept_explanation",
43
+ "structured_extraction",
44
+ "fact_checking",
45
+ "taxonomy",
46
+ "short_answer",
47
+ "didactic_explanation",
48
+ "reasoning",
49
+ "multiple_choice_exact",
50
+ "binary_qa_exact",
51
+ "textual_entailment",
52
+ "semantic_similarity",
53
+ "extractive_qa",
54
+ "causal_multiple_choice",
55
+ "brazilian_cultural_choice",
56
+ "fact_verification_exact",
57
+ "sentiment_exact",
58
+ "intent_classification"
59
+ ],
60
+ "generation": {
61
+ "plugin": "openai_api",
62
+ "params": {
63
+ "api_mode": "batch",
64
+ "api_key_env": "OPENAI_API_KEY",
65
+ "budget_usd": 1.0,
66
+ "budget_stop_usd": 0.95,
67
+ "reasoning_effort": "low",
68
+ "text_verbosity": "low",
69
+ "poll_interval_seconds": 10.0,
70
+ "batch_max_requests": 100,
71
+ "batch_max_queued_tokens": 4500000,
72
+ "max_active_batches": 2,
73
+ "token_estimate_margin": 1.1,
74
+ "price_snapshot": {
75
+ "date": "2026-07-24",
76
+ "source": "https://developers.openai.com/api/docs/models/gpt-5.6-terra",
77
+ "model": "gpt-5.6-terra",
78
+ "currency": "USD",
79
+ "input_per_million": 2.5,
80
+ "cached_input_per_million": 0.25,
81
+ "output_per_million": 15.0,
82
+ "context_window": 1050000,
83
+ "max_output_tokens": 128000,
84
+ "long_context_threshold": 272000,
85
+ "long_input_multiplier": 2.0,
86
+ "long_output_multiplier": 1.5,
87
+ "cache_write_multiplier": 1.25,
88
+ "batch_discount": 0.5
89
+ }
90
+ },
91
+ "model": "gpt-5.6-terra",
92
+ "model_revision": null,
93
+ "context_window": 1050000,
94
+ "max_input_tokens": 1045904,
95
+ "max_output_tokens": 4096,
96
+ "temperature": 0.1,
97
+ "batching": {
98
+ "mode": "async",
99
+ "max_inflight_requests": 4,
100
+ "queue_capacity": 8,
101
+ "preparation_batch_size": 25,
102
+ "request_timeout_seconds": 900.0
103
+ }
104
+ },
105
+ "evaluation": {
106
+ "plugin": "composite",
107
+ "deterministic": true,
108
+ "llm": null,
109
+ "routing": {
110
+ "audit_fraction": 0.1,
111
+ "judge_hard_tasks": true,
112
+ "judge_truncated_context": true,
113
+ "judge_high_risk": true,
114
+ "judge_weak_grounding": true
115
+ },
116
+ "acceptance": {
117
+ "overall_score": 4.0,
118
+ "grounding_score": 4.0
119
+ },
120
+ "near_duplicate_threshold": 0.92
121
+ },
122
+ "output": {
123
+ "formats": [
124
+ "messages",
125
+ "prompt_completion",
126
+ "alpaca"
127
+ ],
128
+ "containers": [
129
+ "jsonl"
130
+ ],
131
+ "splits": {
132
+ "train": 1.0,
133
+ "validation": 0.0,
134
+ "test": 0.0
135
+ }
136
+ },
137
+ "runtime": {
138
+ "run_root": "runs",
139
+ "cache_dir": ".cache/sft-dataset-creator",
140
+ "store_model_io": null,
141
+ "fail_on_partial": true,
142
+ "checkpoint": {
143
+ "enabled": true,
144
+ "formats": [
145
+ "canonical",
146
+ "messages",
147
+ "prompt_completion",
148
+ "alpaca"
149
+ ],
150
+ "shard_size": 25,
151
+ "progress_interval_seconds": 5.0,
152
+ "scheduler_batch_size": 25,
153
+ "document_cache_size": 1,
154
+ "attempt_storage": "full"
155
+ }
156
+ },
157
+ "publish": {
158
+ "repo_id": null,
159
+ "private": true,
160
+ "token_env": "HF_TOKEN"
161
+ }
162
+ }
metadata/generation_info.json ADDED
@@ -0,0 +1,302 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "project": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
3
+ "planning_mode": "document_task_matrix",
4
+ "examples": 25,
5
+ "task_names": [
6
+ "definition",
7
+ "closed_qa",
8
+ "summarization",
9
+ "information_extraction",
10
+ "comparison",
11
+ "classification",
12
+ "timeline",
13
+ "rewrite",
14
+ "concept_explanation",
15
+ "structured_extraction",
16
+ "fact_checking",
17
+ "taxonomy",
18
+ "short_answer",
19
+ "didactic_explanation",
20
+ "reasoning",
21
+ "multiple_choice_exact",
22
+ "binary_qa_exact",
23
+ "textual_entailment",
24
+ "semantic_similarity",
25
+ "extractive_qa",
26
+ "causal_multiple_choice",
27
+ "brazilian_cultural_choice",
28
+ "fact_verification_exact",
29
+ "sentiment_exact",
30
+ "intent_classification"
31
+ ],
32
+ "planned_pairs": 25,
33
+ "initial_requests": 25,
34
+ "max_requests": 75,
35
+ "accepted_examples": 25,
36
+ "skipped_pairs": 0,
37
+ "formats": [
38
+ "messages",
39
+ "prompt_completion",
40
+ "alpaca"
41
+ ],
42
+ "containers": [
43
+ "jsonl"
44
+ ],
45
+ "generator": "gpt-5.6-terra",
46
+ "generator_backend": "openai_api",
47
+ "billing_mode": "batch",
48
+ "tokens": {
49
+ "input_tokens": 602472,
50
+ "ordinary_input_tokens": 22219,
51
+ "cached_input_tokens": 580253,
52
+ "cache_write_tokens": 0,
53
+ "output_tokens": 47146,
54
+ "reasoning_tokens": 41647,
55
+ "cache_hit_rate": 0.96312
56
+ },
57
+ "cost": {
58
+ "actual_cost_microusd": 453900,
59
+ "estimated_cost_microusd": 1640027,
60
+ "reserved_cost_microusd": 0,
61
+ "projected_cost_microusd": 453900,
62
+ "actual_cost_usd": 0.4539,
63
+ "estimated_cost_usd": 1.640027,
64
+ "reserved_cost_usd": 0.0,
65
+ "projected_cost_usd": 0.4539,
66
+ "cost_per_accepted_usd": 0.018156,
67
+ "by_task": {
68
+ "binary_qa_exact": {
69
+ "calls": 2,
70
+ "actual_cost_microusd": 9176,
71
+ "actual_cost_usd": 0.009176,
72
+ "cost_per_accepted_usd": 0.009176
73
+ },
74
+ "brazilian_cultural_choice": {
75
+ "calls": 3,
76
+ "actual_cost_microusd": 34299,
77
+ "actual_cost_usd": 0.034299,
78
+ "cost_per_accepted_usd": 0.034299
79
+ },
80
+ "causal_multiple_choice": {
81
+ "calls": 3,
82
+ "actual_cost_microusd": 52556,
83
+ "actual_cost_usd": 0.052556,
84
+ "cost_per_accepted_usd": 0.052556
85
+ },
86
+ "classification": {
87
+ "calls": 1,
88
+ "actual_cost_microusd": 13586,
89
+ "actual_cost_usd": 0.013586,
90
+ "cost_per_accepted_usd": 0.013586
91
+ },
92
+ "closed_qa": {
93
+ "calls": 1,
94
+ "actual_cost_microusd": 12878,
95
+ "actual_cost_usd": 0.012878,
96
+ "cost_per_accepted_usd": 0.012878
97
+ },
98
+ "comparison": {
99
+ "calls": 1,
100
+ "actual_cost_microusd": 27767,
101
+ "actual_cost_usd": 0.027767,
102
+ "cost_per_accepted_usd": 0.027767
103
+ },
104
+ "concept_explanation": {
105
+ "calls": 1,
106
+ "actual_cost_microusd": 13585,
107
+ "actual_cost_usd": 0.013585,
108
+ "cost_per_accepted_usd": 0.013585
109
+ },
110
+ "definition": {
111
+ "calls": 1,
112
+ "actual_cost_microusd": 38709,
113
+ "actual_cost_usd": 0.038709,
114
+ "cost_per_accepted_usd": 0.038709
115
+ },
116
+ "didactic_explanation": {
117
+ "calls": 1,
118
+ "actual_cost_microusd": 28347,
119
+ "actual_cost_usd": 0.028347,
120
+ "cost_per_accepted_usd": 0.028347
121
+ },
122
+ "extractive_qa": {
123
+ "calls": 2,
124
+ "actual_cost_microusd": 7464,
125
+ "actual_cost_usd": 0.007464,
126
+ "cost_per_accepted_usd": 0.007464
127
+ },
128
+ "fact_checking": {
129
+ "calls": 1,
130
+ "actual_cost_microusd": 8420,
131
+ "actual_cost_usd": 0.00842,
132
+ "cost_per_accepted_usd": 0.00842
133
+ },
134
+ "fact_verification_exact": {
135
+ "calls": 2,
136
+ "actual_cost_microusd": 11344,
137
+ "actual_cost_usd": 0.011344,
138
+ "cost_per_accepted_usd": 0.011344
139
+ },
140
+ "information_extraction": {
141
+ "calls": 1,
142
+ "actual_cost_microusd": 10481,
143
+ "actual_cost_usd": 0.010481,
144
+ "cost_per_accepted_usd": 0.010481
145
+ },
146
+ "intent_classification": {
147
+ "calls": 2,
148
+ "actual_cost_microusd": 12225,
149
+ "actual_cost_usd": 0.012225,
150
+ "cost_per_accepted_usd": 0.012225
151
+ },
152
+ "multiple_choice_exact": {
153
+ "calls": 1,
154
+ "actual_cost_microusd": 25081,
155
+ "actual_cost_usd": 0.025081,
156
+ "cost_per_accepted_usd": 0.025081
157
+ },
158
+ "reasoning": {
159
+ "calls": 1,
160
+ "actual_cost_microusd": 22542,
161
+ "actual_cost_usd": 0.022542,
162
+ "cost_per_accepted_usd": 0.022542
163
+ },
164
+ "rewrite": {
165
+ "calls": 1,
166
+ "actual_cost_microusd": 11863,
167
+ "actual_cost_usd": 0.011863,
168
+ "cost_per_accepted_usd": 0.011863
169
+ },
170
+ "semantic_similarity": {
171
+ "calls": 2,
172
+ "actual_cost_microusd": 7881,
173
+ "actual_cost_usd": 0.007881,
174
+ "cost_per_accepted_usd": 0.007881
175
+ },
176
+ "sentiment_exact": {
177
+ "calls": 2,
178
+ "actual_cost_microusd": 8143,
179
+ "actual_cost_usd": 0.008143,
180
+ "cost_per_accepted_usd": 0.008143
181
+ },
182
+ "short_answer": {
183
+ "calls": 1,
184
+ "actual_cost_microusd": 22125,
185
+ "actual_cost_usd": 0.022125,
186
+ "cost_per_accepted_usd": 0.022125
187
+ },
188
+ "structured_extraction": {
189
+ "calls": 1,
190
+ "actual_cost_microusd": 18173,
191
+ "actual_cost_usd": 0.018173,
192
+ "cost_per_accepted_usd": 0.018173
193
+ },
194
+ "summarization": {
195
+ "calls": 1,
196
+ "actual_cost_microusd": 9749,
197
+ "actual_cost_usd": 0.009749,
198
+ "cost_per_accepted_usd": 0.009749
199
+ },
200
+ "taxonomy": {
201
+ "calls": 1,
202
+ "actual_cost_microusd": 14942,
203
+ "actual_cost_usd": 0.014942,
204
+ "cost_per_accepted_usd": 0.014942
205
+ },
206
+ "textual_entailment": {
207
+ "calls": 2,
208
+ "actual_cost_microusd": 9199,
209
+ "actual_cost_usd": 0.009199,
210
+ "cost_per_accepted_usd": 0.009199
211
+ },
212
+ "timeline": {
213
+ "calls": 1,
214
+ "actual_cost_microusd": 23365,
215
+ "actual_cost_usd": 0.023365,
216
+ "cost_per_accepted_usd": 0.023365
217
+ }
218
+ }
219
+ },
220
+ "api_operations": {
221
+ "calls": 27,
222
+ "retries": 2,
223
+ "rate_limit_errors": 0,
224
+ "timeout_errors": 0,
225
+ "failed_attempts": 2,
226
+ "latency_p50_seconds": 0.0,
227
+ "latency_p95_seconds": 0.0,
228
+ "batch_duration_p50_seconds": 391.0,
229
+ "batch_duration_p95_seconds": 515.0,
230
+ "remote_batches_by_status": {
231
+ "processed": 3
232
+ }
233
+ },
234
+ "remote_batches": [
235
+ {
236
+ "batch_key": "bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e",
237
+ "remote_batch_id": "batch_6a63cfa509648190a1f4a61846387a52",
238
+ "input_file_id": "file-B856wsHKi9hacN7U6X9BZe",
239
+ "output_file_id": "file-TkTmB4JtwxBvuuduaUHtrq",
240
+ "error_file_id": null,
241
+ "status": "processed",
242
+ "request_count": 15,
243
+ "completed_count": 15,
244
+ "failed_count": 0,
245
+ "estimated_cost_microusd": 909909,
246
+ "actual_cost_microusd": 276532,
247
+ "metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e\"}",
248
+ "created_at": "2026-07-24 20:48:35",
249
+ "updated_at": "2026-07-24 20:57:10"
250
+ },
251
+ {
252
+ "batch_key": "fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa",
253
+ "remote_batch_id": "batch_6a63d1a81510819086c8ec4f76d416c8",
254
+ "input_file_id": "file-UCQFE124FvVGfCaymbXQUF",
255
+ "output_file_id": "file-Tj7fLXijmZ2DkasqPSqPx4",
256
+ "error_file_id": null,
257
+ "status": "processed",
258
+ "request_count": 10,
259
+ "completed_count": 10,
260
+ "failed_count": 0,
261
+ "estimated_cost_microusd": 607496,
262
+ "actual_cost_microusd": 131833,
263
+ "metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa\"}",
264
+ "created_at": "2026-07-24 20:57:11",
265
+ "updated_at": "2026-07-24 21:03:42"
266
+ },
267
+ {
268
+ "batch_key": "430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6",
269
+ "remote_batch_id": "batch_6a63d32f0b708190ab055a8025b3f561",
270
+ "input_file_id": "file-GSeNZdfuvyNfMCyutSCv1M",
271
+ "output_file_id": "file-Uq44pr4sJ58XiAaB2ipJzA",
272
+ "error_file_id": null,
273
+ "status": "processed",
274
+ "request_count": 2,
275
+ "completed_count": 2,
276
+ "failed_count": 0,
277
+ "estimated_cost_microusd": 122622,
278
+ "actual_cost_microusd": 45535,
279
+ "metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6\"}",
280
+ "created_at": "2026-07-24 21:03:42",
281
+ "updated_at": "2026-07-24 21:08:20"
282
+ }
283
+ ],
284
+ "price_snapshot": {
285
+ "date": "2026-07-24",
286
+ "source": "https://developers.openai.com/api/docs/models/gpt-5.6-terra",
287
+ "model": "gpt-5.6-terra",
288
+ "currency": "USD",
289
+ "input_per_million": 2.5,
290
+ "cached_input_per_million": 0.25,
291
+ "output_per_million": 15.0,
292
+ "context_window": 1050000,
293
+ "max_output_tokens": 128000,
294
+ "long_context_threshold": 272000,
295
+ "long_input_multiplier": 2.0,
296
+ "long_output_multiplier": 1.5,
297
+ "cache_write_multiplier": 1.25,
298
+ "batch_discount": 0.5
299
+ },
300
+ "evaluator": "deterministic only",
301
+ "config_hash": "b63f9320f5c7e033803bfbb0da96397f4ccb9999ce7004899cb8643c52cb3ba8"
302
+ }
metadata/manifest.json ADDED
@@ -0,0 +1,101 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "run_id": "20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320",
3
+ "project_name": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
4
+ "status": "completed",
5
+ "config_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/config.resolved.json",
6
+ "plan_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/plan.json",
7
+ "database_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/run.db",
8
+ "created_at": "2026-07-24T20:48:33.957273+00:00",
9
+ "updated_at": "2026-07-24T21:20:54.877715+00:00",
10
+ "environment": {
11
+ "python": "3.12.13",
12
+ "platform": "Linux-7.0.0-22-generic-x86_64-with-glibc2.43",
13
+ "gpus": [
14
+ {
15
+ "index": 0,
16
+ "name": "NVIDIA RTX 4000 Ada Generation",
17
+ "memory_total_mb": 20475,
18
+ "memory_free_mb": 20260,
19
+ "driver": "580.159.03"
20
+ },
21
+ {
22
+ "index": 1,
23
+ "name": "NVIDIA RTX 4000 Ada Generation",
24
+ "memory_total_mb": 20475,
25
+ "memory_free_mb": 20044,
26
+ "driver": "580.159.03"
27
+ },
28
+ {
29
+ "index": 2,
30
+ "name": "NVIDIA RTX 4000 Ada Generation",
31
+ "memory_total_mb": 20475,
32
+ "memory_free_mb": 20260,
33
+ "driver": "580.159.03"
34
+ },
35
+ {
36
+ "index": 3,
37
+ "name": "NVIDIA RTX 4000 Ada Generation",
38
+ "memory_total_mb": 20475,
39
+ "memory_free_mb": 20260,
40
+ "driver": "580.159.03"
41
+ }
42
+ ],
43
+ "plugins": {
44
+ "sources": [
45
+ "huggingface",
46
+ "local"
47
+ ],
48
+ "tasks": [
49
+ "binary_qa_exact",
50
+ "brazilian_cultural_choice",
51
+ "causal_multiple_choice",
52
+ "classification",
53
+ "closed_qa",
54
+ "comparison",
55
+ "concept_explanation",
56
+ "definition",
57
+ "didactic_explanation",
58
+ "extractive_qa",
59
+ "fact_checking",
60
+ "fact_verification_exact",
61
+ "information_extraction",
62
+ "intent_classification",
63
+ "multiple_choice_exact",
64
+ "reasoning",
65
+ "rewrite",
66
+ "semantic_similarity",
67
+ "sentiment_exact",
68
+ "short_answer",
69
+ "structured_extraction",
70
+ "summarization",
71
+ "taxonomy",
72
+ "textual_entailment",
73
+ "timeline"
74
+ ],
75
+ "backends": [
76
+ "fake",
77
+ "openai_api",
78
+ "openai_compatible",
79
+ "vllm_local"
80
+ ],
81
+ "evaluators": [
82
+ "composite"
83
+ ],
84
+ "exporters": [
85
+ "alpaca",
86
+ "messages",
87
+ "prompt_completion"
88
+ ]
89
+ },
90
+ "packages": {
91
+ "pydantic": true,
92
+ "typer": true,
93
+ "rich": true,
94
+ "datasets": true,
95
+ "vllm": true,
96
+ "openai": true,
97
+ "tiktoken": true,
98
+ "pyarrow": true
99
+ }
100
+ }
101
+ }
metadata/plan.json ADDED
@@ -0,0 +1,84 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "3",
3
+ "planning_mode": "document_task_matrix",
4
+ "project_name": "smoke-openai-gpt-5.6-terra-batch-wikipedia-brasil-25",
5
+ "run_id": "20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320",
6
+ "config_hash": "b63f9320f5c7e033803bfbb0da96397f4ccb9999ce7004899cb8643c52cb3ba8",
7
+ "seed": 42,
8
+ "created_at": "2026-07-24T20:48:33.957056+00:00",
9
+ "corpus_snapshot": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/corpus-selected",
10
+ "database_path": "/home/matheuscm/sft-dataset-creator/runs/openai-smoke-batch-gpt-5.6-terra-brasil-25-20260724-01/run.db",
11
+ "documents": [],
12
+ "reserve_document_ids": [],
13
+ "slots": [],
14
+ "task_names": [
15
+ "definition",
16
+ "closed_qa",
17
+ "summarization",
18
+ "information_extraction",
19
+ "comparison",
20
+ "classification",
21
+ "timeline",
22
+ "rewrite",
23
+ "concept_explanation",
24
+ "structured_extraction",
25
+ "fact_checking",
26
+ "taxonomy",
27
+ "short_answer",
28
+ "didactic_explanation",
29
+ "reasoning",
30
+ "multiple_choice_exact",
31
+ "binary_qa_exact",
32
+ "textual_entailment",
33
+ "semantic_similarity",
34
+ "extractive_qa",
35
+ "causal_multiple_choice",
36
+ "brazilian_cultural_choice",
37
+ "fact_verification_exact",
38
+ "sentiment_exact",
39
+ "intent_classification"
40
+ ],
41
+ "tasks_per_document": 25,
42
+ "planned_pairs": 25,
43
+ "initial_requests": 25,
44
+ "max_requests": 75,
45
+ "estimates": {
46
+ "planning_mode": "document_task_matrix",
47
+ "eligible_documents": 1,
48
+ "selected_documents": 1,
49
+ "primary_documents": 1,
50
+ "reserve_documents": 0,
51
+ "task_names": [
52
+ "definition",
53
+ "closed_qa",
54
+ "summarization",
55
+ "information_extraction",
56
+ "comparison",
57
+ "classification",
58
+ "timeline",
59
+ "rewrite",
60
+ "concept_explanation",
61
+ "structured_extraction",
62
+ "fact_checking",
63
+ "taxonomy",
64
+ "short_answer",
65
+ "didactic_explanation",
66
+ "reasoning",
67
+ "multiple_choice_exact",
68
+ "binary_qa_exact",
69
+ "textual_entailment",
70
+ "semantic_similarity",
71
+ "extractive_qa",
72
+ "causal_multiple_choice",
73
+ "brazilian_cultural_choice",
74
+ "fact_verification_exact",
75
+ "sentiment_exact",
76
+ "intent_classification"
77
+ ],
78
+ "tasks_per_document": 25,
79
+ "planned_pairs": 25,
80
+ "initial_requests": 25,
81
+ "max_requests": 75,
82
+ "estimated_input_tokens": 522550
83
+ }
84
+ }
metadata/report.json ADDED
@@ -0,0 +1,303 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "run_id": "20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320",
3
+ "status": "completed",
4
+ "target_examples": 25,
5
+ "accepted_examples": 25,
6
+ "attempted_examples": 36,
7
+ "rejected_examples": 0,
8
+ "reviewed_examples": 0,
9
+ "speculative_examples": 0,
10
+ "llm_judged_examples": 0,
11
+ "planned_pairs": 25,
12
+ "skipped_pairs": 0,
13
+ "exhausted_pairs": 0,
14
+ "attempted_calls": 27,
15
+ "skips_by_task": {},
16
+ "skips_by_reason": {},
17
+ "deficits": {},
18
+ "metrics": {
19
+ "acceptance_rate": 0.9259259259259259,
20
+ "llm_judge_coverage": 0.0,
21
+ "semantic_judge_configured": false,
22
+ "python": "3.12.13",
23
+ "backend_calls": {
24
+ "dispatched": 27,
25
+ "results_received": 27
26
+ },
27
+ "generation": {
28
+ "requests": 0,
29
+ "duration_seconds": 0.0,
30
+ "model_startup_seconds": 0.0,
31
+ "requests_per_minute": 0.0,
32
+ "input_tokens": 0,
33
+ "output_tokens": 0,
34
+ "tokens_per_second": 0.0,
35
+ "latency_p50_seconds": 0.0,
36
+ "latency_p95_seconds": 0.0,
37
+ "max_worker_queue_depth": 0,
38
+ "gpu": {
39
+ "sample_count": 0,
40
+ "gpu_count": 0,
41
+ "average_utilization_percent": null,
42
+ "peak_memory_used_mb": null
43
+ },
44
+ "rounds": []
45
+ },
46
+ "evaluation": {
47
+ "requests": 0,
48
+ "duration_seconds": 0.0,
49
+ "model_startup_seconds": 0.0,
50
+ "requests_per_minute": 0.0,
51
+ "input_tokens": 0,
52
+ "output_tokens": 0,
53
+ "tokens_per_second": 0.0,
54
+ "latency_p50_seconds": 0.0,
55
+ "latency_p95_seconds": 0.0,
56
+ "max_worker_queue_depth": 0,
57
+ "gpu": {
58
+ "sample_count": 0,
59
+ "gpu_count": 0,
60
+ "average_utilization_percent": null,
61
+ "peak_memory_used_mb": null
62
+ },
63
+ "rounds": []
64
+ },
65
+ "tokens": {
66
+ "input_tokens": 602472,
67
+ "ordinary_input_tokens": 22219,
68
+ "cached_input_tokens": 580253,
69
+ "cache_write_tokens": 0,
70
+ "output_tokens": 47146,
71
+ "reasoning_tokens": 41647,
72
+ "cache_hit_rate": 0.96312
73
+ },
74
+ "cost": {
75
+ "actual_cost_microusd": 453900,
76
+ "estimated_cost_microusd": 1640027,
77
+ "reserved_cost_microusd": 0,
78
+ "projected_cost_microusd": 453900,
79
+ "actual_cost_usd": 0.4539,
80
+ "estimated_cost_usd": 1.640027,
81
+ "reserved_cost_usd": 0.0,
82
+ "projected_cost_usd": 0.4539,
83
+ "cost_per_accepted_usd": 0.018156,
84
+ "by_task": {
85
+ "binary_qa_exact": {
86
+ "calls": 2,
87
+ "actual_cost_microusd": 9176,
88
+ "actual_cost_usd": 0.009176,
89
+ "cost_per_accepted_usd": 0.009176
90
+ },
91
+ "brazilian_cultural_choice": {
92
+ "calls": 3,
93
+ "actual_cost_microusd": 34299,
94
+ "actual_cost_usd": 0.034299,
95
+ "cost_per_accepted_usd": 0.034299
96
+ },
97
+ "causal_multiple_choice": {
98
+ "calls": 3,
99
+ "actual_cost_microusd": 52556,
100
+ "actual_cost_usd": 0.052556,
101
+ "cost_per_accepted_usd": 0.052556
102
+ },
103
+ "classification": {
104
+ "calls": 1,
105
+ "actual_cost_microusd": 13586,
106
+ "actual_cost_usd": 0.013586,
107
+ "cost_per_accepted_usd": 0.013586
108
+ },
109
+ "closed_qa": {
110
+ "calls": 1,
111
+ "actual_cost_microusd": 12878,
112
+ "actual_cost_usd": 0.012878,
113
+ "cost_per_accepted_usd": 0.012878
114
+ },
115
+ "comparison": {
116
+ "calls": 1,
117
+ "actual_cost_microusd": 27767,
118
+ "actual_cost_usd": 0.027767,
119
+ "cost_per_accepted_usd": 0.027767
120
+ },
121
+ "concept_explanation": {
122
+ "calls": 1,
123
+ "actual_cost_microusd": 13585,
124
+ "actual_cost_usd": 0.013585,
125
+ "cost_per_accepted_usd": 0.013585
126
+ },
127
+ "definition": {
128
+ "calls": 1,
129
+ "actual_cost_microusd": 38709,
130
+ "actual_cost_usd": 0.038709,
131
+ "cost_per_accepted_usd": 0.038709
132
+ },
133
+ "didactic_explanation": {
134
+ "calls": 1,
135
+ "actual_cost_microusd": 28347,
136
+ "actual_cost_usd": 0.028347,
137
+ "cost_per_accepted_usd": 0.028347
138
+ },
139
+ "extractive_qa": {
140
+ "calls": 2,
141
+ "actual_cost_microusd": 7464,
142
+ "actual_cost_usd": 0.007464,
143
+ "cost_per_accepted_usd": 0.007464
144
+ },
145
+ "fact_checking": {
146
+ "calls": 1,
147
+ "actual_cost_microusd": 8420,
148
+ "actual_cost_usd": 0.00842,
149
+ "cost_per_accepted_usd": 0.00842
150
+ },
151
+ "fact_verification_exact": {
152
+ "calls": 2,
153
+ "actual_cost_microusd": 11344,
154
+ "actual_cost_usd": 0.011344,
155
+ "cost_per_accepted_usd": 0.011344
156
+ },
157
+ "information_extraction": {
158
+ "calls": 1,
159
+ "actual_cost_microusd": 10481,
160
+ "actual_cost_usd": 0.010481,
161
+ "cost_per_accepted_usd": 0.010481
162
+ },
163
+ "intent_classification": {
164
+ "calls": 2,
165
+ "actual_cost_microusd": 12225,
166
+ "actual_cost_usd": 0.012225,
167
+ "cost_per_accepted_usd": 0.012225
168
+ },
169
+ "multiple_choice_exact": {
170
+ "calls": 1,
171
+ "actual_cost_microusd": 25081,
172
+ "actual_cost_usd": 0.025081,
173
+ "cost_per_accepted_usd": 0.025081
174
+ },
175
+ "reasoning": {
176
+ "calls": 1,
177
+ "actual_cost_microusd": 22542,
178
+ "actual_cost_usd": 0.022542,
179
+ "cost_per_accepted_usd": 0.022542
180
+ },
181
+ "rewrite": {
182
+ "calls": 1,
183
+ "actual_cost_microusd": 11863,
184
+ "actual_cost_usd": 0.011863,
185
+ "cost_per_accepted_usd": 0.011863
186
+ },
187
+ "semantic_similarity": {
188
+ "calls": 2,
189
+ "actual_cost_microusd": 7881,
190
+ "actual_cost_usd": 0.007881,
191
+ "cost_per_accepted_usd": 0.007881
192
+ },
193
+ "sentiment_exact": {
194
+ "calls": 2,
195
+ "actual_cost_microusd": 8143,
196
+ "actual_cost_usd": 0.008143,
197
+ "cost_per_accepted_usd": 0.008143
198
+ },
199
+ "short_answer": {
200
+ "calls": 1,
201
+ "actual_cost_microusd": 22125,
202
+ "actual_cost_usd": 0.022125,
203
+ "cost_per_accepted_usd": 0.022125
204
+ },
205
+ "structured_extraction": {
206
+ "calls": 1,
207
+ "actual_cost_microusd": 18173,
208
+ "actual_cost_usd": 0.018173,
209
+ "cost_per_accepted_usd": 0.018173
210
+ },
211
+ "summarization": {
212
+ "calls": 1,
213
+ "actual_cost_microusd": 9749,
214
+ "actual_cost_usd": 0.009749,
215
+ "cost_per_accepted_usd": 0.009749
216
+ },
217
+ "taxonomy": {
218
+ "calls": 1,
219
+ "actual_cost_microusd": 14942,
220
+ "actual_cost_usd": 0.014942,
221
+ "cost_per_accepted_usd": 0.014942
222
+ },
223
+ "textual_entailment": {
224
+ "calls": 2,
225
+ "actual_cost_microusd": 9199,
226
+ "actual_cost_usd": 0.009199,
227
+ "cost_per_accepted_usd": 0.009199
228
+ },
229
+ "timeline": {
230
+ "calls": 1,
231
+ "actual_cost_microusd": 23365,
232
+ "actual_cost_usd": 0.023365,
233
+ "cost_per_accepted_usd": 0.023365
234
+ }
235
+ }
236
+ },
237
+ "api_operations": {
238
+ "calls": 27,
239
+ "retries": 2,
240
+ "rate_limit_errors": 0,
241
+ "timeout_errors": 0,
242
+ "failed_attempts": 2,
243
+ "latency_p50_seconds": 0.0,
244
+ "latency_p95_seconds": 0.0,
245
+ "batch_duration_p50_seconds": 391.0,
246
+ "batch_duration_p95_seconds": 515.0,
247
+ "remote_batches_by_status": {
248
+ "processed": 3
249
+ }
250
+ },
251
+ "remote_batches": [
252
+ {
253
+ "batch_key": "bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e",
254
+ "remote_batch_id": "batch_6a63cfa509648190a1f4a61846387a52",
255
+ "input_file_id": "file-B856wsHKi9hacN7U6X9BZe",
256
+ "output_file_id": "file-TkTmB4JtwxBvuuduaUHtrq",
257
+ "error_file_id": null,
258
+ "status": "processed",
259
+ "request_count": 15,
260
+ "completed_count": 15,
261
+ "failed_count": 0,
262
+ "estimated_cost_microusd": 909909,
263
+ "actual_cost_microusd": 276532,
264
+ "metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"bda5608db843baf04d77632cb3e6f6373633a2284bc76f2b8bed6f9c1638783e\"}",
265
+ "created_at": "2026-07-24 20:48:35",
266
+ "updated_at": "2026-07-24 20:57:10"
267
+ },
268
+ {
269
+ "batch_key": "fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa",
270
+ "remote_batch_id": "batch_6a63d1a81510819086c8ec4f76d416c8",
271
+ "input_file_id": "file-UCQFE124FvVGfCaymbXQUF",
272
+ "output_file_id": "file-Tj7fLXijmZ2DkasqPSqPx4",
273
+ "error_file_id": null,
274
+ "status": "processed",
275
+ "request_count": 10,
276
+ "completed_count": 10,
277
+ "failed_count": 0,
278
+ "estimated_cost_microusd": 607496,
279
+ "actual_cost_microusd": 131833,
280
+ "metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"fdd30ff6e2c388dfe2efa79ad5f4a50c35d5c3f836d26aaaab9580b4e99bd2aa\"}",
281
+ "created_at": "2026-07-24 20:57:11",
282
+ "updated_at": "2026-07-24 21:03:42"
283
+ },
284
+ {
285
+ "batch_key": "430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6",
286
+ "remote_batch_id": "batch_6a63d32f0b708190ab055a8025b3f561",
287
+ "input_file_id": "file-GSeNZdfuvyNfMCyutSCv1M",
288
+ "output_file_id": "file-Uq44pr4sJ58XiAaB2ipJzA",
289
+ "error_file_id": null,
290
+ "status": "processed",
291
+ "request_count": 2,
292
+ "completed_count": 2,
293
+ "failed_count": 0,
294
+ "estimated_cost_microusd": 122622,
295
+ "actual_cost_microusd": 45535,
296
+ "metadata_json": "{\"run_id\": \"20260724T204833Z-smoke-openai-gpt-5-6-terra-batch-wikipedia-brasil-25-b63f9320\", \"batch_key\": \"430c9e7bc46640ebdc7d3aad2fb3105e752098f8860525778613485ad30a15e6\"}",
297
+ "created_at": "2026-07-24 21:03:42",
298
+ "updated_at": "2026-07-24 21:08:20"
299
+ }
300
+ ]
301
+ },
302
+ "finished_at": "2026-07-24T21:20:54.875005+00:00"
303
+ }
prompt_completion/train.jsonl ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {"id": "slot-00000001-a1", "prompt": "Defina o Brasil.", "completion": "Brasil, oficialmente República Federativa do Brasil, é o maior país da América do Sul e da região da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "definition", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "0", "start": 0, "end": 142, "quote": "Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina,"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
2
+ {"id": "slot-00000002-a1", "prompt": "Qual autoridade exerce o Poder Executivo nos estados brasileiros?", "completion": "governador", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "closed_qa", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "7", "start": 9, "end": 55, "quote": "O poder executivo é exercido por um governador"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
3
+ {"id": "slot-00000003-a1", "prompt": "Resuma as características do programa espacial brasileiro.", "completion": "O Brasil possui o programa espacial mais avançado da América Latina, com recursos para veículos de lançamento e fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "summarization", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
4
+ {"id": "slot-00000004-a1", "prompt": "Extraia os esportes mencionados no formato Campo = valor.", "completion": "Esportes mencionados = capoeira, skate, surfe, judô e atletismo", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "information_extraction", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
5
+ {"id": "slot-00000005-a1", "prompt": "Compare o clima do norte brasileiro com o do Sul e de parte do Sudeste.", "completion": "No norte, predomina o clima equatorial, sem uma estação seca real. Já o Sul e parte do Sudeste têm clima temperado, com invernos frescos e geadas de inverno comuns.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "comparison", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 451, "end": 615, "quote": "O clima equatorial caracteriza grande parte do norte do Brasil. Não existe uma estação seca real, mas existem algumas variações no período do ano em que mais chove."}, {"document_id": "0", "section_id": "4", "start": 961, "end": 1184, "quote": "O Sul e parte do Sudeste possuem condições de clima temperado, com invernos frescos e temperatura média anual não superior a 18 °C; geadas de inverno são bastante comuns, com ocasional queda de neve nas áreas mais elevadas."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
6
+ {"id": "slot-00000006-a1", "prompt": "Classifique o programa espacial brasileiro como o mais avançado da América Latina, o mais avançado da Europa ou inexistente.", "completion": "mais avançado da América Latina", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "classification", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
7
+ {"id": "slot-00000007-a1", "prompt": "Organize quatro acontecimentos em ordem cronológica.", "completion": "1. 1984 — criação da Estação Comandante Ferraz para pesquisas na Antártida.\n2. 1997 — assinatura de acordo entre a Agência Espacial Brasileira e a NASA.\n3. 2006 — Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra.\n4. 2007 — exclusão do Brasil do programa de fornecimento de peças para a ISS.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "timeline", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 1162, "end": 1288, "quote": "O país desenvolve o Programa Antártico Brasileiro e mantém desde 1984 a Estação Comandante Ferraz para pesquisas na Antártida."}, {"document_id": "0", "section_id": "9", "start": 150, "end": 266, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS."}, {"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do ve��culo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}, {"document_id": "0", "section_id": "9", "start": 267, "end": 395, "quote": "No entanto, depois de quase dez anos sem conseguir cumprir o contrato de fornecimento, foi excluído do programa em maio de 2007."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
8
+ {"id": "slot-00000008-a1", "prompt": "Reescreva a frase com ordem sintática diferente, preservando o sentido.\n\nEntrada:\nO Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites.", "completion": "Com recursos significativos para veículos de lançamento e fabricação de satélites, o Brasil possui o programa espacial mais avançado da América Latina.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "rewrite", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
9
+ {"id": "slot-00000009-a1", "prompt": "Explique quais capacidades caracterizam o programa espacial brasileiro.", "completion": "O programa espacial brasileiro dispõe de recursos significativos para veículos de lançamento e para a fabricação de satélites.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "concept_explanation", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 0, "end": 149, "quote": "O Brasil tem o mais avançado programa espacial da América Latina, com recursos significativos para veículos de lançamento, e fabricação de satélites."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
10
+ {"id": "slot-00000010-a1", "prompt": "Extraia o primeiro astronauta brasileiro no formato Campo = valor.", "completion": "Primeiro astronauta brasileiro = Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "structured_extraction", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
11
+ {"id": "slot-00000011-a1", "prompt": "Verifique a afirmação apresentada.\n\nEntrada:\nO skate está entre os esportes mais praticados no Brasil.", "completion": "Verdadeiro: o skate está entre os esportes mais praticados no Brasil.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_checking", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
12
+ {"id": "slot-00000012-a1", "prompt": "Classifique os esportes por sua relação com o futebol ou por terem sido criados no país.", "completion": "Variações do futebol: futebol de praia, futsal, futetênis, futebol de saco e futevôlei\nOutros esportes criados no país: peteca, acquaride, frescobol, sandboard e biribol", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "taxonomy", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 97, "end": 393, "quote": "Algumas variações de esportes têm suas origens no Brasil. Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol. Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
13
+ {"id": "slot-00000013-a1", "prompt": "Quem foi o primeiro astronauta brasileiro a orbitar o planeta Terra?", "completion": "Marcos Pontes", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "short_answer", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
14
+ {"id": "slot-00000014-a1", "prompt": "Explique a importância do voo de Marcos Pontes para o programa espacial brasileiro.", "completion": "Em 30 de março de 2006, Marcos Pontes tornou-se o primeiro astronauta brasileiro a orbitar a Terra. A bordo do veículo Soyuz, ele também foi o terceiro latino-americano a realizar esse feito.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "didactic_explanation", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "9", "start": 474, "end": 655, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro e o terceiro latino-americano a orbitar o planeta Terra."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
15
+ {"id": "slot-00000015-a1", "prompt": "Identifique qual aconteceu primeiro: o acordo da Agência Espacial Brasileira com a NASA ou o voo de Marcos Pontes.", "completion": "<think>\nO acordo foi assinado em 1997, enquanto Marcos Pontes tornou-se astronauta brasileiro em 2006; portanto, o acordo ocorreu antes.\n</think>\n\nO acordo da Agência Espacial Brasileira com a NASA aconteceu primeiro.", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "reasoning", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "9", "start": 150, "end": 267, "quote": "Em 14 de outubro de 1997, a Agência Espacial Brasileira assinou um acordo com a NASA para fornecer peças para a ISS. "}, {"document_id": "0", "section_id": "9", "start": 474, "end": 598, "quote": "Em 30 de março de 2006 o tenente-coronel Marcos Pontes, a bordo do veículo Soyuz, tornou-se o primeiro astronauta brasileiro"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
16
+ {"id": "slot-00000016-a1", "prompt": "Escolha a única alternativa correta. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual piloto brasileiro conquistou títulos mundiais em 1981, 1983 e 1987?\n\nAlternativas:\nA) Emerson Fittipaldi\nB) Nelson Piquet\nC) Ayrton Senna\nD) Autódromo José Carlos Pace", "completion": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "multiple_choice_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 629, "end": 663, "quote": "Emerson Fittipaldi, em 1972 e 1974"}, {"document_id": "0", "section_id": "11", "start": 665, "end": 700, "quote": "Nelson Piquet, em 1981, 1983 e 1987"}, {"document_id": "0", "section_id": "11", "start": 704, "end": 738, "quote": "Ayrton Senna, em 1988, 1990 e 1991"}, {"document_id": "0", "section_id": "11", "start": 776, "end": 802, "quote": "Autódromo José Carlos Pace"}], "generator": "openai_api", "model": "gpt-5.6-terra"}
17
+ {"id": "slot-00000017-a2", "prompt": "Responda à pergunta usando exatamente Sim ou Não.\n\nEntrada:\nPassagem:\ndo país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical.\n\nPergunta:\nO Brasil acolhe seis principais subtipos climáticos segundo o sistema Köppen?", "completion": "Sim", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "binary_qa_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 0, "end": 178, "quote": "do país é tropical. Segundo o sistema Köppen, o Brasil acolhe seis principais subtipos climáticos: equatorial, tropical, semiárido, tropical de altitude, temperado e subtropical."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
18
+ {"id": "slot-00000018-a2", "prompt": "Classifique a relação usando exatamente Implicação, Contradição ou Nenhuma.\n\nEntrada:\nPremissa:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nHipótese:\nO atletismo está entre os esportes mais praticados no Brasil.", "completion": "Implicação", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "textual_entailment", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
19
+ {"id": "slot-00000019-a2", "prompt": "Avalie a similaridade semântica pela rubrica de 1 a 5 e responda somente com o número.\n\nEntrada:\nSentença 1:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nSentença 2:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "completion": "5", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "semantic_similarity", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
20
+ {"id": "slot-00000020-a2", "prompt": "Extraia da passagem somente o trecho literal que responde à pergunta.\n\nEntrada:\nPassagem:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.\n\nPergunta:\nQual arte marcial é mencionada entre os esportes mais praticados no país?", "completion": "capoeira", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "extractive_qa", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
21
+ {"id": "slot-00000021-a3", "prompt": "Escolha a causa ou o efeito explicitamente sustentado. Responda somente com A, B, C ou D.\n\nEntrada:\nPergunta:\nQual consequência é atribuída à baixa concentração anual de chuvas na região de clima semiárido?\n\nAlternativas:\nA) longos períodos de seca\nB) florestas equatoriais no Norte\nC) regiões semiáridas no Nordeste\nD) savanas tropicais no Brasil central", "completion": "A", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "causal_multiple_choice", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "4", "start": 1185, "end": 1461, "quote": "No interior do nordeste, a precipitação sazonal é ainda mais extrema. A região de clima semiárido geralmente recebe menos de 800 milímetros de chuva, a maior parte em um período de três a cinco meses no ano e por vezes menos do que isso, resultando em longos períodos de seca."}, {"document_id": "0", "section_id": "4", "start": 179, "end": 396, "quote": "As diferentes condições climáticas produzem ambientes que variam de florestas equatoriais no Norte e regiões semiáridas no Nordeste, para florestas temperadas de coníferas no Sul e savanas tropicais no Brasil central."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
22
+ {"id": "slot-00000022-a3", "prompt": "Escolha a alternativa correta sobre o Brasil. Responda somente com A, B, C, D ou E.\n\nEntrada:\nPergunta:\nQual variação do futebol é apresentada como sua versão oficial em ambiente fechado?\n\nAlternativas:\nA) Futebol de praia\nB) futsal\nC) futetênis\nD) futebol de saco\nE) futevôlei", "completion": "B", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "brazilian_cultural_choice", "difficulty": "hard", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}, {"document_id": "0", "section_id": "11", "start": 97, "end": 154, "quote": "Algumas variações de esportes têm suas origens no Brasil."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
23
+ {"id": "slot-00000023-a2", "prompt": "Classifique a afirmação usando exatamente Verdadeiro, Falso ou Nenhum.\n\nEntrada:\nContexto:\nOutros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol.\n\nAfirmação:\nA peteca é um esporte criado no Brasil.", "completion": "Verdadeiro", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "fact_verification_exact", "difficulty": "easy", "evidence": [{"document_id": "0", "section_id": "11", "start": 290, "end": 393, "quote": "Outros esportes também criados no país são a peteca, o acquaride, o frescobol, o sandboard e o biribol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
24
+ {"id": "slot-00000024-a2", "prompt": "Classifique a polaridade expressa usando somente positiva, neutra ou negativa.\n\nEntrada:\nTexto:\ncapoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país.", "completion": "neutra", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "sentiment_exact", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 0, "end": 96, "quote": "capoeira, skate, surfe, judô e atletismo também estão entre os esportes mais praticados no país."}], "generator": "openai_api", "model": "gpt-5.6-terra"}
25
+ {"id": "slot-00000025-a2", "prompt": "Classifique a intenção da solicitação usando somente uma classe permitida.\n\nEntrada:\nSolicitação:\nComece uma partida de futsal.", "completion": "tocar/jogar", "source": "huggingface", "document_id": "0", "source_title": "Brasil", "task": "intent_classification", "difficulty": "medium", "evidence": [{"document_id": "0", "section_id": "11", "start": 155, "end": 289, "quote": "Futebol de praia, futsal (versão oficial do futebol indoor), futetênis, futebol de saco e futevôlei emergiram de variações do futebol."}], "generator": "openai_api", "model": "gpt-5.6-terra"}