Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code: DatasetGenerationError
Exception: CastError
Message: Couldn't cast
id: string
modo: string
eixo: string
tipo: string
fonte: string
pergunta: string
resposta_ref: string
termos_chave: list<item: string>
child 0, item: string
key: string
chunk_id: string
titulo: string
ano: string
cand_id: string
nota_revisao: string
apoio_chunk_ids: list<item: string>
child 0, item: string
work_id: string
autores: list<item: struct<nome: string, orcid: string, posicao: string, correspondente: bool, instituicoes: (... 61 chars omitted)
child 0, item: struct<nome: string, orcid: string, posicao: string, correspondente: bool, instituicoes: list<item: (... 49 chars omitted)
child 0, nome: string
child 1, orcid: string
child 2, posicao: string
child 3, correspondente: bool
child 4, instituicoes: list<item: struct<nome: string, ror: string, pais: string>>
child 0, item: struct<nome: string, ror: string, pais: string>
child 0, nome: string
child 1, ror: string
child 2, pais: string
to
{'key': Value('string'), 'work_id': Value('string'), 'autores': List({'nome': Value('string'), 'orcid': Value('string'), 'posicao': Value('string'), 'correspondente': Value('bool'), 'instituicoes': List({'nome': Value('string'), 'ror': Value('string'), 'pais': Value('string')})})}
because column names don't match
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1827, in _prepare_split_single
for key, table in generator:
^^^^^^^^^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 613, in wrapped
for item in generator(*args, **kwargs):
~~~~~~~~~^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2306, in cast_table_to_schema
raise CastError(
...<3 lines>...
)
datasets.table.CastError: Couldn't cast
id: string
modo: string
eixo: string
tipo: string
fonte: string
pergunta: string
resposta_ref: string
termos_chave: list<item: string>
child 0, item: string
key: string
chunk_id: string
titulo: string
ano: string
cand_id: string
nota_revisao: string
apoio_chunk_ids: list<item: string>
child 0, item: string
work_id: string
autores: list<item: struct<nome: string, orcid: string, posicao: string, correspondente: bool, instituicoes: (... 61 chars omitted)
child 0, item: struct<nome: string, orcid: string, posicao: string, correspondente: bool, instituicoes: list<item: (... 49 chars omitted)
child 0, nome: string
child 1, orcid: string
child 2, posicao: string
child 3, correspondente: bool
child 4, instituicoes: list<item: struct<nome: string, ror: string, pais: string>>
child 0, item: struct<nome: string, ror: string, pais: string>
child 0, nome: string
child 1, ror: string
child 2, pais: string
to
{'key': Value('string'), 'work_id': Value('string'), 'autores': List({'nome': Value('string'), 'orcid': Value('string'), 'posicao': Value('string'), 'correspondente': Value('bool'), 'instituicoes': List({'nome': Value('string'), 'ror': Value('string'), 'pais': Value('string')})})}
because column names don't match
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
~~~~~~~~~~~~~~~~~~~~~~~~~^
builder, max_dataset_size_bytes=max_dataset_size_bytes
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1694, in _prepare_split
for job_id, done, content in self._prepare_split_single(
~~~~~~~~~~~~~~~~~~~~~~~~~~^
gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
):
^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1880, in _prepare_split_single
raise DatasetGenerationError("An error occurred while generating the dataset") from e
datasets.exceptions.DatasetGenerationError: An error occurred while generating the datasetNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
key string | work_id string | autores list |
|---|---|---|
e19733e436356e7c61651e6b776cd1a6 | W2132719756 | [
{
"nome": "Alba Zaluar",
"orcid": "https://orcid.org/0000-0001-6892-3176",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade do Estado do Rio de Janeiro",
"ror": "https://ror.org/0198v2949",
"pais": "BR"
}
]
}
] |
b9848b31fcdee6d676f3a9fce58f13f8 | W2026707744 | [
{
"nome": "Luiz Eduardo Soares",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Candido Mendes",
"ror": "https://ror.org/011tj4033",
"pais": "BR"
}
]
}
] |
062d1258fbf6c2aeb59aaa81353d37d0 | W2136813242 | [
{
"nome": "Luiz Eduardo Soares",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Escola Superior de Propaganda e Marketing",
"ror": "https://ror.org/040g62b80",
"pais": "BR"
}
]
}
] |
cc3fa4b3e57685564c9396258664f47e | W1594008729 | [
{
"nome": "Renato Sérgio de Lima",
"orcid": "https://orcid.org/0000-0002-0935-699X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
}
]
},
{
"no... |
2147b938a70741620ead54761c46fad0 | W2948158046 | [
{
"nome": "Luiz Antonio Machado da Silva",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Candido Mendes",
"ror": "https://ror.org/011tj4033",
"pais": "BR"
}
]
}
] |
1781f6222c1474c7a695ffa3c55ac0a6 | W2070902663 | [
{
"nome": "Maria Stela Grossi Porto",
"orcid": "https://orcid.org/0000-0001-9565-3394",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade de Brasília",
"ror": "https://ror.org/02xfp8v59",
"pais": "BR"
},
{
"nom... |
8b76cd7a6c142c03055c7c4ebe7b19e9 | W1875156078 | [
{
"nome": "Vilobaldo Adelídio de Carvalho",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Piauí",
"ror": "https://ror.org/00kwnx126",
"pais": "BR"
}
]
},
{
"nome": "Maria do Rosário... |
0546b33474efe31b64d95d62b4385db1 | W2993215435 | [
{
"nome": "Arthur Trindade M. Costa",
"orcid": "https://orcid.org/0000-0002-1427-4622",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Brasília",
"ror": "https://ror.org/02xfp8v59",
"pais": "BR"
}
]
},
{
"... |
ced53594545540a24c871a62c998ffc8 | W2064331107 | [
{
"nome": "Maria Cecília de Souza Minayo",
"orcid": "https://orcid.org/0000-0001-6187-9301",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Fundação Oswaldo Cruz",
"ror": "https://ror.org/04jhswv08",
"pais": "BR"
}
]
},
{
... |
24bde86a492e1cb45e5a502d5041f158 | W1972234895 | [
{
"nome": "Bruno Cardoso",
"orcid": "https://orcid.org/0000-0001-7919-1046",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Rio de Janeiro",
"ror": "https://ror.org/03490as77",
"pais": "BR"
}
]
}
] |
4d902a2df3eea412184891a62fb5e1d0 | W2075130954 | [
{
"nome": "Luiz De Mello",
"orcid": "https://orcid.org/0000-0003-4387-8158",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal de Goiás",
"ror": "https://ror.org/0039d5757",
"pais": "BR"
}
]
},
{
"nome":... |
01ded135f39a44cd539c74974717ff2e | W2164439598 | [
{
"nome": "Vilma Diuana",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Governo do Estado do Rio de Janeiro",
"ror": "https://ror.org/04pnpc024",
"pais": "BR"
}
]
},
{
"nome": "Dominique Lhuilier",
"or... |
4542805dce4bf75fa4502f44508c324a | W2061891419 | [
{
"nome": "Vilma Pinheiro Gawryszewski",
"orcid": "https://orcid.org/0000-0002-1675-8639",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Secretaria da Saúde",
"ror": "https://ror.org/03afd8w19",
"pais": "BR"
}
]
},
{
"no... |
43fe3a6696959ef76f4d02ba2c345b3a | W2969177238 | [
{
"nome": "Renato Sérgio de Lima",
"orcid": "https://orcid.org/0000-0002-0935-699X",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Fundação Getulio Vargas",
"ror": "https://ror.org/01evzkn27",
"pais": "BR"
}
]
}
] |
cfd49b8cb5681974dc21af8e86338507 | W2031303836 | [
{
"nome": "Luiz Eduardo Soares",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade do Estado do Rio de Janeiro",
"ror": "https://ror.org/0198v2949",
"pais": "BR"
}
]
}
] |
168c8a30789f5ef66bc797601e99ff83 | W2081807714 | [
{
"nome": "Cecília Maria Bouças Coimbra",
"orcid": "https://orcid.org/0000-0001-5383-7240",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal Fluminense",
"ror": "https://ror.org/02rjhbb08",
"pais": "BR"
}
]
}
... |
81e58e2b66cb22c72b729ecdeac07dcc | W1994805748 | [
{
"nome": "Pedro Paulo Gastalho de Bicalho",
"orcid": "https://orcid.org/0000-0003-1986-4338",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio de Janeiro",
"ror": "https://ror.org/03490as77",
"pais": "BR"
}... |
0ce32606497ac4e592975daf45bea1ef | W2152300947 | [
{
"nome": "Maria Cecília de Souza Minayo",
"orcid": "https://orcid.org/0000-0001-6187-9301",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Escola Nacional de Saúde Pública",
"ror": "https://ror.org/02xm1d907",
"pais": "BR"
},
... |
46811cfa4e28169adf3f9389e5e74509 | W1603468835 | [
{
"nome": "Luís Antônio Francisco de Souza",
"orcid": "https://orcid.org/0000-0002-9355-3936",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Estadual Paulista (Unesp)",
"ror": "https://ror.org/00987cb86",
"pais": "BR"
}
... |
750be3b6e163a769b2f9bf5928ce4dfb | W2583544683 | [
{
"nome": "André Zanetic",
"orcid": "https://orcid.org/0000-0003-4165-7343",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
}
]
},
{
"nome": "Br... |
971472d42f996744672fbfaceb3646f3 | W1968077424 | [
{
"nome": "Maria Fernanda Tourinho Peres",
"orcid": "https://orcid.org/0000-0002-7049-905X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
}
]
},
{... |
a8dcdbf8770ef232ebaae520de47f858 | W2148795909 | [
{
"nome": "Cristiane Faiad",
"orcid": "https://orcid.org/0000-0002-8012-8893",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Salgado de Oliveira",
"ror": "https://ror.org/0305nje64",
"pais": "BR"
}
]
},
{
"n... |
5a158c7de509cefad2cec8d8b07e2383 | W2034090304 | [
{
"nome": "Carly Machado",
"orcid": "https://orcid.org/0000-0002-8814-3609",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal Rural do Rio de Janeiro",
"ror": "https://ror.org/00xwgyp12",
"pais": "BR"
}
]
}
] |
99ef9efac3606757cf0869d33375c68f | W2094498979 | [
{
"nome": "José Maria Pereira da Nóbrega Júnior",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal de Pernambuco",
"ror": "https://ror.org/047908t24",
"pais": "BR"
}
]
}
] |
c273d87057f1eedc5fd0ec4300db4350 | W4206283325 | [
{
"nome": "Roberta Heleno Novello",
"orcid": "https://orcid.org/0000-0002-8680-491X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
}
]
},
{
"n... |
354baf61e797dd1607590f89513efbb5 | W2278192111 | [
{
"nome": "Luiza Jane Eyre de Souza Vieira",
"orcid": "https://orcid.org/0000-0002-5220-027X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Fortaleza",
"ror": "https://ror.org/02ynbzc81",
"pais": "BR"
}
]
},
... |
d6239446b601c52183eb7ccbbd39b082 | W3013303974 | [
{
"nome": "Carolina Cutrupi Ferreira",
"orcid": "https://orcid.org/0000-0003-3190-7257",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Fundação Getulio Vargas",
"ror": "https://ror.org/01evzkn27",
"pais": "BR"
}
]
},
{
"... |
e37775f416cab48d44f9857d9def5a84 | W4365798041 | [
{
"nome": "Ignácio Cano",
"orcid": "https://orcid.org/0000-0001-5822-112X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade do Estado do Rio de Janeiro",
"ror": "https://ror.org/0198v2949",
"pais": "BR"
}
]
},
{
... |
5c270be1789a9dfde5328675b25fa731 | W2049708775 | [
{
"nome": "Renato Sérgio de Lima",
"orcid": "https://orcid.org/0000-0002-0935-699X",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Forum Brasileiro de Segurança Pública",
"ror": "https://ror.org/02ezmc341",
"pais": "BR"
},
{
... |
08e7b9a1ed12efdd589574a580015b09 | W2979909400 | [
{
"nome": "Carolina de Mattos Ricardo",
"orcid": "https://orcid.org/0009-0004-4766-7248",
"posicao": "first",
"correspondente": false,
"instituicoes": []
},
{
"nome": "Haydee G. C. Caruso",
"orcid": null,
"posicao": "last",
"correspondente": false,
"instituicoes": [
... |
50b682a665a3e500444d9a1dc08a3977 | W2031052345 | [
{
"nome": "César Barreira",
"orcid": "https://orcid.org/0000-0001-5651-9723",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Ceará",
"ror": "https://ror.org/03srtnf24",
"pais": "BR"
}
]
}
] |
06dcf0bf8a04f149789767e3412b0585 | W2027144183 | [
{
"nome": "Lígia Mori Madeira",
"orcid": "https://orcid.org/0000-0003-3657-3153",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio Grande do Sul",
"ror": "https://ror.org/041yk2d64",
"pais": "BR"
}
]
}... |
33d3d578a0b45a4d5fbf169bcca6f883 | W2040070619 | [
{
"nome": "Maria Angela Mirim Rosa e Campos",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
},
{
"nome": "Instituto de Saúde",... |
a8dcfffcc97ad69d9179a239ea316c2e | W1967826628 | [
{
"nome": "Cléber da Silva Lopes",
"orcid": "https://orcid.org/0000-0002-2197-159X",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Hospital Universitário da Universidade de São Paulo",
"ror": "https://ror.org/0406jsq08",
"pais": "BR"
... |
a2ff3a66fbd61b0121d78d691853ed9c | W2069468279 | [
{
"nome": "Vera Regina Pereira de Andrade",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal de Santa Catarina",
"ror": "https://ror.org/041akq887",
"pais": "BR"
}
]
}
] |
518003d3acb0184ce7675cb39652ff66 | W2978359048 | [
{
"nome": "Úrsula Dias Peres",
"orcid": "https://orcid.org/0000-0002-7853-0576",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Centro Universitário Belas Artes de São Paulo",
"ror": "https://ror.org/02hm6zw53",
"pais": "BR"
},
... |
5d4daddc433459e78570834f44cf8a52 | W2969864684 | [
{
"nome": "Úrsula Dias Peres",
"orcid": "https://orcid.org/0000-0002-7853-0576",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Prefeitura do Município de São Paulo",
"ror": "https://ror.org/0121en785",
"pais": "BR"
},
{
... |
c4a6a1d8a15b6929df4aa091644431d7 | W1617015787 | [
{
"nome": "Iris Gomes dos Santos",
"orcid": "https://orcid.org/0000-0002-9174-2717",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal de Minas Gerais",
"ror": "https://ror.org/0176yjw32",
"pais": "BR"
}
]
},
... |
01184d6b4c97d6a88baf966006842aa1 | W2027687738 | [
{
"nome": "Maria Fernanda Tourinho Peres",
"orcid": "https://orcid.org/0000-0002-7049-905X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
}
]
},
{... |
912f5e9ea7efedeaa9a60e84a016c5fe | W1983529479 | [
{
"nome": "Fabiano Fernandes Serrano Birchal",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Centro Universitário de Lavras",
"ror": "https://ror.org/024rsp410",
"pais": "BR"
}
]
},
{
"nome": "André Luiz Z... |
8b04b88aeb9cc5db78d4f829a2997f54 | W2756328992 | [
{
"nome": "Marcelo José Monteiro Ferreira",
"orcid": "https://orcid.org/0000-0001-5187-4195",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Ceará",
"ror": "https://ror.org/03srtnf24",
"pais": "BR"
}
]
},... |
0bac62c388d6f11c1fbd9c15af7d151d | W2967228111 | [
{
"nome": "Alba Zaluar",
"orcid": "https://orcid.org/0000-0001-6892-3176",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade do Estado do Rio de Janeiro",
"ror": "https://ror.org/0198v2949",
"pais": "BR"
}
]
}
] |
8cf3aee712f628a474769488e9ccb00b | W2997932166 | [
{
"nome": "BRUNA RIOS MARTINS SANTOS",
"orcid": "https://orcid.org/0000-0002-3987-3613",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Federal University of São João del-Rei",
"ror": "https://ror.org/03vrj4p82",
"pais": "BR"
}
]... |
59cd0993eaa17601ea5109355e31ea56 | W3089699286 | [
{
"nome": "Ricardo Gonçalves Vaz de Oliveira",
"orcid": "https://orcid.org/0000-0002-0137-0471",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Instituto Superior de Gestão",
"ror": "https://ror.org/05mnej980",
"pais": "PT"
}
]
... |
2d5427d6e86dc92e89bb830ce662a74d | W3193472879 | [
{
"nome": "Victoria Ayelén Gómez",
"orcid": "https://orcid.org/0000-0001-5753-6429",
"posicao": "first",
"correspondente": false,
"instituicoes": []
},
{
"nome": "Martina Mazzoleni",
"orcid": null,
"posicao": "middle",
"correspondente": false,
"instituicoes": []
},
{
... |
4e2301c28d2d32f8d42a7e2d464ff717 | W2899795737 | [
{
"nome": "Cristiane Faiad",
"orcid": "https://orcid.org/0000-0002-8012-8893",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Brasília",
"ror": "https://ror.org/02xfp8v59",
"pais": "BR"
}
]
},
{
"nome": "V... |
cd1e6ec5aed738ec60499e97ec786239 | W2979765727 | [
{
"nome": "Renato Perrenoud",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Secretaria de Estado de Segurança Pública",
"ror": "https://ror.org/030v79255",
"pais": "BR"
},
{
"nome": "Universidade Metropol... |
5451c28da4015da66dd9f99dbf572107 | W3013779352 | [
{
"nome": "José Aurivaldo Sacchetta Ramos Mendes",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal da Bahia",
"ror": "https://ror.org/03k3p7647",
"pais": "BR"
},
{
"nome": "Hospital An... |
135445a7dcc2ce1d136d98fc385255df | W3143057542 | [
{
"nome": "Caroline Moreira Back",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Fundação Escola de Sociologia e Política de São Paulo",
"ror": "https://ror.org/036rdqh43",
"pais": "BR"
}
]
}
] |
6529234c7c96c293975c7acde248b67d | W2969681131 | [
{
"nome": "Isabela Miranda Martins",
"orcid": "https://orcid.org/0000-0002-3332-9852",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Brasília",
"ror": "https://ror.org/02xfp8v59",
"pais": "BR"
}
]
},
{
"n... |
d024d3a801b28df0ca40593f312cf95c | W2980881640 | [
{
"nome": "Gabriela Ribeiro Cardoso",
"orcid": "https://orcid.org/0000-0002-4681-5702",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Estadual do Norte do Paraná",
"ror": "https://ror.org/0261qja04",
"pais": "BR"
}
... |
31a96a94b5a67222d4e90f45011bc880 | W1748247503 | [
{
"nome": "Álvaro Lazzarini",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal de Minas Gerais",
"ror": "https://ror.org/0176yjw32",
"pais": "BR"
}
]
}
] |
e3d2f66fe726022e26d64b142c4acad1 | W2054213029 | [
{
"nome": "Lília Maia de Morais Sales",
"orcid": "https://orcid.org/0000-0003-2843-7207",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Fortaleza",
"ror": "https://ror.org/02ynbzc81",
"pais": "BR"
}
]
},
{
... |
a711bb3a0d644fb7148334e22b9aef53 | W4281818943 | [
{
"nome": "Antônio Carlos Araújo",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Norte do Paraná",
"ror": "https://ror.org/00vvm7f23",
"pais": "BR"
}
]
}
] |
7d98e7fa66810306ad405599a9788400 | W4385461405 | [
{
"nome": "Luís Felipe Fachini",
"orcid": "https://orcid.org/0000-0002-4179-7832",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio Grande do Sul",
"ror": "https://ror.org/041yk2d64",
"pais": "BR"
}
]
... |
470e46c4488b92a56ef0624a6e7b9afd | W4389615589 | [
{
"nome": "Ruan Didier Bruzaca",
"orcid": "https://orcid.org/0000-0001-6081-8451",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Maranhão",
"ror": "https://ror.org/043fhe951",
"pais": "BR"
}
]
},
{
... |
cd5a4369534960198ef906b3a9a87486 | W2274032248 | [
{
"nome": "Daniel Veloso Hirata",
"orcid": "https://orcid.org/0000-0001-5219-8838",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal Fluminense",
"ror": "https://ror.org/02rjhbb08",
"pais": "BR"
}
]
}
] |
69a85617efee96ca47406e59a758907e | W4210488494 | [
{
"nome": "Marlene Inês Spaniol",
"orcid": "https://orcid.org/0000-0001-6536-898X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Pontifícia Universidade Católica do Rio Grande do Sul",
"ror": "https://ror.org/025vmq686",
"pais": "BR"
... |
d5af0aaf360842c3d3b37297ce948edd | W2788374529 | [
{
"nome": "Luciano Roberto Gulart Cabral Júnior",
"orcid": "https://orcid.org/0000-0003-0095-5918",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio Grande",
"ror": "https://ror.org/05hpfkn88",
"pais": "BR"
... |
f77de4904de00fdab0ef13b2ffffc161 | W4412567593 | [
{
"nome": "Paula Rodriguez Ballesteros",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Governo do Distrito Federal",
"ror": "https://ror.org/02ckm0r33",
"pais": "BR"
}
]
}
] |
ef62f916efb5c70c5d3c0bd656301a6c | W3183614093 | [
{
"nome": "Higor Serra Flores",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Norte do Paraná",
"ror": "https://ror.org/00vvm7f23",
"pais": "BR"
}
]
},
{
"nome": "Diego Canabarro Pires",
"... |
bf2352cde549dd646129718e4e7f5c46 | W2889375882 | [
{
"nome": "Everaldo Ferreira Santana",
"orcid": "https://orcid.org/0000-0001-9692-4045",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Unifor",
"ror": "https://ror.org/02sybec58",
"pais": "NO"
},
{
"nome": "Universidad... |
665f3155c1d47557ad943b6a18c50104 | W2520302495 | [
{
"nome": "Décio Estevão do Nascimento",
"orcid": "https://orcid.org/0000-0001-5902-6545",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Tecnológica Federal do Paraná",
"ror": "https://ror.org/002v2kq79",
"pais": "BR"
}... |
cc76e275cda96b8334b120786c9ab125 | W4206761731 | [
{
"nome": "José Welhinjton Cavalcante Rodrigues",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal da Paraíba",
"ror": "https://ror.org/00p9vpz11",
"pais": "BR"
}
]
},
{
"nome": "Bruno Ra... |
b2ca98bbef2f4a8a822664c69e14f468 | W4387736786 | [
{
"nome": "Cáritas Farias Loureiro",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Instituto Federal do Amazonas",
"ror": "https://ror.org/045nsn047",
"pais": "BR"
},
{
"nome": "Secretaría de Educación Su... |
7c106d2a7f6a405e73e8011b5f771238 | W2974526176 | [
{
"nome": "Clara Polycarpo",
"orcid": "https://orcid.org/0000-0001-8402-8737",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade do Estado do Rio de Janeiro",
"ror": "https://ror.org/0198v2949",
"pais": "BR"
}
]
}
] |
f5d2f1601bd3976b78c0a753c18cbc52 | W3045393657 | [
{
"nome": "Meiry Mesquita Monte",
"orcid": "https://orcid.org/0000-0002-2224-2620",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Ceará",
"ror": "https://ror.org/03srtnf24",
"pais": "BR"
}
]
},
{
... |
0a8df89498c8b4129b1ba3c1bdc58335 | W2913416852 | [
{
"nome": "Gislainy Gislanne da Silva Ribeiro",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio Grande do Norte",
"ror": "https://ror.org/04wn09761",
"pais": "BR"
}
]
},
{
"nome":... |
43ffb84e0a6d14c30acf0ebca2f7fd3e | W2887631899 | [
{
"nome": "Domingos do Nascimento Nonato",
"orcid": "https://orcid.org/0000-0001-7194-9457",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Pará",
"ror": "https://ror.org/03q9sr818",
"pais": "BR"
}
]
},
... |
9f1988ccac10b82bb5a219c8c72ba52a | W2980498014 | [
{
"nome": "Almir de Oliveira",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Pontifícia Universidade Católica de Minas Gerais",
"ror": "https://ror.org/03j1rr444",
"pais": "BR"
},
{
"nome": "Institute of... |
3f45338601452b683bd628d775013193 | W2130964476 | [
{
"nome": "Cristina Neme",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade de São Paulo",
"ror": "https://ror.org/036rp1748",
"pais": "BR"
}
]
}
] |
034686dd01e678cfb2169f269021b98f | W3111413844 | [
{
"nome": "Jéssica Batista Araújo",
"orcid": "https://orcid.org/0000-0003-1084-8905",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal de Mato Grosso",
"ror": "https://ror.org/01mqvjv41",
"pais": "BR"
}
]
},
... |
071b26e6f7b4c08dc9009fc3c5148170 | W3204210381 | [
{
"nome": "Reis Friede",
"orcid": "https://orcid.org/0000-0001-9316-3690",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Estado do Rio de Janeiro",
"ror": "https://ror.org/04tec8z30",
"pais": "BR"
}
]
}
... |
bffe884df7b882e3b87a3048cd7ff6d0 | W2803543277 | [
{
"nome": "Waléria Demoner Rossoni",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Faculdades Integradas de São Paulo",
"ror": "https://ror.org/05c6jzf22",
"pais": "BR"
}
]
},
{
"nome": "Henrique Geaquinto... |
39bf6caaa50a9a369b8a11fd6bb89e91 | W2923297251 | [
{
"nome": "Isabel Silva Almeida",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Ceará",
"ror": "https://ror.org/03srtnf24",
"pais": "BR"
}
]
},
{
"nome": "Anselmo Ramalho Pitombeira... |
0127462dcb2c827ded459d5a1718d4d1 | W3183077010 | [
{
"nome": "Daniel Victor de Sousa Ferreira",
"orcid": "https://orcid.org/0000-0002-4663-2009",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal de Uberlândia",
"ror": "https://ror.org/04x3wvr31",
"pais": "BR"
}
... |
efe71e589156f0fc5dd4c44d0a9b54cf | W3120010103 | [
{
"nome": "Luiza Veronese Lacava",
"orcid": "https://orcid.org/0000-0002-3076-8729",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Fundação Getulio Vargas",
"ror": "https://ror.org/01evzkn27",
"pais": "BR"
}
]
}
] |
11599040860caefc3c153c4344a4c111 | W2979774807 | [
{
"nome": "Fabio de Sá e Silva",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Institute of Applied Economic Research",
"ror": "https://ror.org/02d3hy418",
"pais": "BR"
},
{
"nome": "Eastern University",
... |
93a4efe32118ad0e1fb7ae770a309759 | W3217531024 | [
{
"nome": "Poliana Gonçalves Monteiro",
"orcid": "https://orcid.org/0000-0002-0823-7630",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal Fluminense",
"ror": "https://ror.org/02rjhbb08",
"pais": "BR"
}
]
}
] |
4a09d73149017bca0275c13374314932 | W4311005903 | [
{
"nome": "Carlos Francisco Oliveira Nunes",
"orcid": "https://orcid.org/0000-0003-2827-898X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal de Santa Catarina",
"ror": "https://ror.org/041akq887",
"pais": "BR"
}... |
b48b8bb322ac38dd527b4075aecfca69 | W3021542874 | [
{
"nome": "Andréa Bittencourt Pires Chaves",
"orcid": "https://orcid.org/0000-0003-0247-9265",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Pará",
"ror": "https://ror.org/03q9sr818",
"pais": "BR"
}
]
}
... |
2506c9401270b91a2d4d31e55b871872 | W2525119751 | [
{
"nome": "Analía Soria Batista",
"orcid": "https://orcid.org/0000-0002-5905-3786",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Brasília",
"ror": "https://ror.org/02xfp8v59",
"pais": "BR"
}
]
},
{
"nome... |
8120c5e1a2190dc9f9d24aa9a44f6623 | W2892296166 | [
{
"nome": "Jacqueline de Oliveira Muniz",
"orcid": "https://orcid.org/0000-0002-1481-414X",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal Fluminense",
"ror": "https://ror.org/02rjhbb08",
"pais": "BR"
}
]
}... |
ab4ad7f7544d1692173807a38efb1314 | W4381950414 | [
{
"nome": "Felipe Santos",
"orcid": "https://orcid.org/0000-0003-1810-4126",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Secretaria da Segurança Pública",
"ror": "https://ror.org/0591czb14",
"pais": "BR"
},
{
"nome": ... |
2c84b21f81309aad96d9abb1bb61dead | W3012360442 | [
{
"nome": "Djairlon Henrique Moura",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Polícia Rodoviária Federal",
"ror": "https://ror.org/03v0xgy96",
"pais": "BR"
},
{
"nome": "Federal Police of Brazil",
... |
19f780f21aa99a99ab2af9deac88ef6c | W3035552095 | [
{
"nome": "Raissa Ribeiro Lima",
"orcid": "https://orcid.org/0000-0001-6213-3907",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Amazonas",
"ror": "https://ror.org/02263ky35",
"pais": "BR"
}
]
}
] |
7020e05cfba1255886207e9c4544ea0b | W3158564782 | [
{
"nome": "Sabrina Oliveira de Figueiredo",
"orcid": "https://orcid.org/0000-0002-3302-9489",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Espírito Santo",
"ror": "https://ror.org/05sxf4h28",
"pais": "BR"
}
... |
9bfbe2e6edba0e851b1229263a407274 | W2996883138 | [
{
"nome": "Victória Loureiro Cardoso",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Pontifícia Universidade Católica de Minas Gerais",
"ror": "https://ror.org/03j1rr444",
"pais": "BR"
},
{
"nome": "Cent... |
56619ee43ffa54c00609cc22c95da898 | W4281658588 | [
{
"nome": "José Laurindo de Souza Netto",
"orcid": "https://orcid.org/0000-0002-6950-6128",
"posicao": "first",
"correspondente": false,
"instituicoes": []
},
{
"nome": "Gustavo Calixto Guilherme",
"orcid": "https://orcid.org/0000-0002-8273-3982",
"posicao": "middle",
"corres... |
bee804675a686263baf6c16790258e8e | W1501870873 | [
{
"nome": "Jesús Ballesteros Llompart",
"orcid": "https://orcid.org/0000-0002-3594-2052",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "San Antonio College",
"ror": "https://ror.org/01hdk3d05",
"pais": "US"
},
{
"nome":... |
d62516957cbcf977b757e6ee12b5d1b4 | W2977933377 | [
{
"nome": "Domício Proença Júnior",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio de Janeiro",
"ror": "https://ror.org/03490as77",
"pais": "BR"
},
{
"nome": "Polícia Judiciári... |
9ebef18355b9b8b53fd36d4c8ec1829e | W4387490173 | [
{
"nome": "Martina Mazzoleni",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade de Brasília",
"ror": "https://ror.org/02xfp8v59",
"pais": "BR"
}
]
},
{
"nome": "Victoria Ayelén Gómez",
"orcid... |
0557faec54b83c6112172f720ef4ed09 | W1590410126 | [
{
"nome": "Paula Poncioni",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal do Rio de Janeiro",
"ror": "https://ror.org/03490as77",
"pais": "BR"
}
]
}
] |
144451e9b948d5b42e223c18872e72cd | W2981567436 | [
{
"nome": "Leonarda Musumeci",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Secretaria de Estado de Segurança Pública",
"ror": "https://ror.org/030v79255",
"pais": "BR"
}
]
},
{
"nome": "Julita Lemgruber"... |
da9f2c174a602652f2a3762649198dc0 | W4391469675 | [
{
"nome": "Marcos Virginio Souto",
"orcid": null,
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "UniBrasil Centro Universitário",
"ror": "https://ror.org/0568kxy29",
"pais": "BR"
}
]
}
] |
35718600e6d4f1410b02d7f84d836f98 | W1499564058 | [
{
"nome": "Jeferson A. Fonseca",
"orcid": null,
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Hospital das Clínicas da Universidade Federal de Minas Gerais",
"ror": "https://ror.org/035rpst33",
"pais": "BR"
}
]
},
{
"nom... |
e5f4c4cd19e9291645e94091e76cb124 | W2904300939 | [
{
"nome": "Rafhael Lima Ribeiro",
"orcid": "https://orcid.org/0000-0002-9647-3800",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Pontifícia Universidade Católica de Minas Gerais",
"ror": "https://ror.org/03j1rr444",
"pais": "BR"
},
... |
0568f927c666c395535b84c80dbfb195 | W2922588055 | [
{
"nome": "Gustavo Villela Lima da Costa",
"orcid": "https://orcid.org/0000-0001-6286-4785",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade do Estado do Rio de Janeiro",
"ror": "https://ror.org/0198v2949",
"pais": "BR"
}
... |
fede36f60bbb949e455cfc4ac38c09e5 | W2131732495 | [
{
"nome": "Cláudia Mayorga",
"orcid": "https://orcid.org/0000-0003-1728-0726",
"posicao": "first",
"correspondente": true,
"instituicoes": [
{
"nome": "Universidade Federal de Ouro Preto",
"ror": "https://ror.org/056s65p46",
"pais": "BR"
},
{
"no... |
5be03c606b9e5af40c7aabcf93aac38d | W1577758925 | [
{
"nome": "Carolina dos Reis",
"orcid": "https://orcid.org/0000-0001-6482-2677",
"posicao": "first",
"correspondente": false,
"instituicoes": [
{
"nome": "Universidade Federal do Rio Grande do Sul",
"ror": "https://ror.org/041yk2d64",
"pais": "BR"
}
]
},... |
End of preview.
Segurança, Justiça e Cidadania — Corpus Científico BDTD/OpenAlex
Corpus de produção científica brasileira (teses, dissertações e artigos) no tema "Segurança, Justiça e Cidadania", para pré-treino continuado (DAPT), fine-tuning, RAG e avaliação de LLMs em português. Construído em quatro camadas (Raw → Staging → Processed → Curated).
| arquivo | unidade | registros |
|---|---|---|
dapt_full.jsonl |
documento (texto completo) | 27.784 |
held_out.jsonl |
documento reservado para avaliação | 900 |
rag_chunks_full.jsonl |
trecho para RAG | 663.730 |
benchmark_v1.jsonl |
pergunta com resposta de referência | 45 |
autores_openalex.jsonl |
autoria completa por documento | 28.323 |
indice_completo.jsonl |
todo documento avaliado, com status | 81.073 |
Texto em dapt_full.jsonl: 1,44 bilhão de caracteres.
Versão
v2 (2026-09-14). Remove 28.015 documentos fora do tema e 22 sem conteúdo real, e repara texto com codificação de fonte quebrada (seções abaixo). A v1 (55.002 documentos) continua acessível no histórico de commits deste repositório; ela contém ~50% de documentos fora do tema e não deve ser usada para treino.
Fontes e critério temático
- BDTD (
bdtd.ibict.br, API VuFind): teses e dissertações. - OpenAlex (
api.openalex.org): artigos em acesso aberto com instituição no Brasil.
O volume oficial de referência do tema (79.301 documentos) vem de uma busca léxica: basta "segurança", "justiça" ou "cidadania" aparecer em qualquer lugar do registro. Isso não garante que o documento seja sobre o tema. O corpus aplica três camadas para corrigir isso:
- na coleta: exclusão de áreas e de sentidos que não são do tema ("segurança alimentar", "segurança da informação", "segurança do paciente", "cidadania corporativa"…), com checagem também no resumo;
- no texto processado: nova checagem de relevância sobre o texto inteiro;
- pertinência temática (v2): classificação do objeto principal do documento — ver seção própria.
Pipeline (Processed)
Por documento, na ordem:
- extração de texto (PyMuPDF) com corte de capa e referências; tabelas
inseridas como
[TABELA]…[/TABELA]na posição da página; - normalização: remoção de cabeçalho/rodapé repetido, hifenização, espaços;
- reparo de codificação de fonte: em ~2,5% dos documentos, fontes sem
mapa ToUnicode produziam o índice do glifo no lugar do caractere
(
TXDQGR\x03HP→ "quando em"); linhas são decodificadas pela ordem padrão de glifos TrueType e o reparo só é aceito se aumentar as palavras portuguesas reconhecidas; linhas irrecuperáveis são descartadas; - piso de conteúdo: menos de 500 letras → excluído ("Publicação não autorizada pelo autor", só números de página);
- filtro de idioma (português);
- relevância sobre o texto processado;
- deduplicação de conteúdo (MinHash + LSH): clusters com mais de 5 documentos quase idênticos são conteúdo genérico servido no lugar do documento (página institucional repetida, suplemento de revista) e saem inteiros;
- tier de qualidade (A/B/C) por fração de palavras reconhecidas e densidade numérica;
- anonimização por regex: CPF, e-mail e telefone →
[CPF],[EMAIL],[TELEFONE].
Pertinência temática
Rotulagem manual de 250 documentos sorteados entre os que tinham passado pelos filtros anteriores: 50% estavam fora do tema (clínica médica, enfermagem, veterinária, engenharia, marketing…), 25% limítrofes, 25% pertinentes. Critério:
- P — pertinente: o objeto principal é segurança pública/violências/ sistema penal; sistema de justiça/acesso à justiça/direito penal e processual/tribunais; ou direitos humanos/participação/democracia/direitos de grupos vulnerabilizados.
- L — limítrofe: tangencia o tema, mas o foco é outra área (direito privado, tributário ou trabalhista; gestão pública; história política).
- F — fora do tema.
Regra de remoção, escolhida por comparação de classificadores contra os
rótulos manuais: um LLM local (qwen3.5:4b, zero-shot com o critério acima)
diz F e uma regressão logística sobre embeddings multilingual-e5-base
concorda com P(F) ≥ 0,35. A trava da logística protege um ponto cego do LLM
("judicialização da saúde" classificada como saúde).
Validação em amostra nova, rotulada sem ver a decisão do classificador:
| grupo | P | L | F |
|---|---|---|---|
| removidos (n=60) | 0% | 8% | 92% |
| mantidos (n=100) | 35% | 49% | 16% |
Limítrofes são mantidos. As 115 teses da BDTD marcadas para remoção foram revisadas uma a uma; 23 (3 P, 20 L) foram mantidas.
Recorte estrito. O campo tema_llm permite ficar só com os documentos que
o LLM classificou como pertinentes: 16.647 em dapt_full.jsonl. Na amostra
de validação, esse subconjunto teve 0% fora do tema (n=52). Estimativa para o
corpus completo mantido: ~16% ainda fora do tema.
Arquivos
dapt_full.jsonl
Um documento por linha; todo documento ok que não é held-out.
| campo | descrição |
|---|---|
key |
identificador único do documento (hash; comum a todos os arquivos) |
fonte |
bdtd ou openalex |
titulo, autor, ano |
metadado (título e 1º autor normalizados, sem acento) |
tier |
qualidade: A 27.333 / B 420 / C 31 |
chars |
tamanho do texto |
tema_llm |
rótulo do LLM: P 16.647 / L 6.863 / F 4.274 (F mantido pela trava) |
texto |
texto Processed completo |
Por fonte: BDTD 295, OpenAlex 27.489 (com held-out: BDTD 307, OpenAlex 28.377).
held_out.jsonl
Mesmo schema; 900 documentos reservados por sorteio estratificado antes de qualquer processamento. Não usar em treino nem em índice de RAG.
rag_chunks_full.jsonl
Divisão por parágrafo, blocos de tabela nunca partidos, alvo de 1.600–2.400
caracteres e sobreposição de 200. Só documentos de dapt_full.jsonl.
Campos: chunk_id (fonte:key:índice), key, fonte, chunk_index,
n_chunks_doc, texto, chars, tem_tabela.
benchmark_v1.jsonl
45 perguntas, 15 por eixo: 30 ancoradas num trecho que está em
rag_chunks_full.jsonl (campo chunk_id permite medir recuperação exata),
9 sobre documentos held-out, 6 conceituais com trechos de apoio no corpus.
Cada pergunta foi rascunhada por LLM local a partir do trecho e reescrita e
revisada manualmente; termos-chave validados automaticamente contra o
trecho.
Campos: id, modo (rag/held_out/conceitual), eixo, tipo,
pergunta, resposta_ref, termos_chave, key, chunk_id,
apoio_chunk_ids, nota_revisao.
Métrica: termos_chave é uma lista de grupos com alternativas separadas por
|; a resposta acerta se contiver todos os grupos (comparação sem acento,
com fronteira de palavra). Uma resposta que recusa ("não encontrado") não
conta como acerto.
autores_openalex.jsonl
Autoria completa dos documentos OpenAlex mantidos (inclui held-out): 66.017 autores, 56,4% com ORCID, com instituição (ROR, país) e posição. Não participa de nenhum filtro.
indice_completo.jsonl
Todo documento avaliado — incluindo os excluídos, só com metadado, para auditoria do critério.
| status | N |
|---|---|
ok |
28.684 |
fora_do_tema_pertinencia |
28.015 |
fora_do_tema_confirmado (relevância léxica) |
22.099 |
lingua_estrangeira |
2.106 |
duplicata_suspeita_excluida |
94 |
sem_texto |
46 |
conteudo_insuficiente |
22 |
erro |
7 |
Campos adicionais quando aplicável: held_out, tier, chars, paginas,
tem_pii, pii_mascarada, tema_llm, tema_p_f, tema_versao,
tema_override, reparo_codificacao.
Uso pretendido
Pesquisa e ensino em PLN: pré-treino continuado e fine-tuning de modelos em
português jurídico-social, RAG sobre produção científica e avaliação. Para
avaliação de DAPT, recomenda-se perplexidade/entropia cruzada no held-out;
para RAG, benchmark_v1.jsonl.
Limitações
- Critério temático automatizado: estimativa de ~16% de documentos fora do
tema restantes (use
tema_llm == "P"para o recorte estrito). - Extração de PDF: ruído local possível mesmo em tier A (capa, ficha catalográfica, tabelas mal lidas); notas de rodapé não são separadas do corpo.
- Anonimização por regex, sem NER: nomes próprios não são tratados.
- O próprio texto dos documentos pode conter erros factuais (três foram encontrados na construção do benchmark; as respostas de referência seguem o fato correto).
- Benchmark pequeno (45 itens); perguntas de marco normativo e dado quantitativo estão sobrerrepresentadas pela forma de seleção dos trechos.
Licença
Texto extraído de documentos em acesso aberto (BDTD e OpenAlex OA). Os direitos de cada documento permanecem os do repositório de origem; este dataset reorganiza e limpa o texto para uso em PLN.
- Downloads last month
- 54