Upload README.md with huggingface_hub

README.md

@@ -34,10 +34,10 @@ data/
 ├── vanban.parquet           # Bảng chính: 1 dòng = 1 văn bản (~50 cột)
 ├── vanban.jsonl             # Tương đương vanban.parquet dạng JSONL
 ├── nodes.jsonl              # Nodes cho graph (1 dòng = 1 doc, các trường core)
-├── edges.jsonl              # Edges cho graph (~37k cạnh từ references)
-├── vanban_process.parquet   # Sau khi clean text (optional)
-├── chunks.jsonl             # Chia theo Điều/Khoản (optional)
-└── relations.jsonl          # Quan hệ extract từ text (optional)
+├── edges.jsonl              # Edges cho graph (~37k cạnh từ references metadata)
+├── vanban_process.parquet   # Sau khi clean text (optional, có khi đã chạy 2_clean)
+├── chunks.parquet           # Chia theo Điều/Khoản, ~450k chunks (recommend cho query)
+└── chunks.jsonl             # Same as chunks.parquet, JSONL cho streaming
 
 reports/
 ├── stats_all.md             # Báo cáo thống kê toàn corpus
@@ -83,23 +83,26 @@ Mỗi dòng = 1 relation giữa 2 văn bản:
 import pandas as pd
 import json
 
-# Tabular data
+# Tabular data — 42k VB
 df = pd.read_parquet('hf://datasets/Monmoonluna/vbpl-vn-legal-corpus/data/vanban.parquet')
 print(df['loai_van_ban'].value_counts())
 
-# Parse references để build graph
-df['refs'] = df['references_json'].apply(lambda s: json.loads(s) if s else [])
-
-# Hoặc đọc edges trực tiếp
-edges = pd.read_json('hf://datasets/Monmoonluna/vbpl-vn-legal-corpus/data/edges.jsonl', lines=True)
+# Chunks cho RAG — 447k chunks, ~600 token avg
+chunks = pd.read_parquet('hf://datasets/Monmoonluna/vbpl-vn-legal-corpus/data/chunks.parquet')
+print(f'{len(chunks):,} chunks')
+print(chunks[['so_ky_hieu','chunk_type','text']].head(3))
 
-# Build networkx graph
+# Build graph từ edges
 import networkx as nx
+edges = pd.read_json('hf://datasets/Monmoonluna/vbpl-vn-legal-corpus/data/edges.jsonl', lines=True)
 G = nx.DiGraph()
 for _, e in edges.iterrows():
     G.add_edge(e['source_so_ky_hieu'], e['target_so_ky_hieu'],
                relation=e['relation_type'])
-print(f'Nodes: {G.number_of_nodes()}, Edges: {G.number_of_edges()}')
+print(f'Graph: {G.number_of_nodes()} nodes, {G.number_of_edges()} edges')
+
+# Hoặc parse references inline từ vanban.parquet
+df['refs'] = df['references_json'].apply(lambda s: json.loads(s) if s else [])
 ```
 
 ## Pipeline code