Update README.md

README.md

@@ -1,3 +1,48 @@
----
-license: afl-3.0
----
+---
+license: afl-3.0
+---
+
+# SALVAMENTO do Dataset
+#### eu usui o metodo de save_to_disk
+```
+from datasets import load_dataset
+from datasets import Dataset
+import pandas as pd
+
+# Carregar os dados do arquivo de texto
+df = pd.read_parquet('../data/cpc_2015_cleaned.parquet')
+
+data = {
+    "livro": df["Livro"],
+    "capitulo": df["Capitulo"],
+    "titulo": df["Titulo"],
+    "secao": df["Secao"],
+    "subsecao": df["Subsecao"],
+    "artigo": df["Artigo"]
+}
+
+# Dividir o texto em seções
+dataset = Dataset.from_pandas(pd.DataFrame(data))
+
+dataset.save_to_disk('../data/cpc_2015_brasil')
+
+print(dataset)
+
+```
+
+# LEITURA do Dataset
+
+```
+from datasets import load_from_disk
+
+dataset = load_from_disk('../data/cpc_2015_brasil/')
+
+# Dividir o dataset em conjuntos de treinamento, validação e teste (por exemplo, 80%, 10%, 10%)
+# Altere os parametros caso precise
+train_dataset = dataset.shuffle(seed=42).select(range(int(len(dataset)*0.8)))
+eval_dataset = dataset.shuffle(seed=42).select(range(int(len(dataset)*0.8), int(len(dataset)*0.9)))
+test_dataset = dataset.shuffle(seed=42).select(range(int(len(dataset)*0.9), len(dataset)))
+
+print(train_dataset)
+
+```