Add README.md

README.md

@@ -0,0 +1,337 @@
+# FateFusion 데이터셋 저장소
+
+**목적**: FateFusion 프로젝트를 위한 점술 데이터셋 수집 및 관리
+**최종 업데이트**: 2026-01-14
+**총 확보 데이터**: 92,219건 (69.26 MB)
+
+---
+
+## 📋 주요 문서
+
+### 1. [DATASET_INDEX.md](DATASET_INDEX.md)
+- **중복 다운로드 방지 인덱스**
+- 18개 데이터셋 상태 추적
+- 다운로드/보류/스킵 상태 관리
+- 재다운로드 필요 여부 체크
+
+### 2. [download_status.json](download_status.json)
+- **머신 리더블 메타데이터**
+- 데이터셋별 상태, URL, 파일 목록
+- 업로드 상태 추적
+- 다음 액션 항목
+
+### 3. [file_hashes.json](file_hashes.json)
+- **파일 무결성 체크**
+- MD5 해시값
+- 파일 크기 정보
+- 중복 데이터 검증용
+
+---
+
+## 📊 확보 데이터 현황
+
+### ✅ 다운로드 완료 (6개)
+
+| 데이터셋 | 건수 | 크기 | 파일 |
+|---------|------|------|------|
+| **타로 - HuggingFace Dendory** | 5,769 | 6.0 MB | CSV + JSONL |
+| **타로 - GitHub Corpora** | 78 | 0.08 MB | JSON |
+| **타로 - GitHub Tarot API** | 78 | 0.08 MB | JSON |
+| **점성술 - Kaggle Horoscopes** | 21,959 | 9.1 MB | CSV |
+| **점성술 - Kaggle Open Astrology** | 58,566 | 54.0 MB | 3× CSV |
+| **합계** | **86,450** | **69.26 MB** | **8개 파일** |
+
+**실제 다운로드**: 92,219건 (예상보다 +8,525건 더 확보)
+
+---
+
+## 🗂️ 파일 구조
+
+```
+FateFusion_Datasets/
+├── README.md                          # 이 파일 (프로젝트 개요)
+├── DATASET_INDEX.md                   # 중복 방지 인덱스
+├── download_status.json               # 메타데이터 (머신 리더블)
+├── file_hashes.json                   # 파일 무결성 체크
+│
+├── datasets/                          # 다운로드된 데이터셋
+│   ├── tarot_dendory_5770.csv         # 5,769건 (2.88 MB)
+│   ├── tarot_dendory_5769.jsonl       # 5,769건 (3.14 MB)
+│   ├── tarot_corpora_interpretations.json  # 78건 (0.08 MB)
+│   ├── tarot_api_card_data.json       # 78건 (0.08 MB)
+│   ├── horoscope_saved.csv            # 21,959건 (9.10 MB)
+│   ├── gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv      # 19,522건 (18.00 MB)
+│   ├── gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv   # 19,522건 (17.99 MB)
+│   └── gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv  # 19,522건 (17.99 MB)
+│
+├── download_csv.py                    # HuggingFace 타로 다운로드
+├── download_kaggle.py                 # Kaggle 데이터셋 다운로드
+├── download_huggingface_direct.py     # Parquet 직접 다운로드 (대체)
+├── verify_downloads.py                # 데이터 검증 스크립트
+├── upload_to_gdrive.py                # 구글 드라이브 업로드 (Python)
+└── Colab_Upload_to_GDrive.ipynb       # 구글 드라이브 업로드 (Colab)
+```
+
+---
+
+## 🚀 빠른 시작
+
+### 1. 데이터 검증
+```bash
+cd C:\Users\SSAFY\projects\FateFusion_Datasets
+uv run python verify_downloads.py
+```
+
+**출력**:
+- ✅ 파일 존재 확인
+- 📊 데이터 건수 검증
+- 🔄 중복 데이터 체크
+- 🔐 파일 해시 생성
+
+---
+
+### 2. 구글 드라이브 업로드
+
+**Option A: Colab 노트북 (권장)**
+```
+1. Colab 열기: https://colab.research.google.com/
+2. 노트북 업로드: Colab_Upload_to_GDrive.ipynb
+3. 셀 순서대로 실행
+```
+
+**Option B: Python 스크립트**
+```bash
+# Google Cloud Console에서 credentials.json 발급 필요
+uv run python upload_to_gdrive.py
+```
+
+---
+
+### 3. 데이터 구조 확인
+
+**타로 스프레드 (5,769건)**
+```python
+import pandas as pd
+df = pd.read_csv('datasets/tarot_dendory_5770.csv')
+
+# 컬럼: Card 1, Card 2, Card 3, Reading
+print(df.head(1))
+```
+
+**점성술 운세 (21,959건)**
+```python
+df = pd.read_csv('datasets/horoscope_saved.csv')
+print(df.columns)
+```
+
+**타로 카드 해석 (78장)**
+```python
+import json
+with open('datasets/tarot_corpora_interpretations.json') as f:
+    data = json.load(f)
+
+cards = data['tarot_interpretations']
+print(f"총 {len(cards)}장")
+print(cards[0])  # The Fool
+```
+
+---
+
+## 📊 데이터 검증 결과
+
+### 파일 무결성 체크 ✅
+
+| 파일 | MD5 | 크기 | 상태 |
+|------|-----|------|------|
+| tarot_dendory_5770.csv | 56cdb73f... | 2.88 MB | ✅ |
+| tarot_dendory_5769.jsonl | 9eec0ae0... | 3.14 MB | ✅ |
+| tarot_corpora_interpretations.json | 05711... | 0.08 MB | ✅ |
+| tarot_api_card_data.json | 5ec369... | 0.08 MB | ✅ |
+| horoscope_saved.csv | fa9b2023... | 9.10 MB | ✅ |
+| gauq-couples-aspects-REAL-*.csv | fded8d2a... | 18.00 MB | ✅ |
+| gauq-couples-aspects-RANDOMIZED-*.csv | 447b9407... | 17.99 MB | ✅ |
+| gauq-couples-aspects-RANDOMIZED2-*.csv | 4da9f55a... | 17.99 MB | ✅ |
+
+**전체 해시**: [file_hashes.json](file_hashes.json) 참조
+
+---
+
+### 데이터 건수 검증 ✅
+
+| 데이터셋 | 예상 | 실제 | 차이 | 상태 |
+|---------|------|------|------|------|
+| Dendory Tarot CSV | 5,769 | 5,769 | 0 | ✅ 일치 |
+| Dendory Tarot JSONL | 5,769 | 5,769 | 0 | ✅ 일치 |
+| Corpora Tarot | 78 | 78 | 0 | ✅ 일치 |
+| Tarot API | 78 | 78 | 0 | ✅ 일치 |
+| Horoscopes | 12,000 | 21,959 | +9,959 | ⚠️ 더 많음 |
+| Open Astrology REAL | 20,000 | 19,522 | -478 | ⚠️ 근사치 |
+| Open Astrology RAND1 | 20,000 | 19,522 | -478 | ⚠️ 근사치 |
+| Open Astrology RAND2 | 20,000 | 19,522 | -478 | ⚠️ 근사치 |
+
+**총계**: 예상 83,694건 → **실제 92,219건** (+8,525건)
+
+---
+
+### 중복 데이터 체크 ✅
+
+**1. Dendory CSV vs JSONL**
+- CSV: 5,769건
+- JSONL: 5,769건
+- **결과**: ✅ 동일 데이터 (형식 변환)
+
+**2. 타로 카드 78장**
+- Corpora: 78장
+- Tarot API: 78장
+- **중복**: 17장
+- **결과**: ⚠️ 부분 중복 (출처 다름, 해석 다를 수 있음)
+
+---
+
+## 🔄 중복 다운로드 방지
+
+### 규칙
+
+#### Rule 1: 다운로드 전 인덱스 확인
+```bash
+# DATASET_INDEX.md에서 상태 확인
+# ✅ DOWNLOADED → 스킵
+# ⏳ PENDING → 필요 시 다운로드
+# ❌ NOT_AVAILABLE → Phase 2 작업
+```
+
+#### Rule 2: 파일 해시 비교
+```python
+import json
+import hashlib
+
+# 기존 해시 로드
+with open('file_hashes.json') as f:
+    existing_hashes = json.load(f)
+
+# 새 파일 해시 계산
+def get_file_hash(filepath):
+    with open(filepath, 'rb') as f:
+        return hashlib.md5(f.read()).hexdigest()
+
+# 비교
+new_hash = get_file_hash('new_file.csv')
+if new_hash in [h['md5'] for h in existing_hashes.values()]:
+    print("⚠️ 중복 파일!")
+```
+
+#### Rule 3: download_status.json 업데이트
+```python
+import json
+from datetime import datetime
+
+# 상태 업데이트
+with open('download_status.json') as f:
+    status = json.load(f)
+
+status['datasets']['new_dataset'] = {
+    'status': 'DOWNLOADED',
+    'download_date': datetime.now().strftime('%Y-%m-%d'),
+    'files': ['new_file.csv'],
+    'data_count': 1000,
+}
+
+with open('download_status.json', 'w') as f:
+    json.dump(status, f, indent=2, ensure_ascii=False)
+```
+
+---
+
+## 📚 데이터 출처
+
+### 타로 (Tarot)
+1. **HuggingFace Dendory/tarot** (5,769건)
+   - URL: https://huggingface.co/datasets/Dendory/tarot
+   - License: MIT
+   - Type: spread_interpretation (3장 카드 조합)
+
+2. **GitHub dariusk/corpora** (78건)
+   - URL: https://github.com/dariusk/corpora
+   - License: CC0 (Public Domain)
+   - Type: multi_factor_interpretation (카드별 해석)
+
+3. **GitHub ekelen/tarot-api** (78건)
+   - URL: https://github.com/ekelen/tarot-api
+   - License: Open Source
+   - Type: static_interpretation (카드 기본 정보)
+
+### 점성술 (Astrology)
+1. **Kaggle Horoscopes** (21,959건)
+   - URL: https://www.kaggle.com/datasets/shahp7575/horoscopes
+   - License: Kaggle Public
+   - Type: temporal_prediction (12 별자리 × 카테고리)
+
+2. **Kaggle Open Astrology** (58,566건)
+   - URL: https://www.kaggle.com/datasets/gokhanyu/open-astrology-datasets
+   - License: GPL 2
+   - Type: multi_factor_interpretation (커플 궁합)
+
+---
+
+## 🎯 다음 단계
+
+### Phase 1: 데이터 구조화 (완료)
+- [x] 서양 점술 데이터 다운로드 (6개)
+- [x] 파일 무결성 검증
+- [x] 중복 데이터 체크
+- [x] 구조화된 인덱스 생성
+
+### Phase 2: 데이터 변환 (진행 중)
+- [ ] FateFusion JSONL 형식 변환
+- [ ] 데이터 품질 검증
+- [ ] 중복 데이터 제거
+
+### Phase 3: 구글 드라이브 업로드 (대기)
+- [ ] Colab 노트북 실행
+- [ ] Google Drive MCP OAuth 설정
+- [ ] 자동 업로드 스크립트 작성
+
+### Phase 4: 동양 점술 데이터 (계획)
+- [ ] 사주 해석 데이터 수집 전략
+- [ ] 한국 꿈해몽 데이터 크롤링
+- [ ] 관상/토정비결 데이터 확보
+
+---
+
+## ⚠️ 데이터 갭 분석
+
+### 서양 점술 ✅
+- **타로**: 5,925건 (충분)
+- **점성술**: 80,525건 (충분)
+- **총계**: **86,450건** (매우 충분)
+
+### 동양 점술 ❌
+- **사주**: 0건 (해석 데이터 없음)
+- **관상**: 0건 (윤리적 이슈)
+- **손금**: 0건 (이미지만 있음, 해석 없음)
+- **토정비결**: 0건 (공개 데이터 없음)
+- **한국 꿈해몽**: 0건 (영어 데이터만)
+- **총계**: **0건** (심각한 부족)
+
+### 대안 전략
+1. **수동 생성**: ChatGPT/Claude로 동양 점술 데이터 생성
+2. **크롤링**: 한국 점술 사이트 크롤링 (법적 리스크)
+3. **유료 데이터**: 점술 업체 협업
+4. **MVP 피벗**: 서양 점술 전문 서비스로 방향 전환
+
+---
+
+## 📞 문의
+
+**프로젝트**: FateFusion
+**팀**: SSAFY 14기
+**날짜**: 2026-01-14
+
+**관련 문서**:
+- [@docs/specs/FateFusion_Feature_Spec_v6.md](../docs/specs/FateFusion_Feature_Spec_v6.md)
+- [@claudedocs/FateFusion_Complete_Dataset_Research_20260114.md](../claudedocs/FateFusion_Complete_Dataset_Research_20260114.md)
+
+---
+
+**라이선스**: 각 데이터셋의 라이선스 참조 (MIT, CC0, GPL 2, Kaggle Public)
+**마지막 업데이트**: 2026-01-14