Commit ·
360fa36
1
Parent(s): d603bb7
fix typo
Browse files- aihub_summary_and_report.py +18 -3
aihub_summary_and_report.py
CHANGED
|
@@ -29,35 +29,46 @@ There is no citation information
|
|
| 29 |
|
| 30 |
_DESCRIPTION = """\
|
| 31 |
# 요약문 및 레포트 생성데이터
|
|
|
|
| 32 |
## 소개
|
| 33 |
다양한 한국어 원문 데이터로부터 정제된 추출 및 생성 요약문을 도출하고 검증한 한국어 문서요약 AI 데이터셋으로, 추출요약을 포함하여 본문에서 중요한 문장을 하나의 새로운 요약문으로 창조하는 생성요약(Abstractive Summarization)을 위한 데이터 세트를 구축하고 이를 실제 모델에 학습
|
| 34 |
## 구축목적
|
| 35 |
다양한 문서유형의 한국어 원문으로부터 추출요약문과 생성요약문을 도출해낼 수 있도록 인공지능을 훈련하기 위한 데이터셋
|
|
|
|
|
|
|
| 36 |
## Usage
|
| 37 |
```python
|
| 38 |
from datasets import load_dataset
|
|
|
|
| 39 |
raw_datasets = load_dataset(
|
| 40 |
-
"
|
| 41 |
"base",
|
| 42 |
cache_dir="huggingface_datasets",
|
| 43 |
data_dir="data",
|
| 44 |
ignore_verifications=True,
|
| 45 |
)
|
|
|
|
| 46 |
dataset_train = raw_datasets["train"]
|
|
|
|
| 47 |
for item in dataset_train:
|
| 48 |
print(item)
|
| 49 |
exit()
|
| 50 |
```
|
|
|
|
| 51 |
## 데이터 관련 문의처
|
| 52 |
| 담당자명 | 전화번호 | 이메일 |
|
| 53 |
| ------------- | ------------- | ------------- |
|
| 54 |
| 김정민 이사 | 02-3404-7237 | kris.kim@wisenut.co.kr |
|
|
|
|
| 55 |
## Copyright
|
|
|
|
| 56 |
### 데이터 소개
|
| 57 |
AI 허브에서 제공되는 인공지능 학습용 데이터(이하 ‘AI데이터’라고 함)는 과학기술정보통신부와 한국지능정보사회진흥원의 「지능정보산업 인프라 조성」 사업의 일환으로 구축되었으며, 본 사업의 유‧무형적 결과물인 데이터, AI 응용모델 및 데이터 저작도구의 소스, 각종 매뉴얼 등(이하 ‘AI데이터 등’)에 대한 일체의 권리는 AI데이터 등의 구축 수행기관 및 참여기관(이하 ‘수행기관 등’)과 한국지능정보사회진흥원에 있습니다.
|
| 58 |
본 AI데이터 등은 인공지능 기술 및 제품·서비스 발전을 위하여 구축하였으며, 지능형 제품・서비스, 챗봇 등 다양한 분야에서 영리적・비영리적 연구・개발 목적으로 활용할 수 있습니다.
|
|
|
|
| 59 |
### 데이터 이용정책
|
| 60 |
- 본 AI데이터 등을 이용하기 위해서 다음 사항에 동의하며 준수해야 함을 고지합니다.
|
|
|
|
| 61 |
1. 본 AI데이터 등을 이용할 때에는 반드시 한국지능정보사회진흥원의 사업결과임을 밝혀야 하며, 본 AI데이터 등을 이용한 2차적 저작물에도 동일하게 밝혀야 합니다.
|
| 62 |
2. 국외에 소재하는 법인, 단체 또는 개인이 AI데이터 등을 이용하기 위해서는 수행기관 등 및 한국지능정보사회진흥원과 별도로 합의가 필요합니다.
|
| 63 |
3. 본 AI데이터 등의 국외 반출을 위해서는 수행기관 등 및 한국지능정보사회진흥원과 별도로 합의가 필요합니다.
|
|
@@ -67,10 +78,12 @@ AI 허브에서 제공되는 인공지능 학습용 데이터(이하 ‘AI데이
|
|
| 67 |
7. 이용자는 AI 허브 제공 데이터셋 내에 개인정보 등이 포함된 것이 발견된 경우, 즉시 AI 허브에 해당 사실을 신고하고 다운로드 받은 데이터셋을 삭제하여야 합니다.
|
| 68 |
8. AI 허브로부터 제공받은 비식별 정보(재현정보 포함)를 인공지능 서비스 개발 등의 목적으로 안전하게 이용하여야 하며, 이를 이용해서 개인을 재식별하기 위한 어떠한 행위도 하여서는 안됩니다.
|
| 69 |
9. 향후 한국지능정보사회진흥원에서 활용사례・성과 등에 관한 실태조사를 수행 할 경우 이에 성실하게 임하여야 합니다.
|
|
|
|
| 70 |
### 데이터 다운로드 신청방법
|
| 71 |
1. AI 허브를 통해 제공 중인 AI데이터 등을 다운로드 받기 위해서는 별도의 신청자 본인 확인과 정보 제공, 목적을 밝히는 절차가 필요합니다.
|
| 72 |
2. AI데이터를 제외한 데이터 설명, 저작 도구 등은 별도의 신청 절차나 로그인 없이 이용이 가능합니다.
|
| 73 |
3. 한국지능정보사회진흥원이 권리자가 아닌 AI데이터 등은 해당 기관의 이용정책과 다운로드 절차를 따라야 하며 이는 AI 허브와 관련이 없음을 알려 드립니다.
|
|
|
|
| 74 |
"""
|
| 75 |
|
| 76 |
TRAINING_FPATH_REL = "022.요약문 및 레포트 생성 데이터/01.데이터/1.Training/라벨링데이터/TL1.zip"
|
|
@@ -118,11 +131,11 @@ class SummaryAndReport(datasets.GeneratorBasedBuilder):
|
|
| 118 |
description="Summary and Report Dataset",
|
| 119 |
)
|
| 120 |
]
|
| 121 |
-
|
| 122 |
manual_download_instructions = textwrap.dedent(f"""
|
| 123 |
You need to manually download the data file on AIHub (${_URL}).
|
| 124 |
The folder containing the saved file can be used to load the dataset
|
| 125 |
-
via 'datasets.load_dataset("
|
| 126 |
""")
|
| 127 |
|
| 128 |
def _info(self):
|
|
@@ -157,3 +170,5 @@ class SummaryAndReport(datasets.GeneratorBasedBuilder):
|
|
| 157 |
"""Yields examples."""
|
| 158 |
for idx, item in enumerate(generator(fpath)):
|
| 159 |
yield idx, item
|
|
|
|
|
|
|
|
|
| 29 |
|
| 30 |
_DESCRIPTION = """\
|
| 31 |
# 요약문 및 레포트 생성데이터
|
| 32 |
+
|
| 33 |
## 소개
|
| 34 |
다양한 한국어 원문 데이터로부터 정제된 추출 및 생성 요약문을 도출하고 검증한 한국어 문서요약 AI 데이터셋으로, 추출요약을 포함하여 본문에서 중요한 문장을 하나의 새로운 요약문으로 창조하는 생성요약(Abstractive Summarization)을 위한 데이터 세트를 구축하고 이를 실제 모델에 학습
|
| 35 |
## 구축목적
|
| 36 |
다양한 문서유형의 한국어 원문으로부터 추출요약문과 생성요약문을 도출해낼 수 있도록 인공지능을 훈련하기 위한 데이터셋
|
| 37 |
+
|
| 38 |
+
|
| 39 |
## Usage
|
| 40 |
```python
|
| 41 |
from datasets import load_dataset
|
| 42 |
+
|
| 43 |
raw_datasets = load_dataset(
|
| 44 |
+
"aihub_summary_and_report.py",
|
| 45 |
"base",
|
| 46 |
cache_dir="huggingface_datasets",
|
| 47 |
data_dir="data",
|
| 48 |
ignore_verifications=True,
|
| 49 |
)
|
| 50 |
+
|
| 51 |
dataset_train = raw_datasets["train"]
|
| 52 |
+
|
| 53 |
for item in dataset_train:
|
| 54 |
print(item)
|
| 55 |
exit()
|
| 56 |
```
|
| 57 |
+
|
| 58 |
## 데이터 관련 문의처
|
| 59 |
| 담당자명 | 전화번호 | 이메일 |
|
| 60 |
| ------------- | ------------- | ------------- |
|
| 61 |
| 김정민 이사 | 02-3404-7237 | kris.kim@wisenut.co.kr |
|
| 62 |
+
|
| 63 |
## Copyright
|
| 64 |
+
|
| 65 |
### 데이터 소개
|
| 66 |
AI 허브에서 제공되는 인공지능 학습용 데이터(이하 ‘AI데이터’라고 함)는 과학기술정보통신부와 한국지능정보사회진흥원의 「지능정보산업 인프라 조성」 사업의 일환으로 구축되었으며, 본 사업의 유‧무형적 결과물인 데이터, AI 응용모델 및 데이터 저작도구의 소스, 각종 매뉴얼 등(이하 ‘AI데이터 등’)에 대한 일체의 권리는 AI데이터 등의 구축 수행기관 및 참여기관(이하 ‘수행기관 등’)과 한국지능정보사회진흥원에 있습니다.
|
| 67 |
본 AI데이터 등은 인공지능 기술 및 제품·서비스 발전을 위하여 구축하였으며, 지능형 제품・서비스, 챗봇 등 다양한 분야에서 영리적・비영리적 연구・개발 목적으로 활용할 수 있습니다.
|
| 68 |
+
|
| 69 |
### 데이터 이용정책
|
| 70 |
- 본 AI데이터 등을 이용하기 위해서 다음 사항에 동의하며 준수해야 함을 고지합니다.
|
| 71 |
+
|
| 72 |
1. 본 AI데이터 등을 이용할 때에는 반드시 한국지능정보사회진흥원의 사업결과임을 밝혀야 하며, 본 AI데이터 등을 이용한 2차적 저작물에도 동일하게 밝혀야 합니다.
|
| 73 |
2. 국외에 소재하는 법인, 단체 또는 개인이 AI데이터 등을 이용하기 위해서는 수행기관 등 및 한국지능정보사회진흥원과 별도로 합의가 필요합니다.
|
| 74 |
3. 본 AI데이터 등의 국외 반출을 위해서는 수행기관 등 및 한국지능정보사회진흥원과 별도로 합의가 필요합니다.
|
|
|
|
| 78 |
7. 이용자는 AI 허브 제공 데이터셋 내에 개인정보 등이 포함된 것이 발견된 경우, 즉시 AI 허브에 해당 사실을 신고하고 다운로드 받은 데이터셋을 삭제하여야 합니다.
|
| 79 |
8. AI 허브로부터 제공받은 비식별 정보(재현정보 포함)를 인공지능 서비스 개발 등의 목적으로 안전하게 이용하여야 하며, 이를 이용해서 개인을 재식별하기 위한 어떠한 행위도 하여서는 안됩니다.
|
| 80 |
9. 향후 한국지능정보사회진흥원에서 활용사례・성과 등에 관한 실태조사를 수행 할 경우 이에 성실하게 임하여야 합니다.
|
| 81 |
+
|
| 82 |
### 데이터 다운로드 신청방법
|
| 83 |
1. AI 허브를 통해 제공 중인 AI데이터 등을 다운로드 받기 위해서는 별도의 신청자 본인 확인과 정보 제공, 목적을 밝히는 절차가 필요합니다.
|
| 84 |
2. AI데이터를 제외한 데이터 설명, 저작 도구 등은 별도의 신청 절차나 로그인 없이 이용이 가능합니다.
|
| 85 |
3. 한국지능정보사회진흥원이 권리자가 아닌 AI데이터 등은 해당 기관의 이용정책과 다운로드 절차를 따라야 하며 이는 AI 허브와 관련이 없음을 알려 드립니다.
|
| 86 |
+
|
| 87 |
"""
|
| 88 |
|
| 89 |
TRAINING_FPATH_REL = "022.요약문 및 레포트 생성 데이터/01.데이터/1.Training/라벨링데이터/TL1.zip"
|
|
|
|
| 131 |
description="Summary and Report Dataset",
|
| 132 |
)
|
| 133 |
]
|
| 134 |
+
|
| 135 |
manual_download_instructions = textwrap.dedent(f"""
|
| 136 |
You need to manually download the data file on AIHub (${_URL}).
|
| 137 |
The folder containing the saved file can be used to load the dataset
|
| 138 |
+
via 'datasets.load_dataset("aihub_summary_and_report.py", data_dir="<path/to/folder>")'
|
| 139 |
""")
|
| 140 |
|
| 141 |
def _info(self):
|
|
|
|
| 170 |
"""Yields examples."""
|
| 171 |
for idx, item in enumerate(generator(fpath)):
|
| 172 |
yield idx, item
|
| 173 |
+
|
| 174 |
+
|