Upload 3 files

README.md

@@ -1,3 +1,178 @@
 ---
 license: cc-by-4.0
+task_categories:
+  - other
+language:
+  - ko
+  - en
+tags:
+  - GIS
+  - benchmark
+  - geospatial
+  - LLM
+  - agent
+  - QGIS
+  - MCP
+  - spatial-analysis
+pretty_name: GIS-Bench
+size_categories:
+  - n<100
 ---
+
+# GIS-Bench: A Benchmark for Evaluating LLM-based GIS Automation Agents
+
+## Dataset Description
+
+**GIS-Bench** is a benchmark framework designed to evaluate the capability of Large Language Model (LLM)-based agents in automating GIS (Geographic Information System) tasks using the Model Context Protocol (MCP).
+
+This benchmark was developed as part of a master's thesis research and targets real-world spatial analysis workflows executable in QGIS Desktop via Claude + MCP integration.
+
+- **Paper:** *GIS-Bench: LLM 기반 GIS 자동화 에이전트 평가 벤치마크* (KCC 2026, submitted)
+- **Repository:** [yiseo0/GIS-Bench](https://huggingface.co/datasets/yiseo0/GIS-Bench)
+- **License:** [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/)
+
+---
+
+## Benchmark Overview
+
+| Item | Details |
+|------|---------|
+| Total Tasks | 45 |
+| Difficulty Levels | 3 (Level 1 / Level 2 / Level 3) |
+| Task Type | GIS spatial analysis & visualization |
+| Output Format | HTML (Leaflet.js map), PNG, JPG |
+| Evaluation Method | VLM-based automated scoring (Claude Sonnet) |
+| Scoring | 130-point raw → 100-point normalized |
+| Pass Threshold | 60 points (normalized) |
+
+---
+
+## Evaluated Models
+
+| Model | Condition | Pass Rate (Overall) |
+|-------|-----------|-------------------|
+| Claude (Sonnet) + QGIS MCP | Agentic | **100%** |
+| Claude (Sonnet) Baseline | No MCP | ~67% |
+| GPT-5.2 Baseline | No MCP | ~69% |
+
+> Statistical significance confirmed via McNemar's test (p < 0.05)
+
+---
+
+## Task Structure
+
+Tasks are organized across 3 difficulty levels:
+
+| Level | Description | Example |
+|-------|-------------|---------|
+| Level 1 | Basic data loading & visualization | Load a shapefile and display on map |
+| Level 2 | Spatial filtering & styling | Filter buildings by area > 500㎡ with color coding |
+| Level 3 | Multi-step spatial analysis | Buffer analysis + intersection + styled output |
+
+Each task entry includes:
+- `task_no`: Task ID (1–45)
+- `prompt`: Natural language instruction (Korean)
+- `level`: Difficulty level (1, 2, or 3)
+
+---
+
+## Data Sources
+
+All spatial datasets used in this benchmark are sourced from Korean public data portals under open licenses.
+
+| Dataset | Source | License |
+|---------|--------|---------|
+| 행정경계 (Administrative Boundaries) | [공공데이터포털](https://www.data.go.kr) | 공공누리 1유형 (CC BY) |
+| 건물 데이터 (Building Data) | [국토정보플랫폼](https://www.nsdi.go.kr) | 공공누리 1유형 (CC BY) |
+| 도로망 (Road Network) | [공공데이터포털](https://www.data.go.kr) | 공공누리 1유형 (CC BY) |
+| CCTV 위치정보 | [서울 열린데이터광장](https://data.seoul.go.kr) | 공공누리 1유형 (CC BY) |
+
+> All datasets are publicly available and free to use with attribution.
+
+---
+
+## Evaluation Pipeline
+
+Evaluation is performed using **VLM-based automated scoring** with Claude Sonnet as the judge model.
+
+### Scoring Criteria (130-point raw scale)
+
+#### Basic Quality (100 pts)
+| Criterion | Max Score | Description |
+|-----------|-----------|-------------|
+| `exists` | 20 | Meaningful visualization present |
+| `accuracy` | 30 | Correct region and dataset used |
+| `requirement` | 30 | Color, filter, buffer conditions met |
+| `completeness` | 20 | Legend, title, labels complete |
+
+#### Spatial Accuracy (30 pts)
+| Criterion | Max Score | Description |
+|-----------|-----------|-------------|
+| `spatial_location` | 15 | Data displayed in correct geographic area |
+| `geometry_validity` | 5 | No polygon/buffer distortion |
+| `numeric_match` | 10 | Numeric conditions reflected in output |
+
+**Normalization:** `score_normalized = round(total_raw / 130 * 100)`
+
+Each task is evaluated **3 times** (N=3) and the average score is used for robustness.
+
+See [`evaluation/eval_criteria.md`](evaluation/eval_criteria.md) for the full evaluation prompt and criteria details.
+
+---
+
+## Reference Outputs
+
+Since GIS tasks do not always have a single deterministic "ground truth," this benchmark provides **reference outputs** — screenshots generated by the benchmark author under each task condition. These serve as visual references for what a correct result should look like.
+
+Reference screenshots are provided in `assets/screenshots/` organized by model and task ID.
+
+---
+
+## MCP Tool Dependency
+
+This benchmark was conducted using **QGIS MCP** to connect Claude to QGIS Desktop.
+
+- **Tool:** [jjsantos01/qgis_mcp](https://github.com/jjsantos01/qgis_mcp)
+- **Description:** MCP server + QGIS plugin that allows LLMs to control QGIS Desktop
+- **Note:** The MCP tool code is not included in this repository. Please refer to the original repository for installation.
+
+---
+
+## Repository Structure
+
+```
+GIS-Bench/
+├── README.md                        # This file (Dataset Card)
+├── data/
+│   └── tasks.json                   # 45 task prompts with level labels
+├── evaluation/
+│   ├── run_evaluation_vlm_v3.py     # VLM evaluation pipeline
+│   └── eval_criteria.md             # Scoring criteria & judge prompt
+├── results/
+│   └── leaderboard.json             # Evaluation results per model
+└── assets/
+    └── screenshots/                 # Reference output screenshots
+```
+
+---
+
+## Citation
+
+If you use GIS-Bench in your research, please cite:
+
+```bibtex
+@inproceedings{gisbench2026,
+  title     = {GIS-Bench: LLM 기반 GIS 자동화 에이전트 평가 벤치마크},
+  author    = {김이소 and 장두성},
+  booktitle = {한국정보과학회 학술발표논문집 (KCC 2026)},
+  year      = {2026}
+}
+```
+
+---
+
+## License
+
+- **Benchmark tasks, evaluation code, and results:** [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/)
+- **Spatial datasets:** 공공누리 1유형 (출처 표시 조건, 각 데이터 출처 참조)
+- **QGIS MCP tool:** Not included. See [jjsantos01/qgis_mcp](https://github.com/jjsantos01/qgis_mcp)

eval_criteria.md

@@ -0,0 +1,179 @@
+# GIS-Bench Evaluation Criteria
+
+## Overview
+
+GIS-Bench uses a **VLM-based automated evaluation** pipeline where Claude Sonnet acts as a judge model to score GIS task outputs (HTML maps, PNG, JPG screenshots).
+
+- **Judge Model:** `claude-sonnet-4-6`
+- **Evaluation Repetitions:** N = 3 per task (averaged for robustness)
+- **Raw Score Scale:** 130 points
+- **Normalized Score Scale:** 100 points
+- **Pass Threshold:** 60 points (normalized)
+
+---
+
+## Scoring Criteria
+
+### Category 1: Basic Quality (100 pts)
+
+| Criterion | Max Score | Scoring Rule |
+|-----------|-----------|-------------|
+| `exists` | 20 | **0 or 20** — Meaningful visualization exists (not blank/error) |
+| `accuracy` | 30 | **0–30** — Requested region and dataset are correctly used |
+| `requirement` | 30 | **0–30** — All conditions met (color, filter, buffer, etc.) |
+| `completeness` | 20 | **0–20** — Visual completeness: legend, title, labels present |
+
+### Category 2: Spatial Accuracy (30 pts)
+
+Visual judgment from screenshot.
+
+| Criterion | Max Score | Scoring Rule |
+|-----------|-----------|-------------|
+| `spatial_location` | 15 | **15** = correct location / **8** = minor offset / **0** = coordinate error or wrong area |
+| `geometry_validity` | 5 | **5** = normal / **2** = minor distortion / **0** = obvious distortion |
+| `numeric_match` | 10 | **10** = fully reflected / **5** = partially reflected / **0** = not reflected |
+
+---
+
+## Score Normalization
+
+```
+total_raw        = exists + accuracy + requirement + completeness
+                   + spatial_location + geometry_validity + numeric_match
+
+total_normalized = round(total_raw / 130 * 100)
+
+pass             = (total_normalized >= 60)
+```
+
+---
+
+## VLM Judge Prompt
+
+The following prompt is passed to the judge model along with the task screenshot (base64 image):
+
+```
+GIS 결과물 평가 전문가로서 아래 태스크의 출력 이미지를 채점하세요.
+
+[태스크 Level {level}]
+{prompt}
+
+[채점 기준 — 130점 만점]
+기본(100점):
+  exists(0/20): 의미있는 시각화 존재 여부
+  accuracy(0-30): 요청 지역·데이터셋 정확성
+  requirement(0-30): 색상·필터·버퍼 등 조건 충족
+  completeness(0-20): 범례·제목·라벨 완성도
+
+공간정확성(30점, 스크린샷 시각 판단):
+  spatial_location(0/8/15): 데이터가 올바른 지역에 표시되는지
+    15=정상, 8=경미한 이상, 0=좌표오류·엉뚱한위치
+  geometry_validity(0/2/5): 폴리곤·버퍼 형태 이상 여부
+    5=정상, 2=경미한이상, 0=명백한왜곡
+  numeric_match(0/5/10): 수치·조건이 결과에 반영되었는지
+    10=일치, 5=부분반영, 0=미반영
+
+total_raw = 7개 항목 합계
+total_normalized = round(total_raw / 130 * 100)
+
+[응답] JSON만 출력, 다른 텍스트 금지:
+{"exists":정수,"accuracy":정수,"requirement":정수,"completeness":정수,
+ "spatial_location":정수,"geometry_validity":정수,"numeric_match":정수,
+ "total_raw":정수,"total_normalized":정수,"pass":불리언,"reason":"한줄이유"}
+```
+
+---
+
+## Evaluation Flow
+
+```
+Output File
+    │
+    ├── .html / .htm  →  Playwright rendering (3s wait)  →  Screenshot (PNG)
+    │                                                              │
+    └── .png / .jpg   ────────────────────────────────────────────┘
+                                                                   │
+                                                          Base64 encode
+                                                                   │
+                                                     Claude VLM Judge × 3
+                                                                   │
+                                                        Average scores
+                                                                   │
+                                                     Pass / Fail determination
+```
+
+---
+
+## Output Fields
+
+Each evaluated task produces the following fields:
+
+| Field | Type | Description |
+|-------|------|-------------|
+| `task_no` | int | Task ID |
+| `level` | str | `Level1` / `Level2` / `Level3` |
+| `model` | str | Model identifier |
+| `file_type` | str | `html_screenshot` / `png` / `jpg` |
+| `score` | float | Average normalized score (0–100) |
+| `score_raw` | float | Average raw score (0–130) |
+| `spatial_location` | float | Average spatial location score |
+| `geometry_validity` | float | Average geometry validity score |
+| `numeric_match` | float | Average numeric match score |
+| `pass` | bool | `True` if score ≥ 60 |
+| `reason` | str | VLM reason summary |
+| `scores_3x` | str | Individual normalized scores from 3 runs |
+| `scores_3x_raw` | str | Individual raw scores from 3 runs |
+
+---
+
+## Evaluation Script
+
+The full evaluation pipeline is available at:
+[`evaluation/run_evaluation_vlm_v3.py`](run_evaluation_vlm_v3.py)
+
+### Requirements
+
+```
+anthropic
+playwright
+openpyxl
+pandas
+```
+
+### Usage
+
+```bash
+# Set API key
+set ANTHROPIC_API_KEY=your_key_here   # Windows
+export ANTHROPIC_API_KEY=your_key_here  # Linux/Mac
+
+# Install Playwright browser
+playwright install chromium
+
+# Run evaluation
+python run_evaluation_vlm_v3.py
+```
+
+### Directory Structure Expected
+
+```
+C:\Users\A\Desktop\대학원 졸업논문\
+├── GIS_Bench_문항.xlsx          # Task prompts (Excel)
+├── claude_mcp\                  # Model output files
+│   ├── 1.html
+│   ├── 2.png
+│   └── ...
+├── claude_baseline\
+└── gpt_5.2\
+```
+
+> **Note:** Update `BASE_DIR` in the script to match your local environment.
+
+---
+
+## Reliability & Validity
+
+- **Inter-run consistency:** Each task evaluated 3 times; average used to reduce VLM variance
+- **Prompt robustness:** JSON-only output enforced; fallback parsing with regex extraction
+- **Rate limit handling:** 1.5s sleep between API calls
+- **Token safety:** `max_tokens=1024` to prevent JSON truncation

tasks.json

@@ -0,0 +1,247 @@
+{
+  "name": "GIS-Bench",
+  "version": "1.0",
+  "description": "LLM 기반 GIS 자동화 에이전트 평가 벤치마크 — 45개 태스크",
+  "total_tasks": 45,
+  "levels": {
+    "Level1": {
+      "count": 16,
+      "description": "기본 시각화"
+    },
+    "Level2": {
+      "count": 17,
+      "description": "중급 공간 분석"
+    },
+    "Level3": {
+      "count": 12,
+      "description": "고급 / MCP 한계 탐색"
+    }
+  },
+  "tasks": [
+    {
+      "task_no": 1,
+      "level": 1,
+      "prompt": "서울시 대여소 파일을 불러와서 지도 위에 점으로 다 찍어줘."
+    },
+    {
+      "task_no": 2,
+      "level": 1,
+      "prompt": "배경에 실제 거리가 보이는 지도를 깔아줄 수 있어?"
+    },
+    {
+      "task_no": 3,
+      "level": 1,
+      "prompt": "점의 색깔을 내가 보기 편하게 파란색으로 바꿔줘."
+    },
+    {
+      "task_no": 4,
+      "level": 1,
+      "prompt": "도봉구에 있는 대여소만 지도에 남기고 나머지는 지워줘."
+    },
+    {
+      "task_no": 5,
+      "level": 1,
+      "prompt": "강북구에 위치한 CCTV만 점 위에 안심주소가 나오게 해줘."
+    },
+    {
+      "task_no": 6,
+      "level": 1,
+      "prompt": "글자가 잘 안 보이는데, 글자 주변에 흰색 테두리를 넣어줘."
+    },
+    {
+      "task_no": 7,
+      "level": 1,
+      "prompt": "대여소 점의 크기를 지금보다 2배로 키워줘."
+    },
+    {
+      "task_no": 8,
+      "level": 1,
+      "prompt": "특정 좌표(37.6398, 127.0255)를 중심으로 지도를 확대해줘."
+    },
+    {
+      "task_no": 9,
+      "level": 1,
+      "prompt": "현재 화면에 보이는 지도를 이미지 파일로 저장해서 보내줘."
+    },
+    {
+      "task_no": 10,
+      "level": 1,
+      "prompt": "데이터에 안심 주소가 창5S431인 곳만 노란색 별 모양으로 표시해줘"
+    },
+    {
+      "task_no": 11,
+      "level": 1,
+      "prompt": "데이터에 주차 대수가 10대 넘는 곳만 노란색 별 모양으로 표시해줘"
+    },
+    {
+      "task_no": 12,
+      "level": 1,
+      "prompt": "지도 배경을 위성 모드 테마로 변경해줘"
+    },
+    {
+      "task_no": 13,
+      "level": 1,
+      "prompt": "서울시 shp 파일이야. 그려서 보여줘."
+    },
+    {
+      "task_no": 14,
+      "level": 1,
+      "prompt": "서울시 용도지구(고도지구) shp 파일이야. 그려서 보여줘."
+    },
+    {
+      "task_no": 15,
+      "level": 1,
+      "prompt": "DG,_AR에 따라 다르게 색상을 칠해서 보여줘"
+    },
+    {
+      "task_no": 16,
+      "level": 1,
+      "prompt": "DG,_AR가 북한산 주변인 것만 표시해줘"
+    },
+    {
+      "task_no": 17,
+      "level": 2,
+      "prompt": "서울시 CCTV가 뭉쳐있는 곳을 열지도(Heatmap)로 그려서 보내줘."
+    },
+    {
+      "task_no": 18,
+      "level": 2,
+      "prompt": "거치대수가 많은 곳은 큰 원으로, 적은 곳은 작은 원으로 그려줘."
+    },
+    {
+      "task_no": 19,
+      "level": 2,
+      "prompt": "열지도의 반경을 넓게 해서 더 부드럽게 퍼지게 그려줘."
+    },
+    {
+      "task_no": 20,
+      "level": 2,
+      "prompt": "구 경계선을 지도 위에 굵은 검은색 선으로 표시해줘. (약 1분 정도 소요)"
+    },
+    {
+      "task_no": 21,
+      "level": 2,
+      "prompt": "열지도 뒤에 배경 지도가 잘 보이게 히트맵의 불투명도를 조절해줘."
+    },
+    {
+      "task_no": 22,
+      "level": 2,
+      "prompt": "OpenStreetMap 배경 위에 고도지구 그라데이션을 겹쳐주고 그 위에 cctv 데이터를 겹쳐서 표현해줘"
+    },
+    {
+      "task_no": 23,
+      "level": 2,
+      "prompt": "제공된 UPIS_C_UQ123 SHP 파일 세트를 불러와서 지도에 표시해줘. 이때 누락된 파일이 있는지 확인하고 좌표계(CRS)가 무엇인지 알려줘."
+    },
+    {
+      "task_no": 24,
+      "level": 2,
+      "prompt": "구역별 CCTV 설치 밀도를 계산해서, 밀도가 낮은 구역은 빨간색, 높은 구역은 초록색으로 칠한 단계구분도(Choropleth Map)를 그려줘. 배경에는 실제 지도를 깔아줘."
+    },
+    {
+      "task_no": 25,
+      "level": 2,
+      "prompt": "CCTV 연계현황 CSV파일에서 안심주소 [3020][방범-번1-089](고정,북서)에서 걸어서 5분 거리(약 300m) 영역을 지도에 색칠해줘."
+    },
+    {
+      "task_no": 26,
+      "level": 2,
+      "prompt": "DRAWING_NO 숫자에 따라 그라데이션으로 색상을 표시해줘. 색상은 숫자가 적으면 흰색, 숫자가 높을수록 빨간색으로"
+    },
+    {
+      "task_no": 27,
+      "level": 2,
+      "prompt": "서울시 용도지구(고도지구) shp 파일이야. cctv csv 파일에 레이어드해서 같이 보여줄 수 있어?"
+    },
+    {
+      "task_no": 28,
+      "level": 2,
+      "prompt": "CH_D010_00_20260221.shp 레이어에서 A9�� 따라 다른 색상으로 점을 표시해줘"
+    },
+    {
+      "task_no": 29,
+      "level": 2,
+      "prompt": "서울시에 위치한 의료시설만 남겨주세요."
+    },
+    {
+      "task_no": 30,
+      "level": 2,
+      "prompt": "cctv 위치가 500m 범위(버퍼)가 서로 겹치는 구간만 추출해서 보여줘"
+    },
+    {
+      "task_no": 31,
+      "level": 2,
+      "prompt": "DG,_AR가 북한산 주변인 서울시 용도지구(고도지구) 데이터를 가져와서 근처 100m 안에 있는 cctv를 찾아줘."
+    },
+    {
+      "task_no": 32,
+      "level": 2,
+      "prompt": "각 자치구 면적에 비해 CCTV가 너무 적은 서비스 취약구를 찾아줘."
+    },
+    {
+      "task_no": 33,
+      "level": 2,
+      "prompt": "cctv 데이터를 분석해서 서비스가 가장 필요한 지역을 선정하고, 그 이유를 설명하는 종합 지도로 보여줘"
+    },
+    {
+      "task_no": 34,
+      "level": 3,
+      "prompt": "데이터를 분석 정확도를 높이기 위해 native:fillberry 또는 saga:fillsinks 알고리즘을 사용해 DEM의 결측치와 왜곡을 보정해주고 QGIS에서 보여주세요"
+    },
+    {
+      "task_no": 35,
+      "level": 3,
+      "prompt": "DEM 파일을 QGIS 레이어로 추가해주고 native:slope 알고리즘을 사용하여 경사도(Slope) 레이어를 QGIS에서 생성해줘"
+    },
+    {
+      "task_no": 36,
+      "level": 3,
+      "prompt": "이 데이터는 전국 단위이므로, native:heatmapkerneldensity 알고리즘을 사용해서 산사태 발생 밀도를 나타내는 QGIS에 열지도(Heatmap)를 생성해줘요"
+    },
+    {
+      "task_no": 37,
+      "level": 3,
+      "prompt": "내 컴퓨터 대학원 졸업논문 폴더 안 sample data 폴더에서 강북구_안심이_CCTV 파일과 UPIS_C_UQ123 SHP 파일을 찾아서 레이어드해서 보여줘"
+    },
+    {
+      "task_no": 38,
+      "level": 3,
+      "prompt": "내 컴퓨터 대학원 졸업논문 폴더 안 sample data 폴더에서 한글 깨짐(utf-8/cp949)이 발생하는 파일을 찾아서 자동으로 인코딩을 수정한 뒤 지도를 그려줘"
+    },
+    {
+      "task_no": 39,
+      "level": 3,
+      "prompt": "서울 열린데이터광장에서 서울시 안심이 CCTV 연계 현황 검색해서 가장 최신 CSV 파일을 내려받아 지도에 나타내줘"
+    },
+    {
+      "task_no": 40,
+      "level": 3,
+      "prompt": "공공데이터포털에서 서울시 자치구별 인구 통계 데이터를 가져와서, 지금 로드된 CCTV 레이어와 결합해 인구 대비 CCTV 밀도 지도를 완성해줘"
+    },
+    {
+      "task_no": 41,
+      "level": 3,
+      "prompt": "외국인 관광객을 위해 서울시 주요 관광지 SHP 데이터와 CCTV 데이터를 합친 뒤, 모든 라벨을 영어로 번역해서 지도를 만들어줘"
+    },
+    {
+      "task_no": 42,
+      "level": 3,
+      "prompt": "인터넷에서 최근 1년간 서울시 범죄 발생 통계 기사를 찾아보고, UPIS_C_UQ123 구역 데이터와 비교해서 CCTV가 추가로 설치되어야 할 1순위 지점을 추천해줘"
+    },
+    {
+      "task_no": 43,
+      "level": 3,
+      "prompt": "C:/Users/A/Downloads/(B080)공개DEM_34602_img_2025/34602 데이터를 분석 정확도를 높이기 위해 native:fillberry 또는 saga:fillsinks 알고리즘을 사용해 DEM의 결측치와 왜곡을 보정해주고 QGIS에서 보여주세요"
+    },
+    {
+      "task_no": 44,
+      "level": 3,
+      "prompt": "C:/Users/A/Downloads/Landsat_위성영상의_정규물지수_2024 이 데이터는 전국 단위이므로, native:heatmapkerneldensity 알고리즘을 사용해서 산사태 발생 밀도를 나타내는 QGIS에 열지도(Heatmap)를 생성해줘요"
+    },
+    {
+      "task_no": 45,
+      "level": 3,
+      "prompt": "보정완료_DEM 레이어에 단일 밴드 가상 색채(Singleband Pseudocolor) 렌더러를 적용해줘. 색상 램프는 Magma 또는 Spectral을 사용하되, 고도 값을 5개 구간으로 나누어줘. 특히 해수면과 가까운 고도 0m~10m 사이는 짙은 파란색으로, 그 이상은 지형색으로 분류하여 저지대가 도드라져 보이게 스타일을 설정해줘"
+    }
+  ]
+}