| --- |
| license: cc-by-4.0 |
| pretty_name: ESM-2 layer-wise embeddings of the Zhang 2023 28-mer peptidome |
| tags: |
| - biology |
| - protein |
| - protein-language-model |
| - esm2 |
| - embeddings |
| - protein-stability |
| - degron |
| --- |
| |
| # ESM-2 layer-wise embeddings — Zhang 2023 28-mer peptidome |
|
|
| Zhang et al. 2023 의 GPS peptidome 스크린(Table S2) 28-mer 펩타이드 **252,502개**(단백질 18,135종)에 대해 ESM-2 의 **모든 transformer 레이어** per-residue hidden state 를 뽑고, **PSI(Protein Stability Index)** 로 회귀/분류를 돌릴 수 있게 `peptide_id` 조인 키를 함께 넣은 데이터셋입니다 (라벨 자체는 저작권 문제로 미포함 — '라벨 붙이기' 참고). masking 없이 raw forward 1회로 뽑았습니다. |
|
|
| 데이터셋 태그: `Internal_Zhang2023_252502` |
|
|
| ## 구성 |
|
|
| | 폴더 | 모델 | 레이어 | 차원 | 레이어당 | 합계 | |
| |---|---|---|---|---|---| |
| | `ESM2_8M/` | [`facebook/esm2_t6_8M_UR50D`](https://huggingface.co/facebook/esm2_t6_8M_UR50D) | 8 (`L0`–`L6`, `L6_pre`) | 320 | 4.93 GB | 39.4 GB | |
| | `ESM2_650M/` | [`facebook/esm2_t33_650M_UR50D`](https://huggingface.co/facebook/esm2_t33_650M_UR50D) | 35 (`L0`–`L33`, `L33_pre`) | 1280 | 19.47 GB | 681.6 GB | |
|
|
| 두 모델 모두 **전 레이어 업로드 완료** (8M 8개 / 650M 35개, 총 721 GB). 폴더마다 |
| `_manifest.json` 에 레이어 목록·차원·dtype 이 들어 있습니다. |
|
|
| **레이어 1개 = 파일 1개** 입니다. 모든 펩타이드가 28잔기로 길이가 같아서 `(N, 30, dim)` 통짜 배열로 쌓았습니다. 펩타이드가 25만 개라 개별 파일로 만들면 HF 권장치(폴더당 1만)를 크게 넘습니다. |
|
|
| ## 원본 데이터와 필터 |
|
|
| 라이브러리는 각 단백질을 **28잔기씩 23잔기 간격**으로 타일링했습니다 (겹침 5잔기). ID 는 `<UniProt>_<Gene>_<tile_idx>` 이고 `tile_idx` 는 1부터 시작합니다. |
|
|
| ``` |
| tile_idx 1 → 단백질 잔기 1~28 (99.9% 가 Met 로 시작 = 진짜 N-말단) |
| tile_idx 2 → 잔기 24~51 |
| tile_idx 3 → 잔기 47~74 |
| ``` |
|
|
| | 필터 | 처리 | |
| |---|---| |
| | 서열이 `*`(종결코돈) 로 끝남 | **제외** — ESM alphabet 에 `*` 가 없어 `<unk>` 가 됩니다 | |
| | `tile_idx == 1` (N-말단) | **유지** (11,467개 포함) | |
|
|
| N-말단 타일 11,467개가 들어 있습니다. 빼고 쓰시려면 `tile_idx != 1` 로 거르면 됩니다 (재추출 불필요). |
|
|
| ## npz 스키마 |
|
|
| ``` |
| embedding (N, 30, dim) float16 |
| peptide_id (N,) <U ← 예: Q8IV38_ANKMY2_20 |
| sequence (N,) <U28 |
| uniprot_acc (N,) <U ← 단백질 단위 분할용 |
| gene (N,) <U |
| tile_idx (N,) int32 |
| row_offset/n_rows int32 ← 샤드일 때 원본에서의 위치 |
| layer/model/dataset/token_layout bytes |
| ``` |
|
|
| 실제 npz 키는 정확히 다음 12개입니다. |
|
|
| ``` |
| embedding peptide_id sequence uniprot_acc gene tile_idx |
| row_offset n_rows layer model dataset token_layout |
| ``` |
|
|
| > **PSI 라벨은 이 저장소에 포함되어 있지 않습니다.** 원 논문이 오픈 액세스가 아니라 Table S2 를 재배포하지 않았습니다. `control_psi` 같은 라벨 키는 **없습니다** — 아래 '라벨 붙이기' 를 보세요. |
| |
| ## 라벨 붙이기 |
| |
| PSI 값은 원 논문의 **Table S2** 에 있습니다. 논문에서 직접 받아 `peptide_id` 로 조인하세요. 행 순서가 보장되지 않으므로 반드시 키로 맞춰야 합니다. |
|
|
| 1. [Mol Cell 2023, 83(18):3377-3392.e6](https://doi.org/10.1016/j.molcel.2023.08.022) 의 supplementary 에서 **Table S2** 를 내려받습니다 (xlsx). |
| 2. 아래처럼 조인합니다. |
|
|
| ```python |
| import numpy as np, pandas as pd |
| |
| z = np.load("ESM2_8M/L6.npz") # 라벨은 들어있지 않음 |
| df = pd.read_excel("Zhang2023_TableS2.xlsx", header=1) # 1행은 표 설명문 |
| |
| # 임베딩 행 순서에 맞춰 라벨을 재정렬 |
| lab = df.set_index("Peptide")["Control PSI"] |
| y = lab.reindex(z["peptide_id"]).to_numpy(dtype=np.float32) |
| assert not np.isnan(y).any(), "조인 실패 — Table S2 버전을 확인하세요" |
| |
| X = z["embedding"] |
| grp = z["uniprot_acc"] |
| ``` |
|
|
| `MLN4924 deltaPSI`, `SVM Predicted PSI`, `Degron Index` 도 같은 방식으로 붙입니다. |
|
|
| 이 저장소의 서열은 `*`(종결코돈) 로 끝나는 8,487개를 이미 제외했으므로, Table S2 원본(260,989행)보다 적습니다. `reindex` 가 그 차이를 자동으로 맞춰줍니다. |
|
|
| ### 레이어 키 |
|
|
| | 키 | 뜻 | |
| |---|---| |
| | `L0` | transformer block 진입 직전 = `embed_tokens(x) * 0.88`. 0.88 은 ESM-2 의 token_dropout 보정항 `(1 - 0.15*0.8)` 로, mask 토큰이 없으면 항상 곱해집니다 | |
| | `L1` … `L(n-1)` | 각 block 출력 | |
| | `Ln` | 마지막 block 출력에 `emb_layer_norm_after` **적용** — 보통 말하는 최종 임베딩 | |
| | `Ln_pre` | 마지막 block 출력, final norm **적용 전** | |
|
|
| > `Ln` 과 `Ln_pre` 는 스케일이 크게 다릅니다. fair-esm/HF 모두 마지막 레이어를 post-norm 값으로 덮어쓰기 때문에, `Ln_pre` 는 `emb_layer_norm_after` 에 forward hook 을 걸어 받았습니다. 추출 시 `LayerNorm(Ln_pre) == Ln` 을 검증했습니다. |
|
|
| ### 토큰 축 (axis 1) |
|
|
| ``` |
| axis1 length 30: index0=<cls>(BOS), index1..28=residue 1..28, index29=<eos> |
| ``` |
|
|
| 펩타이드 잔기 `i` (1-based) 는 index `i` 입니다. BOS/EOS 를 빼려면 `arr[:, 1:-1]`. |
|
|
| ## ⚠ 학습/검증 분할 |
|
|
| **같은 단백질의 타일끼리 5잔기씩 겹칩니다.** 무작위로 나누면 학습셋의 타일과 서열을 공유하는 타일이 검증셋에 들어가 누수가 생깁니다. `uniprot_acc` 기준 GroupKFold 를 쓰세요. |
|
|
| ```python |
| from sklearn.model_selection import GroupKFold |
| gkf = GroupKFold(n_splits=5) |
| for tr, te in gkf.split(X, y, groups=z['uniprot_acc']): |
| ... |
| ``` |
|
|
| ## 쓰는 법 |
|
|
| ```python |
| import numpy as np |
| from huggingface_hub import hf_hub_download |
| |
| p = hf_hub_download("Limtat99/zhang2023-internal252502-emb", "ESM2_650M/L0.npz", |
| repo_type="dataset") |
| z = np.load(p) |
| X = z["embedding"] # (N, 30, 1280) float16 |
| pid = z["peptide_id"] # 라벨 조인 키 — '라벨 붙이기' 참고 |
| grp = z["uniprot_acc"] # GroupKFold 용 |
| |
| # N-말단 타일을 빼고 싶으면 |
| keep = z["tile_idx"] != 1 |
| X, pid, grp = X[keep], pid[keep], grp[keep] |
| ``` |
|
|
| ### 레이어 하나만, 파일 전체를 받지 않고 |
|
|
| npz 는 zip 이라 seek 가 되면 필요한 멤버만 읽힙니다. |
|
|
| ```python |
| from huggingface_hub import HfFileSystem |
| fs = HfFileSystem() |
| with fs.open("datasets/Limtat99/zhang2023-internal252502-emb/ESM2_650M/L0.npz", "rb") as f: |
| z = np.load(f) |
| pid = z["peptide_id"] # 식별자만 = 수 MB 만 전송 |
| X = z["embedding"][:1000] # 앞 1000행만 = 필요한 바이트만 전송 |
| ``` |
|
|
| ### 폴더 통째로 |
|
|
| ```bash |
| # 전체 = 721 GB. 보통은 필요한 모델/레이어만 받으세요. |
| hf download Limtat99/zhang2023-internal252502-emb --repo-type dataset \ |
| --include "ESM2_8M/*" --local-dir ./z28_emb |
| ``` |
|
|
| > **dataset viewer 는 이 저장소에서 동작하지 않습니다.** 레이어별 통짜 npz 구조라 |
| > HF 의 자동 parquet 변환(`refs/convert/parquet`)이 내용을 읽지 못합니다. |
| > 위 예제처럼 `np.load` 로 직접 읽으세요. |
|
|
| ## 추출 조건 |
|
|
| | 항목 | 값 | |
| |---|---| |
| | forward dtype | float32 | |
| | 저장 dtype | `float16` | |
| | 압축 | 없음 (`np.savez`) | |
| | masking | 없음 (raw forward) | |
| | 배치 크기 | 256 (28-mer 고정길이라 패딩 없음) | |
|
|
| fair-esm 과 HuggingFace `transformers` 두 백엔드가 `attn_implementation="eager"` 에서 비트 단위로 동일한 결과를 내는 것을 확인했습니다. 레이어를 여러 pass 로 나눠 뽑아도 한 번에 뽑은 것과 비트 단위로 같습니다. |
|
|
| ## 출처 · 인용 |
|
|
| 펩타이드 서열은 아래 논문의 GPS peptidome 스크린(Table S2)에서 왔습니다. **이 데이터를 쓰시면 원 논문을 인용해 주세요.** |
|
|
| > Zhang Z, Sie B, Chang A, Leng Y, Nardone C, Timms RT, Elledge SJ. **Elucidation of E3 ubiquitin ligase specificity through proteome-wide internal degron mapping.** *Molecular Cell*. 2023 Sep 21;83(18):3377-3392.e6. [doi:10.1016/j.molcel.2023.08.022](https://doi.org/10.1016/j.molcel.2023.08.022) · PMID [37738965](https://pubmed.ncbi.nlm.nih.gov/37738965/) |
|
|
| | 구성 요소 | 출처 / 라이선스 | |
| |---|---| |
| | 펩타이드 서열 | 인간 프로테옴 (UniProt, CC-BY 4.0) 을 28잔기씩 타일링 | |
| | PSI 측정값 | Zhang et al. 2023 Table S2 — **이 저장소에 포함하지 않음** (아래 참고) | |
| | ESM-2 임베딩 | 이 저장소의 산출물. 모델은 Lin et al., *Science* 2023 (MIT) | |
|
|
| 원 논문은 오픈 액세스가 아닙니다 — *Copyright © 2023 The Authors. Published by Elsevier Inc. All rights reserved.* 그래서 **PSI 라벨을 이 저장소에 넣지 않았습니다.** 임베딩과 펩타이드 식별자만 배포하고, 라벨은 쓰시는 분이 논문에서 직접 받아 조인하는 방식입니다 (위 '라벨 붙이기'). |
|
|
