--- license: cc-by-4.0 pretty_name: ESM-2 layer-wise embeddings of the Zhang 2023 28-mer peptidome tags: - biology - protein - protein-language-model - esm2 - embeddings - protein-stability - degron --- # ESM-2 layer-wise embeddings — Zhang 2023 28-mer peptidome Zhang et al. 2023 의 GPS peptidome 스크린(Table S2) 28-mer 펩타이드 **252,502개**(단백질 18,135종)에 대해 ESM-2 의 **모든 transformer 레이어** per-residue hidden state 를 뽑고, **PSI(Protein Stability Index)** 로 회귀/분류를 돌릴 수 있게 `peptide_id` 조인 키를 함께 넣은 데이터셋입니다 (라벨 자체는 저작권 문제로 미포함 — '라벨 붙이기' 참고). masking 없이 raw forward 1회로 뽑았습니다. 데이터셋 태그: `Internal_Zhang2023_252502` ## 구성 | 폴더 | 모델 | 레이어 | 차원 | 레이어당 | 합계 | |---|---|---|---|---|---| | `ESM2_8M/` | [`facebook/esm2_t6_8M_UR50D`](https://huggingface.co/facebook/esm2_t6_8M_UR50D) | 8 (`L0`–`L6`, `L6_pre`) | 320 | 4.93 GB | 39.4 GB | | `ESM2_650M/` | [`facebook/esm2_t33_650M_UR50D`](https://huggingface.co/facebook/esm2_t33_650M_UR50D) | 35 (`L0`–`L33`, `L33_pre`) | 1280 | 19.47 GB | 681.6 GB | 두 모델 모두 **전 레이어 업로드 완료** (8M 8개 / 650M 35개, 총 721 GB). 폴더마다 `_manifest.json` 에 레이어 목록·차원·dtype 이 들어 있습니다. **레이어 1개 = 파일 1개** 입니다. 모든 펩타이드가 28잔기로 길이가 같아서 `(N, 30, dim)` 통짜 배열로 쌓았습니다. 펩타이드가 25만 개라 개별 파일로 만들면 HF 권장치(폴더당 1만)를 크게 넘습니다. ## 원본 데이터와 필터 라이브러리는 각 단백질을 **28잔기씩 23잔기 간격**으로 타일링했습니다 (겹침 5잔기). ID 는 `__` 이고 `tile_idx` 는 1부터 시작합니다. ``` tile_idx 1 → 단백질 잔기 1~28 (99.9% 가 Met 로 시작 = 진짜 N-말단) tile_idx 2 → 잔기 24~51 tile_idx 3 → 잔기 47~74 ``` | 필터 | 처리 | |---|---| | 서열이 `*`(종결코돈) 로 끝남 | **제외** — ESM alphabet 에 `*` 가 없어 `` 가 됩니다 | | `tile_idx == 1` (N-말단) | **유지** (11,467개 포함) | N-말단 타일 11,467개가 들어 있습니다. 빼고 쓰시려면 `tile_idx != 1` 로 거르면 됩니다 (재추출 불필요). ## npz 스키마 ``` embedding (N, 30, dim) float16 peptide_id (N,) **PSI 라벨은 이 저장소에 포함되어 있지 않습니다.** 원 논문이 오픈 액세스가 아니라 Table S2 를 재배포하지 않았습니다. `control_psi` 같은 라벨 키는 **없습니다** — 아래 '라벨 붙이기' 를 보세요. ## 라벨 붙이기 PSI 값은 원 논문의 **Table S2** 에 있습니다. 논문에서 직접 받아 `peptide_id` 로 조인하세요. 행 순서가 보장되지 않으므로 반드시 키로 맞춰야 합니다. 1. [Mol Cell 2023, 83(18):3377-3392.e6](https://doi.org/10.1016/j.molcel.2023.08.022) 의 supplementary 에서 **Table S2** 를 내려받습니다 (xlsx). 2. 아래처럼 조인합니다. ```python import numpy as np, pandas as pd z = np.load("ESM2_8M/L6.npz") # 라벨은 들어있지 않음 df = pd.read_excel("Zhang2023_TableS2.xlsx", header=1) # 1행은 표 설명문 # 임베딩 행 순서에 맞춰 라벨을 재정렬 lab = df.set_index("Peptide")["Control PSI"] y = lab.reindex(z["peptide_id"]).to_numpy(dtype=np.float32) assert not np.isnan(y).any(), "조인 실패 — Table S2 버전을 확인하세요" X = z["embedding"] grp = z["uniprot_acc"] ``` `MLN4924 deltaPSI`, `SVM Predicted PSI`, `Degron Index` 도 같은 방식으로 붙입니다. 이 저장소의 서열은 `*`(종결코돈) 로 끝나는 8,487개를 이미 제외했으므로, Table S2 원본(260,989행)보다 적습니다. `reindex` 가 그 차이를 자동으로 맞춰줍니다. ### 레이어 키 | 키 | 뜻 | |---|---| | `L0` | transformer block 진입 직전 = `embed_tokens(x) * 0.88`. 0.88 은 ESM-2 의 token_dropout 보정항 `(1 - 0.15*0.8)` 로, mask 토큰이 없으면 항상 곱해집니다 | | `L1` … `L(n-1)` | 각 block 출력 | | `Ln` | 마지막 block 출력에 `emb_layer_norm_after` **적용** — 보통 말하는 최종 임베딩 | | `Ln_pre` | 마지막 block 출력, final norm **적용 전** | > `Ln` 과 `Ln_pre` 는 스케일이 크게 다릅니다. fair-esm/HF 모두 마지막 레이어를 post-norm 값으로 덮어쓰기 때문에, `Ln_pre` 는 `emb_layer_norm_after` 에 forward hook 을 걸어 받았습니다. 추출 시 `LayerNorm(Ln_pre) == Ln` 을 검증했습니다. ### 토큰 축 (axis 1) ``` axis1 length 30: index0=(BOS), index1..28=residue 1..28, index29= ``` 펩타이드 잔기 `i` (1-based) 는 index `i` 입니다. BOS/EOS 를 빼려면 `arr[:, 1:-1]`. ## ⚠ 학습/검증 분할 **같은 단백질의 타일끼리 5잔기씩 겹칩니다.** 무작위로 나누면 학습셋의 타일과 서열을 공유하는 타일이 검증셋에 들어가 누수가 생깁니다. `uniprot_acc` 기준 GroupKFold 를 쓰세요. ```python from sklearn.model_selection import GroupKFold gkf = GroupKFold(n_splits=5) for tr, te in gkf.split(X, y, groups=z['uniprot_acc']): ... ``` ## 쓰는 법 ```python import numpy as np from huggingface_hub import hf_hub_download p = hf_hub_download("Limtat99/zhang2023-internal252502-emb", "ESM2_650M/L0.npz", repo_type="dataset") z = np.load(p) X = z["embedding"] # (N, 30, 1280) float16 pid = z["peptide_id"] # 라벨 조인 키 — '라벨 붙이기' 참고 grp = z["uniprot_acc"] # GroupKFold 용 # N-말단 타일을 빼고 싶으면 keep = z["tile_idx"] != 1 X, pid, grp = X[keep], pid[keep], grp[keep] ``` ### 레이어 하나만, 파일 전체를 받지 않고 npz 는 zip 이라 seek 가 되면 필요한 멤버만 읽힙니다. ```python from huggingface_hub import HfFileSystem fs = HfFileSystem() with fs.open("datasets/Limtat99/zhang2023-internal252502-emb/ESM2_650M/L0.npz", "rb") as f: z = np.load(f) pid = z["peptide_id"] # 식별자만 = 수 MB 만 전송 X = z["embedding"][:1000] # 앞 1000행만 = 필요한 바이트만 전송 ``` ### 폴더 통째로 ```bash # 전체 = 721 GB. 보통은 필요한 모델/레이어만 받으세요. hf download Limtat99/zhang2023-internal252502-emb --repo-type dataset \ --include "ESM2_8M/*" --local-dir ./z28_emb ``` > **dataset viewer 는 이 저장소에서 동작하지 않습니다.** 레이어별 통짜 npz 구조라 > HF 의 자동 parquet 변환(`refs/convert/parquet`)이 내용을 읽지 못합니다. > 위 예제처럼 `np.load` 로 직접 읽으세요. ## 추출 조건 | 항목 | 값 | |---|---| | forward dtype | float32 | | 저장 dtype | `float16` | | 압축 | 없음 (`np.savez`) | | masking | 없음 (raw forward) | | 배치 크기 | 256 (28-mer 고정길이라 패딩 없음) | fair-esm 과 HuggingFace `transformers` 두 백엔드가 `attn_implementation="eager"` 에서 비트 단위로 동일한 결과를 내는 것을 확인했습니다. 레이어를 여러 pass 로 나눠 뽑아도 한 번에 뽑은 것과 비트 단위로 같습니다. ## 출처 · 인용 펩타이드 서열은 아래 논문의 GPS peptidome 스크린(Table S2)에서 왔습니다. **이 데이터를 쓰시면 원 논문을 인용해 주세요.** > Zhang Z, Sie B, Chang A, Leng Y, Nardone C, Timms RT, Elledge SJ. **Elucidation of E3 ubiquitin ligase specificity through proteome-wide internal degron mapping.** *Molecular Cell*. 2023 Sep 21;83(18):3377-3392.e6. [doi:10.1016/j.molcel.2023.08.022](https://doi.org/10.1016/j.molcel.2023.08.022) · PMID [37738965](https://pubmed.ncbi.nlm.nih.gov/37738965/) | 구성 요소 | 출처 / 라이선스 | |---|---| | 펩타이드 서열 | 인간 프로테옴 (UniProt, CC-BY 4.0) 을 28잔기씩 타일링 | | PSI 측정값 | Zhang et al. 2023 Table S2 — **이 저장소에 포함하지 않음** (아래 참고) | | ESM-2 임베딩 | 이 저장소의 산출물. 모델은 Lin et al., *Science* 2023 (MIT) | 원 논문은 오픈 액세스가 아닙니다 — *Copyright © 2023 The Authors. Published by Elsevier Inc. All rights reserved.* 그래서 **PSI 라벨을 이 저장소에 넣지 않았습니다.** 임베딩과 펩타이드 식별자만 배포하고, 라벨은 쓰시는 분이 논문에서 직접 받아 조인하는 방식입니다 (위 '라벨 붙이기').