File size: 9,017 Bytes
87a48d3 e5109ab 87a48d3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 | ---
license: cc-by-4.0
pretty_name: ESM-2 layer-wise embeddings of the Zhang 2023 28-mer peptidome
tags:
- biology
- protein
- protein-language-model
- esm2
- embeddings
- protein-stability
- degron
---
# ESM-2 layer-wise embeddings — Zhang 2023 28-mer peptidome
Zhang et al. 2023 의 GPS peptidome 스크린(Table S2) 28-mer 펩타이드 **252,502개**(단백질 18,135종)에 대해 ESM-2 의 **모든 transformer 레이어** per-residue hidden state 를 뽑고, **PSI(Protein Stability Index)** 로 회귀/분류를 돌릴 수 있게 `peptide_id` 조인 키를 함께 넣은 데이터셋입니다 (라벨 자체는 저작권 문제로 미포함 — '라벨 붙이기' 참고). masking 없이 raw forward 1회로 뽑았습니다.
데이터셋 태그: `Internal_Zhang2023_252502`
## 구성
| 폴더 | 모델 | 레이어 | 차원 | 레이어당 | 합계 |
|---|---|---|---|---|---|
| `ESM2_8M/` | [`facebook/esm2_t6_8M_UR50D`](https://huggingface.co/facebook/esm2_t6_8M_UR50D) | 8 (`L0`–`L6`, `L6_pre`) | 320 | 4.93 GB | 39.4 GB |
| `ESM2_650M/` | [`facebook/esm2_t33_650M_UR50D`](https://huggingface.co/facebook/esm2_t33_650M_UR50D) | 35 (`L0`–`L33`, `L33_pre`) | 1280 | 19.47 GB | 681.6 GB |
두 모델 모두 **전 레이어 업로드 완료** (8M 8개 / 650M 35개, 총 721 GB). 폴더마다
`_manifest.json` 에 레이어 목록·차원·dtype 이 들어 있습니다.
**레이어 1개 = 파일 1개** 입니다. 모든 펩타이드가 28잔기로 길이가 같아서 `(N, 30, dim)` 통짜 배열로 쌓았습니다. 펩타이드가 25만 개라 개별 파일로 만들면 HF 권장치(폴더당 1만)를 크게 넘습니다.
## 원본 데이터와 필터
라이브러리는 각 단백질을 **28잔기씩 23잔기 간격**으로 타일링했습니다 (겹침 5잔기). ID 는 `<UniProt>_<Gene>_<tile_idx>` 이고 `tile_idx` 는 1부터 시작합니다.
```
tile_idx 1 → 단백질 잔기 1~28 (99.9% 가 Met 로 시작 = 진짜 N-말단)
tile_idx 2 → 잔기 24~51
tile_idx 3 → 잔기 47~74
```
| 필터 | 처리 |
|---|---|
| 서열이 `*`(종결코돈) 로 끝남 | **제외** — ESM alphabet 에 `*` 가 없어 `<unk>` 가 됩니다 |
| `tile_idx == 1` (N-말단) | **유지** (11,467개 포함) |
N-말단 타일 11,467개가 들어 있습니다. 빼고 쓰시려면 `tile_idx != 1` 로 거르면 됩니다 (재추출 불필요).
## npz 스키마
```
embedding (N, 30, dim) float16
peptide_id (N,) <U ← 예: Q8IV38_ANKMY2_20
sequence (N,) <U28
uniprot_acc (N,) <U ← 단백질 단위 분할용
gene (N,) <U
tile_idx (N,) int32
row_offset/n_rows int32 ← 샤드일 때 원본에서의 위치
layer/model/dataset/token_layout bytes
```
실제 npz 키는 정확히 다음 12개입니다.
```
embedding peptide_id sequence uniprot_acc gene tile_idx
row_offset n_rows layer model dataset token_layout
```
> **PSI 라벨은 이 저장소에 포함되어 있지 않습니다.** 원 논문이 오픈 액세스가 아니라 Table S2 를 재배포하지 않았습니다. `control_psi` 같은 라벨 키는 **없습니다** — 아래 '라벨 붙이기' 를 보세요.
## 라벨 붙이기
PSI 값은 원 논문의 **Table S2** 에 있습니다. 논문에서 직접 받아 `peptide_id` 로 조인하세요. 행 순서가 보장되지 않으므로 반드시 키로 맞춰야 합니다.
1. [Mol Cell 2023, 83(18):3377-3392.e6](https://doi.org/10.1016/j.molcel.2023.08.022) 의 supplementary 에서 **Table S2** 를 내려받습니다 (xlsx).
2. 아래처럼 조인합니다.
```python
import numpy as np, pandas as pd
z = np.load("ESM2_8M/L6.npz") # 라벨은 들어있지 않음
df = pd.read_excel("Zhang2023_TableS2.xlsx", header=1) # 1행은 표 설명문
# 임베딩 행 순서에 맞춰 라벨을 재정렬
lab = df.set_index("Peptide")["Control PSI"]
y = lab.reindex(z["peptide_id"]).to_numpy(dtype=np.float32)
assert not np.isnan(y).any(), "조인 실패 — Table S2 버전을 확인하세요"
X = z["embedding"]
grp = z["uniprot_acc"]
```
`MLN4924 deltaPSI`, `SVM Predicted PSI`, `Degron Index` 도 같은 방식으로 붙입니다.
이 저장소의 서열은 `*`(종결코돈) 로 끝나는 8,487개를 이미 제외했으므로, Table S2 원본(260,989행)보다 적습니다. `reindex` 가 그 차이를 자동으로 맞춰줍니다.
### 레이어 키
| 키 | 뜻 |
|---|---|
| `L0` | transformer block 진입 직전 = `embed_tokens(x) * 0.88`. 0.88 은 ESM-2 의 token_dropout 보정항 `(1 - 0.15*0.8)` 로, mask 토큰이 없으면 항상 곱해집니다 |
| `L1` … `L(n-1)` | 각 block 출력 |
| `Ln` | 마지막 block 출력에 `emb_layer_norm_after` **적용** — 보통 말하는 최종 임베딩 |
| `Ln_pre` | 마지막 block 출력, final norm **적용 전** |
> `Ln` 과 `Ln_pre` 는 스케일이 크게 다릅니다. fair-esm/HF 모두 마지막 레이어를 post-norm 값으로 덮어쓰기 때문에, `Ln_pre` 는 `emb_layer_norm_after` 에 forward hook 을 걸어 받았습니다. 추출 시 `LayerNorm(Ln_pre) == Ln` 을 검증했습니다.
### 토큰 축 (axis 1)
```
axis1 length 30: index0=<cls>(BOS), index1..28=residue 1..28, index29=<eos>
```
펩타이드 잔기 `i` (1-based) 는 index `i` 입니다. BOS/EOS 를 빼려면 `arr[:, 1:-1]`.
## ⚠ 학습/검증 분할
**같은 단백질의 타일끼리 5잔기씩 겹칩니다.** 무작위로 나누면 학습셋의 타일과 서열을 공유하는 타일이 검증셋에 들어가 누수가 생깁니다. `uniprot_acc` 기준 GroupKFold 를 쓰세요.
```python
from sklearn.model_selection import GroupKFold
gkf = GroupKFold(n_splits=5)
for tr, te in gkf.split(X, y, groups=z['uniprot_acc']):
...
```
## 쓰는 법
```python
import numpy as np
from huggingface_hub import hf_hub_download
p = hf_hub_download("Limtat99/zhang2023-internal252502-emb", "ESM2_650M/L0.npz",
repo_type="dataset")
z = np.load(p)
X = z["embedding"] # (N, 30, 1280) float16
pid = z["peptide_id"] # 라벨 조인 키 — '라벨 붙이기' 참고
grp = z["uniprot_acc"] # GroupKFold 용
# N-말단 타일을 빼고 싶으면
keep = z["tile_idx"] != 1
X, pid, grp = X[keep], pid[keep], grp[keep]
```
### 레이어 하나만, 파일 전체를 받지 않고
npz 는 zip 이라 seek 가 되면 필요한 멤버만 읽힙니다.
```python
from huggingface_hub import HfFileSystem
fs = HfFileSystem()
with fs.open("datasets/Limtat99/zhang2023-internal252502-emb/ESM2_650M/L0.npz", "rb") as f:
z = np.load(f)
pid = z["peptide_id"] # 식별자만 = 수 MB 만 전송
X = z["embedding"][:1000] # 앞 1000행만 = 필요한 바이트만 전송
```
### 폴더 통째로
```bash
# 전체 = 721 GB. 보통은 필요한 모델/레이어만 받으세요.
hf download Limtat99/zhang2023-internal252502-emb --repo-type dataset \
--include "ESM2_8M/*" --local-dir ./z28_emb
```
> **dataset viewer 는 이 저장소에서 동작하지 않습니다.** 레이어별 통짜 npz 구조라
> HF 의 자동 parquet 변환(`refs/convert/parquet`)이 내용을 읽지 못합니다.
> 위 예제처럼 `np.load` 로 직접 읽으세요.
## 추출 조건
| 항목 | 값 |
|---|---|
| forward dtype | float32 |
| 저장 dtype | `float16` |
| 압축 | 없음 (`np.savez`) |
| masking | 없음 (raw forward) |
| 배치 크기 | 256 (28-mer 고정길이라 패딩 없음) |
fair-esm 과 HuggingFace `transformers` 두 백엔드가 `attn_implementation="eager"` 에서 비트 단위로 동일한 결과를 내는 것을 확인했습니다. 레이어를 여러 pass 로 나눠 뽑아도 한 번에 뽑은 것과 비트 단위로 같습니다.
## 출처 · 인용
펩타이드 서열은 아래 논문의 GPS peptidome 스크린(Table S2)에서 왔습니다. **이 데이터를 쓰시면 원 논문을 인용해 주세요.**
> Zhang Z, Sie B, Chang A, Leng Y, Nardone C, Timms RT, Elledge SJ. **Elucidation of E3 ubiquitin ligase specificity through proteome-wide internal degron mapping.** *Molecular Cell*. 2023 Sep 21;83(18):3377-3392.e6. [doi:10.1016/j.molcel.2023.08.022](https://doi.org/10.1016/j.molcel.2023.08.022) · PMID [37738965](https://pubmed.ncbi.nlm.nih.gov/37738965/)
| 구성 요소 | 출처 / 라이선스 |
|---|---|
| 펩타이드 서열 | 인간 프로테옴 (UniProt, CC-BY 4.0) 을 28잔기씩 타일링 |
| PSI 측정값 | Zhang et al. 2023 Table S2 — **이 저장소에 포함하지 않음** (아래 참고) |
| ESM-2 임베딩 | 이 저장소의 산출물. 모델은 Lin et al., *Science* 2023 (MIT) |
원 논문은 오픈 액세스가 아닙니다 — *Copyright © 2023 The Authors. Published by Elsevier Inc. All rights reserved.* 그래서 **PSI 라벨을 이 저장소에 넣지 않았습니다.** 임베딩과 펩타이드 식별자만 배포하고, 라벨은 쓰시는 분이 논문에서 직접 받아 조인하는 방식입니다 (위 '라벨 붙이기').
|