Egyptian-English 5M SFT + card + eval (scaling study)

README.md

@@ -0,0 +1,129 @@
+---
+license: apache-2.0
+language:
+- ar
+- en
+base_model: oddadmix/Emhotob-5M
+pipeline_tag: text-generation
+library_name: transformers
+tags:
+- translation
+- egyptian-arabic
+- english
+- arabic
+- small-language-model
+- slm
+- tiny-lm
+- chatml
+- scaling-study
+metrics:
+- bleu
+- chrf
+---
+
+# Emhotob-5M-Egyptian-English-v1 — Bidirectional English ↔ Egyptian Arabic (~5M params)
+
+A **5.08M-parameter** model that translates **both ways** between **English** and
+**Egyptian colloquial Arabic (المصرية العامية)**. A single set of weights serves both
+directions; a direction-specific system prompt selects which way to translate.
+
+Finetuned from [`oddadmix/Emhotob-5M`](https://huggingface.co/oddadmix/Emhotob-5M),
+a tiny Llama-architecture base (hidden size 128, 5 layers, 4 heads, tied embeddings).
+
+> **Scaling study.** This runs the exact recipe of
+> [`oddadmix/50M-Egyptian-English-v1`](https://huggingface.co/oddadmix/50M-Egyptian-English-v1)
+> on a base ~10× smaller. At 5M the model produces **fluent-looking target-language text and
+> switches language/register correctly, but the content is often wrong** — it drifts and
+> repeats heavily. Cross-lingual English↔Egyptian is measurably harder at this size than the
+> intra-Arabic MSA↔Egyptian pair. It is a scaling demonstration, not a usable translator; use
+> the 50M sibling for real translation.
+
+## Evaluation
+
+Evaluated on a **deterministic held-out set of 3,000 pairs** (`seed=42`), decoded
+**greedily** (`do_sample=False`, no repetition penalty), scored with sacreBLEU:
+
+| Direction | sacreBLEU | chrF |
+|---|---:|---:|
+| **English → Egyptian** | **0.83** | 13.15 |
+| **Egyptian → English** | **1.87** | 14.84 |
+
+The saved weights are the best checkpoint by validation loss (`eval_loss = 3.367`, epoch 3 of 3).
+For reference, the 50M sibling scores BLEU ~24 (en→egy) / ~34 (egy→en) with the same data and eval.
+
+### Example translations
+
+Real greedy-decoded outputs from the held-out set (rough — this is a 5M model):
+
+**English → Egyptian**
+
+| English input | Model output (Egyptian) | Reference |
+|---|---|---|
+| So what should I get you? Should I get you this or that? | يعني إيه؟ إيه ده؟ إيه ده؟ … هقولك على حاجة | طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ |
+
+**Egyptian → English**
+
+| Egyptian input | Model output (English) | Reference |
+|---|---|---|
+| طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ | What's this? What's this, what's this? | So what should I get you? Should I get you this or that? |
+
+The model emits well-formed Egyptian / English surface text and picks the right language for the
+direction, but frequently loses the source meaning. 20 samples per direction with references are
+in [`eval_bidirectional.json`](./eval_bidirectional.json).
+
+## Usage
+
+ChatML format. **Pick the system prompt for the direction you want:**
+
+```python
+import torch
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+model_id = "oddadmix/Emhotob-5M-Egyptian-English-v1"
+tok = AutoTokenizer.from_pretrained(model_id)
+model = AutoModelForCausalLM.from_pretrained(model_id, dtype=torch.bfloat16).to("cuda").eval()
+
+SYS_TO_EGY = "أنت مترجم محترف. ترجم النص الإنجليزي إلى اللهجة المصرية العامية."
+SYS_TO_EN  = "You are a professional translator. Translate the Egyptian Arabic text into English."
+
+def translate(text: str, system: str) -> str:
+    prompt = (
+        f"<|im_start|>system\n{system}<|im_end|>\n"
+        f"<|im_start|>user\n{text.strip()}<|im_end|>\n"
+        f"<|im_start|>assistant\n"
+    )
+    ids = tok(prompt, return_tensors="pt", add_special_tokens=False).to(model.device)
+    if tok.bos_token_id is not None:  # training prepends BOS
+        bos = torch.tensor([[tok.bos_token_id]], device=model.device)
+        ids["input_ids"] = torch.cat([bos, ids["input_ids"]], dim=1)
+        ids["attention_mask"] = torch.cat([torch.ones_like(bos), ids["attention_mask"]], dim=1)
+    out = model.generate(**ids, max_new_tokens=256, do_sample=False,
+                         eos_token_id=tok.eos_token_id, pad_token_id=tok.pad_token_id)
+    return tok.decode(out[0, ids["input_ids"].size(1):], skip_special_tokens=True).strip()
+
+print(translate("I will be fine, don't worry", SYS_TO_EGY))
+```
+
+## Training
+
+- **Base model:** `oddadmix/Emhotob-5M` (Llama arch, hidden 128, 5 layers, 4 heads, vocab 32000,
+  tied embeddings; **5,080,704 params** after resizing for 2 ChatML tokens)
+- **Dataset:** `oddadmix/egyptian-translation-dataset-2.9-openai-batch` (135,282 rows,
+  `English`/`Arabic` columns; `Arabic` = Egyptian colloquial)
+- **Method:** HuggingFace `Trainer`, ChatML, **prompt-masked cross-entropy** (loss only on the
+  assistant turn). Each row is exploded into **two** training examples (one per direction).
+  Two ChatML special tokens (`<|im_start|>`, `<|im_end|>`) were added and embeddings resized.
+- **Hyperparameters:** 3 epochs · effective batch 64 · LR 3e-4 (cosine, 5% warmup) ·
+  bf16 · max length 1024 · `load_best_model_at_end` on `eval_loss`.
+- **Split:** 132,282 train / 3,000 deterministic held-out (`seed=42`), scored both directions.
+
+## Limitations
+
+- A 5M model near the **emergence threshold**: fluent surface text but frequent meaning loss,
+  drift, and repetition — especially on longer or rarer inputs.
+- Gender is disambiguated only from context; ambiguous inputs may default one way.
+- For fluent translation use `oddadmix/50M-Egyptian-English-v1`.
+
+## License
+
+Apache-2.0, inherited from the base model.

config.json

@@ -0,0 +1,32 @@
+{
+  "architectures": [
+    "LlamaForCausalLM"
+  ],
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "bos_token_id": 0,
+  "dtype": "bfloat16",
+  "eos_token_id": 32001,
+  "head_dim": 32,
+  "hidden_act": "silu",
+  "hidden_size": 128,
+  "initializer_range": 0.02,
+  "intermediate_size": 384,
+  "max_position_embeddings": 2048,
+  "mlp_bias": false,
+  "model_type": "llama",
+  "num_attention_heads": 4,
+  "num_hidden_layers": 5,
+  "num_key_value_heads": 2,
+  "pad_token_id": 1,
+  "pretraining_tp": 1,
+  "rms_norm_eps": 1e-06,
+  "rope_parameters": {
+    "rope_theta": 10000,
+    "rope_type": "default"
+  },
+  "tie_word_embeddings": true,
+  "transformers_version": "5.12.1",
+  "use_cache": false,
+  "vocab_size": 32002
+}

eval_bidirectional.json

@@ -0,0 +1,223 @@
+{
+  "eval_size": 3000,
+  "seed": 42,
+  "generation": {
+    "do_sample": false,
+    "repetition_penalty": 1.0,
+    "no_repeat_ngram_size": 0
+  },
+  "directions": {
+    "en2egy": {
+      "bleu": 0.8284798113158242,
+      "chrf": 13.151559692353024,
+      "samples": [
+        {
+          "source": "So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless undershirt, eating the best piece of meat you'll ever have in your life.",
+          "reference": "طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حياتك.",
+          "hypothesis": "يعني إيه؟ إيه ده؟ إيه ده؟ أنا مش هينفع، هقولك على حاجة، هقولك على حاجة، أنا مش هينفع."
+        },
+        {
+          "source": "Prayer niches (mihrabs)",
+          "reference": "محاريب الصلاة",
+          "hypothesis": "ممكن تيجي"
+        },
+        {
+          "source": "Cardamom, grains of paradise, cardamom, black pepper, and a little salt. We'll just sprinkle these on, with some bay leaves, and we'll add a big lemon so it doesn't darken — here's the big lemon.",
+          "reference": "حبهان وفلفل اسود وشويه ملح، هنرشهم عليها مع ورق لوري، وهنحطلها ليمونة كبيرة عشان لونها ما يغمقش - اهي ليمونة كبيرة.",
+          "hypothesis": "يا جماعة، أيوه، كل سنة وانتوا مش هينفعوا، وبعدين ناكلوا، وبعدين ناكلوا، وبعدين ناكلوا. عايزوا نروحوا، عشان كده هتبقى زي ما هي."
+        },
+        {
+          "source": "Man, these things happen. Sometimes Liverpool loses the match, and other times Real Madrid wins it.",
+          "reference": "يا عم الحاجات دي بتحصل، ساعات ليفربول بتخسر الماتش وساعات ريال مدريد بيكسب.",
+          "hypothesis": "يا جماعة، الناس بتقول إن في ماتش مانشستر سيتي، وده كان بيعملوا كده."
+        },
+        {
+          "source": "I will be fine, don't worry",
+          "reference": "انا هبقى كويسة، ما تقلقيش",
+          "hypothesis": "أنا مش عارف، أنا مش هينفع"
+        },
+        {
+          "source": "I want grilled chicken, kofta on charcoal, and Pepsi.",
+          "reference": "انا عايز فراخ مشوية وكفتة على الفحم وبيبسي.",
+          "hypothesis": "عايز أقولك على حاجة، وبعدين نروح."
+        },
+        {
+          "source": "Your age",
+          "reference": "سنك",
+          "hypothesis": "ممكن"
+        },
+        {
+          "source": "By the way, today, it's interesting to see how these two teams will handle the result, each playing in their own way. Whether it's Klopp trying to give hope, even if it's just 10%, that we can achieve the impossible in Madrid against a very tough opponent, or, if not, we’ll at least have a clear, explicit, and realistic goal so the season doesn't slip away from us. A win would make all Liverpool fans completely quiet with Jurgen Klopp and give them an injection of hope until the end of the season, at least. Unlike United, who desperately need an automatic, clear, and decisive reaction starting from the Europa League against Real Betis. These tough, historic results stay in our memories regardless of your position in the league—we all remember them.",
+          "reference": "على فكره، النهارده الموضوع هيبقى interesting نشوف الفريقين دول هيتعاملوا مع النتيجه ازاي، وكل واحد هيلعب بطريقته. سواء كلوب هيحاول يدي أمل، حتى لو بنسبة ١٠٪، إننا نقدر نعمل المستحيل في مدريد قدام خصم تقيل جداً، أو لو لأ، يبقى على الأقل عندنا هدف واضح وصريح وواقعي عشان الموسم ما يضيعش مننا. الفوز هيخلي جمهور ليفربول يسكت تماماً مع يورجن كلوب ويديهم جرعة أمل لحد نهاية الموسم على الأقل. على عكس يونايتد اللي محتاج رد فعل سريع وواضح وصريح ابتداءً من اليوروبا ليج قدام ريال بيتيس. النتائج الصعبة والتاريخية دي بتفضل في الذاكرة مهما كان مركزك في الدوري – كلنا فاكرينها.",
+          "hypothesis": "على فكرة، لو مش عارف لو كان في ماتش في الدوري، لو كان في ماتش في الدوري، لو كان في ماتش في الدوري، كان في ماتش في الدوري، أو في الدوري، أو في الدوري، أو في ��لدوري، أو في الدوري، أو في الدوري، أو في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان في الدوري، أو لو كان"
+        },
+        {
+          "source": "So, do we have to pay here?",
+          "reference": "يعني إحنا لازم ندفع هنا؟",
+          "hypothesis": "يعني عايز أقولك على هنا؟"
+        },
+        {
+          "source": "I think we will know that.",
+          "reference": "أظن إحنا هنعرف ده.",
+          "hypothesis": "أنا مش عارف إن ده مش هيحصل."
+        },
+        {
+          "source": "Option please, excuse me, thank you.",
+          "reference": "أوبشن لو سمحت، بعد إذنك، شكراً.",
+          "hypothesis": "يا جماعة، أنا مش هقولك."
+        },
+        {
+          "source": "That's what people say, I don't know.",
+          "reference": "ده اللي الناس بتقوله، معرفش.",
+          "hypothesis": "ده مش هيبقى بيقولوا إيه."
+        },
+        {
+          "source": "No sir, he's going to clean up this mess. He might come if France fails in this tournament. No sir, they supported him until he asked 'which cup is this?' I mean, this is Mbappe, he'll play in 2026. On paper, yes, but if he gets eliminated early, like in the round of 16, God knows. He was eliminated from Euro 2021, true, but when they gave him a chance to continue, he did really well.",
+          "reference": "لا يا باشا، هو هينضف الليلة دي. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، كانوا معاه لحد ما قال هو الكاس ده إيه؟ يعني ده مبابي، هيلعب في 2026. على الورق آه، بس لو خرج بدري زي دور الستاشر، الله أعلم. هو خرج من اليورو 2021، صح، بس لما ادوله فرصة يكمل، أثبت نفسه جامد.",
+          "hypothesis": "لا لا لا، هو كان بيقول إن في الآخر هيبقى في الدوري الإنجليزي. هو كان بيقول إن في ماتش في الدوري، بس هو كان بيقول إن في ماتش في الدوري، بس هو كان بيقول إن في ماتش في الدوري، بس هو كان بيقول إن في ماتش في الدوري، بس هو كان بيقول إن في ماتش في الدوري، بس هو كان بيقول إن في ماتش في الدوري، بس هو كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان بيقول إن في الدوري الإنجليزي كان في الدوري الإنجليزي."
+        },
+        {
+          "source": "Let me tell you, I ask them to parse what's underlined, and I say, 'the champion raises the cup.' 'Champion' is the subject. Then, Malak (a student) says to me, 'the subject is marked with a kasra (wrong grammatical case)'—can you imagine? I swear that's what happened!",
+          "reference": "بص بقى، انا بسألهم يعربوا اللي تحتها خط، وبقول لهم البطل بيرفع الكاس، يعني 'البطل' هو المبتدأ. تقوم ملك، تخيلي، تقول لي: 'المبتدأ مرفوع بالكسر'! تخيلي! والله حصل كده.",
+          "hypothesis": "بص، أنا مش هقولك على حاجة، أنا مش هقولك على حاجة. أنا مش هقولك على حاجة، أنا مش هقولك على حاجة. أنا مش هقولك على حاجة، أنا مش هقولك على حاجة."
+        },
+        {
+          "source": "What's my standard anyway? Forget about his standards, the awards' standards, and all that stuff.",
+          "reference": "هو ايه اصلا المعيار بتاعي؟ سيبك بقى من معاييره ومعايير الجوايز وكل الكلام ده.",
+          "hypothesis": "إيه اللي بيحصل؟ أنا مش هينفع، بس في حد بيعمله."
+        },
+        {
+          "source": "I wish I could go back to being young, to the days when I didn't carry worries like I do now.",
+          "reference": "يا ريت أرجع صغير تاني لأيام ماكنتش شايل هم زي دلوقتي.",
+          "hypothesis": "يا رب، أنا مش هقولك على حاجة، أنا مش هقولك على حاجة."
+        },
+        {
+          "source": "My question is, what kind of work is Guardiola doing with this one and that one? Where did he succeed? In Barcelona, he definitely succeeded with both. You can only succeed in Germany? No, I mean, can you appreciate what this man has done? This man worked hard and did something amazing.",
+          "reference": "أنا سؤالي هو إيه الشغل اللي جوارديولا بيعمله مع ده ومع ده؟ هو نجح فين؟ في برشلونة نجح فعلاً مع الاتنين. يعني النجاح بس في ألمانيا؟ لا، أنا قصدي تقدّروا الراجل ده عمل ايه؟ الراجل ده تعب وعمل حاجه كبيرة.",
+          "hypothesis": "بص يا جماعة، إيه ده؟ إيه ده؟ في إيه؟ في إيه؟ في إيه؟ في إيه؟ في إيه في إيه؟ في إيه في إيه؟ في إيه في إيه؟ في إيه في إيه؟"
+        },
+        {
+          "source": "Check yourself, Mr. Harry. You destroyed Tottenham Club—looks like you were the problem. They might win this year now that Kane is gone or whatever.",
+          "reference": "راجع نفسك يا عم هاري، انت خربت نادي توتنهام، شكلك كنت انت السبب. يمكن يكسبوا السنة دي بعد ما كين مشي ولا أي حاجة.",
+          "hypothesis": "يلا يا جماعة، أنا مش هقولك على حاجة. أنا مش هينفع، ده مش هيبقى في كل حاجة."
+        },
+        {
+          "source": "Let's go, I'll get up, go to Rouh El Nagham, and call you on the phone.",
+          "reference": "يلا، هقوم أروح روح النغم وهكلمك في التليفون.",
+          "hypothesis": "يلا يا باشا، أنا مش هقولك، أنا مش هقولك."
+        },
+        {
+          "source": "And he'll make the kids deal with a mean stepmother.",
+          "reference": "وهيخلي العيال يتعاملوا مع مرات أب شريرة.",
+          "hypothesis": "وبعدين هو اللي بيحصل في كل حتة."
+        }
+      ]
+    },
+    "egy2en": {
+      "bleu": 1.8709159904583916,
+      "chrf": 14.84143953330391,
+      "samples": [
+        {
+          "source": "طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حياتك.",
+          "reference": "So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless undershirt, eating the best piece of meat you'll ever have in your life.",
+          "hypothesis": "What's this? What's this, what's this? What's this, what's this, what's this? I'm telling you, what's this, and I'm telling you, what's this?"
+        },
+        {
+          "source": "محاريب الصلاة",
+          "reference": "Prayer niches (mihrabs)",
+          "hypothesis": "And the situation is something"
+        },
+        {
+          "source": "حبهان وفلفل اسود وشويه ملح، هنرشهم عليها مع ورق لوري، وهنحطلها ليمونة كبيرة عشان لونها ما يغمقش - اهي ليمونة كبيرة.",
+          "reference": "Cardamom, grains of paradise, cardamom, black pepper, and a little salt. We'll just sprinkle these on, with some bay leaves, and we'll add a big lemon so it doesn't darken — here's the big lemon.",
+          "hypothesis": "They're saying, and we'll take a bit, and you'll take a bit, and you'll take a bit, and you'll take a bit of a bit, and you'll take a bit of a bit."
+        },
+        {
+          "source": "يا عم الحاجات دي بتحصل، ساعات ليفربول بتخسر الماتش وساعات ريال مدريد بيكسب.",
+          "reference": "Man, these things happen. Sometimes Liverpool loses the match, and other times Real Madrid wins it.",
+          "hypothesis": "Hey, this is the one who wouldn't take the match, and they're the one who wouldn't be a bit."
+        },
+        {
+          "source": "ان�� هبقى كويسة، ما تقلقيش",
+          "reference": "I will be fine, don't worry",
+          "hypothesis": "I'm not sure, I'll tell you, I'll tell you, it's not a bit."
+        },
+        {
+          "source": "انا عايز فراخ مشوية وكفتة على الفحم وبيبسي.",
+          "reference": "I want grilled chicken, kofta on charcoal, and Pepsi.",
+          "hypothesis": "I'm not sure you're not saying it's a bit."
+        },
+        {
+          "source": "سنك",
+          "reference": "Your age",
+          "hypothesis": "He's something"
+        },
+        {
+          "source": "على فكره، النهارده الموضوع هيبقى interesting نشوف الفريقين دول هيتعاملوا مع النتيجه ازاي، وكل واحد هيلعب بطريقته. سواء كلوب هيحاول يدي أمل، حتى لو بنسبة ١٠٪، إننا نقدر نعمل المستحيل في مدريد قدام خصم تقيل جداً، أو لو لأ، يبقى على الأقل عندنا هدف واضح وصريح وواقعي عشان الموسم ما يضيعش مننا. الفوز هيخلي جمهور ليفربول يسكت تماماً مع يورجن كلوب ويديهم جرعة أمل لحد نهاية الموسم على الأقل. على عكس يونايتد اللي محتاج رد فعل سريع وواضح وصريح ابتداءً من اليوروبا ليج قدام ريال بيتيس. النتائج الصعبة والتاريخية دي بتفضل في الذاكرة مهما كان مركزك في الدوري – كلنا فاكرينها.",
+          "reference": "By the way, today, it's interesting to see how these two teams will handle the result, each playing in their own way. Whether it's Klopp trying to give hope, even if it's just 10%, that we can achieve the impossible in Madrid against a very tough opponent, or, if not, we’ll at least have a clear, explicit, and realistic goal so the season doesn't slip away from us. A win would make all Liverpool fans completely quiet with Jurgen Klopp and give them an injection of hope until the end of the season, at least. Unlike United, who desperately need an automatic, clear, and decisive reaction starting from the Europa League against Real Betis. These tough, historic results stay in our memories regardless of your position in the league—we all remember them.",
+          "hypothesis": "The same thing is that they're not saying, 'We'll be a bit, and I'm not saying that they're saying, 'I'm not saying, 'I'm not saying, 'I'm not saying,' and I'm not saying, 'I'm not saying, 'I'm not saying,' and I'm not saying that they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying they're saying the"
+        },
+        {
+          "source": "يعني إحنا لازم ندفع هنا؟",
+          "reference": "So, do we have to pay here?",
+          "hypothesis": "So, what's this?"
+        },
+        {
+          "source": "أظن إحنا هنعرف ده.",
+          "reference": "I think we will know that.",
+          "hypothesis": "I want to tell you, we're not saying."
+        },
+        {
+          "source": "أوبشن لو سمحت، بعد إذنك، شكراً.",
+          "reference": "Option please, excuse me, thank you.",
+          "hypothesis": "And if you're not saying, I'm not saying, I'm not saying."
+        },
+        {
+          "source": "ده اللي الناس بتقوله، معرفش.",
+          "reference": "That's what people say, I don't know.",
+          "hypothesis": "This is the one who wouldn't tell you."
+        },
+        {
+          "source": "لا يا باشا، هو هينضف الليلة دي. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، كانوا معاه لحد ما قال هو الكاس ده إيه؟ يعني ده مبابي، هيلعب في 2026. على الورق آه، بس لو خرج بدري زي دور الستاشر، الله أعلم. هو خرج من اليورو 2021، صح، بس لما ادوله فرصة يكمل، أثبت نفسه جامد.",
+          "reference": "No sir, he's going to clean up this mess. He might come if France fails in this tournament. No sir, they supported him until he asked 'which cup is this?' I mean, this is Mbappe, he'll play in 2026. On paper, yes, but if he gets eliminated early, like in the round of 16, God knows. He was eliminated from Euro 2021, true, but when they gave him a chance to continue, he did really well.",
+          "hypothesis": "No, they're not saying this is the one who would be a bit. What's this, what's this, what's this? If you want to tell you, it's not a bit, but it's not a bit. If you're not saying, 'I'm not saying, 'I'm not saying, 'I'm telling you, 'I'm telling you,' and I'm not saying this isn't a bit.'"
+        },
+        {
+          "source": "بص بقى، انا بسألهم يعربوا اللي تحتها خط، وبقول لهم البطل بيرفع الكاس، يعني 'البطل' هو المبتدأ. تقوم ملك، تخيلي، تقول لي: 'المبتدأ مرفوع بالكسر'! تخيلي! والله حصل كده.",
+          "reference": "Let me tell you, I ask them to parse what's underlined, and I say, 'the champion raises the cup.' 'Champion' is the subject. Then, Malak (a student) says to me, 'the subject is marked with a kasra (wrong grammatical case)'—can you imagine? I swear that's what happened!",
+          "hypothesis": "Look, I'm telling you, I'll take them, and I'll tell you, it's not the same. I'm telling you, it's not something, and I'll take them to the match. So, I'm telling you, it's not a bit of a bit. So, what's they want to tell you, they're saying, 'I'll tell you, 'I'll tell you, 'I'll take it.'"
+        },
+        {
+          "source": "هو ايه اصلا المعيار بتاعي؟ سيبك بقى من معاييره ومعايير الجوايز وكل الكلام ده.",
+          "reference": "What's my standard anyway? Forget about his standards, the awards' standards, and all that stuff.",
+          "hypothesis": "He's not the field? The match is the one who would be a bit, and they're not saying that's the field."
+        },
+        {
+          "source": "يا ريت أرجع صغير تاني لأيام ماكنتش شايل هم زي دلوقتي.",
+          "reference": "I wish I could go back to being young, to the days when I didn't carry worries like I do now.",
+          "hypothesis": "Hey, I'm not saying that they're saying that they're saying it's a bit."
+        },
+        {
+          "source": "أنا سؤالي هو إيه الشغل اللي جوارديولا بيعمله مع ده ومع ده؟ هو نجح فين؟ في برشلونة نجح فعلاً مع الاتنين. يعني النجاح بس في ألمانيا؟ لا، أنا قصدي تقدّروا الراجل ده عمل ايه؟ الراجل ده تعب وعمل حاجه كبيرة.",
+          "reference": "My question is, what kind of work is Guardiola doing with this one and that one? Where did he succeed? In Barcelona, he definitely succeeded with both. You can only succeed in Germany? No, I mean, can you appreciate what this man has done? This man worked hard and did something amazing.",
+          "hypothesis": "I'm not saying this is the one who would be a bit, and what's they want to tell you? What's this? What's this, I'm saying this is the one who would be a bit. What's this? What's this, I'm not saying this is the first time, okay? I'm not saying it's a bit, okay?"
+        },
+        {
+          "source": "راجع نفسك يا عم هاري، انت خربت نادي توتنهام، شكلك كنت انت السبب. يمكن يكسبوا السنة دي بعد ما كين مشي ولا أي حاجة.",
+          "reference": "Check yourself, Mr. Harry. You destroyed Tottenham Club—looks like you were the problem. They might win this year now that Kane is gone or whatever.",
+          "hypothesis": "I want to tell you, you're the one who would be a bit, you're not saying it's a bit. They're not saying that you're not saying it's a bit."
+        },
+        {
+          "source": "يلا، هقوم أروح روح النغم وهكلمك في التليفون.",
+          "reference": "Let's go, I'll get up, go to Rouh El Nagham, and call you on the phone.",
+          "hypothesis": "Come on, I'll take the same too, and I'll take the moment and see them."
+        },
+        {
+          "source": "وهيخلي العيال يتعاملوا مع مرات أب شريرة.",
+          "reference": "And he'll make the kids deal with a mean stepmother.",
+          "hypothesis": "What's they want to tell you, they're saying they're saying."
+        }
+      ]
+    }
+  }
+}

generation_config.json

@@ -0,0 +1,10 @@
+{
+  "_from_model_config": true,
+  "bos_token_id": 0,
+  "eos_token_id": 32001,
+  "output_attentions": false,
+  "output_hidden_states": false,
+  "pad_token_id": 1,
+  "transformers_version": "5.12.1",
+  "use_cache": true
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2b7bdc412de37396c3be2d290532a05f888acfcf070c654c83b4737d40dfd742
+size 10166472

tokenizer_config.json

@@ -0,0 +1,15 @@
+{
+  "backend": "tokenizers",
+  "bos_token": "<s>",
+  "eos_token": "<|im_end|>",
+  "extra_special_tokens": [
+    "<|im_start|>",
+    "<|im_end|>"
+  ],
+  "is_local": false,
+  "local_files_only": false,
+  "model_max_length": 1000000000000000019884624838656,
+  "pad_token": "<pad>",
+  "tokenizer_class": "TokenizersBackend",
+  "unk_token": "<unk>"
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fda5a230ef60e1fb8a3297ccb58fa6451c4511a187b2eb2858f82782c3b021fd
+size 4792