Egyptian-English 10M SFT + card + eval

README.md

@@ -0,0 +1,116 @@
+---
+license: apache-2.0
+language:
+- ar
+- en
+base_model: oddadmix/Emhotob-10M-v2
+pipeline_tag: text-generation
+library_name: transformers
+tags:
+- translation
+- egyptian-arabic
+- english
+- arabic
+- small-language-model
+- slm
+- tiny-lm
+- chatml
+- scaling-study
+metrics:
+- bleu
+- chrf
+---
+
+# Emhotob-10M-Egyptian-English-v1 — Bidirectional Egyptian Arabic ↔ English (~10.9M params)
+
+A **10.9M-parameter** model that translates **both ways** between **Egyptian colloquial Arabic (المصرية العامية)** and **English**.
+A single set of weights serves both directions; a direction-specific system prompt selects
+which way to translate.
+
+Finetuned from [`oddadmix/Emhotob-10M-v2`](https://huggingface.co/oddadmix/Emhotob-10M-v2), a tiny Llama-architecture
+base (hidden 256, 4 layers, 8 heads, vocab 32000, tied embeddings).
+
+> **Scaling study.** This is one rung of a from-scratch Arabic scaling study that runs an
+> identical SFT + eval recipe across bases from 0.5M to 50M parameters to locate where
+> translation *emerges*. On the headline MSA↔Egyptian pair, output is degenerate at ≤1M,
+> becomes real-but-rough at 5M, and usable at 10M+. See the sibling
+> [`oddadmix/50M-Egyptian-English-v1`](https://huggingface.co/oddadmix/50M-Egyptian-English-v1) for the fluent reference.
+
+## Evaluation
+
+Deterministic held-out set of **3,000 pairs** (`seed=42`),
+decoded **greedily** (`do_sample=False`, no repetition penalty), scored with sacreBLEU:
+
+| Direction | sacreBLEU | chrF |
+|---|---:|---:|
+| **English → Egyptian** | **10.94** | 35.73 |
+| **Egyptian → English** | **18.33** | 37.51 |
+
+Saved weights are the best checkpoint by validation loss (`eval_loss = 1.792`). 20 samples
+per direction with references are in [`eval_bidirectional.json`](./eval_bidirectional.json).
+
+### Example translations
+
+Real greedy-decoded outputs from the held-out set:
+
+**English → Egyptian**
+
+| Source | Model output | Reference |
+|---|---|---|
+| So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless under | طب أنا هجيبلك إيه؟ أجيبلك إيه؟ تخيلوا المنظر ده: قعدوا دلوقتي، لابسوا ورا بعض، كل حتة بتاكلوا أحلى حتة بتاعتكم. | طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حي |
+| Prayer niches (mihrabs) | الغلط (مركب) | محاريب الصلاة |
+
+**Egyptian → English**
+
+| Source | Model output | Reference |
+|---|---|---|
+| طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حي | So what should I get to you? Go to this, or is it? Imagine this view, sitting now wearing Van Hag's hands and eat the mo | So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless under |
+| محاريب الصلاة | My souls | Prayer niches (mihrabs) |
+
+## Usage
+
+ChatML format. **Pick the system prompt for the direction you want:**
+
+```python
+import torch
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+model_id = "oddadmix/Emhotob-10M-Egyptian-English-v2"
+tok = AutoTokenizer.from_pretrained(model_id)
+model = AutoModelForCausalLM.from_pretrained(model_id, dtype=torch.bfloat16).to("cuda").eval()
+
+SYSTEM = "أنت مترجم محترف. ترجم النص الإنجليزي إلى اللهجة المصرية العامية."
+
+def translate(text, system=SYSTEM):
+    prompt = (f"<|im_start|>system\n{system}<|im_end|>\n"
+              f"<|im_start|>user\n{text.strip()}<|im_end|>\n<|im_start|>assistant\n")
+    ids = tok(prompt, return_tensors="pt", add_special_tokens=False).to(model.device)
+    if tok.bos_token_id is not None:
+        bos = torch.tensor([[tok.bos_token_id]], device=model.device)
+        ids["input_ids"] = torch.cat([bos, ids["input_ids"]], dim=1)
+        ids["attention_mask"] = torch.cat([torch.ones_like(bos), ids["attention_mask"]], dim=1)
+    out = model.generate(**ids, max_new_tokens=256, do_sample=False,
+                         eos_token_id=tok.eos_token_id, pad_token_id=tok.pad_token_id)
+    return tok.decode(out[0, ids["input_ids"].size(1):], skip_special_tokens=True).strip()
+```
+
+## Training
+
+- **Base model:** `oddadmix/Emhotob-10M-v2` (Llama arch, hidden 256, 4 layers, 8 heads, vocab 32000, tied embeddings;
+  **10,947,328 params** after resizing for 2 ChatML tokens)
+- **Dataset:** `oddadmix/egyptian-translation-dataset-2.9-openai-batch`
+- **Method:** HuggingFace `Trainer`, ChatML, **prompt-masked cross-entropy** (loss only on the
+  assistant turn). Each row is exploded into **two** training examples (one per direction).
+- **Hyperparameters:** 3 epochs · effective batch 64 · LR 3e-4 (cosine, 5% warmup) ·
+  bf16 · max length 1024 · `load_best_model_at_end` on `eval_loss`.
+- **Eval split:** 3,000 deterministic held-out pairs (`seed=42`), scored both directions.
+
+## Limitations
+
+A ~10.9M model: reliable on short/common sentences, but drift, repetition, and errors appear
+on long or rare inputs. Gender is disambiguated only from context. For fluent translation use the
+50M sibling.
+
+## License
+
+Apache-2.0, inherited from the base model.

config.json

@@ -0,0 +1,32 @@
+{
+  "architectures": [
+    "LlamaForCausalLM"
+  ],
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "bos_token_id": 0,
+  "dtype": "bfloat16",
+  "eos_token_id": 32001,
+  "head_dim": 32,
+  "hidden_act": "silu",
+  "hidden_size": 256,
+  "initializer_range": 0.02,
+  "intermediate_size": 640,
+  "max_position_embeddings": 2048,
+  "mlp_bias": false,
+  "model_type": "llama",
+  "num_attention_heads": 8,
+  "num_hidden_layers": 4,
+  "num_key_value_heads": 4,
+  "pad_token_id": 1,
+  "pretraining_tp": 1,
+  "rms_norm_eps": 1e-06,
+  "rope_parameters": {
+    "rope_theta": 10000,
+    "rope_type": "default"
+  },
+  "tie_word_embeddings": true,
+  "transformers_version": "5.12.1",
+  "use_cache": false,
+  "vocab_size": 32002
+}

eval_bidirectional.json

@@ -0,0 +1,223 @@
+{
+  "eval_size": 3000,
+  "seed": 42,
+  "generation": {
+    "do_sample": false,
+    "repetition_penalty": 1.0,
+    "no_repeat_ngram_size": 0
+  },
+  "directions": {
+    "en2egy": {
+      "bleu": 10.935614152713311,
+      "chrf": 35.73170853507801,
+      "samples": [
+        {
+          "source": "So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless undershirt, eating the best piece of meat you'll ever have in your life.",
+          "reference": "طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حياتك.",
+          "hypothesis": "طب أنا هجيبلك إيه؟ أجيبلك إيه؟ تخيلوا المنظر ده: قعدوا دلوقتي، لابسوا ورا بعض، كل حتة بتاكلوا أحلى حتة بتاعتكم."
+        },
+        {
+          "source": "Prayer niches (mihrabs)",
+          "reference": "محاريب الصلاة",
+          "hypothesis": "الغلط (مركب)"
+        },
+        {
+          "source": "Cardamom, grains of paradise, cardamom, black pepper, and a little salt. We'll just sprinkle these on, with some bay leaves, and we'll add a big lemon so it doesn't darken — here's the big lemon.",
+          "reference": "حبهان وفلفل اسود وشويه ملح، هنرشهم عليها مع ورق لوري، وهنحطلها ليمونة كبيرة عشان لونها ما يغمقش - اهي ليمونة كبيرة.",
+          "hypothesis": "الحمار، جات الجنة، قطار، فلفل أسود، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح، ملح."
+        },
+        {
+          "source": "Man, these things happen. Sometimes Liverpool loses the match, and other times Real Madrid wins it.",
+          "reference": "يا عم الحاجات دي بتحصل، ساعات ليفربول بتخسر الماتش وساعات ريال مدريد بيكسب.",
+          "hypothesis": "يا عم الحاجات دي بتحصل. ساعات ليفربول خسر الماتش، وفي أوقات ريال مدريد كسبها."
+        },
+        {
+          "source": "I will be fine, don't worry",
+          "reference": "انا هبقى كويسة، ما تقلقيش",
+          "hypothesis": "أنا هبقى كويس، ما تقلقش"
+        },
+        {
+          "source": "I want grilled chicken, kofta on charcoal, and Pepsi.",
+          "reference": "انا عايز فراخ مشوية وكفتة على الفحم وبيبسي.",
+          "hypothesis": "أنا عايز دهب فراخ، كفتة على الفحم، وبابا."
+        },
+        {
+          "source": "Your age",
+          "reference": "سنك",
+          "hypothesis": "الذكاء"
+        },
+        {
+          "source": "By the way, today, it's interesting to see how these two teams will handle the result, each playing in their own way. Whether it's Klopp trying to give hope, even if it's just 10%, that we can achieve the impossible in Madrid against a very tough opponent, or, if not, we’ll at least have a clear, explicit, and realistic goal so the season doesn't slip away from us. A win would make all Liverpool fans completely quiet with Jurgen Klopp and give them an injection of hope until the end of the season, at least. Unlike United, who desperately need an automatic, clear, and decisive reaction starting from the Europa League against Real Betis. These tough, historic results stay in our memories regardless of your position in the league—we all remember them.",
+          "reference": "على فكره، النهارده الموضوع هيبقى interesting نشوف الفريقين دول هيتعاملوا مع النتيجه ازاي، وكل واحد هيلعب بطريقته. سواء كلوب هيحاول يدي أمل، حتى لو بنسبة ١٠٪، إننا نقدر نعمل المستحيل في مدريد قدام خصم تقيل جداً، أو لو لأ، يبقى على الأقل عندنا هدف واضح وصريح وواقعي عشان الموسم ما يضيعش مننا. الفوز هيخلي جمهور ليفربول يسكت تماماً مع يورجن كلوب ويديهم جرعة أمل لحد نهاية الموسم على الأقل. على عكس يونايتد اللي محتاج رد فعل سريع وواضح وصريح ابتداءً من اليوروبا ليج قدام ريال بيتيس. النتائج الصعبة والتاريخية دي بتفضل في الذاكرة مهما كان مركزك في الدوري – كلنا فاكرينها.",
+          "hypothesis": "على فكره، النهارده الموضوع بيشتغل مع فرقتين دول هيمشي، كل لاعب بيعمل نتائج في طريقهم. سواء كلوب بيحاول يديها أمل، حتى لو 10%، ممكن نحقق التوقعات في مدريد ضد مهاجم صعب جدًا، أو لو مش هنبقى على الأقل يبقى عندنا واضحة، أو لو مش هنبقى على الأقل يكون عندنا واضحة. هيكسبوا جمهور ليفربول خالص، بس مش هينزلنا على جمهور أرسنال خالص. زي ما هو كسبوا جمهور ليفربول، وبيقولوا إن في خلاف، وبقى رد فعل الموسم اللي فات. للأسف، في خلاف، واضح، ووضوح، ووضوح، ووضوح."
+        },
+        {
+          "source": "So, do we have to pay here?",
+          "reference": "يعني إحنا لازم ندفع هنا؟",
+          "hypothesis": "يعني لازم نحسب هنا؟"
+        },
+        {
+          "source": "I think we will know that.",
+          "reference": "أظن إحنا هنعرف ده.",
+          "hypothesis": "أنا شايف إننا هنعمل كده."
+        },
+        {
+          "source": "Option please, excuse me, thank you.",
+          "reference": "أوبشن لو سمحت، بعد إذنك، شكراً.",
+          "hypothesis": "معلش، سامحني، شكراً."
+        },
+        {
+          "source": "That's what people say, I don't know.",
+          "reference": "ده اللي الناس بتقوله، معرفش.",
+          "hypothesis": "ده اللي بيقول، أنا مش عارف."
+        },
+        {
+          "source": "No sir, he's going to clean up this mess. He might come if France fails in this tournament. No sir, they supported him until he asked 'which cup is this?' I mean, this is Mbappe, he'll play in 2026. On paper, yes, but if he gets eliminated early, like in the round of 16, God knows. He was eliminated from Euro 2021, true, but when they gave him a chance to continue, he did really well.",
+          "reference": "لا يا باشا، هو هينضف الليلة دي. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، كانوا معاه لحد ما قال هو الكاس ده إيه؟ يعني ده مبابي، هيلعب في 2026. على الورق آه، بس لو خرج بدري زي دور الستاشر، الله أعلم. هو خرج من اليورو 2021، صح، بس لما ادوله فرصة يكمل، أثبت نفسه جامد.",
+          "hypothesis": "لا يا باشا، هو هيطلع من الضحك ده. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، هما اللي نجحوا لحد ما سألوا 'ده الكاس ده؟' يعني دي مبابي، هيلعب في 2026. على الورق، آه، بس لو جاله توفى بدري زي في دور الـ16، ربنا أعلم. كان من أوائل أوروبا، صح، بس لما جابوه فرصة يكمل، هو فعلاً كان كويس."
+        },
+        {
+          "source": "Let me tell you, I ask them to parse what's underlined, and I say, 'the champion raises the cup.' 'Champion' is the subject. Then, Malak (a student) says to me, 'the subject is marked with a kasra (wrong grammatical case)'—can you imagine? I swear that's what happened!",
+          "reference": "بص بقى، انا بسألهم يعربوا اللي تحتها خط، وبقول لهم البطل بيرفع الكاس، يعني 'البطل' هو المبتدأ. تقوم ملك، تخيلي، تقول لي: 'المبتدأ مرفوع بالكسر'! تخيلي! والله حصل كده.",
+          "hypothesis": "بص، أنا بسألهم، أنا بسألهم، وقلت 'الشامبيون' هو اللي بيقول 'البسكويت'. 'الشامبيون' هو البديل. بعدين يا مدام (يعني إيه اللي بيحصل؟ والله ده اللي حصل!"
+        },
+        {
+          "source": "What's my standard anyway? Forget about his standards, the awards' standards, and all that stuff.",
+          "reference": "هو ايه اصلا المعيار بتاعي؟ سيبك بقى من معاييره ومعايير الجوايز وكل الكلام ده.",
+          "hypothesis": "ايه حكاية أنا؟ سيبك من قايله، الساندوتش، والستوي، وكل الحاجات دي."
+        },
+        {
+          "source": "I wish I could go back to being young, to the days when I didn't carry worries like I do now.",
+          "reference": "يا ريت أرجع صغير تاني لأيام ماكنتش شايل هم زي دلوقتي.",
+          "hypothesis": "يا ريت أروح أرجع عشان تبقى عندك سنين لما ما شايلش على نفسي كده."
+        },
+        {
+          "source": "My question is, what kind of work is Guardiola doing with this one and that one? Where did he succeed? In Barcelona, he definitely succeeded with both. You can only succeed in Germany? No, I mean, can you appreciate what this man has done? This man worked hard and did something amazing.",
+          "reference": "أنا سؤالي هو إيه الشغل اللي جوارديولا بيعمله مع ده ومع ده؟ هو نجح فين؟ في برشلونة نجح فعلاً مع الاتنين. يعني النجاح بس في ألمانيا؟ لا، أنا قصدي تقدّروا الراجل ده عمل ايه؟ الراجل ده تعب وعمل حاجه كبيرة.",
+          "hypothesis": "السؤال ده، ايه شغل شغل جوارديولا بيعمل إيه مع ده؟ كان عمله إيه؟ في برشلونة، أكيد نجح مع الاتنين. ممكن ينجح في ألمانيا؟ لا، يعني ممكن تعمل اللي حصل ده؟ ده شغال جامد ومين عمل حاجة جامدة."
+        },
+        {
+          "source": "Check yourself, Mr. Harry. You destroyed Tottenham Club—looks like you were the problem. They might win this year now that Kane is gone or whatever.",
+          "reference": "راجع نفسك يا عم هاري، انت خربت نادي توتنهام، شكلك كنت انت السبب. يمكن يكسبوا السنة دي بعد ما كين مشي ولا أي حاجة.",
+          "hypothesis": "تشوفي نفسك يا أستاذ هاري. إنت اتضايقت من ناديوتي، بصوا إنكم كانت المشكلة. ممكن يكسبوا السنة دي دلوقتي اللي كبرت أو أي حاجة."
+        },
+        {
+          "source": "Let's go, I'll get up, go to Rouh El Nagham, and call you on the phone.",
+          "reference": "يلا، هقوم أروح روح النغم وهكلمك في التليفون.",
+          "hypothesis": "يلا بينا، هطلع يا رمو، وسمعك على التليفون."
+        },
+        {
+          "source": "And he'll make the kids deal with a mean stepmother.",
+          "reference": "وهيخلي العيال يتعاملوا مع مرات أب شريرة.",
+          "hypothesis": "هو هيعمل العيال معايا حاجة معايا."
+        }
+      ]
+    },
+    "egy2en": {
+      "bleu": 18.33412737807121,
+      "chrf": 37.50745331020631,
+      "samples": [
+        {
+          "source": "طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حياتك.",
+          "reference": "So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless undershirt, eating the best piece of meat you'll ever have in your life.",
+          "hypothesis": "So what should I get to you? Go to this, or is it? Imagine this view, sitting now wearing Van Hag's hands and eat the most few pieces of meat can eat it in your life."
+        },
+        {
+          "source": "محاريب الصلاة",
+          "reference": "Prayer niches (mihrabs)",
+          "hypothesis": "My souls"
+        },
+        {
+          "source": "حبهان وفلفل اسود وشويه ملح، هنرشهم عليها مع ورق لوري، وهنحطلها ليمونة كبيرة عشان لونها ما يغمقش - اهي ليمونة كبيرة.",
+          "reference": "Cardamom, grains of paradise, cardamom, black pepper, and a little salt. We'll just sprinkle these on, with some bay leaves, and we'll add a big lemon so it doesn't darken — here's the big lemon.",
+          "hypothesis": "He loves his pepper and a salt, and a salt, we'll set them with the lemon of the lemon, and we'll stick it loudly because it's not too much to turn - yes, a large too."
+        },
+        {
+          "source": "يا عم الحاجات دي بتحصل، ساعات ليفربول بتخسر الماتش وساعات ريال مدريد بيكسب.",
+          "reference": "Man, these things happen. Sometimes Liverpool loses the match, and other times Real Madrid wins it.",
+          "hypothesis": "Hey man, these things happened, Liverpool lost the match and sometimes Real Madrid wins."
+        },
+        {
+          "source": "انا هبقى كويسة، ما تقلقيش",
+          "reference": "I will be fine, don't worry",
+          "hypothesis": "I'll be good, don't worry."
+        },
+        {
+          "source": "انا عايز فراخ مشوية وكفتة على الفحم وبيبسي.",
+          "reference": "I want grilled chicken, kofta on charcoal, and Pepsi.",
+          "hypothesis": "I want to change chicken and kofta on the chicken, my chicken."
+        },
+        {
+          "source": "سنك",
+          "reference": "Your age",
+          "hypothesis": "One"
+        },
+        {
+          "source": "على فكره، النهارده الموضوع هيبقى interesting نشوف الفريقين دول هيتعاملوا مع النتيجه ازاي، وكل واحد هيلعب بطريقته. سواء كلوب هيحاول يدي أمل، حتى لو بنسبة ١٠٪، إننا نقدر نعمل المستحيل في مدريد قدام خصم تقيل جداً، أو لو لأ، يبقى ع��ى الأقل عندنا هدف واضح وصريح وواقعي عشان الموسم ما يضيعش مننا. الفوز هيخلي جمهور ليفربول يسكت تماماً مع يورجن كلوب ويديهم جرعة أمل لحد نهاية الموسم على الأقل. على عكس يونايتد اللي محتاج رد فعل سريع وواضح وصريح ابتداءً من اليوروبا ليج قدام ريال بيتيس. النتائج الصعبة والتاريخية دي بتفضل في الذاكرة مهما كان مركزك في الدوري – كلنا فاكرينها.",
+          "reference": "By the way, today, it's interesting to see how these two teams will handle the result, each playing in their own way. Whether it's Klopp trying to give hope, even if it's just 10%, that we can achieve the impossible in Madrid against a very tough opponent, or, if not, we’ll at least have a clear, explicit, and realistic goal so the season doesn't slip away from us. A win would make all Liverpool fans completely quiet with Jurgen Klopp and give them an injection of hope until the end of the season, at least. Unlike United, who desperately need an automatic, clear, and decisive reaction starting from the Europa League against Real Betis. These tough, historic results stay in our memories regardless of your position in the league—we all remember them.",
+          "hypothesis": "By the way, today it will be well-known to see these two teams will deal with the next team, and everyone will play his way. Whether Klopp will try hope, even if there is 10%, we can do the important important point, or if we can make the important important points, or if we'll be at least weather, we'll be clear and because of the season, and they don't miss them. Winning Liverpool fans are completely completely different with Jurgen Klopp and gives them a drink until the end of the season. On the first time, I need a question that's fast and before the Europa League in the league, for example, and announced by the Europa League. The trusts are truly fac"
+        },
+        {
+          "source": "يعني إحنا لازم ندفع هنا؟",
+          "reference": "So, do we have to pay here?",
+          "hypothesis": "So we need to pay here?"
+        },
+        {
+          "source": "أظن إحنا هنعرف ده.",
+          "reference": "I think we will know that.",
+          "hypothesis": "I think we're going to know that."
+        },
+        {
+          "source": "أوبشن لو سمحت، بعد إذنك، شكراً.",
+          "reference": "Option please, excuse me, thank you.",
+          "hypothesis": "Praction, please, thank you, thank you."
+        },
+        {
+          "source": "ده اللي الناس بتقوله، معرفش.",
+          "reference": "That's what people say, I don't know.",
+          "hypothesis": "This people who are saying, I don't know."
+        },
+        {
+          "source": "لا يا باشا، هو هينضف الليلة دي. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، كانوا معاه لحد ما قال هو الكاس ده إيه؟ يعني ده مبابي، هيلعب في 2026. على الورق آه، بس لو خرج بدري زي دور الستاشر، الله أعلم. هو خرج من اليورو 2021، صح، بس لما ادوله فرصة يكمل، أثبت نفسه جامد.",
+          "reference": "No sir, he's going to clean up this mess. He might come if France fails in this tournament. No sir, they supported him until he asked 'which cup is this?' I mean, this is Mbappe, he'll play in 2026. On paper, yes, but if he gets eliminated early, like in the round of 16, God knows. He was eliminated from Euro 2021, true, but when they gave him a chance to continue, he did really well.",
+          "hypothesis": "No, sir, he will clean this night. You can come if France failed in this tournament. No, sir, they were with him until he said, what was this financial match? I mean, this is Mbappé, he'll play in 2026. By the paper, yes, but if he gets out early like the stadium, God knows. He's outed of the Euro 2022, right, but when give him a chance to continue, he probably probably achieved him."
+        },
+        {
+          "source": "بص بقى، انا بسألهم يعربوا اللي تحتها خط، وبقول لهم البطل بيرفع الكاس، يعني 'البطل' هو المبتدأ. تقوم ملك، تخيلي، تقول لي: 'المبتدأ مرفوع بالكسر'! تخيلي! والله حصل كده.",
+          "reference": "Let me tell you, I ask them to parse what's underlined, and I say, 'the champion raises the cup.' 'Champion' is the subject. Then, Malak (a student) says to me, 'the subject is marked with a kasra (wrong grammatical case)'—can you imagine? I swear that's what happened!",
+          "hypothesis": "Look, I'm asking them to take the one to want the one to take the cup, and I'm asking them to the cup, meaning 'The break' is a bit.' I'm still staying Malak, you can say, 'The break' is a bit down!' I swear, happy this."
+        },
+        {
+          "source": "هو ايه اصلا المعيار بتاعي؟ سيبك بقى من معاييره ومعايير الجوايز وكل الكلام ده.",
+          "reference": "What's my standard anyway? Forget about his standards, the awards' standards, and all that stuff.",
+          "hypothesis": "What's done with my standards? Forget about his contract and with the marinade and all that."
+        },
+        {
+          "source": "يا ريت أرجع صغير تاني لأيام ماكنتش شايل هم زي دلوقتي.",
+          "reference": "I wish I could go back to being young, to the days when I didn't carry worries like I do now.",
+          "hypothesis": "I wish you would bring you a big days that wasn't like that, like now."
+        },
+        {
+          "source": "أنا سؤالي هو إيه الشغل اللي جوارديولا بيعمله مع ده ومع ده؟ هو نجح فين؟ في برشلونة نجح فعلاً مع الاتنين. يعني النجاح بس في ألمانيا؟ لا، أنا قصدي تقدّروا الراجل ده عمل ايه؟ الراجل ده تعب وعمل حاجه كبيرة.",
+          "reference": "My question is, what kind of work is Guardiola doing with this one and that one? Where did he succeed? In Barcelona, he definitely succeeded with both. You can only succeed in Germany? No, I mean, can you appreciate what this man has done? This man worked hard and did something amazing.",
+          "hypothesis": "My question is what Guardiola does with this and with this? Where is he succeed? Where is Barcelona succeed? In Barcelona succeed. I mean, succeeding in Germany? No, I mean, I mean what you did? This man has been done and made a big thing."
+        },
+        {
+          "source": "راجع نفسك يا عم هاري، انت خربت نادي توتنهام، شكلك كنت انت السبب. يمكن يكسبوا السنة دي بعد ما كين مشي ولا أي حاجة.",
+          "reference": "Check yourself, Mr. Harry. You destroyed Tottenham Club—looks like you were the problem. They might win this year now that Kane is gone or whatever.",
+          "hypothesis": "Regarding yourself, Uncle Harry, you've tried to Tottenham's club, look, you were the reason. Maybe they win this year after Kane left or anything."
+        },
+        {
+          "source": "يلا، هقوم أروح روح النغم وهكلمك في التليفون.",
+          "reference": "Let's go, I'll get up, go to Rouh El Nagham, and call you on the phone.",
+          "hypothesis": "Come on, I'll go go to the teacher and I'll talk to you in the phone."
+        },
+        {
+          "source": "وهيخلي العيال يتعاملوا مع مرات أب شريرة.",
+          "reference": "And he'll make the kids deal with a mean stepmother.",
+          "hypothesis": "And while they're going to deal with a hurry."
+        }
+      ]
+    }
+  }
+}

generation_config.json

@@ -0,0 +1,10 @@
+{
+  "_from_model_config": true,
+  "bos_token_id": 0,
+  "eos_token_id": 32001,
+  "output_attentions": false,
+  "output_hidden_states": false,
+  "pad_token_id": 1,
+  "transformers_version": "5.12.1",
+  "use_cache": true
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:633298741b845a6faff8a387af128dcd2bc32d9f5fa028ce4e7a17a86a6e0c7e
+size 21898824

tokenizer_config.json

@@ -0,0 +1,15 @@
+{
+  "backend": "tokenizers",
+  "bos_token": "<s>",
+  "eos_token": "<|im_end|>",
+  "extra_special_tokens": [
+    "<|im_start|>",
+    "<|im_end|>"
+  ],
+  "is_local": false,
+  "local_files_only": false,
+  "model_max_length": 1000000000000000019884624838656,
+  "pad_token": "<pad>",
+  "tokenizer_class": "TokenizersBackend",
+  "unk_token": "<unk>"
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fbf27e470c874d8683435d62c2b8ebf9432de9cb774947dc1e201a4c1e66b1e9
+size 4792