Datasets:

agentlans
/

chinese-japanese-classification-fasttext

text stringlengths 13 834
__label__ja アメリカにおいて最も支配的な政治イデオロギーは自由主義であった。
__label__yue 我和阿森跌跌撞撞的，終於進入大廈裡頭。我們乘搭升降機、走過長走廊，沿途上的記憶，一直是片片斷斷。好不容易，我們拐進一個單位之內，我想，這裡就是阿森的家。
__label__zht 2年後，孫權鎮壓李術叛亂併兼並其三萬軍隊。
__label__zht 根本上這堆錢是用市民損失的時間來，優惠
__label__zhs __label__zht 祖父包庸。
__label__zhs 我觉得缩程容易点，可能对手级数差挂
__label__zht 他就是覺得和其他男孩打開心點才這麼選擇
__label__ja 無料のカウンセリングも非常に親切で、自分自身の状態に合わせた的確なアドバイスを受けられることが嬉しいポイントです。
__label__zhs 我射只鹿都射了十几箭，是这样走，射果一下又不是秒射
__label__zht 從林峯中5000魚降頭開始說
__label__zhs 最近商店里又出现了一种新名字，叫做Sommarmust（sommar的意思是“夏天”）。
__label__ja しかし、ヨーロッパやオーストラリアは、航空、軍事、警察等での一部の利用を除き、全面的に禁止されている。
__label__yue 仲會出賣香港人幾多野去換嚟呢個垃圾特首嘅位
__label__zht 依加又有返心機玩回來，有心機練一下槍法
__label__zhs 于1996年转为职业选手。
__label__zht 因此，詹姆斯·門羅領導下的“感覺良好的時代”替代了1816年第一政黨系統下的高壓政治時代。
__label__ja チームのメンバーや無名街の子供たちからは兄のように慕われている。
__label__zhs 在twitter上的hashtag数超过百万条。
__label__ja 名称は「黒い石」を意味し、古い祭壇と共に見つかった最古のラテン語が書かれた黒い石碑を指している可能性がある。
__label__zht 條女自辯說何妖也是這樣吧，會怎麼樣
__label__zht 小郭大偵探。
__label__ja このほかにも南部は、多数の有名な政治家と政治運動を生んでいる。
__label__ja 1925年（大正14年）3月11日-当駅から高輪駅（品川駅の国道15号方向かい）まで併用軌道線が開業し、北品川駅に改称。
__label__ja 倉木がデビューした1999年の日本の音楽業界は、小室哲哉を頂点とするいわゆる小室ファミリーの勢力が落ち込み、MISIAや小柳ゆき、特に宇多田ヒカルの爆発的なヒットに見られるR&B全盛の時代であった。
__label__ja 第二次ヤキン・ドゥーエ攻防戦において、ミハイル・コースト率いるジンハイマニューバ隊の攻撃により撃沈された。
__label__zhs 就算这间学校不跟你续别再找过第二间
__label__zht 土御門鷹寬（土御門鷹寛（つちみかどたかひろ），聲：志村知幸（日語：志村知幸））土御門分家之人，春虎的養父。
__label__zht 現在已經累地打只會還累
__label__ja 2人はまた、クラブラウンジおよびメインオフィスのレセプションエリアの改装デザインも担当した。
__label__ja 2018年6月26日の更新（Ver.1.5.0）でNintendoLABOToy-Con01VARIETYKITの「バイクToy-Con」による操作にも対応。
__label__yue 母親節都要隊結婚相出嚟煩西到呢
__label__zhs 这一圆形装饰里面画有太阳和月亮。
__label__zhs 但你又怎么知道风水占星没可能归类为新科学？
__label__zhs 所有烦恼本来就可以不出现，但就自寻烦恼
__label__ja 同様のコメントは、番組サイトにも掲載されている。
__label__zht 其妹一青窈爲歌手。
__label__zht 印尼國徽上的迦樓羅的羽毛被安排，以便他們援引1945年8月17日正式承認的印度尼西亞獨立日。
__label__yue __label__zht 公司後面又男同學，14歲又14步
__label__zhs 很有钱为什么不是抽到券之后课来买
__label__yue 冇斷又有得繼續踢點解要嬲呀
__label__zht 整個廢中這麼說「一點點東西都做不要出來怎麼做東西」
__label__zhs 中国应就此承担责任。
__label__zhs 她们在西部沿海客栈和事件做2个星期近似的音乐活动。
__label__zht 謝謝絲打我有空會多一點上來叫一下春
__label__zhs 日本人想赚我们钱有什么问题
__label__zht 拿著2分都已經是他2倍
__label__zhs 假胶都这么认真小心被台狗当狗撚
__label__ja ローマの聖アグネスや聖イネス、聖女アグネス、聖女アニエスとしても知られている。
__label__zhs 发布第4次任务：出道任务。
__label__zht 感覺上一開市會很快推得很高
__label__zht 其實也要說回句自己拿來
__label__zhs 景国变革大量大中华毒害
__label__zht 髮型是半長的栗色頭髮。
__label__zht 無啦啦玩人生攻擊，你也挺有道德
__label__yue 收啦死人妖想離間我同世清感情
__label__yue 男嘅咁做好似反而比人話賤格但係醒目仔
__label__zhs 原本可以乘2：15班车
__label__zhs 我气也不敢呼一口，慢慢的拿出了一片木条。
__label__ja 日本聖公会（にっぽんせいこうかい,NipponSeiKoKai,NSKK,TheAnglican-EpiscopalChurchinJapan）は、キリスト教のプロテスタント系一派のアングリカン・コミュニオンの形成団体のひとつ。
__label__zhs 1820年左右被英国人占领。
__label__yue 我地好想知，你點先覺得靚
__label__zhs 1962年由当时备受赞赏的动画界先驱者吉田龙夫跟其弟吉田健二及吉田丰治成立。
__label__ja 数人や十数人と出会った程度で理想の相手を見つけることは、非常に難しいと考えています。
__label__ja フリッグの命を受けたヘルモーズがバルドルの蘇生をヘルに懇願したが、ヘルは、九つの世界の住人すべてがバルドルのために泣いて涙を流せば蘇生させてもいい、という条件を与えた。
__label__zhs __label__zht 大大方方做回淡如水的君子之交了
__label__zhs 1983年年7月23日，加拿大航空143号班机由满地可经渥太华至爱民顿的一架波音767-200途中燃料耗尽，最后飞机以滑翔方式安全降落在曼尼托巴省吉姆利（Gimli）一个被改为赛车场的前空军基地内，无人伤亡。
__label__zhs 如果耳机无新功能，只是个无线盒，那就不了 ...
__label__zht 唯一的能力是可以進入隱藏的房間。
__label__zhs 不是一会儿你又做梦搞得大家读者又打不出
__label__zhs 这可能是因为部分采自北美的样本其实是另一个品种。
__label__zht 1937年（昭和12年）10月31日服役，同時向公衆公佈。
__label__zhs 大藏省－掌管财宝、出纳、物价、度量衡。
__label__zhs 冰球-女子冰球小项的决赛，加拿大以4:1成功战胜瑞典，卫冕金牌。
__label__yue 做乜鳩英國本身已經禁槍
__label__zht 1953年，因腦溢血，在臺北市病逝。
__label__zht 就是不見有人說所以我說!
__label__yue 對你唔住呀師傅繼承唔到你
__label__yue 悟空傳，小兵傳奇，蔡駿嘅小說，馬伯傭嘅小說，周浩暉嘅小說
__label__zhs 模拟仓是多风险，跟你真金白银给钱赌是两回事
__label__zht 皮羅特州（Пиротскиокруг,Pirotskiokrug）是塞爾維亞的一個州，位於該國東南部，東鄰保加利亞。
__label__zhs 信息是任意形式，会影响其他模式形成或改变的模式。
__label__zhs 死难者大部分被就地掩埋。
__label__zhs 1912年7月9日中华民国教育部于国子监设立的国立历史博物馆筹备处。
__label__zht 之後就說對著表妹很有罪惡感
__label__zht 大家都出來工作，有賺錢要不要算得這麼清楚？很寒酸
__label__zhs 没人做别你来做呗，你最牛说这句
__label__ja 1967年（昭和42年）4月1日：目蒲線ホームが4両対応に延伸され、3番線が廃止される。
__label__ja 室町時代は尾張国の守護代を務める。
__label__ja 国土開発幹線自動車道及び高速自動車国道である北海道横断自動車道の一部である。
__label__zhs 1991年9月，全国和平大会于约翰内斯堡召开。
__label__zhs 口头禅是“这就是青春!
__label__zhs 应该要把行人路划分快线慢线
__label__yue 450萬其實好小唔係問題
__label__ja 出会い系サイトを利用すれば、さまざまな女性と自然に出会うことができます。
__label__zhs 上水很多人迎接解放军入城，究竟人们在想什么
__label__zhs 「当然我不会说钱不重要，钱对我来说也重要，但你要懂得找回个平衡点了。
__label__yue 定一野拖落去講唔洗驚有我係度跟住我行避開
__label__ja このため「津軽1号」も赤羽駅を発車できなくなり、国鉄側は京浜東北線へ乗客を誘導する案内放送を行った。
__label__zht 小時候，就有着不平常的巨大身材跟怪力，因爲令人害怕都被叫作鬼，拳頭被繩子捆住“封印”住。
__label__zht 1994年9月進入中國人民解放軍國防大學學習，同年12月畢業。

End of preview. Expand in Data Studio

Chinese-Japanese Text Classification Dataset

A clean, multi-label text dataset designed for training language and script classifiers (such as FastText) to accurately distinguish between closely related Chinese variants and Japanese.

Motivation & Background

Distinguishing between Chinese scripts and Japanese can be notoriously difficult for standard language detectors. This is primarily because Japanese incorporates Hanzi/Kanji (Chinese characters), which frequently triggers false positives in generic models.

This dataset provides labelled examples across multiple Chinese variants and Japanese to help models learn fine-grained linguistic and character-level boundaries.

Dataset Structure

Data Format

The dataset is provided in FastText format, where each line consists of one or more target labels followed by the text sample:

__label__zhs 但是小梅呢？当打年龄已经不停派胶
__label__yue 3個鐘21碎一日都打得完
__label__zht 據稱是內格里於1842年首先在花粉形成過程中觀察到細胞分裂。
__label__zhs 我不否认我有赞过勇体系好协防好无球战术一流第3节之王等
__label__yue __label__zht 9五大創世神（吞星/死亡/永恆/無限/湮沒）
__label__ja 物資を積み込んで2月11日に南極に向けて出港したが、すでに南極では夏が終わろうとしており、氷に阻まれて船が立往生する危険が増したため、5月1日にシドニーへ入港した。

Splits

The dataset is split into compressed archive files (.txt.zstd):

Training: 80%
Validation: 10%
Test: 10%

Label Definitions

Each line is preceded by one or more labels depending on overlap or multi-label characteristics:

Label	Description
`__label__zhs`	Simplified Chinese
`__label__zht`	Traditional Chinese
`__label__yue`	Cantonese
`__label__ja`	Japanese

Source Datasets & Preprocessing

This dataset aggregates and filters text from the following open-source corpora:

Pangeanic/Cantonese-Japanese-Machine-Translation-Corpus-text
agentlans/cantonese-chinese*
larryvrh/WikiMatrix-v1-Ja_Zh-filtered*
Note on Preprocessing: Simplified Chinese sources marked with an asterisk have been converted to Traditional Chinese using OpenCC (s2t, strictly without regional phrase conversion).

Limitations & Known Issues

Annotation Overlap: Some annotation noise exists. For instance, certain Cantonese texts are also valid Traditional Chinese sentences but may not carry a dual label.
Regional Variants: The dataset does not differentiate between regional Traditional Chinese standards (e.g., Taiwan vs. Hong Kong phrasing and orthography).
Context Limitations: Very short text snippets, isolated names, or loanwords may lack sufficient contextual clues for unambiguous classification.
Stylistic Mixing: Some Chinese texts incorporate Japanese kana for stylistic or slang purposes, which may occasionally confuse strict baseline models.

Licence

MIT License

Downloads last month: 58

Models trained or fine-tuned on agentlans/chinese-japanese-classification-fasttext

agentlans/fasttext-chinese-japanese-classifier

Text Classification • Updated 12 days ago • 11