LLM_judge.py

# Input Requirements:

# The input should be a path to a directory with the following structure:
# - Parent directory/
#   ├── age/          # Subfolder for dataset category 1
#   │   └── asr_output.jsonl # Contains audio metadata for this category
#   ├── gender/          # Subfolder for dataset category 2  
#   │   └── asr_output.jsonl
#   └── ...                  # Additional category subfolders

# File Format Specification:
# - Each asr_output.jsonl is a JSON Lines file where each line contains:
#   {
#     "answer": "original text",  # Ground truth text
#     "asr_text": "ASR output"    # Automatic Speech Recognition result
#     # ... (other optional fields may exist)
#   }
# - Files are expected to be UTF-8 encoded
import os
import json
import concurrent.futures
from pathlib import Path
from tqdm import tqdm
import logging

# 配置日志
logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')

# 不同任务的提示词模板
SEMANTIC_MATCH_PROMPTS = {
    "default": """请评估以下两个文本是否描述了相似的内容。

文本1: {text1}
文本2: {text2}

只需回答小写的"yes"或"no"，不要解释:""",

    "gender": """请评估以下两个文本中是否都提到了相同性别的描述（"男"或"女"）。

文本1: {text1}
文本2: {text2}

判断标准：
1. 如果两个文本都包含"男"或男性相关词汇（如"男人"、"男性"、"男声"等），回答"yes"
2. 如果两个文本都包含"女"或女性相关词汇（如"女人"、"女性"、"女声"等），回答"yes"
3. 如果一个文本提到"男"而另一个提到"女"，回答"no"


只需回答小写的"yes"或"no"，不要解释:""",

    "speed": """请评估以下两个文本描述的语速级别是否相同或相邻。
文本1: {text1}
文本2: {text2}

语速级别定义（从快到慢）：
1. 快速
2. 中快速
3. 中速
4. 中慢速
5. 慢速

判断规则：
- 如果两个描述属于同一级别 → "yes"
- 如果相差一个级别（如"快速"和"中快速"） → "yes"
- 如果相差两个或更多级别 → "no"
- 如果无法确定具体级别 → "no"

常见表述对照表：
- 快速："很快"/"挺快的"/"语速快"
- 中快速："较快"/"偏快"/"中快速"
- 中速："中等"/"正常"/"不快不慢"
- 中慢速："较慢"/"偏慢"/"中慢速"
- 慢速："很慢"/"非常慢"/"语速慢"

只需回答小写的"yes"或"no"，不要解释:""",

    "voice_tone": """请评估以下两个文本中描述说话人的音色是否大体上相似。

文本1: {text1}
文本2: {text2}

只需回答小写的"yes"或"no"，不要解释:""",

    "rhythm": """请评估以下两个文本中描述说话人的节奏是否大体相似。

文本1: {text1}
文本2: {text2}

宽松匹配规则：
1. 只要双方都提到"平稳"、"流畅"、"自然"中的任意一个词，就认为匹配
2. 只要双方都提到"停顿"(无论何种停顿)，就认为匹配
3. "急促"和"波动"只要双方都有速度/节奏变化的描述就认为匹配
4. 如果一方描述为"平稳"另一方为"流畅"，认为匹配
5. 如果一方有"自然停顿"另一方有"适当停顿"，认为匹配
6. 其他情况下如果整体节奏感觉相似也可匹配

特别注意：
- 忽略程度副词("很"、"稍微"等)
- 忽略停顿的具体原因
- 忽略语调变化等其他非节奏特征

只需回答小写的"yes"或"no"，不要解释:""",

    "voice_styles": """请评估以下两个文本中描述说话人的语音风格是否大体上相似。

文本1: {text1}
文本2: {text2}

只需回答小写的"yes"或"no"，不要解释:""",

    "pitch_new_50items": """请评估以下两个文本中描述说话人的音调是否大致相同。

文本1: {text1}
文本2: {text2}

只需回答小写的"yes"或"no"，不要解释:""",

    "emotions": """请评估以下两个文本描述的情感是否属于相近类别。
文本1: {text1}
文本2: {text2}

**情感分类及匹配规则：**
1. **积极类**（可互相匹配）：
   - 高兴/兴奋/愉快/热情/自豪/得意/温柔/撒娇/喜爱
2. **中性类**（可互相匹配）：
   - 平静/中性/冷静/客观/怀旧/沉思/稳重
3. **消极类**（可互相匹配）：
   - 愤怒/不满/沮丧/无奈/烦躁/指责/嘲讽/轻蔑/委屈/焦虑/绝望/痛苦/恐惧/羞愧
4. **复合类**（宽松匹配）：
   - 戏谑/质问/幽默 → 可匹配 **中性类** 或 **消极类**
   - 惊讶/意外 → 单独类别（需完全一致）
   - 撒娇/温柔 → 可匹配 **积极类** 或 **中性类**

**具体规则：**
- **同类别内描述** → `"yes"`（如“不满”和“嘲讽”均属消极类）
- **消极类 vs 中性类** → `"no"`（但“无奈”和“平静”可酌情匹配）
- **复合情绪**：
  - 戏谑/质问 → 可匹配 **不满/烦躁**（如“质询”和“不耐烦”）
  - 撒娇/温柔 → 可匹配 **高兴/平静**（如“撒娇”和“不满”需结合语境）
- **模糊描述**（如“有感情”）→ 优先匹配具体情绪关键词。

**示例：**
- `"说话人不满和讽刺"` vs `"说话人有点不满和无奈"` → `"yes"`（同属消极类）
- `"戏谑和质问"` vs `"不耐烦和质问"` → `"yes"`（质问情绪优先匹配）


只需回答小写的 "yes" 或 "no"，不要解释：""",
    "scene": """请判断以下两个文本描述的音频场景是否一致：
规则：
1. 允许表述差异（如「在厨房」和「厨房里的声音」算匹配）。
2. 忽略无关符号或修饰词（如「<中文>」「的声音」「录的」等）。
3. 户外与公园要做区分，不属于同一个场景。

文本1: {text1}
文本2: {text2}

只需回答小写的 "yes" 或 "no",不要解释：""",
    "age": """请评估以下两个文本描述的说话人年龄范围是否相似（允许±10岁误差）。

文本1: {text1}
文本2: {text2}

判断步骤：
1. 提取文本1中的最小和最大年龄（如"20-30岁"→20和30）
2. 提取文本2中的最小和最大年龄
3. 计算两组年龄的中点
4. 如果两个中点相差≤10岁，回答"yes"；否则"no"

示例：
文本1: "20-30岁" (中点25)
文本2: "25-35岁" (中点30)
→ 相差5岁 → "yes"

文本1: "30-40岁" (中点35)
文本2: "20-30岁" (中点25)
→ 相差10岁 → "yes"

文本1: "20-30岁" (中点25)
文本2: "35-45岁" (中点40)
→ 相差15岁 → "no"

只需回答小写的"yes"或"no"，不要解释:""",
    "event": """请判断以下两个文本描述的声音事件是否在以下任一情况下匹配：
1. 描述同类事件（如都是动物声音、交通工具声等）
. 语义上存在关联（如"歌声"和"音乐"）

如果不确定或完全不相关，则判定为不匹配。

文本1: {text1}
文本2: {text2}

只需回答小写的"yes"或"no":""",
    "vocalsound": """请判断以下两段文本中描述的声音/行为是否属于以下同类情况：
1. 相同类型的声音行为（如"咳嗽"和"咳嗽声"）
2. 相同情绪表达（如"笑声"和"笑声"）
3. 包含关系（如"咳嗽声"和"咳嗽和清嗓子的声音"）
4. 中文谐音或近音词（如"咳嗽声"和"合奏声"、"和受伤"、"合照上"；"笑声"和"叫声"）

特别注意：
- 忽略描述程度的差异（如"轻微咳嗽"和"明显咳嗽"）
- 忽略背景噪音等无关信息
- 当存在多个行为时，只要有一个匹配即可

文本1: {text1}
文本2: {text2}

根据以上标准，只需回答小写的"yes"或"no":"""
}

def judge_semantic_match(answer, asr_text, prompt_template):
    """使用大模型判断语义一致性"""
    # 这里应该替换为阶跃星辰官方API调用方式
    # 示例代码:
    """
    from openai import OpenAI
    client = OpenAI(api_key="STEP_API_KEY", base_url="https://api.stepfun.com/v1")
    
    response = client.chat.completions.create(
        model="step-1-8k",
        messages=[
            {"role": "system", "content": "你是一个专业的文本评估助手"},
            {"role": "user", "content": prompt_template.format(text1=answer, text2=asr_text)}
        ],
        temperature=0
    )
    return 1 if response.choices[0].message.content == "yes" else 0
    """
    # 实际实现时请取消注释并替换为真实API调用
    raise NotImplementedError("请实现文本大模型API调用")

def process_item(item, prompt_template):
    """处理单个评估项"""
    result_judge = {
        "id": item.get("audio_id", ""),
        "answer": item["task"]["answer"],
        "ASR_text": item["task"]["ASR_text"],
        "match": None
    }
    
    try:
        match = judge_semantic_match(item["task"]["answer"], item["task"]["ASR_text"], prompt_template)
        result_judge["match"] = match
    except KeyError as e:
        logging.error(f"项目缺少必要字段: {str(e)}")
        result_judge["match"] = 0
    except Exception as e:
        logging.error(f"评估过程中出错: {str(e)}")
        result_judge["match"] = 0
    
    return result_judge

def evaluate_results(input_folder, max_workers=8):
    """评估语义一致性结果"""
    subfolders = [os.path.join(input_folder, d) for d in os.listdir(input_folder) 
                 if os.path.isdir(os.path.join(input_folder, d))]
    results_by_task = {}

    for subfolder in subfolders:
        results_file = os.path.join(subfolder, "asr_output.jsonl")
        if not os.path.exists(results_file):
            logging.warning(f"子文件夹 {subfolder} 中未找到 asr_output.jsonl 文件，跳过该子文件夹。")
            continue

        with open(results_file, 'r') as f:
            results = [json.loads(line) for line in f]

        task_name = os.path.basename(subfolder)
        prompt_template = SEMANTIC_MATCH_PROMPTS.get(task_name, SEMANTIC_MATCH_PROMPTS["default"])

        processed_results = []
        with concurrent.futures.ThreadPoolExecutor(max_workers=max_workers) as executor:
            futures = {executor.submit(process_item, item, prompt_template): item for item in results}
            for future in tqdm(concurrent.futures.as_completed(futures), 
                              total=len(results), 
                              desc=f"语义一致性评估进度 ({task_name})"):
                try:
                    result = future.result()
                    processed_results.append(result)
                except Exception as e:
                    logging.error(f"处理出错: {e}")
        
        results_by_task[task_name] = processed_results
        output_file = os.path.join(subfolder, "semantic_match_results.jsonl")
        
        with open(output_file, "w") as f:
            for result in processed_results:
                f.write(json.dumps(result, ensure_ascii=False) + "\n")

        stats = calculate_accuracy(processed_results)
        stats_file = os.path.join(subfolder, "semantic_match_stats.json")
        with open(stats_file, "w") as f:
            json.dump(stats, f, ensure_ascii=False, indent=4)
        
        print(f"\n任务 {task_name} 的语义一致性评估结果:")
        print(f"总数: {stats['total']}")
        print(f"匹配数: {stats['matched']}")
        print(f"准确率: {stats['accuracy']:.2%}")

def calculate_accuracy(results):
    """计算准确率"""
    total = len(results)
    matched = sum(1 for r in results if r["match"] == 1)
    return {
        "total": total,
        "matched": matched,
        "accuracy": matched / total if total > 0 else 0,
    }

def main():
    input_folder = 'path/to/your/input/folder'  # 替换为实际输入文件夹路径
    max_workers = 8
    
    evaluate_results(input_folder, max_workers)

if __name__ == "__main__":
    main()