如何利用Google Perspective API在代码中检测文本毒性等级？

前置准备 #

• 确认已获取Google Perspective API密钥，且已在Google Cloud控制台启用该API服务

核心集成步骤 #

1. 安装依赖 #

使用Python的requests库发送HTTP请求，先安装依赖：

pip install requests

2. 基础检测代码示例 #

以下是直接调用API的Python脚本，实现文本毒性检测：

import requests

def analyze_toxicity(text, api_key):
    # API端点
    api_url = "https://commentanalyzer.googleapis.com/v1alpha1/comments:analyze"
    # 请求参数
    request_data = {
        "comment": {"text": text},
        # 指定要检测的属性，TOXICITY为基础毒性检测
        "requestedAttributes": {"TOXICITY": {}}
    }
    # 携带API密钥的查询参数
    query_params = {"key": api_key}

    # 发送POST请求
    response = requests.post(api_url, json=request_data, params=query_params)
    if response.status_code == 200:
        result = response.json()
        # 提取毒性得分（范围0-1，越接近1毒性越高）
        toxicity_score = result["attributeScores"]["TOXICITY"]["summaryScore"]["value"]
        return toxicity_score
    else:
        raise Exception(f"请求失败：状态码 {response.status_code}，详情：{response.text}")

# 测试使用
if __name__ == "__main__":
    # 替换为你的API密钥
    API_KEY = "your_api_key_here"
    # 测试文本
    test_content = "你这个方案完全行不通，纯粹是浪费时间"
    try:
        score = analyze_toxicity(test_content, API_KEY)
        print(f"文本毒性得分：{score:.4f}")
        # 根据得分划分等级，可自行调整阈值
        if score > 0.7:
            print("毒性等级：高")
        elif score > 0.4:
            print("毒性等级：中")
        else:
            print("毒性等级：低")
    except Exception as e:
        print(f"检测出错：{e}")

3. 代码关键说明 #

• requestedAttributes：除了TOXICITY，还可以添加SEVERE_TOXICITY（重度毒性）、INSULT（侮辱性）、THREAT（威胁性）等属性，按需选择
• 得分解析：返回的summaryScore.value是综合毒性得分，0代表无毒性，1代表极高毒性
• 请求方式：必须用POST请求，将文本放在请求体中传递

进阶建议 #

• 批量检测：如果需要处理多条文本，可参考API文档构造批量请求，减少调用次数
• 限额处理：Google Perspective API有调用限额，超出后会返回错误，建议添加限额监控逻辑
• 自定义阈值：根据业务场景调整毒性得分的判断标准，比如社区内容可能对阈值要求更严格

内容的提问来源于stack exchange，提问作者user11849691