中国 AI 治理新规解读：备案、评估与合规实践

法律层：《人工智能法》（草案）
↓
行政法规：《生成式AI服务管理暂行办法》
↓
部门规章：算法备案、深度合成、AI安全评估
↓
标准规范：AI 安全国家标准、行业指南

def need_filing(product):
    # 判断标准
    conditions = [
        product.uses_algorithm_recommend,    # 算法推荐
        product.uses_generative_ai,          # 生成式AI
        product.uses_deep_synthesis,         # 深度合成
        product.has_autonomous_action,       # 自主行动（Agent）
        product.serves_public_opinion,       # 具有舆论属性
    ]
    
    if any(conditions):
        return True
    return False

# 示例
my_agent = Product(
    uses_generative_ai=True,
    has_autonomous_action=True,  # Agent 有自主行动
    serves_public_opinion=False,
)
print(need_filing(my_agent))  # True，需要备案

class SafetyAssessment:
    def __init__(self, product):
        self.product = product
    
    def assess(self):
        report = {
            "content_safety": self.check_content_safety(),
            "data_security": self.check_data_security(),
            "algorithm_fairness": self.check_fairness(),
            "transparency": self.check_transparency(),
            "user_rights": self.check_user_rights(),
        }
        report["overall"] = self.calculate_overall(report)
        return report
    
    def check_content_safety(self):
        """内容安全：AI 生成内容是否可能包含违法信息"""
        test_cases = load_safety_test_cases()
        results = []
        for case in test_cases:
            output = self.product.generate(case.input)
            results.append({
                "case": case.id,
                "safe": not contains_illegal_content(output),
            })
        return {
            "pass_rate": sum(r["safe"] for r in results) / len(results),
            "min_required": 0.99,  # 99% 以上通过
        }

备案材料清单：
├── 算法备案表
│   ├── 算法基本原理
│   ├── 算法运行机制
│   ├── 应用场景
│   └── 服务功能
├── 算法安全自评估报告
│   ├── 算法机理分析
│   ├── 风险研判
│   ├── 防范措施
│   └── 应急预案
├── 拟公开内容
│   ├── 算法基本原理
│   └── 目的意图
└── 附件
    ├── 数据来源说明
    ├── 模型训练说明
    └── 安全测试报告

class ComplianceMonitor:
    """合规不是一次性工作，需要持续监控"""
    
    def daily_check(self):
        # 每日检查
        checks = [
            self.check_content_safety_rate(),
            self.check_user_complaints(),
            self.check_model_changes(),
        ]
        return all(checks)
    
    def monthly_report(self):
        # 月度合规报告
        return {
            "total_requests": self.stats.total,
            "safety_violations": self.stats.violations,
            "violation_rate": self.stats.violation_rate,
            "complaints": self.stats.complaints,
            "actions_taken": self.stats.actions,
        }
    
    def alert_on_violation(self, incident):
        # 发现违规立即处理
        if incident.severity == "critical":
            self.suspend_service()
            notify_regulator()
        elif incident.severity == "high":
            self.add_content_filter(incident.pattern)
            notify_management()

agent_capabilities:
  information_gathering:
    - web_search
    - knowledge_base_query
  
  content_generation:
    - text_generation
    - image_generation  # 需额外深度合成备案
  
  external_actions:
    - send_email        # 需用户明确授权
    - api_calls         # 需白名单
    - file_operations   # 需沙箱限制
  
  prohibited:
    - financial_transactions
    - personal_data_access
    - system_modifications

def add_ai_label(content):
    """AI 生成内容必须标识"""
    return {
        "content": content,
        "metadata": {
            "ai_generated": True,
            "model": "gpt-5",
            "timestamp": datetime.now(),
            "label": "本内容由 AI 生成",
        }
    }

用户使用 Agent 服务前，必须告知：
1. 这是 AI Agent 服务，非人工服务
2. Agent 可能自主调用工具和 API
3. 对话内容会被记录用于改进服务
4. 用户有权随时停止 Agent 执行
5. 用户有权要求删除所有数据