研究中心

10月19日TMCnet与香港媒体报道，香港大学与全球网络安全联盟（Global Cybersecurity Alliance, GCSA）联合成立Centre for AI and Cybersecurity Research（AI与网络安全研究中心），由网络安全讲座教授陈浩担任署理主任。中心设置四个研究方向：模型原生安全与可信AI、AI驱动的自动化威胁防御、面向具身智能、机器人与物联网的前沿技术风险评估，以及全球AI安全标准与治理。团队计划发布公开基准测试并开放工具，联合产业界与监管机构把研究成果转化为可落地的防护方案。GCSA作为多方参与的联盟，提供跨机构数据、专家网络与标准对话通道，港大提供学术研究能力，中心定位介于基础研究与产业防护之间，回应大模型时代攻击面从传统网络扩大到模型、智能体与物理设备的变化。 模型原生安全和传统网络安全防护有什么不同？ 传统网络安全围绕服务器、账号与边界设防，模型原生安全关注提示注入、越狱、数据投毒、模型蒸馏窃取与权限滥用，攻击发生在模型推理与训练内部。中心把这一方向单列，意味着不能再把AI当作普通软件补丁管理，而要在模型设计阶段内置防护。AI驱动自动防御则是用智能体实时监测告警、自动分流处置，把安全运营从人工分析升级到半自动响应。 为什么把具身、机器人与IoT放进同一个中心？ 智能体一旦连接机器人、摄像头与设备，漏洞会从数字泄露变成物理伤害，例如误开设备、篡改运动指令或窃取传感数据。港大方案把前沿技术风险评估纳入，是因为香港同时有物流、制造与IoT部署，需要提前研究标准。这一交叉方向在多数纯网络安全机构中并不突出，也成为中心的差异化定位。 全球AI安全标准与治理研究能产出什么？ 中心计划参与国际标准对话，把学术基准与监管要求对接，帮助企业在合规与创新之间找平衡。AI安全目前缺乏统一评测口径，不同模型的红队结果难以比较，公开基准与开放工具若能被社区采纳，将提升中心影响力。研究成果还可为政府政策、企业采购与第三方审计提供参照。 港大与GCSA联盟模式相比独立实验室有优势吗？ 高校独立实验室容易脱离实战，纯企业安全团队又缺中立研究立场，联盟模式把高校、产业与监管拉到一起，数据与案例更贴近真实攻击。但多方协作的落地效率、知识产权归属与资金持续性仍是常见难点，中心能否持续产出公开基准，需要看后续年度成果。 信息来源与延伸阅读？ HKU and Global Cybersecurity Alliance jointly establish Centre for AI and Cybersecurity Research - TMCnet 港大与GCSA共建AI与网络安全研究中心 - 中华网科技 星岛教育: 港大设AI与网络安全研究中心 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论