全国政协委员肖新光：大模型既带来了风险，也带来安全助力
我要评论全国政协委员、全国安天集团创始人肖新光常年奋战在网络安全对抗的政协助力一线，安天科技的肖新反病毒引擎累计覆盖了超过四十亿部手机终端、PC终端、模型网络设备和网络安全设备，既带对于新一轮人工智能带来的风险安全威胁，肖新光有着最切身的也带感受。
他观察到了一些新的安全威胁，比如利用AI生成的全国钓鱼邮件，有将深度伪造运用于金融诈骗，政协助力甚至还有很多恶意软件伪装成DeepSeek的肖新安装包。那么，模型针对这些威胁，既带到底有哪些破解办法，风险肖新光接受了南方周末记者的也带专访。
全国政协委员、安天集团创始人肖新光。图片来源：受访者提供。
有恶意软件冒充DeepSeek客户端
南方周末：生成式人工智能给国家网络安全带来哪些新的情况？
肖新光：人工智能对安全威胁的加速作用已经产生。过去几年，我们捕获和关注到的APT攻击的钓鱼邮件中，已经出现了AI生成内容，金融诈骗中出现了深度伪造的案例。
同时，大模型平台成为新的攻击目标，例如DeepSeek在年初遭遇的大规模DDoS攻击，我们也快速跟进和提供了相关的样本分析，发布了样本分析报告。
由于人工智能热度很高，恶意软件伪装成人工智能App，在部署包中捆绑木马的案例很多，我们此前就依托国家计算机病毒协同分析平台，发现了冒充DeepSeek客户端的木马样本，并进行了分析响应。
南方周末：Sora为代表的生成式视频大模型，为深度伪造创造了条件。技术上是否可以识别出哪些是人工智能生成的内容？我们普通人应该如何去甄别深度伪造的信息？
肖新光：识别深度伪造目前来看有一些方法，包括基于生理信号比对、基于物理规律分析、基于元数据指纹等，但每种技术方法都有其适用场景和相关前提条件。
如基于生理信号分析，主要是验证微表情等和本人是否一致，前提是需要存储可对比的样本；基于物理规律捕捉分析光影效果是否一致等等，需要相关的算力、元数据指纹等。更多只适用于版权保护等相关场景，而且需要非常完善的配套治理体系。
相关攻击之所以称为深度伪造，就是它已经超出普通人
相关文章
iCANX国际科学家联合会主席张海霞：“把年轻人的创造力逼出来”
进入10月，第十八届iCAN大学生创新创业大赛简称“iCAN”大赛）各个赛区进入选拔阶段，张海霞变得异常忙碌。张海霞是北京大学集成电路学院教授，长期专注于微纳系统和微能源技术研究。除了日常教学，她还有2025-05-07
在安徽扎实推进高水平对外开放新征程上，兴业银行安庆分行加强金融供给，深化金融创新，细化专业服务，靠前一步主动作为，以高质量的综合金融服务助力外贸企业轻装上阵开拓市场。2024年安庆分行跨境业务结算量同2025-05-07
深耕学术沃土，共筑教育新生态——合肥皖智高级中学学术委员会2024
春意盎然启新程，深耕细研促成长。近日，合肥皖智高级中学学术委员会2024-2025学年第二学期线下会议暨首期读书分享会在磨店校区隆重举行。合肥皖智高级中学党委书记、校长、学术委员会主任委员郭祖彬，合肥2025-05-07- 国家金融监督管理总局日前全国统筹开展“3·15”金融消费者权益保护教育宣传活动。泰康人寿组织全国各级分支机构，线上线下联动积极参与，知识普及和风险提示相结合，依托自身优势创新形式，加强教育宣传针对性，2025-05-07
广州市天河区人民法院家事调解室。南方周末记者郝楠/图） 离婚后，2024年6月25日下午，一对父母又带着孩子来到法院。这回，他们是要参加一场离婚宣告仪式。仪式的主角，是他们的两个未成年孩子。夫妻的婚2025-05-07
【小小化学家】荒野求生之水的净化活动—开启青少年科学探索之旅
近日，安徽省青少年科技活动中心精心策划并成功举办了【小小化学家】荒野求生之水的净化活动，吸引了众多青少年的积极参与。本次活动以水的净化为主题，旨在通过生动有趣的实验和互动活动，让青少年深入了解水净化的2025-05-07
最新评论