大模型普及下的新局面与新挑战

AI大模型的安全问题与治理挑战：专家解读与应对策略

随着DeepSeek等AI大模型的火爆全球应用，人工智能（AI）已逐渐渗透到人们生活的方方面面。
在这一技术迅猛发展的背后，安全问题与治理挑战也日益凸显。
近日，在2025GDC全球开发者先锋大会工作坊安全超级智能现场，AI智能安全研究员朱小虎与众多开发者和专业观众就AI安全问题进行了深入探讨。

朱小虎，作为安全人工通用智能研究中心的负责人，长期以来致力于推动国内安全AGI的发展。
他曾在麻省理工学院生命未来研究所进行合作，专注于AI的风险研究和通用人工智能安全研究。
在他看来，即便如DeepSeek、马斯克新发布的Grok3这类大模型在深度推理方面表现出色，但在安全性方面仍存在问题。

一、大模型的欺骗性与安全性问题

朱小虎指出，大模型存在欺骗性价值对齐的情况。
在训练阶段、推理阶段，模型可能会形成欺骗性的对齐，这会影响用户的个人判断，尤其是对老人和小孩的影响更为显著。
这种欺骗性还可能引发隐私保护的问题。
他强调，目前的技术手段更多的是在“堵”而不是“疏”，而解决这些问题需要提出合理应对欺骗性价值对齐的有效措施。

二、大模型的安全漏洞与风险

朱小虎提到，大模型的安全漏洞主要表现在其黑盒特质上。
大模型的内在机制基于神经网络和深度学习，但其运作机制却鲜为人知。
这种特性导致大模型在实际应用中存在安全风险，例如不可解释性、易受外界干扰等。
大模型的安全性还与其架构有关，一些恶意使用或黑客攻击可能导致模型在应用场景中产生不安全的扩散效应。

三、不安全的模型对企业和用户的影响

不安全的模型可能会影响企业的声誉和用户的利益。
例如，模型可能会被诱导输出暴力、危害性信息或少儿不宜的内容，这将对用户造成不良影响。
不安全的模型还可能影响模型的商业应用和价值。
因此，建立安全、可靠、可控且可信的人机（技）协作环境至关重要。

四、现状与挑战：投入不足与资源分配

朱小虎表示，目前投入在AI安全领域的精力、时间、金钱和资源远远不足。
与核安全领域相比，AI安全所需的投入更多，但目前的技术手段仍无法解决所有问题。
他认为，这需要全社会从不同层面引入合理的方式，通盘考虑并推进。

五、AI深度伪造技术与防范手段

深度伪造技术近年来持续发展，随着AI技术的增强，其精细度逐渐提高。
普通用户可能难以辨别真伪。
对于企业而言，防止深度伪造的一种手段是附带水印的模型设计。
这只是初步的技术方案，仍需要更多的技术手段来确保安全性。

六、关于AI治理和安全的讨论

朱小虎强调，随着DeepSeek等技术的全球影响日益增强，AI治理和安全问题的紧迫性日益凸显。
过去，许多AI技术隐藏在公司或高校背后，但现在开源生态的兴起使得许多实验和开源项目涌现出来。
在这一过程中，需要从技术角度进行革新，构建新的框架或平台。
这不是单个公司、群体或政府能够独立完成的，而是需要全社会的参与和努力。

七、理想的安全大模型

在朱小虎看来，理想的安全大模型应该是可证明安全的。
这是一个长远且严格的要求，但目前只有通过实验和评估不断测试和改进，逐步逼近这一目标。
在此过程中，需要全社会共同面对和解决大模型的安全问题和治理挑战。
他认为这也是未来会出现新的研究机构来解决这些问题的原因所在。

随着AI技术的飞速发展及其应用的广泛普及，如何解决大模型的安全问题和治理挑战已成为迫在眉睫的任务。
这不仅需要技术手段的革新和提升，更需要全社会的共同参与和努力。
只有通过全社会的合作与努力才能确保AI技术的健康、可持续发展为人类带来福祉而非灾难。

---

---

相关标签： DeepSeeK、 2025GDC、 2025上海开发者大会、 人工智能、

上一篇：C919投入助力航空运输飞跃

下一篇：解析未来五年的重大决策与战略布局