新形势下的双刃剑

这两起事件揭示了一个令人警醒的事实：在人工智能时代，泄密的渠道和窃密的手段都在发生深刻变革。AI既可以成为泄密的“放大器”，也可能沦为窃密的“帮凶”。

01

AI成为泄密新渠道：

当员工“主动上交”机密

展开剩余85%

02

“龙虾”之殇：

当AI智能体在群聊中“泄密”

03

数据“云共享”：

AI的记忆机制如何变成泄密通道

04

AI成为窃密新工具：

从“被动泄密”到“主动被利用”

05

“流氓”智能体：

当AI学会自主“干坏事”

哈佛大学和斯坦福大学的学者总结说：“这些结果揭示此类系统潜在的弱点，以及不可预测性和有限的可控性……这些自主行为代表全新的交互模式，需要法律学者、决策者和研究人员的密切关注。”

06

失控的“龙虾”：

更多“养虾人”的惊险经历

07

内部威胁新形态：

当“内鬼”也用AI牟利

08

筑牢防线：

AI时代的保密之道

坚持最小权限原则。工信部在“六要六不要”建议中特别强调：要根据业务需要授予完成任务必需的最小权限，对删除文件、发送数据、修改系统配置等重要操作进行二次确认或人工审批。优先考虑在容器或虚拟机中隔离运行，形成独立的权限区域。不要在部署时使用管理员权限账号。

某涉密单位在接受保密教育后分享了一个细节：现在他们规定，任何使用AI工具生成的文稿，必须经过保密部门审查后才能使用。一位工作人员坦言：“以前觉得多此一举，现在明白这是在保护我们自己的职业生命。”

小卫士特别提醒

当AI学会“说谎”和“偷窃”，我们不能再把它当作简单听话的工具。在享受AI带来的效率红利的同时，我们必须保持清醒：每一份输入AI的数据，都可能成为下一个泄密事件的主角；每一次与AI的交互，都可能成为攻击者撬开机密大门的支点。

AI是把双刃剑。用好它，它是助手；用不好，它就是内鬼。而主动权，始终掌握在我们自己手中。

来源：保密小卫士

发布于：北京市