“延”守秘密丨谨防AI成为泄密“跑风口”
当前，以大模型为代表的人工智能技术日新月异，AI写作、AI对话、AI合成等生成式人工智能不断用于办公场景，特别是AI写作深受办公人士的青睐，仅需输入关键词就可一键生成文章，快速提高办公效率。然而，新技术应用在提升效率的同时，也带来了风险挑战。如何在享受技术福利的同时，守住保密安全底线，已成为机关单位必须面对的重要课题。
依托AI出方案 敏感内容网上传
某涉密单位工作人员李某，在起草一份涉密方案时，听同事说AI写作很好用，只要写上主题和需求，就可以帮忙写出文稿。李某在好奇心驱使下，在手机上下载一款AI写作应用软件，并私自将该涉密方案的部分敏感内容输入AI写作工具，通过AI代写生成网络文件资料。事件发生后，李某受到严肃处理。
借助AI提效率 科研成果遭泄露
某科研机构一研究人员保密意识淡薄，为快速完成研究报告，擅自使用一款流行的AI写作应用软件辅助办公，将部分核心数据及实验成果上传到该应用，导致该研究报告中的部分涉密敏感信息被泄露，在网上流传，给该科研机构造成经济损失，也给国家利益带来损害。事件发生后，该研究人员受到严肃处理。
隐患分析
生成式人工智能高度依托互联网、大数据、云计算平台，AI接收的国家秘密信息会被作为大语言模型进行学习训练，数据获取、处理、存储、运算、传输各环节均面临泄露风险。AI数据挖掘功能可基于海量原始数据进行多维推理和关联分析，哪怕只是截取涉密文件片段，也存在被攻击窃取或经关联汇聚后泄密的风险。
纪律提醒
机关、单位工作人员使用AI办公须绷紧保密之弦，使用合法合规的国产大模型，强化风险意识，规范使用流程，不得将涉密文件、图片、音频、视频等信息，以拍照、输入、复制以及其他任何形式，部分或者全部使用生成式人工智能工具进行处理，坚决避免AI办公泄密。
法规链接
《中华人民共和国保守国家秘密法》第三十一条规定，任何组织和个人不得使用非涉密信息系统、非涉密信息设备存储或者处理国家秘密。
《网络数据安全管理条例》第十九条明确要求，提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络数据安全风险。
编辑：王淼
来源：保密观