近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

近年来，生成式人工智能技术快速发展，赋能于千行百业，也产生了数据安全、隐私保护、知识产权、虚假信息等诸多问题。对此，专注于AI安全研究的科创板上市公司安恒信息表示，AI安全监管已经势在必行。

纵观世界范围，打造一个可信的人工智能生态系统都是重中之重，美国、欧盟同样在探索人工智能治理之道，并通过《人工智能问责政策》、《人工智能风险管理框架》、《人工智能法案》等法律法规来约束人工智能发展。

安恒信息表示，本次《办法》的出台，以目标导向和问题导向，鼓励生成式人工智能创新发展的同时，更重要的是划定了底线，提出了规范要求、明确了责任及监管主体，既为促进生成式人工智能的健康发展指明了方向，也为AI安全监管奠定了基础。在《办法》中，“数据”和“安全”成为高频词，出现次数分别高达18次和14次。

《办法》明确了对生成式人工智能的数据安全治理规范。《办法》第七条对预训练、优化训练阶段的数据处理活动，涉侵犯个人信息、知识产权问题，数据来源合法性，数据内容真实性、准确性等“数据源风险”提出了明确的要求。并需要遵循《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

此外，《办法》明确了应用运行阶段提供者的安全主体责任和服务规范。《办法》第九条明确了提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。服务使用者可能在服务使用时输入的个人信息，提供者应依法承担个人信息处理者责任，履行个人信息保护义务。《办法》第十四条明确了提供商对生成内容的责任和要求，发现生成非法内容时应中止行为、整改并上报，对非法使用者，应依法依约采取处置措施并上报。

在安恒信息看来，生成式人工智能技术在安全视角下存在着“矛”与“盾”的一体两面。一方面，技术如“利刃”打破原有安全壁垒，安全需求与应用场景发生重大变革。另一方面，技术也促进了安全产品和服务革新，有助于网络安全防护“盾”优化升级。本次《办法》出台，促进生成式人工智能的加速发展，进入我国人工智能技术跃迁的重要窗口期。

安恒信息指出，未来应依托《办法》的合规指引，在模型训练、应用运行、模型优化阶段需建立全生命周期安全体系能力。安恒信息也将牢牢把握时代发展机遇，专注于人工智能安全与人工智能在安全领域应用，构筑安全堡垒，助力各行各业安全合规的人工智能。