生成式人工智能发展迎新起点

本报记者 袁璐

今年以来，国内生成式人工智能热度高涨，大模型“浪潮”此起彼伏。在产业竞速未来赛道的同时，也亟须系上“安全带”。8月15日，国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。

(资料图片仅供参考)

“制度的出台不仅仅是规范其发展，更是良性引导和鼓励创新。”业内专家认为，《办法》坚持发展和安全并重，一方面划出法律红线，另一方面也为创新留足空间，生成式人工智能大规模商用有望加速落地，迎来发展新起点。

划出“红线”力保技术安全

生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。聚焦境外互联网诈骗的电影《孤注一掷》正在热映，也让人工智能等新技术带来的虚假信息、隐私泄露等风险引起公众高度关注。

《办法》将保护使用者的个人信息安全摆在了重要位置，明确提出，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。同时，服务提供者不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

“这就将生成式人工智能服务提供者明确纳入了网络平台责任的规制范围内，让违规违法者无灰色地带可躲。”北京大成律师事务所高级合伙人肖飒说。

生成式人工智能面世之初，就存在“一本正经地胡说八道”现象。对此，《办法》明确，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，以解决其内容真假难辨，甚至出现技术被滥用、误用等问题。

奇安信集团副总裁张卓表示，对生成式人工智能服务来说，促进发展和防范风险需要两者并重，从《办法》可以看出，数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节，避免了监管盲区导致的安全风险。分级分类监管留足创新空间

国家网信办有关负责人表示，在监管方式上，《办法》提出，对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

其中《办法》第二条明确提出了“不适用”场景，即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”

“这一条让规制对象目标更明确、针对性更强。”肖飒表示，《办法》对生成式人工智能服务提供者不作“一刀切”，体现出我国对生成式人工智能在研究与应用方面的支持和鼓励，为创新留足了发展空间。

同时，《办法》表示，生成式人工智能服务提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

“《办法》坚持法治化的监管方向，将给予市场一个稳定的预期。”中央财经大学中国互联网经济研究院副院长欧阳日辉表示，在法无禁止即可为的前提条件下，更有利于新产业、新技术、新模式、新业态生根发芽，培育出更适合数字经济发展的营商沃土。

利好大模型多领域加速落地

生成式人工智能底层技术，实际上就是大模型。近段时间以来，国内人工智能领域爆发“群模大战”，据不完全统计，中国10亿级参数规模以上大模型已发布79个。天眼查数据显示，今年上半年，人工智能领域的投融资热情明显高涨，月均融资事件达48起，从地域上看，北京以半年76起融资居全国首位。

面对蓬勃发展的产业，国家网信办有关负责人表示，《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

“关于生成式人工智能的应用场景问题一直引人争议。”肖飒称，《办法》强调了人工智能技术的“应用”，即有目的性地发展人工智能，要将研究成果转化为生产成果，鼓励其与实际应用场景相结合，与各行业、各领域的需求相结合，利好大模型大规模商用的推进和企业级应用的有序发展。

日前，新华社研究院发布《人工智能大模型体验报告2.0》，讯飞星火位列国产主流大模型测评榜首位，与今年6月首次发布的主流大模型测评相比，当前中国大模型产品进步显著。科大讯飞董事长刘庆峰认为，“安全可控”、“场景驱动”和“专属模型”是推动认知大模型在行业深度应用的三大关键要素。“实现大模型的安全可控，要解决算力安全和内容安全两大难题，目前需要行业伙伴一起联合攻关。”

“当前，我国大模型产品已经初步具备商用能力，《办法》的落地预示着我国大模型商用浪潮即将开启。”平安证券一位分析师认为，在政策与技术的共振下，我国生成式人工智能产业未来发展前景广阔。