做AIGC的注意了 监管来咯 听周鸿祎分析政策

国家网信办等七部门日前正式发布了《生成式人工智能服务管理暂行办法》，该办法于8月15日正式施行。

怎么理解生成式人工智能，该管理办法有什么关键之处。我们请来“红衣教主——三六零集团董事长周鸿祎，为您一一讲解。

(资料图片仅供参考)

首先我们了解一下生成式人工智能和政策背景：

1、不容错过的AI 2.0

生成式人工智能，即AI Generated Content，是指利用人工智能技术来生成内容，它被认为是继PGC、UGC之后的新型内容创作方式。

近来火爆出圈的ChatGPT等应用就属于AIGC范畴，也意味着人工智能正式从1.0时代迈入2.0时代。创新工场董事长李开复曾断言，AI 2.0是绝对不能错过的一次革命，它会是一个平台级别的趋势，超过移动互联网10倍。

2、政策迅速跟上

自2022年底以来，生成式人工智能技术迎来快速发展期，今年4月11日，国家互联网信息办公室公布《生成式人工智能服务管理办法》征求意见稿，7月10日七部门正式公布《生成式人工智能服务管理暂行办法》（以下简称“《办法》”）。

可见，从技术出现到意见征求再到办法落地，仅用不到八个月的时间。

《办法》旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

周鸿祎带您读《办法》：

1、《办法》对AI行业可能带来什么影响？

《办法》明确了适用边界，既能够规范大模型的公众服务，同时也有利于组织机构的研发和应用。

我认为，大模型未来真正的发展机会就是企业级市场。产业数字化战略背景下，大模型作为工业革命级的生产力工具，应当帮助传统产业特别是制造业实现数字化转型到智能化升级。

2、《办法》实施会对现有AI大模型的服务造成什么影响？

与征求意见稿相比，《办法》中增加了“鼓励各行业、各领域的创新应用”，支持行业组织机构开展协作；增加了“推动基础设施和公共平台建设”、“促进算力共享”、“推动公共数据开放”等内容，表明了有关部门鼓励创新，支持大模型发展的态度，为科技企业创新提供了信心和保障。

3、对生成式AI的监管，是会助推其发展，还是带来挑战？

《办法》针对大模型生成式的特点，遵循“促进创新和依法治理相结合的原则”，有关部门的监管方式非常先进，将有效助推生成式人工智能的发展。

4、生成式人工智能服务提供商和开发者需要注意的主要责任和义务是什么？

《办法》强调提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务，对此我对此表示认同。

大模型是数字化的顶峰，同样是把“双刃剑”，带来生产力提升的同时存在安全风险，包括网络安全、数据安全、算法安全和生成内容安全。

比如算法攻击有可能致使大模型沦为犯罪工具，协助黑客写攻击代码或钓鱼邮件。此外，大模型存在“幻觉”问题，会“胡说八道”，难以确保生成内容符合法律法规和伦理道德。

未来人工智能会跟整个数字化系统紧密结合，需要从现在开始关注和探索AI安全的解决之道。

关键词：