对话多位相关从业人士，AIGC监管迎来新时代？

2023年7月13日，国家互联网信息办公室等七部门联合发布《生成式人工智能服务管理暂行办法》（以下简称“《办法》”）。

《办法》针对从去年起成为科技圈顶流的生成式人工智能行业提出了监管办法。

2022年11月，ChatGPT发布之后，生成式人工智能迅速席卷整个互联网行业。各大互联网企业纷纷入局，截至目前，国内发布的10亿参数规模以上的大模型就有超过100个，应用领域涵盖搜索、对话、协助创作、媒体生成、教育、翻译等。

(资料图片仅供参考)

艾媒咨询预测，预计2023年中国AIGC核心市场规模将达79.3亿元，2028年将达2767.4亿元。

但自从ChatGPT一夜爆红以来，由人工智能生成的虚假和错误信息屡见不鲜。同时生成式人工智能的出现，也严重冲击了创作领域原有的生态，版权问题也让全世界的立法机构也陷入了难题。

《办法》的出台会解决这些问题吗？对生成式人工智能行业有什么样的影响？业内如何看待此次《办法》的出台？

《银杏科技》对话了多位相关从业人士，他们分别是高级算法工程师、自然语言处理高级研究员孙科、连续创业者谭伟、伟君律师事务所律师钱川。

他们表示，《办法》的出台一方面降低训练模型的门槛，促进了行业创新，同时还明确了算法的安全主体责任，要求企业在应用开发期间就针对算法进行安全评估。

对于“裸奔”了数个月的生成式人工智能行业来说，《办法》出台意味着行业将迎来一个全新的发展阶段。

问：对于开发者来说，《办法》的出台有什么样的影响？

孙科：《办法》出台之后，企业在开发产品的过程中需要提前做好规划以应对生成式人工智能产品较长的开发流程和更多的合规控制点。

如果只是做ChatGPT这样的聊天应用，除了算法备案之外，还需要遵守《网络安全法》、《数据安全法》、《个人信息保护法》等多项法规，此外还需要ICP经营许可证、软件著作权、网络文化经营许可证、增值电信业务经营许可证等审批，如果要在其他领域还需要完成相应的许可和备案。

生成式人工智能的开发涉及到多个不同的环节，企业内部也需要对相应的环节进行规划以满足合规要求。

问：《办法》为什么要求将算法备案？具体要备案哪些信息？

孙科：算法备案制度本质是监管部门事前设置算法问责的问责点，用以确认算法推荐服务提供者是否履行了法律规定的各项义务，是否在算法的设计、运行和结果输出层面有主观过错。

在具体实施上可能也会采取与推荐算法、深度合成算法类似的“大厂先行”模式，由互联网大厂率先普及。生成式人工智能算法备案可能也并不需要公开算法机制，但同一App，甚至同一应用场景下的不同算法需要分别进行备案。

虽然在《办法》中没有明确细则，但参考此前的经验，企业需要将名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息进行备案，向监管主体提示算法可能存在的滥用、恶意利用、漏洞、违法和不良信息生成、传播等违法违规的风险，并在服务网站和程序页面上注明备案号和公示链接。

另外，生成的内容也需要进行标注。

问：对于创业者，《办法》的出台会带来什么样的新机遇吗？

谭伟：创业者可以将大模型必备的大量计算和数据资源成本降低不少。《办法》提出，将推动生成式人工智能基础设施和公共训练数据资源平台建设、促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。

和其他领域相比，人工智能，尤其是大模型生成式人工智能领域完全是一个重资产行业，没有算力、没有数据就没有产品。

以目前行业内较为热门的开源大数据模型BLOOM为例，这个高达1760亿参数的大模型的训练需要使用384个GPU，将花费3.5个月时间，仅硬件成本就高达576万美元。如果将训练时间缩短至24天，则需要1024个GPU，硬件成本超过1530万美元。

《办法》的出台一方面能够降低计算和数据成本，另一方面利好共享算力服务提供商。

问：您的创业项目针对的是大模型的算力基础设施，《办法》会带来什么样的影响？

谭伟：对于大模型创业企业，硬件成本就能劝退大多数团队了。我计划组建一个类似于Folding@home的分布式计算网络来支持大模型的训练。

这是世界上最大的分布式计算项目，针对分子生物领域进行计算，它并不依靠强大的超级计算机进行计算，主要的贡献者是成千上万的个人电脑和游戏机。

每部参与的电脑都安装了一个在后台运行的客户端程序，在系统不忙碌的时候调用中央处理器运行模拟工作。现时世界上绝大部分的个人电脑，在一般的情况下都很少用尽本身的计算能力。

Folding@home就是使用这些本来都浪费了的运算力量。Folding@home是第一台千万亿次级计算机，每秒能够执行一百万亿次运算，最近还成为了第一台超大规模计算机，每秒可执行十亿亿次运算。

类似的分布式计算项目其实不少，但针对大模型训练的并不多，《办法》的出台是一个入局的好机会。

问：为什么《办法》并没有强调生成式人工智能涉及到的版权问题？生成作品的知识产权应该归属于谁？

钱川：《办法》并未在知识产权方面对生成式人工智能进行过多限制，还是希望能够鼓励企业在该领域的创新，开发出自主可控的生成式人工智能产品，避免“不管就乱，一管就死”。

就目前情况而言，生成作品的知识产权问题暂时没有一个完善的解决方案。大多数国家依然按照以往的规定来界定生成作品的版权。

著作权法意义上的作品应满足以下四个条件：由人类创作，具有独创性，是蕴含一定思想内容的表达形式，且不属于法律法规、通用数表、公式等著作权法排除对象。

完全由人工智能独立创作或按照自然人输入的提示词生成的作品，是无法在法律上被称为 “作品”的。人工智能并未被界定为人类，不享有人权，当然也不拥有版权，更不用说归属与谁了。

问：训练人工智能时使用了他人公开在互联网上的作品，创造出AI孙燕姿、AI毕加索，此类行为是否侵犯了知识产权？

钱川：训练人工智能使用的数据知识产权保护暂时没有成功案例。目前只有具有数据产权的数据库可能会受到保护。

一方面，数据产权的保护办法我们还在探索当中，今年年初的数据二十条规定就是一个初步的方案。另一方面，目前国家知识产权局和深圳、上海已经开始研究数据的确权工作，但具体如何确权还需实践。

关键词：