个人分析《生成式人工智能服务管理办法（征求意见稿）》

4月12日，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》国家网信办日前就生成式人工智能服务管理征求意见。《生成式人工智能服务管理办法（征求意见稿）》 我详细阅读了每一条信息，简单的说一下，目前如果不做修改，其实这条法律是对公司不对私人。 “利用生成式人工智能生成的内容应当体现社会主义核心价值观…”（引用部分） 首先看第一句，值得注意的是这里是专指生成的产成品。和之前一样，无论是绘画和写文，你不该写的不该画的，无论ai还是人类，你都不该去做。 “在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。”（引用部分） 而第二句，这个就很普通了，一般除了文本类生成，很少有这种问题，因为正常模型的文本编码器是采取对应单一词汇的tag。而自然语言描述，主要是文本类人工智能为主，只要在输入端稍加控制，就能办到。 “尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。”（引用部分） 很多人关心的垄断问题，就是这个。但是讲真，作为市场主导，无论怎么说，进行人工智能服务的研发的几乎都是大公司大企业，只能说有法可依。事实上虽然有sd，谷歌，微软，阿里达摩院，腾讯，特斯拉，英伟达这几家公司研究，但是真的总量用两只手就数的过来。 “利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。 尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。”（引用内容） 这里其实讲的就是针对那些试图利用人工智能做坏事的。比如电某诈，还有某A国明着讲说要利用人工智能信息来制造虚假消息的行动了。主要是要有一个反制的行动依据。 “利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。 《征求意见稿》提出，利用生成式人工智能产品向公众提供服务前，应按照有关规定向国家网信部门申报安全评估，并履行算法备案和变更、注销备案手续。”（引用内容） 这里说的就是类似百度文心，chatgtp，mid journey还有novel ai（真的还有人用这废物么？）这类提供直接生成接口的业务的公司。需要负责的内容。 “提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求： 符合《中华人民共和国网络安全法》等法律法规的要求； 不含有侵犯知识产权的内容； 数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形； 能够保证数据的真实性、准确性、客观性、多样性； 国家网信部门关于生成式人工智能服务的其他监管要求。 不得利用AI生成内容损害他人形象名誉 ”（引用内容） 这里容易引起歧义的一项不是法条内容，而是上下文是否紧密链接在了一起，正常理解上看，应该是还针对的第一条，即要求人工智能生成服务公司和个人（进行人工智能生成服务业务）遵守这一项。 同时：“不含有侵犯知识产权的内容；” 常理看确实合理，但也基本规定了只有拥有大量版权的公司才能提供“数据生成服务” 说白了反而促进了垄断。比如某…“视觉中某”公司。 同时，这里也只说了针对数据服务侧。 而个人使用因为服务和使用都在个人端口界面完成，这也是为什么我说这条基本是对私不对公。 “《征求意见稿》提出，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。”（引用内容） 这段主要讲个人隐私的。 “此外，提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。”（引用内容） 和第一条还是有点区别的，这里指的是生成侧。 整篇看下来，发现了一些问题，因为所有的文本内容几乎都侧重于人工智能服务的“提供方”。只有少量内容是“使用侧” 例如像ps和英伟达这样的基础核心公司一方面他们在人工智能领域很难缺席，一方面他们又不一定归你管，你觉得现在的法条真的能限制他们？他们会遵守或者提供数据集供校验么？因为绿提供数据集就停用ps和显卡么？ 而关于人工智能生成作品还有数字艺术家方面的问题则是一句也没提。如果还按照原本经验性的内容，人工智能辅助艺术家依旧能够拿版权。 当然如果人家在美国拿了你也没办法，因为只要你还是世界版权缔约方，那你就得尊重别人的。而美国方面是不管用户侧的模型使用问题，只管人工智能比率。 目前看，很难说内容彻底完善和合理。但是大体框架和方向还是对的。我说对公司不对个人为主的原因也是指生成业务，通篇看下来，基本只有对提供“生成式服务”的公司有要求。 而实际业务和工作中，个人应用人工智能，或者辅助工作其实很难被监督和管理。 如果仅靠法条第一条目前还是对于“产成品”做出规定。而无论游戏公司，美术服务业务，其实并非所谓的“人工智能生成服务”只是对于人工智能产成品的交易和应用。 不说监管能不能办到，产成品你要如何去倒着推它是否人工智能生成的都难，何况已经训练完的个人模型呢？（从技术手段上讲目前行之有效的我确实没看到。） 当然这些只是我的个人分析，法律也只是处在征求意见阶段。 法律严格过度了，ai研究就会止步不前，谁也没法用，工作进度也没得提升。法律太宽松了，ai就会被滥用，现在最尴尬的局面就在这里了。