狂欢止步？人工智能迎来监管
+ 查看更多

发布日期：2023-03-27 14:00

数月来，以ChatGPT为代表的人工智能迎来了依赖强大商业化前景的狂欢。但与此同时，其背后的巨大危险也逐渐显现出来。

机会和挑战并存，未来的人工智能到底将何去何从？

近日，国内外几乎同时出台了与人工智能相关的监管措施，这都为该领域的发展指明了方向，具有重要意义。

国内外同步行动

2023年04月11日，国家互联网信息办公室发布了关于《生成式人工智能服务管理办法（征求意见稿）》的公开征求意见通知。

在这种方法中，首先明确“生成式人工智能”的定义是基于算法、模型、规则生成文本、图片、声音、视频、代码等的技术。

服务提供者的规范中提到：使用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下简称“提供者”)，包括提供可编程的界面、帮助其他人直接生成文本、图像、声音等，要承担产品生成内容生产者的责任。承担个人信息处理者的法律责任，履行个人信息保护义务。提供者应该指导用户使用科学认识和理性生成的人工智能生成的内容。不利用生成的内容损害他人的形象、名誉和其他合法权益，不进行商业投机或不正当的营销。

另外，还介绍了对产品或服务的具体要求、用于生成式人工智能产品的上岗培训和优化培训的数据、用户权益、提供者违反规定的行为和处罚方法等。

所有这些都是根据现有的法律和法规编写的，如《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》。

几乎与国内同步，美国也开始了监督ChatGPT等人工智能工具的过程。美国政府开始调查是否需要对ChatGPT等人工智能工具进行检查。同一天，美国商务部就此发表了正式的公开意见书。征求对包括具有潜在风险的新人工智能模型在内的技术的问责措施的意见，以及在新的人工智能模型发布前是否需要经过认证程序等。