ChatGPT安全受质疑 网信办发布生成式人工智能服务管理办法意见稿

释放双眼,带上耳机,听听看~!

你是否曾经和一款人工智能对话?它们似乎能够理解你的问题,并给出令人满意的答案。ChatGPT是目前最流行的人工智能。它是由OpenAI开发的一款基于GPT技术的自然语言处理模型。

 

通过训练大量的文本数据,ChatGPT可以理解并回答用户的问题,与用户进行自然、流畅的对话。ChatGPT的火爆程度可以从多个方面得到体现。

  1. ChatGPT爆火 安全性遭质疑

 

ChatGPT在社交媒体平台上的用户数量非常庞大,明星、科技大佬等等都使用,在商业应用方面也表现出了强大的实力。如今ChatGPT的全球用户已经超一亿,它的火爆程度远远超出了人们的想象。
随着ChatGPT的爆火,ChatGPT安全性备受质疑,包括其它开源的GPT模型在内的生成式人工智能服务的。近期,意大利和加拿大等国家因隐私和安全问题暂时禁用了ChatGPT,并以安全问题调查ChatGPT母公司OpenAI事件,引发了广泛的关注和讨论。

  1. OpenAI正式回应安全性问题

4月5日OpenAI官方博客更新了一篇博客,博客主要分为六大角度:1. 围绕安全、不断升级;2.立足现实、完善保障;3.保护儿童;4.尊重隐私;5.精准产出、尊重事实;6.持续投入、促进合作。

 

Open AI认为,提升AI系统的安全性并非一个简单的过程,需要长期投入,并与政策制定者等主体开展广泛的合作。

随着AI在全球范围内的普及,AI生态系统已经在逐步建立,这对全球范围内的技术和制度创新都将是一个新的挑战。

三、国家网信办发布的《生成式人工智能服务管理办法(征求意见稿)》

为促进生成式人工智能技术健康发展和规范应用,4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《管理办法》)。

《管理办法》共计二十一条,其中“生成式人工智能”指的是,基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

《管理办法》规定了生成式人工智能服务的注册、备案、安全评估、运营等方面的管理要求。

《管理办法》还要求服务提供方要对生成的文本内容进行审核,确保其不包含违法信息。对于未经备案的生成式人工智能服务,有关部门将采取行政处罚等措施。国内一些比较火的ChatGPT接口已经进入了整改状态。

 

结语:

随着生成式人工智能技术的不断发展,人工智能的普及越来越广泛。然而,这些服务存在的安全隐患也越来越明显。加强对生成式人工智能服务的监管是必不可少的。只有这样,用户才能安心使用这些服务,而不必担心个人信息泄露和网络攻击等问题。

我们期待有关部门尽快出台更加完善的管理办法,加强对生成式人工智能服务的监管,为用户提供更加安全、便捷的服务。

给TA买糖
共{{data.count}}人
人已赞赏
行业热点

信创进程 量质齐增 | 齐安科技工业安全集中管理系统完成麒麟软件NeoCertify认证

2023-4-13 16:48:11

网络安全行业热点

网络钓鱼、信息窃取泛滥,如何才能有效应对?

2023-4-14 19:05:42

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索