ad
南宁生活网 > 资讯 > 正文

OpenAI“悬赏”找漏洞!奖金最高可达2万美元

栏目:资讯     文章来源:金融界    发布时间:2023-04-12 09:04   阅读量:8469   

随着CHATGPT火爆全球,聊天机器人(行情300024,诊股)领域也兴起了一波“越狱潮”。为更好应对,ChatGPT所属公司OpenAI周二表示,将向报告其人工智能系统漏洞的用户提供最高达2万美元的奖金。

OpenAI周二在一篇博客文章中写道,公司与漏洞奖励平台Bugcrowd合作推出了一项漏洞奖励计划。人们可以通过该计划报告他们在使用其人工智能产品时发现的弱点、漏洞或安全问题。

据悉,奖金的规模将取决于漏洞的严重性,起步奖励200美元;最高2万美元,要拿这个奖项需要漏洞寻找者有“不同寻常的发现”。

事实上,漏洞奖励计划在科技行业很常见,这可以用来鼓励程序员和有道德的黑客报告他们软件系统中的漏洞。例如,微软就曾推出Windows漏洞奖励计划,最高奖励25万美元。为了清除Google Play商店中的漏洞,谷歌也推出过类似计划,每个漏洞至少奖励1000美元。

OpenAI表示,推出这一“悬赏”计划的部分原因是,它认为“透明度和协作”是发现其技术漏洞的关键。

OpenAI安全主管Matthew Knight在博文中写道:“这一举措是我们致力于开发安全先进的人工智能的重要组成部分。当我们创造安全、可靠和值得信赖的技术和服务时,我们希望得到你的帮助。”

近期,随着人工智能展现出越来越多的用途,其安全性问题逐渐成为人们的关注焦点,与此同时,该领域的“越狱潮”也开始了。例如,华盛顿大学22岁的计算机科学系学生Alex Albert表示,他已经创造了“越狱版”措辞复杂的人工智能提示。

据悉,这是绕过人工智能程序一系列内置限制的一种方式,这些限制可以阻止聊天机器人出现有害举动,例如教唆犯罪或支持仇恨言论。但这种“越狱版”AI聊天机器人却能够摆脱这些“枷锁”。

因此,OpenAI发布这一计划并不出人意料。该公司总裁兼联合创始人Greg Brockman显然早就注意到了这点。他最近在Twitter上转发了Albert的一篇与越狱有关的帖子,并写道,OpenAI正在“考虑启动赏金计划”来发现漏洞。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

ad06
ad