点击上方蓝字关注我们
OpenAI 正将安全置于首位,大幅提升漏洞赏金计划的奖励额度,并推出新的人工智能安全研究资助项目,这与之前忽略安全漏洞,裁撤安全部门的做法大相径庭。
OpenAI 正在加强其安全基础设施建设,通过拓展资助项目、漏洞赏金计划以及内部防御等多方面的安全举措,对人工智能采取前瞻性的应对策略。
在其最新的博客文章中,OpenAI 公布了一系列新的网络安全举措,这标志着他们向通用人工智能(AGI)迈出了大胆的一步。这一战略举措的关键要素之一,是大幅提高其漏洞赏金计划的最高奖励金额,如今,对于重大安全发现的奖励已高达 10 万美元。
OpenAI 在 2023 年 4 月与 Bugcrowd 合作推出了漏洞赏金计划。该计划最初专注于发现 ChatGPT 人工智能聊天机器人中的漏洞,以增强其安全性和可靠性,低严重性漏洞的奖励起价为 200 美元,而特别重大的发现可获得高达 2 万美元的奖励。
如今,OpenAI 已确认对该计划进行重大改革,最高奖金从 2 万美元提高到 10 万美元,并且该计划的范围也大幅拓宽。OpenAI 表示,这一举措反映了他们致力于确保用户对其系统的信任。
该公司在公告中指出:“提高奖金体现了我们对有意义、高影响力的安全研究的重视,这些研究有助于我们保护用户,并维护用户对我们系统的信任。”
为了进一步激励更多人参与,OpenAI 推出了限时奖金促销活动,首个活动聚焦于 IDOR(Insecure Direct Object Reference,不安全的直接对象引用)访问控制漏洞。此次促销活动从 2025 年 3 月 26 日持续至 4 月 30 日,期间还提高了针对这类漏洞的基础赏金范围。
该公司还计划扩大其网络安全资助计划。目前,这一计划已为 28 个专注于攻防安全策略的研究项目提供了资金支持。这些项目探索了诸如自主网络安全防御、安全代码生成以及提示注入等领域。现在,该资助计划正在为五个新的研究领域征集提案,分别是:软件补丁、模型隐私、检测与响应、安全集成以及智能体人工智能安全。
OpenAI 还将以 API 积分的形式发放小额资助,以促进创新网络安全想法的快速原型制作。此外,该公司计划开展开源安全研究,与来自学术、政府和商业实验室的专家合作,识别开源软件代码中的漏洞。
这一转变旨在提高 OpenAI 的人工智能模型发现和修复安全漏洞的能力。公司计划在发现漏洞时,向相关的开源方发布安全披露信息。
此外,OpenAI 正将自己的人工智能模型集成到其安全基础设施中,以加强实时威胁检测和响应能力。为了强化防御体系,该公司与网络安全公司 SpecterOps 建立了新的红队合作关系。此次合作将涉及对 OpenAI 的基础设施(包括企业、云及生产环境)进行大量的模拟攻击。
随着 OpenAI 的用户群体不断扩大,目前其每周活跃用户已超过 4 亿,该公司认识到保护用户数据和系统的责任日益重大。在专注于开发先进人工智能智能体的同时,公司也在应对与这些技术相关的独特安全挑战。这包括抵御提示注入攻击、实施先进的访问控制、进行全面的安全监控以及采用加密保护措施,进一步彰显了他们打造安全可靠人工智能的决心。
喜欢此文的话,可以点赞、转发、在看 一键三连哦!
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...