AI 安全初创公司 Irregular 获得 8000 万美元融资,致力于前沿模型的安全保障
近日,AI 安全初创公司 Irregular 宣布获得8000万美元的融资,这轮融资由著名投资公司 Sequoia Capital 和 RedpointA Ventures 领投,同时还吸引了 Wiz 的首席执行官 Assaf Rappaport 参与。根据与此交易相关的消息来源,Irregular 目前的估I 值已达到4.5亿美元。
图源备注:图片由AI生成,图片授权服务商Midjourney
Irregular 的联合创始人 Dan Lahav 表示:“我们安全认为,未来大量的经济活动将来自人机交互和 AI 与 AI 之间的互动,而这将会在多个环节打破现有的安全体系。” 该公司原名为 Pattern Labs,已经在 AI初创 评估领域占据了重要地位,公司的工作成果被广泛引用于 Claude3.7Sonnet 及 OpenAI 的 o3和 o4-mini 模型的安全评估中。此外,Ir公司regular 开发的模型漏洞检测能力评分框架(SOLVE)在业内也得到了广泛使用。
尽管 Irregular 在现有模型的风险评估方面取得了显著 I进展,但其此次融资的目标更为雄心勃勃:在模型进入实际应用之前,识别潜在的新风险和行为。为此,Irregular 构建了一个复杂的模拟环境系统,能够rr在模型发布前进行深入测试。
联合创始人 Omer Nevo 提到:“我们有复杂的网络模拟,在这些模拟中,AI 扮演攻击者和防御者的角色。因此,当新的模型推出时eg,我们可以观察防御在何处有效,何处失效。”
随着 AI 行业对安全问题的关注加剧,前沿模型所带来的潜在风险愈发显现。今年夏天,OpenAI 便对其内部安全ul措施进行了全面的调整,以防止可能的企业间谍行为。同时,AI 模型在发现软件漏洞方面的能力也日益增强,这对攻击者和防御者都产生了深远影响。
对 Irreguarlar 的创始人而言,这只是由大型语言模型不断增强的能力所带来的安全隐患中的第一个挑战。Lahav 表示:“如果前沿实验室的目标是创造越来越复 获杂和强大的模型,那么我们的目标就是确保这些模型的安全。然而,这是一项不断变化的任务,因此未来还有非常非常多的工作要做。”
划重点: &nb得 sp;
Irregular 成功融资8000万美元,估值达到4.5亿美元。
公司致力于评估 AI 模型的安全风险,特别是新模型的潜在风80险。
️ Irregular 通过复杂的网络模拟,测试 AI 模型的防御能力,以提高安全性。
- ·Facebook任命首位首席商务官
- ·标签: 源码律动 AI基建 诺因智能 Kitar
- ·硅谷版黑镜?亚马逊把仓库工作“游戏化”能缓解工人疲劳么
- ·告别信息泄露!OpenAI 推出 Privacy Filter,支持12.8万超长上下文与8类隐私识别
- ·云安全日报210423:IBM DB2数据库管理系统发现执行任意代码漏洞,需要尽快升级
- ·云计算开发:Python练习实例-使用列表[:]
- ·标签: 华境汽车
- ·云计算核心技术Docker教程:Docker启用调试
- ·影响苹果电池健康度的因素有哪些呢?
- ·微软启动AI供应商多元化策略,将在Office 365中集成Anthropic技术
- ·标签: Meta Manus 蝴蝶效应 AI智能体
- ·标签: 特步
- ·标签: Kimi K2.5 Anthropic Agent集群
- ·69和70是什么意思梗
- ·云安全日报210205:思科IOS XR网络互联操作系统发现拒绝服务漏洞,需要尽快升级
- ·标签: 图达通 激光雷达 港股上市
- ·华为发布鸿蒙座舱 HarmonySpace 6:智能助手小艺全面升级,支持边开车边聊天!
- ·8部门联合发文:增加 AI 终端产品供给,试点智能网联汽车上路
- ·标签: 腾励传动 IPO 汽车传动 国泰海通
- ·OpenAI 与博通强强联手,AI 芯片即将大规模量产!
- ·基于Nutanix云平台的Dell PowerFlex上市
- ·八张图,看懂数据分析如何驱动决策
- ·Vercel 通过 AI 技术裁减团队,实现销售效率大幅提升
- ·标签: 迅雷 影石创新 云计算 会员服务
- ·标签: 国家金融监督管理总局 个人贷款业务明示综合融资成本规定 助贷机构 网贷利率监管
- ·不止Docker:8款容器管理开源方案
