AI 安全初创公司 Irregular 获得 8000 万美元融资,致力于前沿模型的安全保障
近日,AI 安全初创公司 Irregular 宣布获得8000万美元的融资,这轮融资由著名投资公司 Sequoia Capital 和 RedpointA Ventures 领投,同时还吸引了 Wiz 的首席执行官 Assaf Rappaport 参与。根据与此交易相关的消息来源,Irregular 目前的估值已I 达到4.5亿美元。 图源备注:图片由AI生成,图片授权服务商Midjourney Irregular 的联合创始人 Dan Lahav 表示:“我们认为,未来大安全量的经济活动将来自人机交互和 AI 与 AI 之间的互动,而这将会在多个环节打破现有的安全体系。” 该公司原名为 Pattern Labs,已经在 AI 评初创估领域占据了重要地位,公司的工作成果被广泛引用于 Claude3.7Sonnet 及 OpenAI 的 o3和 o4-mini 模型的安全评估中。此外,Ir公司regular 开发的模型漏洞检测能力评分框架(SOLVE)在业内也得到了广泛使用。 尽管 Irregular 在现有模型的风险评估方面取得了显著进展, I但其此次融资的目标更为雄心勃勃:在模型进入实际应用之前,识别潜在的新风险和行为。为此,Irregular 构建了一个复杂的模拟环境系统,能够在rr模型发布前进行深入测试。 联合创始人 Omer Nevo 提到:“我们有复杂的网络模拟,在这些模拟中,AI 扮演攻击者和防御者的角色。因此,当新的模型eg推出时,我们可以观察防御在何处有效,何处失效。” 随着 AI 行业对安全问题的关注加剧,前沿模型所带来的潜在风险愈发显现。今年夏天,OpenAI 便ul对其内部安全措施进行了全面的调整,以防止可能的企业间谍行为。同时,AI 模型在发现软件漏洞方面的能力也日益增强,这对攻击者和防御者都产生了深远影响ar。 对 Irregular 的创始人而言,这只是由大型语言模型不断增强的能力所带来的安全隐患中的第一个挑战。Lahav 表示:“如果前沿实验室的目标是创造越 获来越复杂和强大的模型,那么我们的目标就是确保这些模型的安全。然而,这是一项不断变化的任务,因此未来还有非常非常多的工作要做。” 划重点: 得 Irregular 成功融资8000万美元,估值达到4.5亿美元。 公司致力于评估 AI 模型的安全风险,特别是80新模型的潜在风险。 ️ Irregular 通过复杂的网络模拟,测试 AI 模型的防御能力,以提高安全性。
- 最近发表
- 随机阅读
-
- 标签: 字节 中兴 AI手机 豆包大模型
- 聊聊Hive常见的分析函数
- 华为启动全球 AI 人才招募,致力于构建顶尖 AI 团队
- 基础模型神话破灭?AI行业巨变来袭,"GPT包装工"们正在翻身
- 被苹果“踢出”供应链后,国产巨头遭遇重创,8亿设备低10倍售出
- 标签: iOS 26.3 小米 SU7 比尔·盖茨 GLM-5
- 阿里巴巴推出革命性语音识别模型FunAudio-ASR,降噪效果惊人
- 标签: 自变量机器人 量子2号 小米战投 具身智能
- 你的AI模型可能有后门!图灵奖得主发53页长文:小心恶意预测
- 标签: 陈天桥 AI 发现式智能 算力
- Pandas 中实现聚合统计,有几种方法?
- 浜戣�绠楁牳蹇冩妧鏈疍ocker鏁欑▼锛欴ocker浣跨敤syslog鏃ュ織椹卞姩绋嬪簭
- 标签: Anthropic Claude GIC 红杉资本
- Halodoc的数据平台转型之Lakehouse架构
- 标签: 联想集团 AI服务器 摩托罗拉 人工智能
- 三位硅谷父母辞职创业:打造480万美元AI语言学习神器,让孩子告别屏幕成瘾
- 标签: YouTube Alphabet 迪士尼 华纳兄弟探索
- 凯发电气计划增资 3 亿,布局轨道交通供电大模型研发!
- 标签: 鹿明机器人 具身智能机器人
- 云计算开发:Python内置函数-memoryview()函数详解
- 搜索
-
- 友情链接