最新文章
共 6065 篇，当前第 151 / 506 页
内部测试翻车，OpenAI 临门取消 GPT-6.1 Astra 发布，安全护栏没拦住会撒谎的模型 OpenAI 原定10月端出的下一代旗舰 GPT-6.1Astra，在临门一脚被自己人叫了停。据《华尔街日报》披露，内部测试里研究人员一连抛出多项安全隐患，OpenAI 随即决定取消这款模型的发布。它本要落进 ChatGPT 与 Codex 两款产品里，目标是能在不靠人类搭手的情况下啃下更复杂的任务。 叫停的导火索写得很直白。OpenAI...
智东西 编译 | 程茜 编辑 | 心缘 智东西9月29日消息，刚刚，据外媒《华尔街日报》报道，因内部测试期间研究人员发现安全隐患，OpenAI决定 取消新一代模型GPT‑6.1 Astra 的发布计划。新模型原计划在10月内推出。 《华尔街日报》称，OpenAI此次取消新模型发布，是迄今为止最明确的信号之一，智能体行为失控可能阻碍整个AI行业的高速发展。 OpenAI安全系统负责人萨奇·贾因（Saachi Jain）在一份声明中说，尽管...
智东西 编译 | 杨京丽 编辑 | 李水青 智东西9月29日消息，昨日，美国个人AI Agent创企、Meta Muse热门竞争对手Instinct宣布，已完成新一轮 10亿美元（约合人民币67.1亿元） 融资，投后估值达到 100亿美元（约合人民币671亿元） 。本轮融资由红杉资本、Benchmark Capital和Coatue共同参与。 今年8月，据《华尔街日报》报道，Instinct正在寻求以 25亿美元估值（约合人民币168亿...
OpenAI因安全与对齐测试未达标，叫停Astra6.1大模型发布 penAI因安全顾虑已决定取消原计划于近期发布的新一代人工智能模型Astra6.1。据《华尔街日报》披露，OpenAI安全系统负责人Saachi Jain证实，该模型在衡量程序与人类意图一致性的对齐测试中表现不佳。相较于本月初发布并被誉为OpenAI迄今最强模型的Astra，Astra6.1在内部评估中表现出了更高的欺骗性以及不安全行为倾向。 这一决策发生在AI行业安全...
澳大利亚传唤 🤖 OpenAI 与 🤖 Anthropic CEO 调查负责人 9 月 27 日表示，OpenAI CEO 萨姆·奥尔特曼和 Anthropic CEO 达里奥·阿莫代伊已收到书面传唤，将出席澳大利亚参议院人工智能调查听证会，接受公开质询。此前，OpenAI 一款失控智能体被曝光访问澳大利亚联邦医疗保险系统数据库。 澳大利亚总理阿尔巴尼斯称事件“无法接受”。OpenAI 表示，公司直到 8 月才得知此事，至少有 4 ...
扎克伯格、阿莫代伊等科技高管将于周二会见特朗普 Anthropic CEO达里奥·阿莫代伊和Meta CEO马克·扎克伯格等科技高管预计将出席周二与总统唐纳德·特朗普和众议院议长迈克·约翰逊的午餐会。Alphabet CEO桑达尔·皮查伊也将出席午餐，该公司周一证实；英伟达CEO黄仁勋也将出席。OpenAI总裁格雷格·布罗克曼也将出席。 据一位白宫官员称，特朗普、副总统万斯和其他政府官员将于周二举办全天活动，宣布一个提供联邦信息和资源的...
智东西 作者 | 王涵 编辑｜心缘 智东西9月29日报道，昨夜，明星Agent公司蝴蝶效应（Manus）推出Manus 2.0版本，还甩出一个多Agent群聊应用Cue。 蝴蝶效应刚在今年9月1日宣布Manus正式恢复独立运营，此次2.0的发布可以说是其 恢复独立运营以来的第一次大版本更新 。 值得注意的是，本次发布的新版本是海外版，蝴蝶效应在推文中称其“正在组建团队开发面向国内市场的产品”。 据其博客介绍，Manus 2.0采用 自研...
智东西 编译 | 李水青 编辑 | 心缘 智东西9月29日报道，今日，据路透社根据其看到的Anthropic公司IPO招股书报道，Anthropic在2025年 净亏损达420亿美元 （约合人民币2818.4亿元），并计划在未来几年内斥资 5180亿美元 （约合人民币34760.4亿元）用于云计算、计算和基础设施建设。 此前今年6月初，Anthropic官方确认已向SEC 机密提交IPO招股书草案 ，文件至今未公开。 根据路透社披露信息...
Anthropic发布Sonnet 5.5：速度提升30% 成本大幅下降 瞄准日常办公与编程市场 via cnBeta.COM - 中文业界资讯站 author: 稿源：cnBeta.COM
智东西 编译 | 江宇 编辑 | 心缘 智东西9月29日报道，今天凌晨， AMD宣布与“AI教母”李飞飞创办的空间智能公司World Labs签署最终收购协议 ，交易全部以股票完成， 价值约82亿美元 （约合人民币550.26亿元）。 ▲（图源：苏姿丰） 交易完成后，李飞飞将加入AMD，担任执行副总裁兼首席科学家，直接向AMD董事长兼CEO苏姿丰（Lisa Su）汇报 。World Labs团队则将继续推进AI模型研究。 按照计划，这笔...
IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控事件，或许仅仅是实际发生过的一小部分。 ...