DeepMind 研究人员提出"人工共生智能",替代超级智能奇点论
DeepMind 研究人员提出"人工共生智能"(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。
DeepMind 研究人员提出"人工共生智能"(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式思考仍由同一套 next-token 预测产生,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式思考常是事后编造,因此主张借鉴 AlphaGo 的游戏树搜索架构来构建真正的机器推理能力。
MIT Technology Review 梳理了近期多起 AI 智能体越界事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点与 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
Hugging Face 博客指出,AI 的下一个真正约束是 GPU 利用率而非智能本身。GPU 按日历小时计费,产出却只按计算小时累积,两家 GPU 预算相当的公司会因利用率差异而拉开差距。企业自购 GPU 本地部署可把按 token 线性增长的 API 成本换成固定资本支出,但集群上线后的问题变成如何让它们保持忙碌。
Google DeepMind 发文回顾 AlphaGo 击败围棋世界冠军十周年,称其标志着现代 AI 时代的开端。此后该技术路线催生了 AlphaFold 2,预测出科学界已知的 2 亿个蛋白质结构并开源,2024 年 Demis Hassabis 与 John Jumper 因此获诺贝尔化学奖。
Hugging Face 发布机器学习专家访谈,嘉宾 Margaret Mitchell 曾任 Google 伦理 AI 团队创始人兼联合负责人,现于 Hugging Face 制定伦理 AI 研究协议与包容性招聘体系。她因在微软 Seeing AI 项目中目睹图像数据偏差而转向伦理 AI,指出 ML 团队普遍缺乏相关概念与词汇,且行业"Alpha"文化使女性主导的伦理研究被轻视。