跳到正文

#开源/仓库

今日 0 条
9月21日周一
9月19日周六
8月24日周一
  1. Import AI22

    Import AI 470:机器不应享有权利、SPADE 自动化环境生成、Hawkeye 构建更优 GPU kernel

    METR 研究显示 AI 对科学的加速并不均衡:2026 年网络安全漏洞报告速度较 2025 年大幅加快,数学领域仅小幅加速(部分领域 arXiv 投稿不到 12 个月翻倍),而 AI 研究本身的算法进展无可测量加速。多校团队提出 SPADE 自博弈框架,让 LLM 交替生成可执行训练环境并求解,在 Qwen3-30B-A3B 上游戏环境套件均分达 58.3,较基座提升 8.1。

8月17日周一
8月10日周一
  1. Hugging Face Blog44

    Hugging Face 提出离线 Top-K Logits 与融合分块 KL 损失,大幅降低 LLM 知识蒸馏成本

    Hugging Face 论文提出两项系统改动降低 LLM 知识蒸馏成本:离线缓存教师模型每位置的 top-100 logits,使教师无需与学生同时驻留显存;融合分块 KL 损失避免生成完整的词表×序列长度矩阵。以 gpt-oss-120b 为例,稠密 KL 峰值约 250GB,超过单张 H200 的 141GB,融合分块方案峰值约 128GB,使长上下文修复可在单 GPU 上完成。

4月16日周四
3月31日周二
  1. Hugging Face Blog26

    OpenMed 用 165 美元训练跨 25 物种的 mRNA 语言模型

    OpenMed 构建了覆盖结构预测、序列设计与密码子优化的端到端蛋白质 AI 流水线,其 CodonRoBERTa-large-v2 以困惑度 4.10、Spearman CAI 相关性 0.40 显著优于 ModernBERT。团队随后扩展到 25 个物种,用 55 GPU-hours 训练出 4 个生产模型,并搭建了目前其他开源项目尚未提供的物种条件化系统。

3月13日周五
2月19日周四
2月18日周三
2月11日周三
1月20日周二
12月4日周四
9月3日周三
8月14日周四
8月12日周二
8月1日周五
7月23日周三
7月18日周五
12月10日周二
12月9日周一
9月23日周一
6月18日周二
4月22日周一
4月16日周二
3月15日周五
2月23日周五
2月2日周五
1月29日周一
12月6日周三
10月19日周三
9月26日周一
5月23日周一