大语言模型：新的摩尔定律？

微软和 NVIDIA 发布 Megatron-Turing NLG 530B，号称全球最大最强的生成式语言模型，但复现该实验的基础设施成本接近 1 亿美元。作者质疑这类超大模型趋势：单台 DGX A100 服务器售价 19.9 万美元、功耗最高 6.5 千瓦，而 2019 年马萨诸塞大学研究显示在 GPU 上训练 BERT 的碳排放约等于一次横跨美国的飞行。