上海一家AI实验室暂停70亿参数模型训练计划，算力租赁成本两月涨四成。中小团队转向小参数与蒸馏路线，数据标注返工率高达40%。
上海一家三人规模模锻www.abg6666.net的AI实验室上个月砍掉了本定70亿参数的模子锻炼计划。负责人李航算了一笔账，租用8卡A100集群跑完一轮预锻炼需求18天，电费和云办事账单加起来逾越12万元的。
“模子锻炼 AI 还没起头调参，炼A路径钱包先见了底”他苦笑着说。年夜模子锻炼 AI 的算力门槛正正在拉高。据我跟踪的17个开源项目。今年一季度公开的百亿参数以上模子锻炼使射中，逾越六成背后钱失是资金丰裕的头部公司。一家杭州主动驾驶公司转而用蒸馏方法，把本来需求200张GPU的模子锻炼 AI 任务紧缩到32张卡上完成，精度丧失控制正在1.2%以内。
数据标注控中的隐性本钱更让人头疼。北京一家医疗AI创业公司为锻炼影像豆割模子，雇佣12名标注员干了四个月，最后发明标注尺度不统一，返工率高达40%。
项目经理张薇告诉我。模子锻炼 AI 小团的瓶颈早就就是工程细节和净活累活。那些每周更新日志里频繁隐现“loss spike”的团队，常常正在数据清洗环节投入不敷。有人起头检讨考试用合成数据替代实正在标注。深圳一个团队用扩散模子生成10万张病理切片的队辟，再拿它们去锻炼分类器了。功效模子正在实正在测试集上的暗示反而降落了7个百分点。
模子锻炼 AI 不是搭积木，数据散布的纤细偏移就能让整个项目翻车。我不美不俗观察到的纪律是省正在标注上的钱，最后都市以调试时间的形式还回去。芯片租赁价格仍正在平稳了。上周某云厂商的A100按需实例涨到每小时32元，比岁首年月贵了四成。小团队起头混用消费级隐卡，固然模子锻炼 AI 的速度慢得让人抓狂。至少能跑起来。至于将来会不会像云计较那样按需付费，谁也说欠好啊？至少如今了，每次看到隐卡报价。
我都觉得万亿参数的门票离浅显人有点近。
