第995章 十五亿参数终于横空出世(3/4)
里的测试大厅,他将文件合上。
“出结果了?”
“十五亿参数版本,跑通了。”
任少卿把核心数据调到共享页面。
“训练使用了目前完成清洗的一千零八十亿Token。张量并行和数据并行运行正常,模型权重已经完成合并。”
“和一亿五千万参数的天问一号相比,通用语料困惑度下降百分之三十七。长文本生成、摘要和翻译能力都有明显提高。”
顾屿看完几项测试结果,问道:“稳定性呢?”
楼天城凑到镜头前。
“连续推理六小时,没有发生节点崩溃。”
“但现在的响应速度不够快。生成五百字平均要十五秒。如果并发用户超过两百,服务器压力会急剧上升。”
“显存利用率也不理想。我还能再压百分之二十左右。”
顾屿点了点头。
这个版本当然算不上成熟产品。
十五亿参数放在后世,甚至塞不满一台消费级显卡。
可现在才是2015年,业内主流仍在围绕循环神经网络反复优化。
九天实验室已经提前摸到了另一条路。
“微光计划的数据怎么样?”
任少卿将数据后台切换出来。
“第一批三千多人已经开始工作,目前每天可以完成八百万条基础任务。质量比纯脚本清洗高很多,尤其是文本分类和事实核对。”
“等后续培训完成,日处理量还能增加。”
顾屿提醒道:“别只盯数量。人工审核、交叉抽检和任务回溯都要保留。”
“标错一条数据不算什么。几十万条同类错误被模型学进去,返工成本会很高。”
“明白,我们已经启用了三层抽检。”
任少卿把一个内网地址发送过去。
“这是刚搭好的演示网站,只能通过集团专线访问。你可以自己输入内容,它会直接调用天问二号。”
顾屿打开链接。
页面非常简陋,左边是输入框,右边是参数设置。
除了生成长度和随机度,几乎没有多余功能。
他先输入了一段杂乱的会议记录,要求模型整理重点。
页面等待数秒,很快生成了项目进度、主要问题、责任部门和截止时间。
部分表达仍显生硬,关键信息却没有遗漏。
顾屿又扔进去一份商城客服日志,甚至包含了昨天刚刚爆发的“黑公关抹黑星火充电宝”的负面评论。
模型不仅自动将投诉分成物流延迟、商品破损、价格争议和蓄意抹黑四类,甚至精准提炼出了水军使用的高频恐吓



