正文 第995章 十五亿参数终于横空出世
目前完成清洗的一千零八十亿TOken。张量并行和数据并行运行正常，模型权重已经完成合并。”
“和一亿五千万参数的天问一号相比，通用语料困惑度下降百分之三十七。长文本生成、摘要和翻译能力都有明显提高。”
顾屿看完几项测试结果，问道：“稳定性呢？”
楼天城凑到镜头前。
“连续推理六小时，没有发生节点崩溃。”
“但现在的响应速度不够快。生成五百字平均要十五秒。如果并发用户超过两百，服务器压力会急剧上升。”
“显存利用率也不理想。我还能再压百分之二十左右。”
顾屿点了点头。
这个版本当然算不上成熟产品。
十五亿参数放在后世，甚至塞不满一台消费级显卡。
可现在才是2015年，业内主流仍在围绕循环神经网络反复优化。
九天实验室已经提前摸到了另一条路。
“微光计划的数据怎么样？”
任少卿将数据后台切换出来。
“第一批三千多人已经开始工作，目前每天可以完成八百万条基础任务。质量比纯脚本清洗高很多，尤其是文本分类和事实核对。”
“等后续培训完成，日处理量还能增加。”
顾屿提醒道：“别只盯数量。人工审核、交叉抽检和任务回溯都要保留。”
“标错一条数据不算什么。几十万条同类错误被模型学进去，返工成本会很高。”
“明白，我们已经启用了三层抽检。”
任少卿把一个内网地址发送过去。
“这是刚搭好的演示网站，只能通过集团专线访问。你可以自己输入内容，它会直接调用天问二号。”
顾屿打开链接。
页面非常简陋，左边是输入框，右边是参数设置。
除了生成长度和随机度，几乎没有多余功能。
他先输入了一段杂乱的会议记录，要求模型整理重点。
页面等待数秒，很快生成了项目进度、主要问题、责任部门和截止时间。
部分表达仍显生硬，关键信息却没有遗漏。
顾屿又扔进去一份商城客服日志，甚至包含了昨天刚刚爆发的“黑公关抹黑星火充电宝”的负面评论。
模型不仅自动将投诉分成物流延迟、商品破损、价格争议和蓄意抹黑四类，甚至精准提炼出了水军使用的高频恐吓词汇，并给出了每类问题的出现比例。
顾屿看着屏幕上的分类结果，又随手多测试了几轮。
模型并非每次都正确，有时会误解指令，也会在资料不足时自行补充内容。
但它已经展现出了真真切切的可用价值，不再是实验室里只能用来展示曲线的技术样品。
任少卿将最后一份测试报告通过专线传了过来。
“验证了你的战略。‘预测下一个TOken’这条路，我们
“和一亿五千万参数的天问一号相比，通用语料困惑度下降百分之三十七。长文本生成、摘要和翻译能力都有明显提高。”
顾屿看完几项测试结果，问道：“稳定性呢？”
楼天城凑到镜头前。
“连续推理六小时，没有发生节点崩溃。”
“但现在的响应速度不够快。生成五百字平均要十五秒。如果并发用户超过两百，服务器压力会急剧上升。”
“显存利用率也不理想。我还能再压百分之二十左右。”
顾屿点了点头。
这个版本当然算不上成熟产品。
十五亿参数放在后世，甚至塞不满一台消费级显卡。
可现在才是2015年，业内主流仍在围绕循环神经网络反复优化。
九天实验室已经提前摸到了另一条路。
“微光计划的数据怎么样？”
任少卿将数据后台切换出来。
“第一批三千多人已经开始工作，目前每天可以完成八百万条基础任务。质量比纯脚本清洗高很多，尤其是文本分类和事实核对。”
“等后续培训完成，日处理量还能增加。”
顾屿提醒道：“别只盯数量。人工审核、交叉抽检和任务回溯都要保留。”
“标错一条数据不算什么。几十万条同类错误被模型学进去，返工成本会很高。”
“明白，我们已经启用了三层抽检。”
任少卿把一个内网地址发送过去。
“这是刚搭好的演示网站，只能通过集团专线访问。你可以自己输入内容，它会直接调用天问二号。”
顾屿打开链接。
页面非常简陋，左边是输入框，右边是参数设置。
除了生成长度和随机度，几乎没有多余功能。
他先输入了一段杂乱的会议记录，要求模型整理重点。
页面等待数秒，很快生成了项目进度、主要问题、责任部门和截止时间。
部分表达仍显生硬，关键信息却没有遗漏。
顾屿又扔进去一份商城客服日志，甚至包含了昨天刚刚爆发的“黑公关抹黑星火充电宝”的负面评论。
模型不仅自动将投诉分成物流延迟、商品破损、价格争议和蓄意抹黑四类，甚至精准提炼出了水军使用的高频恐吓词汇，并给出了每类问题的出现比例。
顾屿看着屏幕上的分类结果，又随手多测试了几轮。
模型并非每次都正确，有时会误解指令，也会在资料不足时自行补充内容。
但它已经展现出了真真切切的可用价值，不再是实验室里只能用来展示曲线的技术样品。
任少卿将最后一份测试报告通过专线传了过来。
“验证了你的战略。‘预测下一个TOken’这条路，我们
本章未完，点击下一页继续阅读
(3/4)