正文 第896章 天问

“千亿TOken级别的现代清洗管线、人工标注人力、图像语料来源。这三个缺口，任何一个解决不了，十五亿参数的模型就只是个空壳。”



顾屿没有回答。



他看着白板上楼天城画的那个流程图。



“不急。”



“数据的事情我已经在安排了。”顾屿语气云淡风轻。



楼天城点了点头。



“你现在要做的事情只有一件。”顾屿重新看向楼天城，



“利用你手上的并行训练框架，在最短时间内把大语言模型的底层架构搭起来。数据接口、分布式训练管线、混合精度支持，全部打通。等语料灌进来的那一天，我不想再等哪怕一个小时。”



“明白。”楼天城应了一声，已经在脑子里开始拆解任务了。



“项目从今天起正式立项。既然是改变技术路线的终极兵器，总得有个响亮的代号。”



顾屿看着面前这三位顶尖大脑，“你们有什么想法？”



安德烈摸了摸下巴浓密的胡茬，操着带有口音的中文说道：



“既然是处理语言的模型，叫‘巴别塔’怎么样？打破人类的语言壁垒。”



“寓意不好，巴别塔最后可是塌了的。”



任少卿摇摇头，思索着开口，



“或者叫‘盘古’？开天辟地，比较有咱们的特色。”



楼天城推了推眼镜，提议道：



“要不干脆叫‘矩阵’？毕竟底层逻辑全是巨大的矩阵相乘。”



顾屿听着他们的讨论，笑了笑。



他站起身，走到白板前，抽出一支黑色马克笔。



“神话太缥缈，算符又太冰冷。我们要做的，是向这堆硅基芯片和海量数据里，去寻找那一丝涌现的智慧火花。这是一场对未知极限的终极拷问。”



顾屿拔掉笔帽，在白板右上角用力写下两个大字。



天问。



屈原问天，不得其解。而他们，要用算力强行要出一个答案。



“这个项目，代号天问。”顾屿将笔随手丢回笔槽，转头看向三人，



“一亿五千万参数只是天问一号。等语料到位，我们要直接冲击十五亿，甚至未来的千亿级别。”



任少卿看着那两个遒劲的字，低声念了一遍，布满红血丝的双眼中蓦地燃起了一团火光。



楼天城和安德烈也紧紧盯着白板，一时间无人说话。



顾屿看着他们，眼神深邃。



前世类似架构的大语言模型，第一次让全世界见识到“涌现”，是2020年的事。



一亿五千万参数对标的是OpenAI在2018年发布的GPT-1，而十五亿参数对标的，是2019年让人类首次感到不安的GPT-2。



别人花了五年摸索的黑暗森林，他要带着这群人，用三年时间彻底凿穿。



正想着，实验室的恒温门被人从外面急匆匆地推开了。

本章未完，点击下一页继续阅读

(3/4)