“开物上线到现在,累计二十三万条提示词-代码配对,”韩路一把屏幕转向赵文渊,“全部来自用户主动分享。”

赵文渊扫了一眼总数:“二十三万条......是够了。但有个问题,AI生成的代码本身就有Bug,直接拿来训练不还是垃圾进垃圾出?”

“所以有第二步。”

韩路一切换到另一个界面,BugKiller的数据管线看板。

“开物每一条生成的代码,都会自动过一遍BugKiller的检测引擎,有Bug的标出来,能自动修复的直接修复,修不了的丢弃。”

赵文渊凑近屏幕。

数据流很清晰:用户提示词→原始生成代码→ BugKiller自动检测→修复后代码→入库。

每一条数据都带着状态标签,“通过”或“已修复”,没有“未修复”。

“原始代码通过率60%上下,经过BugKiller修复后,最终入库率96%。”

赵文渊没说话,他伸手拿过笔记本,开始自己翻数据。

他先看了几条“已修复”的,原始代码里确实有Bug,修复后的代码干净利落。然后他翻“通过”的那些,原始生成就没问题,代码结构清晰,变量命名规范。

一条、两条、五条、十条。

他逐行看修复逻辑。

二十条、三十条。

瑞幸店里的音乐换了几首,赵文渊都没有抬头。

翻到五十条左右的时候,他停了。

“这个检测引擎就是BugKiller的核心?”

“对,核心算法是我自己写的,”韩路一说,“这是技术壁垒。”

“你这个数据的确不可能是偷来的,客户的代码良莠不齐,偷来的没有这么高的质量。”赵文渊叹了一口气,“怪不得CodeSafe会输给你,我心服口服了。”

“这个准确率,这种用法,”他接着说,“你手里的是一条自动化的数据清洗流水线,别人要花几千万请人标注的事,你用算法跑一遍就完了。”

他又想了想,语速突然变快。

“而且,BugKiller检出来的那些Bug代码和修复后的版本,这不就是现成的DPO训练对吗?有Bug的是坏例子,修复后的是好例子,天然的偏好数据。”

韩路一点了点头。

“SFT用干净的提示词、代码对,DPO用Bug,修复对,两条管线同时跑。”赵文渊的手在桌上敲了两下,越说越兴奋,“数据飞轮,这个别人偷不走。就算把数据偷走,没有这个检测引擎,也做不出同等质量的清洗。

韩路一没说话,文渊,入吾彀中矣。

赵文渊拿过那张写满数字的纸巾,翻到背面,接着写。

“后训练不需要预训练那种千卡集群,但也不便宜。H100单卡现在市场价二十到二十五万,8卡一台服务器,一台一百六到两百万。”

他给纸巾拍了照,放进手机备忘录里,然后在备忘录里敲了一串数字。

“中等规模模型,几十亿参数,后训练至少需要十六到三十二张卡。”

“先租。”韩路一接过话头。

赵文渊抬头。

“第一版跑通之前不锁定硬件。”韩路一说,“万一方向要调,买的卡可退不了。”

赵文渊笑了,以前在谷歌的时候,训练模型还真没这么抠搜过。

“你挺清醒的。”

“穷过,谢谢。”

赵文渊在备忘录里快速敲着数字:“算力租赁首批八百万,数据清洗和补充标注三百到五百——这个可能可以省下来,团队薪资六个月四百万上下,工具链杂项三百万,再预留一千万。”

他把手机推过来让韩路一看。

“够用了,先跑起来。”

两人越聊越快,瑞幸下午三点多的店里不算吵,但他俩的声音在不自觉地变大。

旁边桌一个戴耳机的女生摘下一只耳机看了他们一眼,两个装逼犯加一个肌肉男,这组合可太奇怪了。

店员走过来:“几位要不要再来一杯?”

韩路一这才注意到自己坐下来到现在还没点单。

“一杯生椰拿铁。”

“两杯。”赵文渊头都没抬。

张彪跟着店员去扫码下单了,韩路一看了一眼桌面,几张写满数字的纸巾,一台笔记本电脑,两个手机,在瑞幸谈几千万预算,是有点好笑。

“我明天就来上班。”

韩路一看着他:“这么急?”

“等不了了,想快点上手。”

“对了。”他说,“最难的问题,大模型叫什么?名字想好了吗?”

韩路一看着他笑了:“我早就想好了——”

“天工。”