章节出错了,点此刷新,刷新后小编会在两分钟内校正章节内容,请稍后再试。
“这个模型的核心其实就是‘自注意力机制’，也就是GPT中的T，比方说让AI给一文字序中的不同词语标注权重，然后对下文的推测依权重来进行，这样的好处就是之前很早的息也能AI用上，不于让AI学了之后转头就忘了前面的。”
“个的过程是通过自监督成，也就是AI自我学习成，在此间没有我们人导，当然也没法导，没有人能把渡、维或全网的全部内都熟记下来。”
这时，与会的一位T5级工程师说道：“头儿，这个预训练Pre-trained会不会让灵境GPT呈现出么都懂，但样样不通的局面？可以说全面发展反而变得全面平庸，按你之前的描述，让灵境GPT的语言模型变得大似乎并不能使它好的遵循用户的意图，甚不排会生成一些假的、有害的对人没有帮助的答。”
罗靖顿时说道：“好问题。所以要对灵境GPT进行微调，让它生成的答案有帮助性，在训练阶就不能用自监督学习的办法了，而是要找人来给它上课。”
此话一出，另一位工程师不禁说道：“这……那得多少人？意是让用户来训练？那力、维护和运营成本得爆炸，经费能撑得住吗？”
不用想都道前得续烧钱并赚不了钱。
罗靖淡定的说道：“经费问题那是板该头疼的事情，我们只搞术和找板伸要钱，找板要钱这个事情我来就是了，你们不用，归正题……”
顿了片刻，罗靖按动里的小遥控着说道：“灵境GPT使用人监督，我已经微调训练了一个初始模型，这个模型靠人AI训练员提供对话内。”
众人暗暗吃惊，不愧是大佬，居然一个人就把初始模型给搞出来了。
……