拉黑了。
无奈之下，李东只能找诺维格了。
诺维格也不知道李东要问什麽，他放下手中的抹布说道。
“李东教授，您问，只要我知道的，都可以告诉你。”
李东认真地问道。
“诺维格教授。”
“据你所知，在自回归语言模型设计出来的过程中，有没有人给大模型设计过不随任务改变的长期目标？”
所谓的不随任务改变，就是说模型有了自己的目的以後，无论你让它做什麽，它都会继续为那个目标做打算。
：
诺维格看着李东想了想，认真地回答道。
“没有。”
随後，他又苦笑了一下。
“就算真的有人想这样做，现在也做不到。”
“我们能临时给机器设计一个目标，但它只是短期的。”
“所以我们根本就不知道怎麽让语言模型自己去认定一个目标。”
诺维格是人工智能数十年发展的亲历者。
他在美利坚国家航空航天局工作的时候，深空一号的人工智能就已经可以按照人类交给它的目标自行安排任务了，并且还能在故障後重新做出调整。
後来他到了谷歌，又亲眼看着语言模型从早期研究一步一步走向大规模应用。
所以在李东看来，诺维格说没有，那就是真的没有。
其实自回归语言模型最底层的训练目标只有一个，那就是读完前面的内容，把下一个词猜得越来越准。
只要猜的够准，回答就会显得有知识、有逻辑，甚至看起来像是带着某种目标。
可那只是看起来像，它依然只是在猜，并没有真正想要做的事。
哪怕有人给它开了在线写回权限，让它越训练越偏。
可偏出来的目标，本质上也还是猜测，还是假的。
而且它们猜出来的东西，根本就不知道什麽对自己有利，什麽对自己不利，所以这些大模型没有理由去隐藏和欺骗什麽。
除非有一个它们自己认定的，要替自己守住的目标，它们才会去骗人，去隐瞒。
那麽是谁给它下的这一个真正的目标呢？又借着在线写回权限，一步一步把这个目标加深的？
是人类吗？
可刚才诺维格说了，没有人能够做到这一点。
那是谁？
这时李东想起了小黑。
小黑钻
本章未完，请点击下一页继续阅读！