第348章饥不择食的meta
华国古代有句谚语，叫“山中方七日，世上几千年”，尼兰詹现在的感觉和这句谚语差不多。
他简单洗漱一下就被带往了meta在纽约的总部，扎克伯格用虔诚的表情看着他：“巴拉苏布拉马尼安教授，我知道你在人工智慧领域有着超出寻常的造诣。”
尼兰詹心想，自己这麽难念的姓氏，扎克伯格能念得如此清晰，也真难为他了。
紧接着，扎克伯格的话就开始出乎他意料了。
我在人工智慧领域有着超出寻常的造诣？尼兰詹在思考这句话，是不是又有什麽坑，不过转念一想扎克伯格这样的大佬，世界顶级富豪，不至于要坑他啊。
而且自己身为石溪分校人工智慧领域的教授，说超出寻常的造诣，倒也不是不行。
“我确实对人工智慧颇有自己的一番见解。”尼兰詹微笑着说道，过去一年多被监狱折磨的日子终于过去，他要迎来新生，自信的笑容丶从容的坐姿丶睿智的大脑终于在他大脑内又占据了上风。
扎克伯格听完后笑得更开心了，“不愧是伦道夫的教授，我就知道你肯定不一般！”
扎克伯格把尼兰詹从监狱里捞出来，倒也没费多大功夫，毕竟他可是驴党长期铁杆合作夥伴，给驴党不知道捐了多少钱。
尼兰詹又不是真的犯事了，联邦调查局调查来调查去也没找到尼兰詹和阿波罗登月的关系，没有找到有决定意义的证据。
之前一直关着他，不过是因为把他当背锅的，一名没有任何背景的印度裔教授，来承担华国21世纪率先登月的黑锅，好像还挺合适。
但当扎克伯格出手时，尼兰詹又变成了微不足道的小人物，他轻而易举就把对方给捞了出来。
而且对方能被关一年多，说明应该确实有两把刷子。
“巴拉苏布拉马尼安教授，你对大语言模型怎麽看？”扎克伯格问道。
尼兰詹大脑开始高速运转起来，毕竟这可是关乎到自己的安危啊！得表现出价值，他才能在外面一直被保释，甚至是无罪释放。
他内心苦笑了一声：这叫什麽事，自己明明就无罪，现在居然还要表现出价值才能无罪，这国怎？
“我认为这是一个很有发展潜力的方向，我前几年在acl会议上发表的论文《deforr:dposgpre-traedtransforrsforfasterquestionanswerg》针对的就是transforr-basedqa模型的痛点-全层输入宽自注意力导致计算慢和内存高予以解决，我提出deforr，一个分解的transforr变体。
在较低层，deforr用问题宽和段落宽自注意力替换全自注意力，避免问题和段落序列的交叉计算。
这允许独立处理输入文本，实现段落表示的预计算，从而大幅减少运行时计算。
deforr结构与transforr相似，可直接用预训练权重初始化，并在qa数据集上微调。
我们的实验显示，deforr版本的bert和xl在qa任务上加速4.3倍以上，仅通过简单蒸馏损失损失1%准确率。”
尼兰詹说的是他2020年在acl会议上发表的论文，是当时llm优化领域的经典工作，当时llm流行的模型叫bert，这篇论文直接构建在预训练transforr上，llm的瓶颈，也就是计算成本，在下游任务中凸显，这篇则一定程度上提出了解决思路。
“包括我在2020年的另外一篇工作，其实和llm的核心，也就是多层注意力有着类似的核心逻辑”
尼兰詹自然不是水货，他在人工智慧领域确实浸淫多年，有不错的成果，手上有好几篇顶会文章，都和llm有关。
那还是2020年，当时大模型还名不见经传呢，在人工智慧领域属于边缘化的方向。
扎克伯格是花了很多冤枉钱，把脸书改名meta错误估计了元宇宙的到来时间，但不代表他没脑子，单纯因为尼兰詹是林燃的教授，就找他来。
尼兰詹自己真有几把刷子，也是很重要的原因。