谷歌“Transformer”论文的八位作者中的最后一位也离开了谷歌，去创办自己的公司。

谷歌在2017年忽视了Transformer的论文，这让他们损失了62亿美元——这是基金会团队基于Transformer建立的所有人工智能初创公司的总估值。现在，这篇关键论文的八位作者中的最后一位也离开了这家大型科技公司，创办了自己的公司。Llion Jones表示，他将与他的同事、前谷歌研究科学家David Ha一起，共同开创Sakana AI。

这篇题为《注意力就是你所需要的一切》(Attention Is All You Need)的论文是在谷歌的用餐时间“诞生”的，当时作者正在讨论如何让计算机高效地生成文本。在接下来的五个月里进行测试后，团队写了这篇论文，他们在当时对接下来会发生什么一无所知。他们的工作使得曾经在语言处理领域占主导地位的循环神经网络(RNNs)在很大程度上过时了。

值得注意的是，Transformer体系结构就是ChatGPT和与之相似的聊天机器人中的T。2017年的论文为OpenAI发起的生成式人工智能浪潮奠定了基础，使GPT模型能够对公众开放。Jones和他的合著者们终于得到了应得的荣誉，因为他们那篇价值10亿美元的论文在6年前被谷歌误判了。

“直到最近我才觉得……出名了？”琼斯最近告诉《华盛顿邮报》。“没有人知道我的脸或我的名字，但我花了五秒钟来解释：‘我是创造ChatGPT中‘T’的团队中的一员’。”

价值62亿美元的失败

由Aidan N Gomez，Ivan Zhang和Nick Frosst于2019年创立的Cohere，是一家专注于NLP的企业初创公司，目前它的估值已飙升至22亿美元。报告显示，最初投资的Tiger Globa将出售股份，从目前的估值来看可以获得40%的加价，这从侧面反映了这一初创公司的崛起。

另一家刚成立一年的初创公司“Adept”不仅获得了10亿美元的估值，而且今年还成功筹集了3.5亿美元的风险投资。这家初创公司由主要作者Ashish Vaswani和Niki Parmar创立，25名极简主义员工掩盖了其深远的影响。两人的创业精神超越了Adept。这家未公开的初创公司目前仍处于隐形模式，已获得由Thrive Capital领投的800万美元融资。

Noam Shazeer是这篇变革性论文的另一位作者，也是“Character.AI”的联合创始人。这家聊天机器人初创公司的估值已升至10亿美元。2023年早些时候，由Andreessen Horowitz领投的1.5亿美元融资巩固了该公司作为独角兽的地位。

故事并没有到此结束。2017年，Illia Polosukhin于2017年创立了名为“NEAR Protocol”的高性能区块链，其估值为20亿美元。最新的3.5亿美元融资是Polosukhin在四个月内的第二次九位数的融资。

提出Transformer这个名字的Jakob Uszkoreit于2021年利用深度学习和学习生活语言创立了Inception。在他担任高级软件工程师的13年期间，他建立了Google Assistant的语言理解团队，并在早期参与了Google翻译。目前Inception的价值仍未公开。随着人们逐渐认识到这一点，这篇论文的八名作者之一Lukasz Kaiser在两年前找到了OpenAI技术人员的位置，这是一个合适的结局。

他们所需要的只是关注

早在2017年，谷歌还不知道它的论文最终会被其他研究人员引用约9万次，而Transformer架构将支撑ChatGPT、Midjourney和许多其他公司。虽然谷歌与世界分享了这一发现，但该公司本身并没有立即将内容生成技术投入使用。谷歌一直让它处于休眠状态，直到首席执行官Sundar Pichai在Google I/O 2021上宣布LaMDA。

《华盛顿邮报》指出，该公司的扩张战略出了问题。据彭博社报道，在14万名员工中，有7000多人在进行人工智能的研究。相比之下，OpenAI的员工人数要少得多，到2023年，在大约375名员工中，大约有150名人工智能研究人员。

几名前员工透露，五年前，该公司庞大的员工队伍增加了某些层次，用来批准想法。此外，Polosukhin在接受采访时表示，这家搜索巨头在将创意转化为产品方面有很高的门槛。公司对死胡同和反复实验的惰性和不容忍是Transformer团队决定走出出口的另一个原因。此外，在谷歌总部之外，还有更多令人兴奋的创新，这些创新导致了人才外流。

虽然该公司一直在试验PaLM、LaMDA和Bard等模型，但仍没有迹象表明会推出一款重要的产品。虽然这项技术被谷歌束之高阁，但初创公司利用它消除了人与机器之间的语言障碍。这篇被谷歌忽视的突破性论文，让谷歌成为了自身成功的牺牲品。