离开Google

天下没有不散的筵席,十月是我在 Google 的最后一个月。我在 Google 工作了 6 年,离开时我的工龄超过了公司 90% 的员工!这篇文章算是一个简短的告别声明,以及对我在那里职业生涯的小结。

Google 自然语言生成团队 ~2018

在 Google 的整个任期内,我都在研究 NLP 中一个特定的问题——自然语言生成。我甚至在 2017 年和 Google Cloud 合作制作了一个关于这个话题的 YouTube 视频

关于 NLG 的 YouTube 视频

自然语言生成的梦想是制造一台能以完美的流畅度用任何语言进行对话和文字交流的计算机。当然,语言真的很复杂,用正确的方式说正确的事需要的远不止好的语法。机器翻译和 GPT-3 等大语言模型的进步已经有效地解决了如何让计算机”可信地”像人类一样写作。然而,让深度学习模型达到完美的质量则完全是另一回事。我们团队发表了一篇论文,展示了即使在极其狭窄的领域和语言集合上,做到这一点也是多么困难。

对”完美生成式语言模型”的不懈追求带我踏上了语言学、机器学习基础设施、数据科学和 NLP 领域中相当美妙的冒险。我去了各种各样的地方,包括伦敦、苏黎世和香港,在那里我与许多往往比我更聪明、更有才华的人相处、学习和成为朋友。

旅行

深度学习是令人惊叹的技术,但将它应用于现实世界的问题真的很难,往往不是因为模型本身的能力不够,而是因为其他一切——数据、评估、质量和服务。这些方面现有的解决方案感觉还不成熟,即使在 Google 这样的地方也是如此,像我们这样的团队通常选择投资建设定制系统。

我开始思考一种根本不同的深度学习接口——一种技术表达力强,但关键是简单易用的接口——适用于任何问题、任何人。这让我跟进了一家种子阶段创业公司的面试机会,那里有一位我认识多年的同事和一位声明式机器学习的先驱。这将是我下一份工作的地方。

作为一个坦诚的绿色气泡大使(iPhone 用户),离开 Google 无疑是一个苦乐参半的时刻。总的来说,我非常感激 Google。我学到了很多,能遇到和共事许多优秀的同事,我感到无比幸运。未来,有一天能回到生成式语言(或音乐!)模型的问题上就好了。现在,我很期待看看在一艘更小、更有风险的船上是什么感觉,希望能做出让最前沿的深度学习技术变得极其易用的东西。

告别