近期国外大科技公司工程文摘

本周Meta 、Netflix 、Doordash 、Booking等发布的最重要、最引人注目的文章！

讨论新 8B 和 70B 参数模型的性能
解释模型架构、预训练数据、扩展预训练和指令微调
描述 Llama 3 的大规模部署及其在所有主要平台上的可用性：AWS、Databricks、Google Cloud、Hugging Face、Kaggle、IBM WatsonX、Microsoft Azure 等

2. “规模扩大到数十亿”
Canva如何构建可扩展且可靠的内容使用计数服务：

介绍Transformer技术在时尚推荐系统中的应用
解释Transformer如何利用自我注意力和位置意识来捕捉客户风格和互动：虽然 Transformer 旨在解决自然语言任务，但最近的研究已将其用途扩展到推荐系统。 Transformer 模型使我们能够通过称为自我关注的机制更好地捕捉客户的风格，并使用位置意识推断客户交互随时间的相对重要性。
自注意力使机器学习模型能够构建序列中输入的上下文感知表示。通过在处理时权衡序列中所有其他输入相对于自身的重要性，模型能够对每个输入乃至整个序列建立更丰富的理解。例如，当一双高跟鞋与一套休闲服装和更正式的服装组合时，可以有不同的解释。这种额外的背景使模型能够更好地解释产品并捕捉客户风格的本质。
位置意识使模型能够解释客户过去产品交互的顺序，并根据产品在序列中的位置破译产品的相对重要性，例如，模型可能会更重视昨天购买的产品而不是三个月前查看的产品。当客户的上下文在浏览会话之间切换以及他们的风格随着时间的推移而演变时，这使得该模型能够更好地为客户提供相关建议。
分享使用 Transformers4Rec 库在 ASOS 开发Transformer推荐系统
描述了新 Transformer 模型相对于之前模型的卓越性能，导致评估指标提高了 20%

7、《揭示系统设计中代码级可扩展性的本质》
作者：Keshavpeswani ⸱ Expedia ⸱ 4 分钟阅读 ⸱ 4 月 23 日

代码库的复杂性真正决定了系统的适应性、可扩展性和可持续性
无论高层设计多么出色，如果底层代码库缺乏可扩展性，那么对新用例的适应性就会成为一项艰巨的任务。现实世界的系统需要有远见的设计和代码的和谐结合，可以根据需要灵活地增长和适应。

描述 Netflix 联合图内反向搜索功能的开发
解释在 Elasticsearch 中使用 percolator 字段来启用反向搜索
涵盖 SavedSearches 的渗透索引管道的实现
介绍了如何使用反向搜索进行电影分类和工作流程分配
电影匹配服务提供了一种根据匹配标准的任意组合对电影进行分类的方法。在幕后，匹配标准存储为反向搜索，并且为了确定电影与哪个标准匹配，电影的文档被提交到反向搜索端点。
介绍反向搜索未来可能用于创建响应式 UI 和 GraphQL 订阅