陈然的公开内容

作为一个日常工作中有超过 50% 时间都在与各种大模型对话的人，想跟大家分享一下我在使用各个主流模型时的一些体验和感受。 Google Gemini 系列 优点： 1. 极其便宜：无论是免费额度还是付费使用，价格都非常有优势。 2. Context Window 超级大：1-2M 的上下文长度，基本能覆盖绝大部分任务场...

引言 在人工智能时代，机器学习团队的管理具有独特的复杂性。与传统软件团队不同，机器学习团队往往汇聚了算法研究、数据工程和业务应用等多学科人才 (Author Q&A: Effective Machine Learning Teams | Thoughtworks United States)。团队需要跟进行业最新研究进...

最近，AI 社区里流传着这样一句话——“通用大模型很强，但我并不需要我的应用去给我背诵法文诗歌。” 这句话听上去有点调侃，却反映了一个重要现象：许多企业和开发者在早期会选择大型通用模型（例如 GPT-4）去快速验证想法，但真正想要落地到生产环境，往往发现必须在速度、成本和“专用领域准确度”之间做权衡。 于是，“微调（F...

你有没有想过，把自己的人生当作一场“模型训练”？就像训练一个神经网络那样，不断试错、微调，直到获得更优解。也许，这个思路能帮你跳脱对“失败”“起点”以及“目标”的传统认知，轻装上阵去学习、成长并迭代自我。 一、为什么要把“机器学习思维”用在“人类学习”上？ 我们常常把“学习”当作去获取知识、技巧，却容易忘了最重要的那一...

分享一下我的观察。建议选择计算机专业，原因有这么几个： 首先是基础课程的完整性。计算机专业会学习编程、数据结构、操作系统、计算机网络等等基础课程。这些看似和机器学习关系不大，但当你真正在业界做 AI 应用的时候，这些基础知识反而成了最重要的部分。我见过太多数学专业转行的同学，在处理工程问题时非常吃力，因为缺乏这些基础知...

做机器学习已经十年了，见证了从深度学习爆发到大语言模型崛起的整个过程。记得在2013年我在CMU读书的时候，就在文章里写到"机器学习会爆发式发展"。现在回头看，确实走过了一段令人惊叹的旅程。 但机器学习的发展会更快： 第一个预测，机器学习工程师会成为一个标准化的、可替代的职业。就像过去的机械工程师、电气工程师一样，随着...

编程最大的难点其实都不在这些技术层面上，而是在于如何把一个复杂的现实问题转化为计算机可以理解和执行的形式。 我之前中提到过一个观点："部署、运维等工具的逐渐标准化使得重复造轮子的需求越来越弱，越来越多的工程师核心任务并不是研发，而是整合（Integration）。"这背后的深意是：现在的编程工作，难点已经从"如何实现"...

这篇文章是我2017年写的草稿但一直没有发布，那时候 Google 刚刚提到 AI First 的战略，互联网的迭代重点还是以推荐系统和深度学习为核心。时至今日 LLM 的出现让这个问题有了些许答案，想了想还是把文章发布出来。 推荐系统的胜利 过去五年,机器学习在推荐系统领域的研究,给高科技企业带来了巨大的收益。我们在...

上两周写了个文章希望大家有空能一起在网上聊聊天，本以为无人问津，有点出乎我的意料第一周就有几位来约。有国内的本科生，有国内工作的大佬，也有在美国的工作大佬。聊的话题也天南地北，有喜欢问问题让我多说话的，也有我说一句对方能说十分钟我就静静听着的。总体还是非常有意思的过程。 当然也有被放鸽子的，等了30分钟也没有人来，善意...

方法是有不少的，比较常见的一个方向是做方差缩减（Variance Reduction[1]）。这里分享一篇来自 Netflix KDD 2016 年的文章 Improving the Sensitivity of Online Controlled Experiments: Case Studies at Netfli...

机器学习工程师小月最近一直在研究新的深度学习算法。相对于现有的算法框架，新算法要求兄弟团队一块搭建了不少新的框架，也选用了一些以前不太熟悉的库。经过了三个月的准备，终于可以上线AB测试了。 但是AB测试效果老是不好 经过了几个月的迭代，效果依然不佳，仅仅只比手动排序更好，与现有的模型相比效果差距甚远。离线数据 AUC，...

大部分答案都在写公式，我来聊聊直觉上的东西。 设想一下你要做一个分类器，区分狗和炸鸡。首先假定我们只有两个数据，那么这条线会很容易画，自然而然就会画在正中间。 这个时候，我们加入一个新的数据，这个狗跟现有的数据差别很大。这个时候，分类线应该画在哪里？ 这就是 SVM 跟其他线性模型很不一样的地方了，SVM 这条分类线不...

这就是典型的 overfitting 嘛，自欺欺人地刷数据。有限数据，天赋异禀，看着训练集，靠着随机函数丢硬币丢出完美符合的测试集的 if-else，拿到完美指标。刷就是了。 不过这是所有公开数据集都难以避免的，毕竟所有的数据都开放了，只要数据有限，不管怎么分，总有可能过拟合。所以刷数据的论文主要是看个 insight...

K-NN 算法好啊，特别是深度学习出来后万物皆可 Embedding，几乎啥问题都可以转换成为两者 Embedding 的相似度问题，不管是分类、回归、排序等等，Embedding + K-NN 打分简单易行。 而且 K-NN 线上服务也特别好做，简单，速度快。如果 Embedding 数量特别多，也有很多近似 K-N...

有业务能上机器学习模型了，算法工程师小月开心地不行。毕竟作为一名机器学习工程师，口袋子藏着无数陈年老模型：线性模型、树模型、深度模型、增强学习，要啥有啥。业务一来，恨不得立刻就掏出最炫酷的模型，一步到位。 但是，第一个模型，一定要简单 正当小月兴奋着呢，经理大圆泼了一瓢冷水，“第一个模型，一定要简单”。 第一个次迭代往...

一个新的产品需求来了，产品经理总会提前很久就来找机器学习的团队，讨论能不能在第一版上线中就加入“神奇的”机器学习排序算法。 “我也是想呢，但是不行“。 我们当然想着用机器学习去帮助每一个产品，但是在实践中，最早的版本不应该考虑机器学习算法。 原因 背后的原因有很多。 第一当然是数据。不管是有监督还是无监督算法，或多或少...

最近在团队分享了旅游网站 Booking 在 KDD 2019 年的文章150 Successful Machine Learning Models: 6 Lessons Learned at Booking.com，里面提到了一些有意思的“坑”，分享一下。 Booking.com 网站界面 线上线下结果不一致 做机器...

因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？ 我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。 在二维空间...

机器学习入门真的好难，我也经常被问到这个问题，但是我并没有特别好的回答。 对于新手而言，有四座大山：数学基础、算法模型、机器学习应用、常见工具。市面上常见教材都主要关注算法模型，而很难兼顾另外几个方面，所以学习的过程中最常见的问题就是这公式是咋推的？我学这个有啥用？模型懂了咋实现？ 一本教材解决不了所有问题，机器学习的...

这个问题太好了！记得这大概是个三年前的问题，每年都会有新的答案让我持续学习。三年多前我作为最早的机器学习工程师之一加入 Tubi，从零开始设计招聘题目和流程，搭建团队，陆陆续续也面试了大好几百次了。这里的答案大多聊的是常见的机器学习面试题目，我提供一个不一样的角度，从业务负责人的角度聊聊如何根据业务需要设计题目，大家也...

这个题目“隐性”一词特别精髓。作为工程师团队本身肯定有很多成本：招聘、团队维护、系统搭建、硬件支持等等，但是这都是“显性”的，所有的工程师团队都会有。而算法团队由于其独特的性质，自然会有一些其他的额外的成本。 这里的几个想法主要是针对中小型公司，以业务为主线，没有前中后台之类的架构一说。毕竟大公司资源丰富，靠堆人和砸钱...

记得20年前曾经有个特别火热的“72小时网络生存测试”，要求受试者只借助互联网在72小时内生存下去。当时的互联网不发达，大部分日常吃喝都很难只通过互联网得到保障，有些选手无法保证基本的温饱而退出了比赛。仅仅20年的时间，互联网等技术的出现，使得我们的生活发生了天翻地覆的变化，已经不少人仅仅依靠互联网就可以解决衣食住行几...

哈哈，看到了不少同学都提到了我们常年“招人”，这确实是 Tubi 的现状，太缺人了。 不管是国内还是美国的程序员，都不是 Tubi TV 典型的用户，所以对 Tubi 的规模其实不太了解: 我们在2019年6月宣布了两千万的月活用户[1]（MAU），根据 The Verge 2019年1月的文章[2]，Hulu 有两千...

今天，我们的 VP 佘昶 (Chang 是大家喜爱的 Python 库 Pandas 的第二位核心作者，在 Tubi 负责数据、机器学习等业务) 发表了一篇博客: 比图科技：打造一家模型驱动型公司 - Tubi 数据与机器学习平台简介 谈到了 Tubi 的数据工程，机器学习，算法驱动。内容非常丰富，值得深入阅读。借这个...

作为一直劝入机器学习的从业者，也分享一下我的想法。 首先，机器学习工程师也跟其他的工程师一样，有个有起有落的过程。在浪潮来的时候，各个公司疯狂投入，便会疯狂招人，而随着风口平静下来，公司回归理性，便会开始衡量 ROI。放弃不值得做的业务，把资源放在 ROI 更合适的地方。 思考浪潮，就要思考 ROI，哪些领域更难被替代...

在不少互联网产品中，机器学习的应用，比如信息流中的排序算法、推荐系统等，已经成了最重要的产品体验。好的推荐系统对应好的产品体验，差的推荐系统对应糟糕的产品体验。 然而，哪怕作为最重要用户体验的基石，绝大多数公司对于它的开发和迭代都是一团浆糊。 由于不能直接观测一个人的对于推荐系统的喜好，而要同时观测一百万、一千万用户的...

Tubi 的机器学习团队很小，只有五六人，一半在旧金山，一半在北京 @比图科技。我们开放机器学习工程师的职位很多，作为面试官和 Hiring Manager，会面试两边的候选人。虽然题目是相似的，但是往往表现却不太一样。 资深的工程师写不写代码 因为团队小，我们对于招聘的工程师定位，都是至少是资深工程师，能够独立完成项...

作为招聘方，绝望的是到现在为止一位应届机器学习工程师都没有招到…… 说出来你们可能不信，哪怕经过简单的简历筛选过后，还是至少有一半的人算不出简单的概率题，回答不出来基本的机器学习概念，甚至哪怕在 Google 的帮助下也写不出一个简单机器学习的训练验证流程。还有人说的出“我主要做深度学习，所以不太了解训练集和测试集的区...

最近知乎一个爆火的问题：2019 秋招的 AI 岗位竞争激烈吗？ 让人真是感叹良多。 几年前机器学习还是小众的领域，接触过的人并不多。而两三年内突然爆火，人人转 AI，导致应届生数量爆炸，企业接受到的简历远远超过需求，不得不把候选人导向其他的岗位。 甚至已经出现了劝退党，把劝退的魔抓从生物化工，也延伸到了AI、数据科学...

谢邀 看到问题详情中贴出来了我当年毕业的艰辛求职经历，还是一定要来回答一下避免误导大家。 先说结论：硅谷大小公司状态不同，两者对于机器学习相关人才的需求都极大：大公司体系成熟门槛高，优先招资深工程师，New Grad 以优秀 PhD 为主；而小公司往往机器学习业务刚刚开始，组都不大，主要招能够独当一面的资深工程师，对于...