计算商品embedding然后平均得到用户embedding,会不会存在这种问题?
因为在高维空间中的平均,会依然离原来的点特别近,离其他的点特别远?
我们假设这样一个情形,在空间中取4个点{A1..A4},取平均得A‘可以看作 User Embedding,再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。

在二维空间中特别明显,A‘ 大概率离B点集更近一些。我们跑个模拟,看看随着维度的变高,有什么变化。

可以看到,在低维度的时候,取平均会更像其他的 Item,但随着 Embedding 维度的增加,User Embedding 最近的点几乎全是A集中的点,依然在那几个 Item Embedding 的附近,而离其他的 Embedding 更远一些。
所以并不会是“四不像”,而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
继续阅读
全部内容Alexandr Wang 和 Lecun,谁对 Meta 更重要?
谢邀。作为一名身处硅谷一线的AI创业者,这个问题恰好击中了我一直在思考的核心。它看似在比较两个人,实则是在拷问一家科技巨头在当下这个“大重构”时代,究竟该如何选择自己的生存之道。 长话短说,我的核心观点是:在这个充满不确定性的时代,最重要的不是“做对”,而是通过快速试错来获得“信息增量”。因此,谁能帮助Meta更快、更...
为什么苹果公司在ai领域起了个大早赶了个晚集?
我有一个妙计,既然 Meta 最近在疯狂招人,不如 Apple 来一个釜底抽薪,直接收购 Meta,直接解决 Apple 在 AI 领域的问题。 下面是 AI 给出的详细计划: 苹果收购 Meta 的“神级”实施计划 0 · 战略总述 1. 一步到位补齐 AI 短板 Meta 正在用「Zuck Bucks」千金砸人,疯...
Meta 宣布成立「超级智能实验室」,其豪华团队阵容透露了哪些信息?未来可能会在哪些方面发力?
多数人把 Meta 超级智能实验室(MSL)看成一场“更大模型”军备赛。但我认为,扎克伯格真正想造的不是下一只 GPT,而是一套“AI 原生操作系统”——一个结合数据供应链、开发者生态和跨端硬件的全栈平台。模型只是其中一个可替换的插件,而不是终局。 团队构成指向“数据炼油厂 + 开发者平台” Alexandr Wang...

