Embedding

Embedding(嵌入)是把词句的「含义」转换成数字坐标的技术。就像在地图上给每个句子标出坐标一样,意思越相近的句子,坐标就越靠近。「推荐狗狗零食」和「宠物犬营养品」几乎没有重复的词,但在嵌入坐标上却是邻居。

这为什么重要?因为计算机终于能够「按含义而不是按词语」来比较内容了。以前的搜索需要出现相同的词才能找到,而基于嵌入的搜索(语义搜索)即使表达方式不同,只要意思相通就能找到。

这是AI产品幕后使用最广泛的组件。搜索、推荐(「与本文相似的文章」),以及RAG中「查找相关资料」的步骤,全都靠嵌入运转。文章中一旦出现「向量数据库」「语义搜索」这类词,说的就是嵌入。

「用新的嵌入模型提高了搜索准确率」——意思是把用于语义搜索的「含义坐标」做得更精细了。

1. 试着对聊天机器人这样说:「把下面五句话按意思相近的分组:①推荐一下狗狗零食 ②股市大跌了 ③狗狗吃什么营养品好? ④韩国综合股价指数大幅下跌 ⑤明天会下雨吗?」
2. ①③会被分为一组,②④会被分为一组——尽管它们几乎没有重复的词。这是按「含义的距离」分组的,而衡量这个距离的坐标,就是嵌入。
3. METAL LAB文章底部的「相关文章」也是靠同样的原理挑选出来的——即使表达方式不同,嵌入也能找到内容相通的文章。