向量數(shù)據(jù)科普
發(fā)布日期：2023/6/12 7:41:44 瀏覽量：
向量數(shù)據(jù)是一種數(shù)學(xué)表示，用一組有序的數(shù)值（通常是浮點(diǎn)數(shù)）表示一個(gè)對象或數(shù)據(jù)點(diǎn)。向量通常用于在多維空間中表示數(shù)據(jù)點(diǎn)的位置、特征或?qū)傩浴?
[0.12, 0.32, -0.5]
在計(jì)算機(jī)視覺中，圖像可以通過一組數(shù)值（即像素值）表示，這組數(shù)值構(gòu)成一個(gè)向量。每個(gè)數(shù)值對應(yīng)于圖像中一個(gè)像素的顏色強(qiáng)度。例如，一個(gè) 8x8 的灰度圖像可以表示為一個(gè)包含 64 個(gè)數(shù)值的向量。
在推薦系統(tǒng)中，用戶和物品可以用向量表示，以捕捉其特征和屬性。例如，用戶可能對電影類型、導(dǎo)演、演員等方面有偏好，這些偏好可以用一個(gè)數(shù)值向量表示。通過計(jì)算用戶向量與物品向量之間的相似度，可以實(shí)現(xiàn)個(gè)性化的推薦。
在自然語言處理中，詞嵌入是一種將文本數(shù)據(jù)轉(zhuǎn)換為向量數(shù)據(jù)的方法。例如，使用 Word2Vec 或 GloVe 算法，可以將單詞表示為一個(gè)包含多個(gè)數(shù)值的向量。這些數(shù)值捕捉了單詞的語義特征，使得相似含義的單詞在向量空間中彼此靠近。
示例：假設(shè)有兩個(gè)句子：
"這部電影很好看，值得一看。"
"這是一部非常精彩的電影，推薦觀看。"
將這兩個(gè)句子轉(zhuǎn)換為向量表示后，計(jì)算它們之間的余弦相似度。如果相似度較高，說明兩句子在語義上相似；如果相似度較低，說明它們在語義上不相似。
向量數(shù)據(jù)的結(jié)構(gòu)
向量數(shù)據(jù)的典型結(jié)構(gòu)是一個(gè)一維數(shù)組，其中的元素是數(shù)值（通常是浮點(diǎn)數(shù)）。這些數(shù)值表示對象或數(shù)據(jù)點(diǎn)在多維空間中的位置、特征或?qū)傩?。向量?shù)據(jù)的長度取決于所表示的特征維度。下面是一個(gè)簡單的例子：
假設(shè)我們有三個(gè)水果：蘋果、香蕉和葡萄。我們想用向量數(shù)據(jù)表示它們的顏色和大小特征。我們可以將顏色分為紅、綠、藍(lán)三個(gè)通道，將大小分為小、中、大三個(gè)類別。因此，我們可以用一個(gè)包含 6 個(gè)數(shù)值的向量表示每個(gè)水果的特征。
蘋果（紅色，中等大?。篬1, 0, 0, 0, 1, 0]
香蕉（黃色，大）：[0, 1, 0, 0, 0, 1]
葡萄（紫色，小）：[0.5, 0, 0.5, 1, 0, 0]
在這個(gè)例子中，每個(gè)水果都被表示為一個(gè) 6 維向量。前三個(gè)數(shù)值表示顏色信息（紅、綠、藍(lán)通道），后三個(gè)數(shù)值表示大小信息（小、中、大）。
細(xì)心的你可能會發(fā)現(xiàn)，紫色的向量表示是 [0.5, 0, 0.5]，沒錯(cuò)，這代表紫色是由紅色和藍(lán)色組成。
這種數(shù)組結(jié)構(gòu)是典型的向量數(shù)據(jù)表示。
向量數(shù)據(jù)的計(jì)算
有了向量數(shù)據(jù)，怎么用呢？這里面有沒有一些通用的計(jì)算模式？
向量數(shù)據(jù)的結(jié)構(gòu)非常簡單，但針對不同的場景，衍生出了多種計(jì)算方法。
比如最常見的有向量相似度計(jì)算：衡量兩個(gè)向量之間的相似程度。常用的相似度度量方法包括余弦相似度、歐幾里得距離、曼哈頓距離等。
這種計(jì)算模式非常普及，在推薦系統(tǒng)中評估用戶和物品的相似度，以及在自然語言處理中評估文本或單詞的相似度時(shí)非常有用。
其他計(jì)算模式，還包括加權(quán)平均、向量內(nèi)積、外積、矩陣乘法、池化、歸一化等等，這里就不再一一贅述了。
每一種計(jì)算模式，都可以映射到數(shù)學(xué)理論中關(guān)于向量、矩陣運(yùn)算，而背后的應(yīng)用場景大多集中在計(jì)算機(jī)視覺、圖像處理、文本處理、自然語言處理、神經(jīng)網(wǎng)絡(luò)等多模型通用人工智能領(lǐng)域。
支持向量數(shù)據(jù)的數(shù)據(jù)庫
ChatGPT被譽(yù)為 AGI 領(lǐng)域的『iPhone時(shí)刻』，越來越多人關(guān)注自然語言處理與通用人工智能在自己領(lǐng)域內(nèi)的應(yīng)用。
向量是 AI 世界對世間萬物的表示形式，隨著大模型等AI技術(shù)的發(fā)展和普及，向量數(shù)據(jù)的存算需求一定會得到極大的釋放。
現(xiàn)階段，大量的向量數(shù)據(jù)可能還散落在各種文件中，并沒有使用標(biāo)準(zhǔn)的向量數(shù)據(jù)庫去存。
但未來，專業(yè)的事一定是要交給專業(yè)的人。有嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)理論支撐的向量數(shù)據(jù)，也一定會逐漸下沉到標(biāo)準(zhǔn)的專業(yè)的向量數(shù)據(jù)庫中，這樣才能使得整個(gè)社會的IT成本更低，效率更高。
回顧過去，從2019年開始，一些通用的數(shù)據(jù)庫，開始增加對向量數(shù)據(jù)庫的支持，比如ElasticSearch、Redis、PostgreSQL。
Elasticsearch 本身是一個(gè)分布式全文搜索和分析引擎，但增加支持了dense_vector數(shù)據(jù)類型來存儲稠密向量。通過使用內(nèi)置的向量函數(shù)，如cosineSimilarity、dotProduct和l2norm等，可以實(shí)現(xiàn)一些基本的向量計(jì)算。
Redis 可通過一些擴(kuò)展模塊，如RedisAI和RediSearch，實(shí)現(xiàn)一定程度的向量數(shù)據(jù)處理和計(jì)算功能。RedisAI 偏深度學(xué)習(xí)模型，支持TensorFlow、PyTorch和ONNX運(yùn)行時(shí)。RediSearch 偏全文檢索，支持一些基本的文本相似度度量，如TF-IDF和Levenshtein距離等。
PostgreSQL 可通過擴(kuò)展 pgvector 實(shí)現(xiàn)一些簡單的向量計(jì)算。
這些通用數(shù)據(jù)庫雖然有一定的向量計(jì)算的能力，但它們的主要關(guān)注點(diǎn)和優(yōu)化目標(biāo)并不在此。針對這些計(jì)算模式，專門為向量數(shù)據(jù)設(shè)計(jì)的數(shù)據(jù)庫（如Milvus、Pinecone等）可能提供更好的性能和支持。
Milvus 是一個(gè)開源的向量搜索引擎，zilliz 是他們的Cloud云服務(wù)，已經(jīng)在海外上線，支持AWS，Azure，GCP，國內(nèi)基于阿里云的版本也即將在5月份對外發(fā)布。
Pinecone 的定位是做AI的持久化存儲，提供 Cloud 云服務(wù)，基于GCP和AWS。
Milvus和Pinecone都是專為向量數(shù)據(jù)設(shè)計(jì)的數(shù)據(jù)庫，它們在處理大規(guī)模、多維度向量數(shù)據(jù)和計(jì)算模式方面具有較強(qiáng)的能力，特別是在向量搜索和相似度計(jì)算方面，具有更低的查詢延遲和更高的準(zhǔn)確性，支持豐富的距離度量方法，如歐幾里得距離、余弦相似度、漢明距離、曼哈頓距離等。
對于其他類型的向量計(jì)算任務(wù)，Milvus和Pinecone都可以與其他工具（如 NumPy、TensorFlow 等）結(jié)合使用。
類似的產(chǎn)品還有Weaviate ，它是一個(gè)開源的知識圖譜和語義搜索引擎，支持向量數(shù)據(jù)的存儲和檢索。除了向量搜索功能外，Weaviate 還提供了豐富的知識圖譜操作和查詢功能，如 GraphQL 查詢。Weaviate 集成了模型訓(xùn)練和轉(zhuǎn)換功能，可以自動生成和優(yōu)化向量表示。
業(yè)務(wù)實(shí)施流程 馬上咨詢： 如果您有業(yè)務(wù)方面的問題或者需求，歡迎您咨詢！我們帶來的不僅僅是技術(shù)，還有行業(yè)經(jīng)驗(yàn)積累。
QQ: 39764417/308460098 Phone: 13 9800 1 9844 / 135 6887 9550 聯(lián)系人：石先生/雷先生