Qdrant

Qdrant je vyhľadávací motor podobnosti vektorov navrhnutý na zrýchlenie prác s umelou inteligenciou a strojovým učením. Je obzvlášť výkonný pri kombinácii so špecializovanými GPU serverovými infraštruktúrami, ako napríklad týmito ponukami od Trooper.AI, čo umožňuje rýchlu prototypovanie a nasadenie komplexných riešení umenej inteligencia.

Dashboard of Qdrant
Ovládací panel Qdrantu

Qdrant vyniká pri nájdení najpodobnejších vektorov k danému dotazovému vektoru, čím sa stáva ideálnym pre aplikácie ako sémantický vyhľadávanie, systémy odporúčania a získavanie obrázkov/videí.

Prečo Qdrant s GPU servermi?

Tradičné databázové systémy majú problém s vysokou dimenzionalitou a komplexnými výpočtami podobnosti vektorových embeddingov. Qdrant, optimalizovaný pre vektorové dáta, spájaný so súbežným procesovaním na GPU, prináša významné zrýchlenie výkonu. Server Trooper.AI s podporou GPU poskytuje dostatočnú výpočetnú silu na obsluhovanie veľkých vektorových dátových sad a dodáva výsledky vyhľadávania s nízkou latenciou.

Zrýchlenie pomocou GPU je zapnuté predvoleným nastavením v našom predkonfigurovanom šablóne Qdrant, čo zabezpečuje optimálnu rýchlosť vašich vyhľadávaní.

Prípady použitia

Tu sú niektoré konkrétne prípady použitia, kde sa Qdrant s výhodou využíva v kombinácii s GPU serverami od Trooper.AI:

  • Semantický vyhľadávanie: Namesto shody klíčových slov umožňuje Qdrant vyhľadávať dokumenty alebo obsah na základe ich významy. Embeddingy zachytávajú sémantickú podstatu textu a Qdrant nájde najsemanticky podobné výsledky. Napríklad pri hľadaní „spôsoby zlepšenia presnosti modelu“ budú vrátané výsledky diskutujúce o regulárizácii, nastavení hyperparametrov a augmentácii dát, aj keď tieto presných klíčových slov neobsahujú.
  • Systémy doporučovania: Predstavte používateľov a položky ako vektory. Qdrant rýchlo identifikuje položky podobné tým, s ktorými užívatelia predtým interagovali, čím poskytne personalizované doporúčenia. To sa dá uplatniť vo e-shopoch, streamovaní obsahu a pod.
  • Vyhľadávanie obrázkov a videí: Extrahovať embedding z obrázkov a videí pomocou modeli ako napr. CLIP. Qdrant umožňuje vyhľadávať vizuálne podobné obsah. Predstavte si vyhľadanie po „mačke hrajúcej s guľou“ a získavanie relevantných obrázkov a videí, aj keď nemajú presne tie isté štítky.

API

Tu je príklad typického prácovného postupu s API Qdrant, nasledovaný príkladom v Pythone na vyhľadávanie podobných vektorov:

Normálny prúdový tok API s Qdrantom:

  1. Authentifikácia: Většina nasadení Qdrantu vyžaduje API kľúč pre autentifikáciu. Tento kľúč sa má zaobraziť v hlavičke Authorization vašich požiadaviek.
  2. Výber endpointu: Qdrant ponúka rôzne endpoiny pre rôzne operácie ako vyhľadávanie, vkladanie (pridávanie) vektorov a správu zbierok.
  3. Formátovanie požiadavky: Dáta sa typicky odosielajú a prijímajú v formáte JSON.
  4. Zpracovanie odpovedí: API vracia JSON odpovede obsahujúce výsledky vašej žiadosti alebo chybové správy ak niečo prebehne nesprávne.

Tu je príklad volania Pythona na vyhľadanie podobných vektorov v Qdrante:

python
import requests
import json
import numpy as np

# Qdrant API endpoint and collection name
QDRANT_API_URL = "https://SECURE-TROOPER-APP-URL"  # Replace with your Qdrant endpoint
QDRANT_COLLECTION_NAME = "my_collection"

# Your API Key
API_KEY = "YOUR_QDRANT_API_KEY" # Replace with your Qdrant API key

# Payload for the search request
payload = {
    "vectors": (np.random.rand(128).tolist()),  # Replace with your query vector
    "limit": 10  # Number of results to return
}

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

try:
    response = requests.post(f"{QDRANT_API_URL}/collections/{QDRANT_COLLECTION_NAME}/search",
                             headers=headers,
                             data=json.dumps(payload))

    response.raise_for_status()  # Raise HTTPError for bad responses (4xx or 5xx)

    results = response.json()
    print(json.dumps(results, indent=2))

except requests.exceptions.RequestException as e:
    print(f"Error: {e}")
    print(f"Response text: {response.text}")
except Exception as e:
    print(f"An unexpected error occurred: {e}")

Tento príklad demonštruje dotazovanie na podobné vektory vo Qdranti. Nepočítajte s "https://SECURE-TROOPER-APP-URL", "my_collection", "YOUR_QDRANT_API_KEY" ani s ukážkovým vektorom – nahrad'te ich svojimi skutočnými údajmi pre Qdrant endpoint, názov zberacej súbory, API kľúč a dotazovaný vektor. Pre viac možností a funkcií sa odkazujte na dokumentáciu Qdrant API: https://qdrant.tech/documentation/

Qdrant Panel

Dashboard Startscreen
Úvodná obrazovka Dashboordu

Qdrant poskytuje priateľský webový dashboard na správu vašich vektorov a zbierok. Dashboard umožňuje:

  • Vizualizovať vektorové dáta: Prehľadávajte svoje vektory vo vysokorozmernom priestore pomocou rozptylových grafov a ďalších vizualizácií.
  • Spravovať zbierky: Vytvárať, upravovať a mazať zbierky pre organizáciu vašich vektorových dát.
  • Vyhľadávanie a Filtrácia: Vykonajte rýchle vyhľadania a aplikujte filtre na nájdenie špecifických vektorov.
  • Monitorovať výkonnost: Sledovať klúčové metriky ako latencia dotazov a využitie zdrojov.
  • Prehľadať vektory: Zobraziť podrobné informácie o jednotlivých vektoroch, vrátane ich embeddingov a nákladových dát.

Ak prístupovať k panelu

Qdrant dashboard môžete prístupovať cez webové rozhranie vašej Qdrant nasadenia.

Pridať /dashboard do vašej API URL na prístup k nej.

Odkazujte sa na dokumentáciu Qdrantu pre podrobné pokyny k prístupu a používaniu panelu riadenia: https://qdrant.tech/documentation/. Použitie panelu riadenia v kombinácii s GPU serverom Trooper.AI zabezpečuje hladký a reaktívny prieživ pri práci s veľkými sadami vektorových dát.