OpenWebUI & Ollama

Podnikové nasadenie s OpenWebUI ⚙️🔒

OpenWebUI poskytuje robustnú základňu pre implementáciu podnikových interních riešení chatu na úrovni podniku 📊✨. Jeho architektúra umožňuje organizáciám vyvíjať bezpečné, šľachtné komunikačné pracové prúdy pohánané umelou inteligenciou, priliehavé k požiadavkám podnikov.

Nasadené v plne zodpovedajúcej GDPR infraštruktúre 🛡️🌍, OpenWebUI zaručuje ochranu údajov od začiatku až do konca pri udržiavaní operačnej efektívnosti. Platforma kombinuje bezpečnostné opatrenia štandardných priemyselných noriem s flexibilnými možnosťami konfigurácie, čím sa stáva ideálnym riešením pre korporátne prostredie, kde je dôležitým predpokladom utajenosť a dodržovanie predpisov 🎯📋.

Hlavné výhody zahŕňajú:

• ✅ Bezpečné autentifikačné protokoly
• ✅ Prístupové práva na základe rôl
• ✅ Možnosť auditného logovania
• ✅ Integracia s existujúcimi IT ekosystémami

Kľúčové funkcie a schopnosti

• Pokročilé webové rozhranie: Intuitívna čatová skúsenosť prístupná priamo cez váš prehliadač.
• Vylepšené možnosti API: Zlepšená správa kontextov chatu a jednoduchšia integracia s externými aplikáciami.
• Optimalizované využitie modelov: Predinštalované modely pripravené na okamžitú používanosť.
• Integrované prostredie: Úplne predkonfigurované prostredie vrátane nastavení portov a potrebných konfigurácií.
• Zabezpečené a prispôsobiteľné: Jednoduchá nastavenie na zabezpečené priepisky a užívateľské konfigurácie.

Inštalácia

Pridaním šablóny „OpenWebUI & Ollama“ na váš server Trooper.AI GPU sa nainštaluje úplne automaticky. Ak chcete, môže aj priamo stiahnuť model jazykového modelu (LLM) z ollama.com pre vás. Nastavenie si môžete vybrať v dialógu Konfigurácia šablón.

Samozrejme však môžete stiahnuť modely cez OpenWebUI aj po inštalácii.

Dodatočné možnosti:

• Aktualizovať nainštalované:
  Táto možnosť stiahne najnovšie zdroje pre Ollamu a OpenWebUI. Použite ju len v prípade potreby a overte všetko potom.
  Samozrejme môžete aj ručne stiahnuť cez terminál, ale nepokladajte si za samozrejmé, že závislosti budú automaticky nainštalované.
  Táto funkcia vykoná všetko za vás – pohodlné a automatické!

• Aktivovať zdravotnú kontrolu:
  Nastavte toto na ano, aby sa zapnula kontrola funkčnosti, ktorá overí, že služba Ollama beží a odpovedá cez svoj vnútorný API.
  Ak nie je takto, automaticky restartuje službu kontrola funkčnosti.
  Skript sa nachádza na ceste /usr/local/bin/ollama-health.sh, a službu možno ovládať pomocou:
  sudo service ollama-health spusti/zastavi/stav.
  To je zvlášť užitočné pre produkčné servery.

Prístup k OpenWebUI

Po nasadení vášho inštančného serveru Trooper.AI s šablónou OpenWebUI & Ollama prístupte k nemu cez svoju bezpečnú URL:

🔒 https://your-secure-hostname.trooper.ai

Ďalej kliknite na číslo portu vedľa šablóny OpenWebUI:

Pri prvom pripojení nastavíte počiatocné priečiny pre prihlásenie. Uistite sa, že tieto údaje uchovávať bezpečne, pretože budú potrebné na ďalšie prístupy.

Odporúčané použitie

Šablóna OpenWebUI & Ollama je ideálna pre:

• Spoločenská spolupráca cez AI chatu
• Nasadenie osobných umelých asistov
• Rýchly vývoj a prototypovanie konverzačných aplikácií umelnej inteligencie
• Použitie API a vytváranie/pojímanie agentov ako náhrady za OpenAI API
• Vzdelávacie účely a výskumné aktivity

LLM modely, ktoré si vyzeriť

Podľa našej vlastnej presvedčenosti – tu máte niekoľko modelov na začiatok:

• GPT-OSS: Model s otvorenými váhami od OpenAI, vhodný pre rozumové úlohy, agentické úkoly a vývoj. Efektívne beží na instancech Explorer, Conqueror (16 GB VRAM) a Sparbox (24 GB VRAM). https://ollama.com/library/gpt-oss:20b
• DeepSeek-R1: Vysokoúčinný otvorený model na rozumové úlohy srovnateľný s O3 a Gemini 2.5 Pro. Optimalizovaný pre stroje StellarAI so 48 GB VRAMu. https://ollama.com/library/deepseek-r1:70b
• Gemma 3: Momentálne jedna z najschopnejších modelov na použitie s jedným grafickým procesorm. Napája Trooper.AIho James na inštanciách Sparbox. https://ollama.com/library/gemma3:27b

Nájdite viac LLM tu: https://ollama.com/search (Všetky sú kompatibilné s OpenWebUI!)

Technické predpoklady

Požiadavky na systém

Uistite sa, že využitie VRAM vašho modelu nepredčí 85 % kapacity, aby ste zabránili významnému poklesu výkonnosti.

• Doporučená GPU VRÁM: 24 GB
• Úložisko: Aspoň 180 GB voľného priestoru

Predkonfigurované prostredie

• Ollama a OpenWebUI sú predinštalované a plne integrované.
• Nastavenia portov a všetky potrebné konfigurácie sú už zriadené, bez potreby ďalšieho manuálneho nastavovania.
• Inštalačné adresáre a prostredia proměnných sú preddefinované pre okamžitú použitie.

Trvalosť dát

Všetky čatové interakcie, konfigurácie modelov a nastavenia užívateľa sú bezpečne uložené na vašom serveri.

Pripojenie cez kompatibilnú API vo forme OpenAI

OpenWebUI poskytuje rozhranie API kompatibilné s OpenAI, čo umožňuje bezproblémovú integráciu so nástrojmi a aplikáciami podporujúcimi formát OpenAI. To umožňuje vývojárom pracovať s samohostovanými modely ako napríklad llama3 ako keby komunikovali s oficiálnou API OpenAI – ideálne na vloženie konverzačnej umelej inteligencie do vašich služieb, skriptov alebo automatizovaných procesov.

Prvé kroky: Príprava

API je predvoleným spôsobom povolené, ale overte v šablónovej konfigurácii:

Následne povolte vytváranie API klúčov pre všetkých používateľov:

Potom prejdite na Skupinu a Predvolenú skupinu, aktivujte vytváranie API klúča, kliknite na uložiť:

To aktivuje Endpoint:

Níže sú dva fungujúce príklady: jeden pomocou Node.js a druhý pomocou curl.

Príklad na Node.js

const axios = require('axios');

const response = await axios.post('https://your-secure-hostname.trooper.ai/api/chat/completions', {
  model: 'llama3',
  messages: [{ role: 'user', content: 'Hello, how are you?' }],
}, {
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer YOUR_API_KEY'
  }
});

console.log(response.data);

Uistite sa, že volania API používajú /api/... alebo spíše /v1/... ako je vyžadovaný formát pre OpenWebUI.

Príklad pre cURL

curl https://your-secure-hostname.trooper.ai/api/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "llama3",
    "messages": [
      { "role": "user", "content": "Hello, how are you?" }
    ]
  }'

Nahradte Váš_API_Kľúč skutočným tokénom vygenerovaným v rozhraní OpenWebUI pod Užívateľ → Nastavenia → Účet → API Kľúče. Neprechádzajte do správcovského panela, prístup k API je špecifický pre uživateľa! Pozrite sa tu:

Potom prejdite sem:

Túto API môžete použiť s nástrojmi ako LangChain, N8N, FlowWise, NodeJS-OpenAI, LlamaIndex alebo akýmkoľvek kódom podporujúcim špecifikáciu OpenAI API.

Aktualizácia OpenWebUI

Verziu vašej OpenWebUI môžete jednoducho prepnúť. Dôležitá informácia – zníženie verzie môže poškodiť vašu databázu! Vždy sa posúvajte vyššie alebo kontaktujte podporu.

Prezrieť všetky verzie na GitHub tu: https://github.com/open-webui/open-webui/releases

Ak nechcete aktualizovať cez systém šablón, môžete akokoľvek spustiť nasledujúce príkazy na aktualizáciu oboch – OpenWebUI aj Ollamy:

# Update OpenWebUI:
# 1. Zum OpenWebUI-Verzeichnis wechseln
cd /home/trooperai/openwebui
 
# 2. Repository aktualisieren
git pull
 
# 3. Frontend-Abhängigkeiten installieren und neu bauen
npm install
npm run build
 
# 4. Backend: Python-Venv aktivieren
cd backend
source venv/bin/activate
 
# 5. Pip aktualisieren & Abhängigkeiten neu installieren
pip install --upgrade pip
pip install -r requirements.txt -U
 
# 6. OpenWebUI systemd-Dienst neu starten
sudo systemctl restart openwebui.service
 
# (optional) Update Ollama:
curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl restart ollama.service

Zakázať OpenWebUI

Ak chcete ušetriť niekoľko VRAM, môžete OpenWebUI vypnúť takto:

sudo systemctl disable --now openwebui.service

Aby sa znova aktivoval OpenWebUI, spustite cez Terminál:

sudo systemctl enable --now openwebui.service

Podpora a ďalšia dokumentácia

Pri potrebe podpory pri inštalácii, pomocí s konfiguráciou alebo odstraňovaním problémov prosím kontaktujte podporu Trooper.AI priamo:

• E-mail: [email protected]
• WhatsApp: +49 6126 9289991

Dodatočné zdroje a pokročilé prírŭčky na konfiguráciu:

• GitHub repozitár OpenWebUI
• Oficiálna dokumentácia Ollamy