✨ API Blibs LLM Inferentie

Snelstart

Gebruik een SDK die compatibel is met OpenAI. Wijs deze simpelweg toe aan je Trooper.AI route-endpoint:

curl https://router.trooper.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_TROOPER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "clara",
    "messages": [{"role": "user", "content": "Hello!"}],
    "max_tokens": 512
  }'

Waarom GPU-loze LLM-inferentie beter scoort dan zelfhosten

Eigen grote taalmodellen draaien op je eigen infrastructuur betekent dat je rekening moet houden met GPU's, stuurprogramma-updates, CUDA-versies, modelgewichten, schaalbaarheid en beveiligingspatches – alles voordat er een enkel token gegenereerd wordt. Met API Blibs sla je alle lagen van die stack over. Onze volledig beheerde LLM-inferentie-endpoints geven je toegang tot state-of-the-art open-source modellen – zoals Google Gemma 4, Mistral Ministral 3 en NVIDIA Nemotron 3 Nano – zonder dat je één enkele GPU hoeft te configureren. Verzoeken worden verwerkt via geoptimaliseerde vLLM-backends met automatische lastenverdeling, wat consistente responsen met lage latenties garandeert, zelfs bij zwaar verkeer. Geen kosten voor stilstaande GPU’s als de API niet gebruikt wordt, geen operationele lasten en geen verrassingsrekeningen – alleen puur inferentie op aanvraag.

Voor teams die zelfgehoste LLM-deployments afwegen tegenover beheerde AI-inferentie, is de berekening eenvoudig: API Blibs elimineren volledig het GPU-aankoopproces en de MLOps-laag, terwijl ze u dezelfde modellen, dezelfde kwaliteit en snellere tijd tot productie bieden.

API Blibs vs. de Concurrentie

Bij het kiezen van een beheerd LLM-inferentieaanbieder in Europa ga je afwegen tussen prijs, gegevensresidentie en operationele eenvoud. Zo vergelijk je API Blibs met de belangrijkste cloudalternatieven.

Geldig vanaf april 2026. "Concurrentie" weerspiegelt algemene patronen bij grote beheerde LLM-inferentieaanbieders. Individuele aanbodopties kunnen variëren. Geen garantie op nauwkeurigheid of volledigheid.

Kernpunt: Grote cloudproviders bieden wel gegevensresidentie binnen de EU — maar dat kan gaan gepaard met eisen aan deelname, extra kosten of afhankelijkheid van het ecosysteem. API Blibs levert je direct EU-gelokaliseerde, GDPR-voldoende inferentie op maat, met minimale instellingen en transparante tarificatie per token.

Ondersteunde modellen – Geoptimaliseerde open-source LLMs voor productie

API Blibs bieden u toegang tot zorgvuldig geselecteerde open-source modellen, geoptimaliseerd voor productieworkloads op onze vLLM-inferentie-backends. Elk model wordt gekozen omwille van zijn prijs-prestatieverhouding, dekking van Europese talen en heldere licenties.

liv – Google Gemma 4

De meest kosteneffectieve optie – een compacts multimodaal model dat tekst, afbeeldingen, audio en redeneren in één oproep verwerkt. Ideaal voor hoogvolume-taken waar de kosten per token het belangrijkst zijn, van classificatie en samenvatting tot beeldondertiteling en audiotranscriptie.

clara — Mistral Ministral 3

Een snel visiegeoriënteerd model, ontworpen voor hoge doorvoer. Met sterke prestaties op het gebied van Europese talen, analyse van meerdere afbeeldingen en gestructureerde extractie tegen een middenklasseprijs – ideaal voor documentverwerking, OCR-pijplijnen en klantgerichte chatbots die beeldinformatie moeten verwerken.

nikola — NVIDIA Nemotron 3 Nano

De krachtpatser voor redeneren. Een mixture-of-experts-architectuur die diepgaande redeneringskracht en sterke codering mogelijk maakt bij efficiënte inferentiekosten. Ideaal voor codegeneratie, complexe redenatieketen, functieaanroepen en agent-based workflows.

Alle modellen worden aangeboden via OpenAI-compatibele endpoints. Wissel tussen routes door de parameter voor het model aan te passen. model geen aanpassingen in de code vereist.

LLM-API-toepassingen voor Europese bedrijven

Documentextractie & RAG-pijplijnen

Voer PDF's, afbeeldingen en gescande documenten toe aan visiegeoptimaliseerde routes zoals clara of liv. API Blibs converteren automatisch PDF's naar pagina-afbeeldingen en normaliseren beeldinputs – uw RAG-pijplijn ontvangt zo schonere, gestructureerde gegevens zonder voorafgaande verwerkingsstappen. Gecombineerd met gegarandeerde JSON-modus verkrijgt u betrouwbare gestructureerde uitvoer voor verdere indexering.

Klantgerichte chatbots en virtuele assistenten

Implementeer AI-gedreven chat met reactietijden van minder dan een seconde en volstrekte GDPR-voldoening. Configureer een vrije systeemprompt via het beheerdashboard, maak gebruik van functie-aanroepen voor achtergrondintegraties en laat automatisch contextcompressie langere conversaties beheren zonder reikwijdtebeperkingen. Met nul gegevensretentie blijven klantgesprekken volledig onopgeslagen.

Codegeneratie & Ontwikkelaarsgereedschappen

Nikola verwerkt complexe coderingstaken met diepgaand redeneren en nauwkeurige functieaanroepen. De OpenAI-compatibele API integreert direct met ontwikkelaarsomgevingen – zoals VS Code-extensies, CI/CD-pijplijnen en codebeoordelingsbots – door slechts de basis-URL aan te passen.

Meermodale workflows – Visie, Audio & PDF

liv verwerkt afbeeldingen, audiobestanden en PDF's in een enkele API-aanroep. clara richt zich specifiek op hoogresolutie-visietaken. Afbeeldingen worden automatisch geoptimaliseerd (metagegevens verwijderd, aangepast aan formaat, SSRF-g gevalideerd) en PDF’s worden serverside omgezet naar pagina-afbeeldingen. Er is geen voorverwerking nodig aan de kant van de client.

Batchclassificatie & Gegevensverrijking

Voer classificatie, taggen, sentimentele analyse of entiteitsherkenning op grote schaal uit. Met prijsberekening per token en geen vaste kosten betaal je alleen tijdens de verwerking. Combineer dit met gegarandeerde JSON-modus voor machinaal leesbare output die rechtstreeks in jouw datapipeline kan worden geïntegreerd.

Veelgestelde vragen over API Blibs

Word mijn gegevens opgeslagen of gebruikt voor trainen?

Nee. API Blibs maakt gebruik van een volledig stateless, RAM-enige architectuur. Jouw prompts en afrondingen worden verwerkt in het geheugen en direct na teruggave van de respons verwijderd. Er wordt geen logbestand bijgehouden voor prompts of afrondingen, er vindt geen opslag plaats en uw gegevens worden niet gebruikt voor modellering. Facturatiemetadata (aantal tokens, transactie-ID’s) blijft bewaard zoals vereist door fiscale wetgeving.

Kan ik functieaanroepen en tool use gebruiken?

Ja. Alle API Blib-routes ondersteunen OpenAI-compatibel functie-aanroepen. Definieer uw tools in het standaardparameterveld. tools de parameter en het model geeft gestructureerde functie-aanroepen terug in het antwoord. Werkt op alle routes.

Wat gebeurt er als mijn invoer de contextwindow overschrijdt?

In plaats van je verzoek af te wijzen, comprimeert API Blib automatisch het midden van het gesprek om binnen de contextwindow van het model te passen. Je ontvangt een compleet antwoord zonder dat het begin of einde van jouw conversatie wordt weggelaten.

Ondersteunt u streaming?

Ja. Standaard SSE-streaming via de stream: true parameter, volledig compatibel met de OpenAI SDK-streaminginterface.

Hoe schakel ik over van OpenAI naar Trooper.AI?

Éénregelige aanpassing. Pas je base_url to https://router.trooper.ai/v1 en vervang je API-sleutel. Het aanvraagformaat, responsschema en het gedrag van de streaming blijven identiek.

Welke EU-regio's zijn beschikbaar?

Je kunt verzoeken doorsturen naar Duitsland (DE), Nederland (NL) of bredere EU-endpoints. Kies je voorkeurregio in het beheerdashboard of via de API.

Wat als het model vastloopt in een redeneringslus?

API Blibs bevat een 'thinking rescue'-functie – wij detecteren wanneer het model vastloopt in een redeneringslus en herstellen automatisch, zodat je altijd een bruikbare reactie ontvangt in plaats van een timeout of leeg antwoord.

Is de gegarandeerde JSON-modus echt gegarandeerd?

Ja. Bij een verzoek om JSON-output controleren wij de structuur van het antwoord. Mocht het model geen geldig JSON produceren, dan wordt u niet in rekening gebracht voor die aanvraag.

Moet ik afbeeldingen of PDF’s voorverwerken voordat ik ze verstuur?

Nee. Afbeeldingen worden automatisch genormaliseerd (metagegevens verwijderd, aangepast op het maximale resolutie van het model en beveiligd gecontroleerd). PDF’s worden serverside omgezet naar pagina-afbeeldingen. U stuurt ruwe bestanden; wij regelen de rest.

Welke certificeringen hebben uw datacenters?

Alle infrastructuur wordt gehost in ISO/IEC 27001-gecertificeerde colocatie-datacenters in Duitsland en de Europese Unie. Met GDPR-voldoening, zonder opslag van prompts of voltooide antwoorden en een beveiligde API-interface, voldoen API Blibs direct aan de veiligheidseisen voor bedrijfsomgevingen.

Integratiehandleidingen – Sluit uw stack aan op API Blibs

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

response = client.chat.completions.create(
    model="clara",
    messages=[{"role": "user", "content": "Summarize this document."}],
    max_tokens=1024
)

print(response.choices[0].message.content)

Node.js (OpenAI-SDK)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://router.trooper.ai/v1",
  apiKey: "YOUR_TROOPER_KEY",
});

const response = await client.chat.completions.create({
  model: "nikola",
  messages: [{ role: "user", content: "Write a unit test for this function." }],
  max_tokens: 2048,
});

console.log(response.choices[0].message.content);

LangChain (Python)

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY",
    model="clara",
    max_tokens=1024
)

response = llm.invoke("Extract all dates from the following text: ...")
print(response.content)

LlamaIndex

from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    api_base="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY",
    model="nikola",
    max_tokens=2048
)

response = llm.complete("Explain the EU AI Act in simple terms.")
print(response.text)

cURL met Visie (Afbeelding als invoer)

curl https://router.trooper.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_TROOPER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "clara",
    "messages": [{
      "role": "user",
      "content": [
        {"type": "image_url", "image_url": {"url": "https://example.com/invoice.png"}},
        {"type": "text", "text": "Extract all line items from this invoice as JSON."}
      ]
    }],
    "max_tokens": 2048,
    "response_format": {"type": "json_object"}
  }'

AI-Compliantie voor Duitse en EU-bedrijven

De EU AI-wet – Wat het betekent voor uw AI-infrastructuur

De EU AI-verordening (Verordening 2024/1689) treedt op 2 augustus 2026 breed in werking en introduceert het eerste uitgebreide juridische kader ter wereld voor kunstmatige intelligentie. Voor bedrijven die actief zijn in Duitsland en de EU betekent dit nieuwe verplichtingen op gebied van transparantie, documentatie en risicobeheer – met boetes tot maximaal €35 miljoen of 7% van de mondiale jaaromzet.

Hoewel de wet voornamelijk gericht is op leveranciers en gebruikers van hoogrisico-AI-systemen (zoals AI die wordt toegepast bij werving, kredietwaardigheidsbepaling of kritieke infrastructuur), moet elke organisatie die AI gebruikt begrijpen waar hun systemen zich bevinden in het risicopyramide-model – en ervoor zorgen dat hun inferentie-infrastructuur voldoet aan de compliance-eisen.

Waarom uw inferentieprovider van belang is

Zelfs voor minimale en beperkte risico-AI-toepassingen benadrukt de EU AI-wet transparantie en databestuur. Het kiezen van een inferentieleverancier die opereert binnen de EU, geen gegevens opslaat en heldere documentatie biedt, vereenvoudigt uw nalevingspositie:

• Gegevensresidentie: De wet moedigt verwerking binnen de EU aan. API Blibs draaien uitsluitend op ISO/IEC 27001-gecertificeerde datacenters in Duitsland en de EU – er vertrekt geen gegevens uit het gebied.
• Geen logboekvoering van prompts of antwoorden: Geen opslag van invoerprompts of gegenereerde teksten: API Blibs gebruikt stateless, RAM-only inferentie. Er vindt geen opslag plaats van prompts en afwerkingen, wat zorgwekkende aspecten rondom datalogging, bewaringstermijnen en verzoeken voor toegang tot gegevens onder GDPR elimineert. Factureringsmetadata blijft beperkt tot wat wettelijk voorgeschreven is voor belastingdoeleinden.
• Doorzichtigheid: Heldere prijsstelling per token, gedocumenteerde modellspecificaties en een beveiligde API-omgeving maken het eenvoudig om uw AI-keten te documenteren – een cruciale vereiste voor Auftragsverarbeitung (gegevensverwerkingsovereenkomsten) volgens de AVG en de transparantie-eisen van de komende AI-wet.
• Geen modellering op uw gegevens: Uw invoer wordt nooit gebruikt voor het trainen of verfijnen van modellen. Volledige scheiding van gegevens vanaf ontwerp.

GDPR + AI-wet: Dubbele naleving

Duitslandse ondernemingen dragen een dubbel conformiteitsrisico: de AVG (van kracht sinds 2018) en de AI-verordening (fasegewijs handhaving tot 2027). Beide kaders vergen dat u aantoonbaar maakt dat persoonsgegevens rechtmatig, transparant én met voldoende beschermingsmaatregelen worden verwerkt. Een Amerikaans inference-aanbieder zonder EU-dataresidentie schept onnodige regelgevingscomplexiteit – u dient afhankelijk te zijn van Standaard Contractuele Bepalingen, adequatiebeoordelingen uit te voeren en grensoverschrijdende gegevensstromen te documenteren.

API Blibs elimineren deze complexiteit: alle verwerking vindt plaats binnen de EU, zonder opslag van prompts of voltooide resultaten en met ISO-gecertificeerde colocatie-infrastructuur. uw databeschermingsfunctionaris kan een heldere, volledig binnen de EU gebleven datastroom documenteren – zonder gegevensoverdracht naar derdelanden.

Bedrijven uit de financiële sector (onderworpen aan BaFin-regulering), gezondheidszorg en andere gereguleerde branches

Voor bedrijven in gereguleerde sectoren – zoals fintech (onderworpen aan BaFin-regulering), healthtech, legal tech en de publieke sector – zijn de eisen nog hoger. Auditeurs verwachten:

• Aantoonbare gegevensresidentie binnen de EU of specifieke lidstaten
• Geen gegevenslekken naar derdenystemen of trainingspijplijnen
• Duidelijke documentatie van de AI-keten en subverwerkers
• Incidentresponsprocedures en herstelmechanismen

API Blibs dekken de volgende vier aspecten: routings op landenniveau (Duitsland, Nederland), geen opslag van prompts of uitkomsten (factureringsmetadata blijven beschikbaar conform belastingwetgeving), gepubliceerde modelspecificaties en automatisch herstel met zelfherstellende endpoints.

Klaar om te beginnen met Compliant AI Inferentie

Je hoeft geen langdurig aanbestedingsproces door te lopen om een GDPR- en AI Act-conforme LLM-inferentie te implementeren. Maak een Trooper.AI-account aan, vul vooraf betaalde crediten bij en begin met het maken van API-oproepen – de hele infrastructuur is al gecertificeerd, alle gegevens blijven binnen de EU, en er is niets op het vlak van compliance die je moet configureren.

Voor vragen over een Auftragsverarbeitungsvertrag (AVV / DPA) of specifieke compliance-eisen, neem contact met ons op via [email protected] of bel +49 6126 9289991.