Modellen

EU GPT draait een zorgvuldig gekozen set open-weight large language models, gehost op Europese infrastructuur. Modelselectie op de API gebeurt automatisch — de router kiest altijd. Geef "model": "auto" mee; dat is de default en de enige zinvolle waarde.

Auto-routing (altijd aan)#

De router selecteert het beste beschikbare model op basis van:

• Of de request diepe redenering, retrieval of snelle responstijd nodig heeft.
• De lengte en complexiteit van de input.
• Operationele kosten bij vergelijking van modellen met vergelijkbare capaciteiten.

Waarom automatische selectie een voordeel is:

• Slimme selectie. De router presteert in de meeste gemengde workloads beter dan handmatig gekozen model-ID’s — task-classificatie is goed genoeg dat één hard-gecodeerd model kwaliteit op tafel zou laten liggen.
• Automatische upgrades. Wanneer we een nieuwer, sterker model aan de catalogus toevoegen, profiteert elke caller dezelfde dag zonder code-wijziging.
• Veerkracht. Als een backend overbelast of kort niet beschikbaar is, routet de router eromheen.

Het daadwerkelijk gebruikte model wordt in de response gerapporteerd:

{
  "model": "gpt-oss-120b",
  "output_text": "…"
}

Of, in de stream, via het response.routing.completed-event (waar beschikbaar).

Versioning-beleid#

• Modelselectie is altijd automatisch. Het auto-contract is “kies het beste beschikbare model”, en dat contract is stabiel — maar het is nooit een belofte geweest, en is dat ook niet, over welk specifiek model u ontvangt.
• De set modellen waaruit de router mag kiezen verandert naarmate de levenscycli van providers evolueren. Deze wijzigingen hebben geen invloed op het contract van auto.

Migratie-meldingen verschijnen in de Changelog.