Momby Admin
AI Architecture Overview
Katmanlı Mimari
Gateway → Orchestrator → Provider
AI istekleri gateway üzerinde doğrulanır, orchestrator katmanında güvenlik ve knowledge enrichment süreçlerinden geçer ve policy motoru sayesinde doğru modele yönlendirilir.
AI Gateway
API key doğrulama, rate limit, schema guard ve policy engine hook'ları burada uygulanır.
- •Request validator & schema kontrolü
- •Policy engine tetikleme
- •Rate limiter + auth katmanı
Orchestrator
Use-case registry'den metadata, safety pre-check ve RAG context üretimi bu katmanda gerçekleşir.
- •Use-case metadata ve risk seviyesi
- •Safety pre-check + medikal escalation
- •RAG retrieval & context builder
Model Providers
OpenAI, Anthropic ve self-hosted modeller dinamik routing ve failover kurallarıyla yönetilir.
- •Cost/Risk tabanlı model seçimi
- •Provider health monitoring
- •Fallback zinciri (OpenAI → Anthropic → Custom)
Observability Layer
AIEvent şeması, metrics ve distributed tracing bu katmanda toplanır ve görselleştirilir.
- •Structured logging (AIEvent)
- •Latency & cost ölçümleri
- •CorrelationId ile tracing
Request Flow
Uçtan Uca Pipeline
Aşağıdaki adımlar her AI çağrısında sırasıyla çalışır ve observability layer'ı üzerinden detaylı şekilde izlenir.
1. Gateway
API key doğrulama, policy evaluation, rate limit ve request schema validation.
2. Orchestrator
Use-case registry lookup, safety pre-check, RAG pipeline ve context oluşturma.
3. Routing
Risk/cost/policy kurallarına göre model seçimi, provider failover ve safety-based fallback.
4. Post-processing
Moderation layer, medikal güvenlik ve kullanıma özel post-processing (template, redaction vb.).
5. Observability
AIEvent loglama, metrics & traces, cost tracking ve audit log güncellemeleri.