12. Integrasi Multi-LLM AI Assistant

Ringkasan

Aplikasi mencakup layer adapter AI terpadu yang mendukung Google Gemini AI, Groq LPU API, OpenAI (ChatGPT), dan Anthropic Claude, serta dilindungi oleh sistem pengaman Rate Limiter.


Cara Kerja

Seluruh panggilan asisten AI dialirkan melalui aiProcedure di src/server/api/routers/integration.ts. Prosedur ini menerapkan pembatasan laju akses (*rate limit* maksimal 5 permintaan per menit per IP/User) untuk mencegah habisnya kuota API key Anda akibat penyalahgunaan.

mermaid
graph TD
    Client["Client Chat / Fitur AI"] -->|Mutasi aiChat| RateLimiter["Rate Limiter (5 req/menit)"]
    RateLimiter -->|Lolos| ActiveCheck["Cek activeAiProvider"]
    ActiveCheck -->|gemini| Gemini["Google Gemini API"]
    ActiveCheck -->|groq| Groq["Groq LPU API (Super Cepat)"]
    ActiveCheck -->|openai| OpenAI["OpenAI GPT-4 API"]
    ActiveCheck -->|claude| Claude["Anthropic Claude API"]
    RateLimiter -->|Terlampaui| Error["Eror 429 Too Many Requests"]

Berkas Terkait

  • src/server/api/routers/integration.ts — Router tRPC untuk mutasi AI & uji koneksi
  • src/lib/rate-limit.ts — Sliding window rate limiter pengaman AI endpoint
  • src/components/sticky-chat.tsx — Komponen widget AI Chatbot