Prekladová infraštruktúra pre agentéra
Väčšina prekladových API bola navrhnutá v čase, keď "preklad" znamenal, že človek vložil text do webového formulára. FluentC bolo navrhnuté pre to, čím je preklad dnes: agent, ktorý volá API tisíckrát za hodinu, uprostred pracovného postupu, očakávajúc odpoveď skôr, než si to používateľ všimne.
Tá zmena mení všetko pod API — ako funguje cacheovanie, ako sa spracúvajú dávky, ako je štruktúrované stanovovanie cien, ako sa správajú limity rýchlosti. Postavili sme okolo neho nový systém.
Jeden produkt. Niekoľko pohyblivých častí. Tu je prehliadka.
Každá sekcia odkazuje na hlbšiu stránku, ak chcete celý príbeh.
Jeden koncový bod, tri vstupné formáty, jedno UUID pre autentifikáciu.
POST /ai_agent/translate spracúva text, HTML a JSON. Vyberte si vstupný formát, cieľový jazyk a či chcete odpoveď vrátiť synchronne alebo ako dávkovú úlohu. To je celková plocha povrchu.
Overenie je jedno UUID v hlavičke autorizácie. Žiadna výmena tokenov, žiadne knižnice klienta na začatie. curl funguje. n8n funguje. Nástroj LangChain funguje. Čokoľvek držíš, funguje.
curl -X POST https://api.fluentc.io/ai_agent/translate \ -H "Authorization: 4f3a-uuid-...-9c2e" \ -H "Content-Type: application/json" \ -d '{ "input_format": "json", "target_language": "es", "mode": "sync", "content": { "title": "Hello", "body": "Welcome" } }' # 204ms · 200 OK { "translation": { "title": "Hola", "body": "Bienvenido" }, "target_language": "es", "tm_hit": false, "request_id": "tx_8f3a72c4" }
Keď je agent uprostred rozhovoru a potrebuje odpoveď okamžite.
Synchronous žiadosť, preložený text v odpovedi, žiadne prieskumy.
Za scénou je obsahovo adresovaný vyrovnávací pamäť s kľúčom založeným na SHA256(target_language + input)Druhýkrát, keď sa rovnaký reťazec objaví, úplne vynecháte model — rovnaký preklad, rovnaký kľúč, rýchlejšia odpoveď.
Toto je dôležitejšie, než sa zdá, že by malo byť. Viacjazyčný chatbot odpovedajúci ahoj v dvanástich jazykoch bude neustále pristupovať k tejto cache.
Keď máte 50 000 riadkov a potrebujete ich všetky naraz.
Odoslať úlohu, získať a job_id späť, spýtajte sa na výsledky, keď budete pripravení. Pracuje pre Google Sheet, katalóg produktov, adresár súborov JSON i18n — čokoľvek.
JSON je správne spracované: vnorené štruktúry sú prechádzané, každá reťazcová hodnota je prekladaná samostatne a paralelne, a pôvodný tvar je na konci znovu zostavený. Kľúče zostávajú kľúčmi. Štruktúra zostáva štruktúrou.
To isté job_id je bezpečné hlasovať navždy — je to deterministický hash vášho vstupu, nie náhodný lístok. Znova odošlite rovnaký obsah a dostanete späť rovnaké ID úlohy a rovnaký uložený výsledok.
Zaplaťte raz za "Pridať do košíka". Navždy.
Pamäť prekladov je databáza prekladov, za ktoré ste už zaplatili. Príště raz, keď sa rovnaký reťazec objaví, neplatíte znova — a odpoveď je rýchlejšia, pretože nezasiahne model.
Väčšina prekladových API si účtuje poplatok za každý znak vždy, keď ich použijete. My nemáme. Pre e-commerce katalógy, podporu makier a akýkoľvek produkt s opakujúcimi sa reťazcami, odtiaľ pochádza väčšina úspor.
Môžete tiež prepísať špecifické preklady na základe jednotlivých stránok keď chcete iné zobrazenie ako predvolené modelom Vyrovnávacia pamäť rešpektuje vaše prepísania.
Katalóg, ktorý by ste očakávali, prispôsobený podľa agenta, ktorý sa pýta.
Hlavné európske jazyky, hlavné ázijské jazyky, arabčina, hebrejčina, hindčina a dlhý chvost za tým.
Zoznam je uložený v cache a je dostupný na GET /ai_agent/languages, obmedzené na to, čo ste povolili na svojom agente.
Pridajte alebo odstráňte jazyky zo svojho panelu. Každý agent má svoj vlastný povolený súbor — takže agent Shopify prekladajúci do desiatich jazykov a interný podporný agent prekladajúci do troch môžu existovať pod rovnakým účtom.
Päť vecí, ktoré stojí za to vedieť, ak hodnotíte.
Identický vstup + cieľový jazyk je zásah do vyrovnávacej pamäte. Žiadne prekvapenia s "nepresnou zhoda", žiadne fakturovanie za volanie pri opakujúcich sa reťazcoch.
Opätovné odoslanie rovnakého vstupného súboru dávky vráti rovnaké ID úlohy. Idempotentný navrhnutý.
Pozadie prekladových úloh sa opakovane pokúša o opätovné spracovanie pri časových limitoch modelu (5 pokusov, exponenciálne oneskorenie) a obmedzeniach rýchlosti (10 pokusov, s rešpektovaním Retry-After). Nemusíte to stavať sami.
Dokument s 200 reťazcovými hodnotami nebeží 200 sekvenčných volaní modelu — rozšíri sa a znovu zloží.
Celé API je dostupné z curl. SDKs existujú, ak ich chcete; nie sú nevyhnutnosťou.
Špecifikácia OpenAPI je zverejnená na /ai_agent/swagger.yml a interaktívne dokumenty na /ai_agent/docs.