Jak to funguje a co to zatím neumí
BetterTranslator spouští překladový model na vašem vlastním počítači. Tato stránka popisuje, co aplikace umí dnes, a označuje, co je postavené, ale nedokončené.
Co to je
Desktopová překladová aplikace pro Windows určená softwarovým týmům. Překládá slova, věty i celé dokumenty a indexuje projekt, na který ji nasměrujete, takže se zachová zavedená terminologie. Modely běží lokálně.
Aplikace WPF na .NET 10, dodávaná jako samostatný spustitelný soubor. Minimem je Windows 10 build 19041 nebo novější a jediným cílem sestavení je win-x64.
Tři cesty dovnitř, jeden engine
Okno, příkazová řádka a nástrojové rozhraní pro agenty nejsou tři implementace. Všechny tři sestavují úlohu stejnou továrnou, spouštějí stejné kontroly a zapisují do stejné historie chatu.
- Okno, což je samotná aplikace.
- Příkazová řádka bt, bezhlavá a určená pro skripty. Přečíst přehled příkazů
- Rozhraní nástrojů pro agenta, kterým se mluví přes Model Context Protocol. Přečíst dokumentaci k agentovi
Co se vrátí
Každý formát má vlastní záruku, co přežije cestu tam a zpět. Nic se nevykresluje znovu ze syntaktického stromu.
| Formát | Co je zaručeno |
|---|---|
| JSON | Překládá se hodnota po hodnotě, nikdy jako jeden blok. Klíče se modelu nikdy neposílají. Každá odpověď se vloží zpět přes bajty, které hodnota zabírala, takže zbytek souboru se vrátí beze změny. |
| Markdown | Dokument se parsuje a odesílá se jen próza, každá odpověď se vloží přes text, který nahradila. Nadpisy, seznamy, tabulky, citace, bloky kódu, cíle odkazů a obrázků, surové HTML a front matter zůstávají bajt po bajtu stejné. Text odkazů a alternativní text obrázků se překládá. |
| Jakýkoli jiný textový soubor | Zachovává si počet řádků. |
| PDF, DOCX | Čte se stejnými čtečkami, jaké používá okno, a zapisuje se zpět jako text, protože ani jedno nelze zapsat zpět na místě. Soubor pojmenovaný terms.pdf se změní na terms.pdf.cs.txt. |
Zástupné tokeny se před odesláním textu vyzvednou za číslované sentinely a potom se vrátí zpět. Týká se to složených závorek, tokenů ve stylu printf, značek podobných HTML, adres URL, hexadecimálních barev a zalomení řádků. Dávka, která se vrátí špatně, se zopakuje po jedné hodnotě.
Formát, pro který není čtečka, se odmítne jménem, místo aby se zprznil, a zámkové soubory Office se přeskakují.
Jazyky
Jeden registr 51 jazyků napájí výběr v okně i seznam jazyků, který čte agent. Je to množina jazyků, o které lze požádat, nikoli množina, kterou daný model podporuje.
Každý řádek nese dostupnost podporováno, neověřeno nebo nepodporováno pro vybraný model. EuroLLM zveřejňuje seznam jazyků uvnitř souboru modelu, takže se jeho řádky rozhodnou tak či onak. TranslateGemma žádný takový seznam nezveřejňuje, takže u něj každý řádek hlásí neověřeno a neověřený řádek zůstává volitelný.
Výběr zdrojového jazyka zatím není, takže se u textu na vstupu předpokládá angličtina.
Úsilí a modely
Ovládání úsilí volí model a jeho rozpočet tokenů zároveň. Fast spouští EuroLLM s menším rozpočtem, Thinking spouští TranslateGemma 4B GGUF s větším.
Úsilí má přednost před výběrem modelu v Nastavení, který je jen záložní volbou, když model daného úsilí není nainstalovaný. Oba modely se hledají podle názvu souboru, nikdy podle cesty složené z identifikátoru v katalogu.
Kontext zdarma a jediný přepínač, který to mění
Ve výchozím stavu je kontext chatu zdarma. Každé odeslání staví celý prompt z vlastního textu. Dlouhý chat nestojí víc než nový a žádný chat nemůže prosáknout do jiného. Ověřeno proti skutečnému modelu: stejná věta odeslaná nastudeno a znovu po osmdesáti nesouvisejících odesláních se vrátí bajt po bajtu stejná.
Čip Memory v nabídce plus je jediný přepínač, který přidává znalost projektu. Přispívá dřívějšími dvojicemi z tohoto chatu, pasážemi z indexovaného projektu nebo složky a projektovým glosářem, s limitem 3000 znaků.
Český glosář, který se s aplikací dodává, je ukázka, ne výchozí nastavení. Nic se neuplatní, dokud si v Nastavení neuložíte vlastní.
Zbylá dvě rozhraní tutéž myšlenku vystavují jinak. Na agentním rozhraní je paměť volbou jen u textového nástroje a je vypnutá, dokud si ji nevyžádáte. Na příkazové řádce se u textu zapíná ručně, zatímco soubor nebo složka se vždy překládá se zapnutou pamětí.
Když engine odpověď odmítne
Nad každým odesláním běží sada kontrol, která může odpověď odmítnout. Záznam to pak řekne, pojmenuje kontrolu, která ho zastavila, a nabídne opakování.
Zpráva delší než jeden řádek prochází cestou pro dokumenty po jednotkách. Kontrola, která odmítne jeden řádek, stojí ten řádek, ne celou zprávu. Opakování je nové losování s jiným semínkem vzorkování. Runtime seeduje deterministicky, takže shodný požadavek vrátí shodné bajty.
Kontroly se mohou mýlit, a když se mýlí, platí to čtenář. Dvě takové vady jsou zaznamenané, obě nalezené překladem skutečného vloženého textu a obě opravené v tom, co kontrola měří.
Kde to běží a kde se to ukládá
Inference jde přes BetterRuntime, ploché rozhraní v C nad llama.cpp, s jednou samostatnou knihovnou pro každý backend. Model se načítá v hlídaném podřízeném procesu, protože nativní runtime může spadnout způsobem, který žádný spravovaný handler nezachytí. Odeslání, které na to narazí, spustí nový podřízený proces a zkusí to znovu.
Data za běhu leží pod vaším profilem: %LOCALAPPDATA%\BetterTranslator
Co aplikace posílá a co neposílá, má vlastní stránku. Přečíst stránku o bezpečnosti
Co není dokončeno
Přehnaný popis je horší než krátký. Každá položka je do určité míry hotová a na žádnou se zatím nedá spolehnout.
- Všechny tři varianty runtime jsou postavené, změřené a zapojené a každou lze stáhnout z instalátoru nebo z její karty v Nastavení. Spuštěna byla jen cesta přes CPU. Ani jedna cesta s odlehčením na GPU nebyla vyzkoušena na skutečném hardwaru.
- Cesta pro dokumenty byla spuštěna se skutečným modelem nad čtyřmi dokumenty Markdown z příkazové řádky. Tlačítko Přeložit soubor v okně zatím nebylo sledováno se skutečným modelem za ním.
- Režim pracovní plochy Memory je hotový a zamčený. Rozsahy Projekt a Složka nesou visací zámek a jejich volba nic neudělá.
- Mapa dohledávání zatím není postavená.
- Výběr zdrojového jazyka neexistuje.
- Zatím nebylo publikováno žádné sestavení, takže z tohoto webu není co instalovat.