Společnost Amazon
V posledních několika měsících společnost Amazon implementovala několik vylepšení v oblasti inteligentního směrování výzev. Tato vylepšení vycházela ze zpětné vazby od zákazníků a z rozsáhlého interního testování. Cílem je usnadnit automatizované optimální směrování mezi velkými jazykovými modely
Uživatelé nyní mohou používat Amazon Bedrock Intelligent Prompt Routing s výchozími směrovači výzev poskytovanými společností Amazon Bedrock nebo si mohou nakonfigurovat vlastní směrovače výzev. To umožňuje lineární přizpůsobení výkonu mezi výkonem obou kandidátních routerů LLM. Výchozí promptní směrovače poskytuje společnost Amazon Bedrock pro každou modelovou řadu. Tyto směrovače se dodávají s předdefinovanými nastaveními a jsou navrženy tak, aby fungovaly po vybalení z krabice s konkrétními modely základů. Nabízejí přímočaré řešení připravené k použití bez nutnosti konfigurovat jakákoli nastavení směrování.


































