Google представи Titans и MIRAS – следващото поколение AI за свръхдълги контексти

Google представи нова архитектура за работа с дълги последователности Titans и теоретичната основа MIRAS, която съчетава скоростта на рекурентните мрежи с точността на трансформърите. Компанията заяви, че този подход помага на моделите да запомнят по-добре важните детайли в много дълги контексти – от големи документи до геномни данни. Класическите трансформъри революционизират механизма за внимание: моделът […]

Прочети цялата публикация