Google представила архитектуру Titans: новый шаг в развитии ИИ

Google продолжает удивлять мир новыми разработками в области искусственного интеллекта, представляя архитектуру Titans. Эта система становится следующим шагом в развитии ИИ, приближая его к когнитивным способностям человека.

Трансформеры, представленные компанией более семи лет назад, положили начало эпохе генеративного ИИ. Однако архитектура Transformer имеет свои ограничения. Основная проблема — отсутствие долговременной памяти, что делает её менее эффективной для задач, требующих сохранения и анализа информации на протяжении длительного времени.

Похожие записи

Titans решает эту проблему, добавляя модули кратковременной и долговременной памяти. Это позволяет системе сохранять важные данные и возвращаться к ним, как студент возвращается к своим записям. Более того, «метрика сюрпризов» помогает ИИ выделять ключевые моменты, нарушающие ожидаемый ход событий, и записывать их в долговременную память.

Новая архитектура способна анализировать огромные объёмы информации, сохраняя высокую точность. Например, в медицине Titans может использоваться для обнаружения аномалий в данных пациента, сравнивая их с нормой. В науке и финансах система сможет выявлять ключевые отклонения и прогнозировать развитие ситуаций.

Тесты показали, что Titans сохраняет эффективность даже при обработке данных с контекстом выше 2 млн токенов, чего не могут добиться современные модели.

Однако технология находится на ранней стадии, и её широкое применение может столкнуться с трудностями. Это касается как системных требований, так и вопросов конфиденциальности данных. Тем не менее, Titans уже демонстрирует перспективы, делая ИИ более «человечным» в его способностях к познанию и анализу.