Разработчики выпустили ИИ-генератор кода Supermaven с контекстным окном 300 тыс. токенов. Компания отмечает, что это в разы больше, чем возможности GitHub Copilot. Разработчикам удалось добиться этого благодаря нейросети, построенной на новой архитектуре. Её обучили с нуля, а не адаптировали уже готовое решение.
Представители проекта Supermaven отмечают, что разработчики всё чаще начинают использовать ИИ-генераторы кода на ежедневной основе. Из-за популярности подобных инструментов большие компании пытаются сократить расходы на обслуживание нейросетей, ограничивая контекстное окно. При этом чем больше контекстное окно, тем больше кода за один раз может обработать языковая модель. Поэтому компаниям приходится искать баланс между экономией и удобством для пользователей.
Команда Supermaven разработала и обучила нейросеть на новой архитектуре, которая обеспечивает контекстное окно в 300 тыс. токенов. При этом сохраняется высокая скорость работы, а такое масштабное увеличение контекста не сказывается отрицательно на стоимости обслуживания модели в облаке. Для сравнения, Microsoft недавно увеличила контекстное окно Copilot до 8192 токенов.
В блоге проекта отметили, что возможности Supermaven позволяют языковой модели за 10-20 секунд проанализировать репозиторий, включающий в себя кодовую базу продукта, методы API, документацию и стайлгайды. С помощью этой информации нейросеть будет генерировать не просто работающий код, но и идеально вписывающийся в проект. В блоге Supermaven отмечают, что GitHub Copilot генерирует качественный код только с теми API и библиотеками, которые находились в датасете.
Ещё одна особенность Supermaven заключается в том, что нейросеть видит код как последовательность внесённых изменений, как если бы разработчик выполнил команду git diff. Это позволяет языковой модели не только генерировать код, но и проводить полноценный рефакторинг.
Сейчас Supermaven доступен в виде расширения для VS Code и поддерживает более 70 языков программирования. ИИ-помощник работает по подписке, которую можно оформить за 10 долларов в месяц или 99 в год. Можно активировать пробный период на 30 дней.
