Как стать автором
Обновить

Моя лента

Тип публикации
Порог рейтинга
Уровень сложности
Предупреждение
Войдите или зарегистрируйтесь, чтобы настроить фильтры
Статья

Как сделать голосовой интерфейс к LLM

Уровень сложностиСредний
Время на прочтение8 мин
Количество просмотров3

В конце февраля на Бали прошел фестиваль Lampu, организованный по принципам знаменитого Burning Man. По его традиции, участники самостоятельно создают инсталляции и арт-объекты.

Мы с друзьями из кемпа 19:19, вдохновившись идеей католических исповедален, придумали сделать свой AI Confession Room, где любой желающий мог бы поговорить с искусственным интеллектом.

Читать далее
Рейтинг0
Комментарии0

Новости

Статья

Golang: bytes.Buffer изнутри

Уровень сложностиСредний
Время на прочтение16 мин
Количество просмотров287

Работая с кодом на Go, любому специалисту приходилось сталкиваться со стандартным пакетом bytes . Внутри него лежит определение Buffer . Что же это такое?

Читать далее
Рейтинг0
Комментарии0
Статья

Искусство общения с LLM: Гайд по техникам Prompt Engineering

Уровень сложностиСредний
Время на прочтение8 мин
Количество просмотров385

Привет, Хабр! Меня зовут Никита Кулин, ML-Engineer NLP моделей.

В этом гайде мы поговорим о подготовке к prompt-engineering, о базовых принципах написания промпта, про его структуру и про типы решаемых задач, о продвинутых техниках через рассуждения для повышения качества ответа и снижения вероятности появления галлюцинаций. Гайд будет полезен для всех, кто начинает погружаться в промптинг.

Это мой первый пост, поэтому буду рад любой обратной связи!

Читать далее
Всего голосов 4: ↑1 и ↓3-2
Комментарии0
Статья

От первокурсника до программиста: история 4 лет обучения в ВУЗе на программиста

Уровень сложностиПростой
Время на прочтение9 мин
Количество просмотров1.1K

В этом году я окончил бакалавриат “Прикладная информатика: в экономике”. Поэтому пока память свежая, хотел предоставить небольшую выжимку из 4 лет моего обучения.

Первый год, как и у всех, у нас преподавались общие предметы, такие как философия, русский язык, история, информатика, математика и логика. Всё это меня раздражало, но сейчас я понимаю, что эти предметы были полезными и не принесли никакого вреда. На информатике учились работать с Word и Excel. В начале мне это также не очень нравилось. Сидим, учим офисные программы, а ведь я сюда шел, чтобы учиться прогать. Однако со временем я осознал, что, хоть это и было неинтересно, умение работать с ними пригодилось на следующих курсах.

2 курс

Во втором курсе довольно много было предметов связанных с ...

Читать далее
Всего голосов 4: ↑2 и ↓20
Комментарии1

Истории

Статья

Golang: context изнутри

Уровень сложностиСредний
Время на прочтение14 мин
Количество просмотров291

Ни для кого не секрет, что стандартный пакет context широко используется для создания ваших сервисов. В данный момент, не побоюсь этого слова, любой сервис написанный на Go использует контексты повсеместно. Мое мнение таково - если ты хочешь прогрессировать как специалист, ты должен копать все глубже и глубже. Предлагаю рассмотреть context с призмы его работы внутри.

Читать далее
Всего голосов 1: ↑1 и ↓0+1
Комментарии0
Новость

Создатели игры «Смута» выпустят ещё два новых образовательных режима игры

Время на прочтение1 мин
Количество просмотров1K

Разработчики Cyberia Nova хотят выпустить два новых образовательных режима, связанных с исторической игрой «Смута». Пользователи смогут изучить города Нижний Новгород и Ярославль 17 века.

По словам генерального директора Cyberia Nova Алексея Копцева, в течение 2024 года студия будет заниматься выпуском патчей с исправлениями ошибок, обновлениями игры и производством новых образовательных режимов. Копцев считает, что первый бесплатный образовательный режим, связанный с Москвой, хорошо себя показал и даже во время летних каникул пользователи его активно скачивают.

Читать далее
Всего голосов 6: ↑4 и ↓2+6
Комментарии9
Статья

Применение рекомендательного фреймворка ODRS на практике: SCARA-робот сортирует цветные крышки

Уровень сложностиПростой
Время на прочтение3 мин
Количество просмотров118

В лаборатории комании Insystem мы часто применяем наш фреймворк ODRS(подробнее тут) для решения различных задач в области компьютерного зрения. Одной из такой задач стала настройка SCARA робота для сортировки цветных крышек от пластиковых бутылок. Этот проект был вызван необходимостью автоматизировать процесс переработки, увеличивая его эффективность и точность. Используя ODRS, мы смогли обучить робота распознавать крышки различных цветов, а затем сортировать их по категориям. В ходе работы были выполнены следующие задачи:

Читать далее
Рейтинг0
Комментарии0
Статья

Эффективный запуск и инференс LLM на своем сервере с нуля (часть 1)

Уровень сложностиСредний
Время на прочтение10 мин
Количество просмотров474

Привет, Хабр! На связи CEO команды Compressa AI. Недавно обнаружил для себя крутой базовый курс по эффективному запуску и инференсу LLM моделей от легенды AI мира — Andrew NG и его платформы DeepLearning. Он полностью на английском языке в формате видео, поэтому я осмелился адаптировать его под формат Хабра на русском языке. Знания должны быть доступны всем и в удобной форме, так ведь?

Многие команды (включая и Compressa AI) начинали LLM проекты с использования облачных API. Но по мере развития все больше разработчиков хотят использовать open-source LLM, чтобы экономить на токенах, снижать latency, запускать fine-tuning на собственных данных и в целом меньше зависеть от внешних моделей.

Из этого курса вы узнаете детали эффективного обслуживания и дообучения open-source LLM, включая методы обработки множества запросов от нескольких пользователей. Используя несколько таких методов одновременно, вы можете улучшить как задержку (latency), так и пропускную способность (throughput). Например, благодаря применению последних open-source технологий в своем продукте, мы добились увеличения пропускной способности до 70x на 1 GPU в сравнении с дефолтными Hugging Face & PyTorch.

Курс слишком объемный даже для лонгрида, в нем много практического кода, поэтому сегодня начну с первых уроков и выпущу следующие части, если увижу живой интерес. Это адаптация, а не прямой копипаст, поэтому где-то немного расширю курс информацией от себя, а где-то сокращу. Также хочется отметить, что русифицирование терминов вокруг LLM — дело довольно неблагодарное, поэтому часть из них будет на английском.

Читать далее
Всего голосов 5: ↑5 и ↓0+6
Комментарии1
Новость

«Микрон» расширил сборочное производство микросхем

Время на прочтение2 мин
Количество просмотров882

Завод «Микрон» (входит в группу компаний «Элемент») увеличил производственные мощности по выпуску корпусированных микросхем промышленного назначения для экстремальной электроники в 2,4 раза.

В рамках проекта «Микрон» модернизировал производственный участок площадью 1,5 тысячи м2. На участке были открыты новые чистые производственные помещения, соответствующие классу ISO 8, установлено и запущено 29 новых единиц оборудования, из них 8 российского производства.

Читать далее
Всего голосов 6: ↑5 и ↓1+10
Комментарии0
Статья

Русификация Lixiang

Уровень сложностиСредний
Время на прочтение7 мин
Количество просмотров1.2K

Как русифицировать китайские автомобили? Как не наделать кирпичей окирпичивая машину дороже 10 млн. руб? Я работаю с программным обеспечением китайских автомобилей, одна из самых популярных моделей на сегодняшний день это Lixiang, именно на ее примере я и покажу как обычно или, наоборот необычно, русифицируются автомобили.

Живем мы в интересное время. Абзац ниже касается практически всех премиальных китайских автобрендов.

Применяя определенную степень упрощения к статистике, которая, перефразируя пословицу, является производной от лжи, будем опираться на твердые факты из первых ссылок в поисковике. На конец 2023 года число реализованных машин этой марки уже составляло 376030 штук. Зарегистрировано же на текущий момент в РФ более 20.000 автомобилей Lixiang. РФ является лидером среди стран, куда импортированы авто этой марки. Это следствие совпадения ухода западных автобрендов и бурный расцвет китайского автопрома. Держим это в уме, теперь следующая часть эриксоновской петли.

Кроме этого имеем санкции и американское участие в капитале автопроизводителей. Русский и Китаец братья навеке, но Китай умеет мыслить столетиями, по всей видимости в горизонте планирования в несколько сотен лет

Погрузиться внутрь
Всего голосов 5: ↑5 и ↓0+7
Комментарии9
Новость

Вышла новая версия «Аврора Центр 5.0»

Время на прочтение2 мин
Количество просмотров588

Компания «Открытая мобильная платформа» заявила о выходе версии «Аврора Центр». «Аврора Центр» представляет собой платформу единого управления корпоративными устройствами на базе различных ОС.

По словам разработчиков, платформа удалённого управления «Аврора Центр» создана заменить такие решения, как VMWare AirWatch, MobileIron, Citrix, SOTI, и предназначена для упрощения и централизации управления корпоративными мобильными устройствами, компьютерами и ноутбуками на операционных системах «Аврора», Android, «Альт», Astra Linux, «Ред ОС» и Ubuntu. Кроме смартфонов и планшетов, «Аврора Центр» может управлять терминалами сбора данных, применяемых на производственных линиях, складах, в курьерской доставке и так далее.

Читать далее
Всего голосов 5: ↑2 и ↓3+3
Комментарии0
Статья

Предсказание выбытия насосов или как я вошел в data science

Уровень сложностиСредний
Время на прочтение7 мин
Количество просмотров558

Всем привет, меня зовут Богдан. В ML я начал свое посвящение осенью 2023 года и за этот год успел поработать над таким неоднозначным проектом как "Предсказание выбытия насосов". На данную тему на Хабре уже есть несколько статей, которые я в своё время нашел и опыт которых я пытался перенести в свой учебный big data пет проект :)
ссылки на других ребят тут: ссылка 1 и ссылка 2

Хочу сказать что в данной статье не будет кода, она будет посвящена размышлениям, неудачам и иногда смешным попыткам решить данную проблему. Ну а также наверное где-то я буду кидать ссылки на совершенно разные вещи и немного похвастаюсь нашим финальным решением и тем, к чему меня привело участие во всем этом.

Если вы хотите посмотреть на то как это реализовано под капотом, то добро пожаловать в репу на гитхабе
Здесь расписано множество вещей, которые я успел попробовать пока работал над этой задачей в них входят как удачные решения, так и не очень.

Читать далее
Рейтинг0
Комментарии3
Статья

Исследование и оптимизации RNN

Время на прочтение4 мин
Количество просмотров137

В этой статье я буду анализировать и улучшать ATR, LRN, LSTM, GRU в задаче генерации текста. Обучать их я буду на классике Достоевского. Он первый под руку попался.

Читать далее
Рейтинг0
Комментарии0

Ближайшие события

12 – 13 июля
Геймтон DatsDefense
Онлайн
14 июля
Фестиваль Selectel Day Off
Санкт-ПетербургОнлайн
19 сентября
CDI Conf 2024
Москва
Статья

Возможно ли победить без нейросети? Узнаем на хакатоне

Уровень сложностиПростой
Время на прочтение2 мин
Количество просмотров241

Привет! Меня зовут Искандар и я разработчик в компании «Строительный Двор», попытаюсь очень кратко рассказать о прошедшем хакатоне и удалось ли нам победить нейросеть.

Читать далее
Всего голосов 1: ↑1 и ↓0+1
Комментарии0
Статья

Диалекты, зумеры и боты: секреты тестирования NLU-систем

Уровень сложностиПростой
Время на прочтение6 мин
Количество просмотров146

Привет, Хабр! Меня зовут Даниил Трублаевич, я занимаюсь тестированием диалоговых систем в компании Just AI. Сегодня сложно отрицать, что боты, голосовые ассистенты и виртуальные помощники стали неотъемлемой частью нашей повседневной жизни. Но, чтобы эти системы были действительно эффективными, они должны не просто распознавать слова и фразы, но и корректно понимать их смысл в различных контекстах.

Тестирование NLU – сложный процесс, так как невозможно точно определить границу полноты тестирования. Для этого и существуют некоторые лайфхаки – правила тестирования, о которых хочется поговорить в этой статье. Материалы разделены на два блока: личный опыт QA-инженера и тестирование при помощи нейросетей. 

Читать далее
Всего голосов 1: ↑0 и ↓1-1
Комментарии1
Статья

Fintech: системные потоки против параллелизма Async/Await в Rust

Уровень сложностиСложный
Время на прочтение11 мин
Количество просмотров742

Последнее время достаточно популярна "async/await" концепция в Rust. Безусловно для подавляющего большинства задач это лучший вариант. Так как она ориентирована на то что система, которая обрабатывает сетевые запросы, например сталкивается с блокировкой ввода/вывода к базе данных. В результате лучшим решением будет использование "async/await", так как он позволяет использовать один поток для обработки множества запросов. Если функция "async" не может быть завершена например из-за ожидания ввода-вывода, она может отдать управление в точке ее вызова "await". И "executor" например "Tokio" может переключиться на другую задачу.

Читать далее
Всего голосов 3: ↑3 и ↓0+5
Комментарии3
Новость

«Яндекс» подал в Роспатент заявку на регистрацию товарного знака YDEX

Время на прочтение2 мин
Количество просмотров1.4K

В начале июля 2024 года компания «Яндекс» подала в Федеральную службу по интеллектуальной собственности (Роспатент) заявку на регистрацию товарного знака YDEX.

Читать далее
Всего голосов 2: ↑2 и ↓0+2
Комментарии2
Пост

Человек vs машина, или Почему А/Б-тесты не панацея

Недавно Spotify выкатили новую фичу на основе ML — Shortcuts. По сути, это шесть персонализированных плейлистов c музыкальными предпочтениями пользователей.

Они составляются не на базе новой музыки, а на базе того, что ты слушал недавно. Команда Spotify исследовала паттерны прослушивания музыки и обратила внимание, что, если пользователю нравится песня, он слушает ее на репите.

Так и появилась идея создать подобную фичу. Одной из задач при ее внедрении было придумать емкое название, чтобы люди сразу понимали, что это. Команда предлагала разные варианты:

🎵 Послушать сейчас.
🎵 Быстрый доступ.
🎵 Горячие кнопки.
🎵 Доброе утро.

Результаты A/B-теста не показали значительной разницы между ними.

Один из участников команды настаивал на варианте «Доброе утро»: так пользователь косвенно будет понимать, что страница с кнопками — его пространство, а горячие клавиши — его персонализированные песни.

Такой эмпатичный подход всем понравился. Фичу внедрили, и она собрала в основном положительные отзывы. Даже больше — исследования показали, что она вызывает эмоциональную привязанность у пользователей.

Правда, пришлось ее доработать: менять приветствие и состав музыки в зависимости от времени суток.

Всё это лишний раз напоминает нам, что данные и цифры не охватывают полную картину мира. Если бы мир можно было померить таким образом, всё было бы гораздо проще, в том числе и создание продуктов.

Приходите обсуждать продуктовый подход к нам в Телеграм-канал.

Теги:
+1
Комментарии0
Статья

Apple Pro Weekly News (01.07 – 07.07.24)

Время на прочтение12 мин
Количество просмотров388

Стали известны устройства, которые выпустит Apple этой осенью, зачем компании 100 млн чипов от TSMC, когда выйдет полностью новая Siri в релиз, кто из Apple назначен в совет директоров OpenAI, что будет с новыми Apple Watch SE, какова судьба Epic Games Store в ЕС, а также новости из российского App Store и другие интересные события за прошедшую неделю – в этом выпуске Apple Pro Weekly News!

Перейти к новостям
Всего голосов 2: ↑2 и ↓0+6
Комментарии0
Статья

Запускаем 64-битную библиотеку в пространстве WOW64, часть 1

Уровень сложностиСложный
Время на прочтение3 мин
Количество просмотров909

Приветствую всех!

Сегодня я вам представлю свои наработки по способу инжекта 64-битных DLL библиотек в процессы WOW64, сам который считал невозможным. Любителей потрогать внутренности Windows приглашаю под кат.

Зайдем поглубже
Всего голосов 5: ↑5 и ↓0+6
Комментарии3
1
23 ...