Как стать автором
Обновить

Администрирование

Сначала показывать
Порог рейтинга
Уровень сложности

Как создать монорепозиторий с несколькими сервисами, используя Lerna и Yarn?

Уровень сложности Средний
Время на прочтение 6 мин
Количество просмотров 398
JavaScript *DevOps *
Из песочницы
Перевод

Для разработчиков построение масштабируемых и поддерживаемых приложений может быть значительным вызовом, особенно при работе с большими кодовыми базами и несколькими сервисами. К счастью, использование подхода монорепозитория в сочетании с мощными инструментами, такими как NX, Lerna и Yarn, может обеспечить упрощенный процесс разработки, который повышает общность кода и возможность повторного использования.

Это подробное руководство нацелено на помощь разработчикам в настройке монорепозитория с использованием NX, Lerna и Yarn. Руководство включает подробную информацию о начальной настройке, структуре каталогов, управлении зависимостями, тестировании и развёртывании.

После освоения туториала разработчик получат полное понимание того, как создавать масштабируемые и поддерживаемые приложения, используя подход монорепозитория. Он также получит знания о необходимых инструментах и знаниях для перехода на новый уровень разработки. Давайте приступим!

Читать далее
Всего голосов 3: ↑3 и ↓0 +3
Комментарии 0

Новости

Neural Network Optimization: океан в капле

Уровень сложности Простой
Время на прочтение 14 мин
Количество просмотров 814
Блог компании Doubletapp Серверная оптимизация *Обработка изображений *Машинное обучение *Искусственный интеллект
Обзор
🤖 Сезон machine learning

Всех приветствую, меня зовут Антон Рябых, работаю в Doubletapp. Вместе с коллегой Данилом Гальпериным мы написали статью про важный этап в процессе обучения нейронных сетей и получения необходимых нам результатов —  оптимизацию модели. Зачем нужно оптимизировать модель, если и так все работает? Но как только вы начнете разворачивать модель на устройстве, которое будет ее обрабатывать, перед вами встанет множество проблем.

Более крупные модели занимают больше места для хранения, что затрудняет их распространение. Более крупные модели требуют больше времени для работы и могут потребовать более дорогого оборудования. Это особенно важно, если вы создаете модель для приложения, работающего в реальном времени.

Оптимизация моделей направлена на уменьшение размера моделей при минимизации потерь в точности и производительности.

Методы оптимизации

Pruning — устранение части параметров нейронной сети.
Quantization — уменьшение точности обрабатываемых типов данных.
Knowledge distillation — обновление топологии исходной модели до более эффективной, с уменьшенным количеством параметров и более быстрым выполнением.
Weight clustering — сокращение количества уникальных параметров в весах модели.
OpenVino, TensorRT — фреймворки, с помощью которых можно оптимизировать модели.

Читать далее
Всего голосов 18: ↑18 и ↓0 +18
Комментарии 0

Сахар для слоненка -  быстрый старт c PostgreSQL для команд в НЛМК

Уровень сложности Простой
Время на прочтение 8 мин
Количество просмотров 1.3K
Блог компании Группа НЛМК PostgreSQL *DevOps *
Туториал

На протяжении более чем 10 лет работы с PostgreSQL, периодически наблюдаю, как команды на начальном этапе, зачастую, не уделяют внимание ролевой модели базы, или как вся команда работает под суперпользователем postgres и забывает про версионирование схемы.

В процессе общения с различными командами в НЛМК у меня появилась идея предложить им «преднастроенный PostgreSQL». Как в итоге сделали — под катом.

Читать далее
Всего голосов 13: ↑13 и ↓0 +13
Комментарии 0

SRE: управление инцидентами

Уровень сложности Простой
Время на прочтение 12 мин
Количество просмотров 583
Блог компании OTUS IT-инфраструктура *DevOps *
Кейс

Привет Хабр! Не так давно общался с SRE в нашей команде и он рассказал мне о базовых принципах процесса управления инцидентами, теперь я поделюсь этим с вами, быть может кому‑то поможет.

Управление инцидентами включает в себя мониторинг, анализ, планирование и выполнение. SRE работают с операционными группами, экспертами по техническим вопросам, разработчиками, инженерами DevOPs, владельцами приложений и другими.

При оценке инцидентов SRE обращают внимание на такие критерии, как импакт и частота повторения — для того, чтобы определить, какие инциденты требуют дальнейшего анализа.

Читать далее
Всего голосов 9: ↑8 и ↓1 +7
Комментарии 0

Истории

Очередной проект для себя или что такое MPS

Уровень сложности Средний
Время на прочтение 18 мин
Количество просмотров 606
*nix *
Из песочницы

Здравствуйте, Хабровцы... Хабровичане... В общем, всем привет! В последнее время я помогал другу с его соц. сетью и столкнулся с кучей проблем, поняв что мыслю быстрее времени, но при этом отстаю от него, ведь у меня уже давно расписаны проекты решающие все эти проблемы, но не реализованы... Дак вот, относительно недавно я наконец полностью доделал один из них и хочу узнать ваше мнение и получить пару советов по его улучшению.

Читать далее
Всего голосов 5: ↑5 и ↓0 +5
Комментарии 0

Книга «Kafka Streams и ksqlDB: данные в реальном времени»

Время на прочтение 17 мин
Количество просмотров 752
Блог компании Издательский дом «Питер» Администрирование баз данных *Профессиональная литература *Распределённые системы *
image Привет, Хаброжители!

Работа с неограниченными и быстрыми потоками данных всегда была сложной задачей. Но Kafka Streams и ksqlDB позволяют легко и просто создавать приложения потоковой обработки. Из книги специалисты по обработке данных узнают, как с помощью этих инструментов создавать масштабируемые приложения потоковой обработки, перемещающие, обогащающие и преобразующие большие объемы данных в режиме реального времени.

Митч Сеймур, инженер службы обработки данных в Mailchimp, объясняет важные понятия потоковой обработки на примере нескольких любопытных бизнес-задач. Он рассказывает о достоинствах Kafka Streams и ksqlDB, чтобы помочь вам выбрать наиболее подходящий инструмент для каждого уникального проекта потоковой обработки. Для разработчиков, не пишущих код на Java, особенно ценным будет материал, посвященный ksqlDB.
Кому адресована книга
Эта книга адресована специалистам по обработке данных, желающим научиться создавать масштабируемые приложения потоковой обработки для перемещения и преобразования больших объемов данных в режиме реального времени. Подобные умения часто необходимы для поддержки интеллектуальной обработки данных, аналитических конвейеров, обнаружения угроз, обработки событий и многого другого. Специалисты по данным и аналитики, занимающиеся анализом потоков данных в реальном режиме времени и желающие усовершенствовать свои навыки, тоже смогут почерпнуть немало полезного из этой книги. В ней автору удалось отойти от привычной пакетной обработки, которая обычно доминировала в этих областях. Предварительный опыт работы с Apache Kafka не требуется, хотя некоторое знакомство с языком программирования Java облегчит знакомство с Kafka Streams.
Читать дальше →
Всего голосов 7: ↑7 и ↓0 +7
Комментарии 0

Дублирующий скрипт: как с его помощью мы ускорили бизнес-процесс с двух рабочих дней до семи минут

Уровень сложности Средний
Время на прочтение 14 мин
Количество просмотров 916
Блог компании Банк «Открытие» Python *Big Data *DevOps *
Кейс

Как известно, при создании промышленного процесса, в котором регламентирован каждый шаг, все участвующие подразделения стараются максимально облегчить выполнение своей части работы. Поэтому часто применяются упрощения, которые не позволяют учесть все нюансы процесса, отслеживаемые в ручном режиме каждым аналитиком. По сути, перед автоматизаторами стоит задача охватить наибольшее число вариаций и при этом не усложнить процесс так, чтобы с ним было невозможно работать. Под усложнениями понимаются различные блокирующие процесс проверки, многочисленные итерации согласований по той или иной задаче, формы дополнительного ручного ввода данных и т.п.

В итоге формируются упрощенные требования, которые не позволяют в полной мере реализовать контроль как над ручными ошибками пользователей, так и над ошибками, допущенными при разработке требований и алгоритмов автоматизируемого процесса.

Вас приветствуют Гевонд Асадян и Илья Мясников. В банке «Открытие» в управлении риск-технологий мы занимаемся внедрением моделей оценки кредитного риска. В этой статье на примере большого и сложного процесса выдачи экспресс-кредитов мы расскажем, как нам удалось реализовать полноценный дубль процесса на стороне одного проверочного скрипта и ускорить процесс выдачи экспресс-кредитов с двух рабочих дней до семи минут.

Далее про наш кейс
Всего голосов 2: ↑2 и ↓0 +2
Комментарии 0

Менеджмент сертификатов – как застраховаться от просрочки

Время на прочтение 7 мин
Количество просмотров 1.5K
Блог компании QIWI Информационная безопасность *Сетевые технологии *

Для обеспечения защищенного соединения между партнерами, подписи документов, а также организации защищенных каналов связи используются сертификаты. Они позволяют шифровать трафик либо ставить цифровую подпись, которая равнозначна рукописной подписи. Так как это дело обычное и частое, то в компаниях, которые так или иначе связаны с онлайном, таких сертификатов великое множество.

Эти сертификаты имеют срок годности, они выпускаются не на 100 лет (технически это возможно, но по понятным причинам вариант не пользуется популярностью), а обычно на год. И частенько они просрочиваются – срок сертификата подходит к концу, об этом забывают и пропускают его смену, что приводит к потере денег или времени. Боль, на самом деле, повсеместная, и немногие пытаются успешно с ней бороться. У нас это получилось, и мы хотим поведать вам о нашем пути, который еще не закончен.

Читать далее
Всего голосов 16: ↑15 и ↓1 +14
Комментарии 8

Глубокое погружение в CEF (команды) для IOS-XE

Время на прочтение 11 мин
Количество просмотров 303
Блог компании OTUS Сетевые технологии *Сетевое оборудование
Перевод

В качестве примера используется C9300.

Модель: C9300L-24UXG-4X
Уровень управления (CP) = R0
Уровень передачи данных (DP) = F0, UADP/ASIC

Читать далее
Всего голосов 7: ↑6 и ↓1 +5
Комментарии 1

Пример миграции IT-инфраструктуры на отечественные решения

Уровень сложности Средний
Время на прочтение 3 мин
Количество просмотров 1.3K
IT-инфраструктура *
Кейс
Recovery mode

Не так давно мне удалось пообщаться с ИТ-директором одной крупной компании (с целью избежать рекламы, названия и имена упоминаться не будут) о замене инфраструктуры и сервисов. Естественно, вся эта тема вызывает вполне нормальную реакцию — страх и ужас. На самом деле принцип «ИТ-переезда» схож с переездом на новую квартиру: старую мебель хочется сохранить, но нет уверенности, что старый шкаф влезет в новую прихожую.

Выяснили, что миграция без серьезных последствий возможна, но только если она поводится медленно и планомерно.

Читать далее
Всего голосов 6: ↑3 и ↓3 0
Комментарии 1

О доступе на PROD и барьерах на пути к нему

Уровень сложности Простой
Время на прочтение 6 мин
Количество просмотров 607
IT-инфраструктура *Серверное администрирование *DevOps *

Не всякий девелопер долетит до PROD, что конечно, правильно, и более того, в ряде случаев регулируется законами разных стран (персональные данные, кредитные карты итд). Однако для эффективного функционирования важны не только, скажем так, восходящие потоки (деплой DEV → QA → PROD), но и нисходящие, существующие в виде предоставления девелоперам очищенных баз для тестирования, метрик с PROD, логов, сообщений об ошибках, и, в худшем случае (проблема существует и воспроизводится только на PROD) доступе разработчиков на PROD.

Лирическое отступление. С детства мне в память врезались (видимо из журнала «Наука и Жизнь») шкалы землетрясений и ветра. Интересно двигаться по баллам ветра плавно переходя от «ветер едва колышет листья» до «ветер с корнем вырывает деревья». Давайте и мы составим такую шкалу для уровней сложности попадания на production — с примерами и рассказами из жизни.

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Комментарии 2

Технологии Linux, лежащие в основе контейнеров

Уровень сложности Простой
Время на прочтение 4 мин
Количество просмотров 1.7K
Блог компании Cloud4Y Системное администрирование **nix *DevOps *
Перевод

Рассказываем, как благодаря использованию некоторых специальных технологий Linux, включая пространства имён и группы управления, появились контейнеры.

Читать далее
Всего голосов 4: ↑3 и ↓1 +2
Комментарии 0

Сколько будет стоить ChatGPT для Google? Дайджест полезных текстов про ML и дата-аналитику

Время на прочтение 6 мин
Количество просмотров 994
Блог компании Selectel IT-инфраструктура *Big Data *Машинное обучение *Data Engineering *


Находить информативные и полезные тексты про Machine Learning и работу с данными непросто. Еще сложнее — найти действительно стоящий контент. Меня зовут Стас, я развиваю продукты для аналитики данных в Selectel. Вместе с коллегами мы собрали годные статьи и видео, которые вам либо помогут в работе, либо как минимум развлекут.

Под катом — свежий landscape ML/AI/Data-сервисов, грамотно составленный список репозиториев для дата-сайентистов и пара кейсов с Хабра, которые вы могли пропустить. Часть материалов — на английском языке, и в рунете их не найти.
Читать дальше →
Всего голосов 26: ↑26 и ↓0 +26
Комментарии 1

Приходите на PGConf.Russia 2023

Время на прочтение 3 мин
Количество просмотров 702
Блог компании Postgres Professional PostgreSQL *Администрирование баз данных *Конференции

В начале апреля в Рэдиссон-Славянской в Москве пройдёт очередная конференция постгрессистов. Программному комитету удалось собрать много интересных докладов, часть из которых я хотел бы анонсировать тут.

Читать далее
Всего голосов 27: ↑26 и ↓1 +25
Комментарии 4

Ветроустановка на эффекте Магнуса

Время на прочтение 10 мин
Количество просмотров 3.5K
Блог компании ИТМО Энергия и элементы питания Экология Инженерные системы *

Если вы успели поэкспериментировать на дачном участке с ветряками с Aliexpress, то, скорее всего, уже в них разочаровались. Скорости ветра на большей части территорий страны недостаточно, чтобы вывести генерацию на нужный уровень. Непостоянного ветра хватает в лучшем случае на медленную зарядку телефона. Порывы не позволяют использовать установку для полноценного питания электроприборов в загородном доме.

В ИТМО разрабатывают ветроэнергостанцию, которая потенциально применима в частных хозяйствах и способна производить электрическую энергию уже при малых скоростях ветра. В основе — идея технологии из судостроения.

В этой статье рассказываем, как это работает.

Читать далее
Всего голосов 25: ↑24 и ↓1 +23
Комментарии 14

79 лет создателю MINIX Эндрю Таненбауму

Уровень сложности Простой
Время на прочтение 5 мин
Количество просмотров 1.2K
Блог компании Timeweb Cloud *nix *История IT
Ретроспектива


Если вы изучали информатику, основы программирования или архитектуру операционных систем, это имя должно быть вам хорошо знакомо. Автор популярных учебников, ставших бестселлерами во многих странах мира, а также создатель операционной системы MINIX, которую многие считают прародительницей Linux — профессор Эндрю Стюарт Таненбаум празднует сегодня свое 79-летие.
Читать дальше →
Всего голосов 13: ↑13 и ↓0 +13
Комментарии 1

Кастомизированная страница логина на Auth0 на базе React

Уровень сложности Средний
Время на прочтение 5 мин
Количество просмотров 388
ReactJS *Облачные сервисы *
Туториал

Платформа Auth0 представляет собой онлайн сервис для аутентификации и авторизации и включает в себя управление пользователями, проверку их идентификационных данных, управление токенами и сессией. На стороне клиента данного сервиса необходимо осуществить обращение к уникальному URI и после аутентификации использовать полученные при обратном редиректе токены и кукис. Всю логику проверки данных пользователя, сохранения сессии и токенов берет на себя Auth0. После успешной аутентификации пользователя сервис Auth0 осуществляет редирект обратно на адрес своего клиента.

Auth0 предоставляет удобные UI компоненты для получения идентификационных данных — виджеты для входа, регистрации, восстановления пароля. Данные виджеты включают также возможности логина с помощью сторонних сервисов — вход через аккаунт Google, Microsoft, GitHub и многие другие.

Читать далее
Всего голосов 4: ↑4 и ↓0 +4
Комментарии 0

Цифровизация продуктового ритейла на примере магазина «Магнит»

Время на прочтение 16 мин
Количество просмотров 1.8K
Блог компании Wiren Board Умный дом Интернет вещей Инженерные системы *

Магазины сети «Магнит» сегодня можно встретить почти в каждом городе. Но знаете ли вы, что скоро они станут умными?

Современные технологии проникают в продуктовый ритейл, позволяя экономить на ресурсах и обходить конкурентов в вопросе эффективного управления.

Вместе с интегратором Liten я посетил один из пилотных магазинов «Магнит», где рассмотрел новые системы автоматизации на контроллере Wiren Board и платформе SVAROG.

В статье я расскажу о технических решениях в пилотном магазине, которые можно перенести на любой другой объект продуктового ритейла или общественного питания.

Читать далее
Всего голосов 14: ↑13 и ↓1 +12
Комментарии 20

Эволюция NGFW: тестируем новинку Sangfor NGAF

Время на прочтение 6 мин
Количество просмотров 1.9K
Блог компании Nubes Информационная безопасность *IT-инфраструктура *Сетевое оборудование

Всем привет! 

Меня зовут Дмитрий Шкуропат, я являюсь руководителем направления защиты информации в компании Nubes. Мы открываем цикл статей, в котором расскажем, как выбирали и тестировали для нашего защищенного публичного облака межсетевой экран нового поколения (NGFW).

Читать далее
Всего голосов 10: ↑9 и ↓1 +8
Комментарии 11

Генерация DAG в Apache Airflow

Уровень сложности Средний
Время на прочтение 6 мин
Количество просмотров 896
Python *Big Data *Хранилища данных *Data Engineering *
Туториал

Пошаговая инструкция о том, как из одного DAG сделать фабрику DAG.

Включает в себя: установка Airflow через Docker и поэтапное объяснение того, как сделать фабрику DAG.

Читать далее
Всего голосов 3: ↑2 и ↓1 +1
Комментарии 0