Как стать автором
Обновить

Администрирование

Сначала показывать
  • Новые
  • Лучшие
Порог рейтинга
  • Все
  • ≥0
  • ≥10
  • ≥25
  • ≥50
  • ≥100

ElasticSearch: отказоустойчивый сервер отказал

Блог компании DINS Big Data *Data Engineering *Open source *Хранилища данных *
image
Всем привет, меня зовут Илья, я работаю в компании DINS на должности инженера отдела мониторинга. В этой статье хотел бы рассказать немного нашей боли при работе с ElasticSearch. Мне не удалось найти решение этой проблемы где-либо ещё, поэтому, думаю, этот туториал будет интересен всем, кто использует ElasticSearch.
Читать дальше →
Всего голосов 3: ↑3 и ↓0 +3
Просмотры 260
Комментарии 1

Новости

Поднимаем прозрачный прокси Squid на FreeBSD 13.0

Блог компании Timeweb *nix *Системное администрирование *Сетевые технологии *
Tutorial

Хочу поделиться информацией по поднятию прозрачного HTTP и HTTPS прокси сервера Squid с фильтрацией сайтов и без подмены сертификатов на FreeBSD 13.0 RELEASE. На Хабре уже есть похожая статья по настройке прозрачного прокси сервера Squid с фильтрацией ресурсов и без подмены сертификатов на Linux. Решил актуализировать информацию на свежо установленной ОС FreeBSD 13.0 и поделиться с вами.

При использовании действий «peek-and-splice», сквид выдергивает имя ресурса с помощью SNI и клиент дальше работает с ресурсом. Т.е. не происходит подмена сертификата. Этот режим подходит для нашего прозрачного прокси.

Ставить Squid мы будем из портов, так как необходимо включить некоторые параметры в сборку, также для заворачивания трафика на порт прокси мы будем использовать пакетный фильтр PF.

Для начала скачиваем порты:

Читать далее
Всего голосов 3: ↑3 и ↓0 +3
Просмотры 289
Комментарии 3

Trunk-Based Development: как мы внедряем разработку на основе главной ветки

Управление разработкой *Управление продуктом *DevOps *

Trunk Based Development (от англ. trunk – «ствол дерева») – метод разработки кода на основе одной главной ветки. В отличие от Gitflow, TBD позволяет разработчикам добавлять новые модули сразу в master. Второстепенные feature-ветки также могут создаваться, но они имеют короткий срок жизни.

В этой статье мы подробно расскажем о том, как мы трансформируем процессы разработки в наших командах и обрисуем план по внедрению TBD.

Читать далее
Всего голосов 3: ↑2 и ↓1 +1
Просмотры 241
Комментарии 0

HAProxy, Nginx и Docker: как это сделано в Roxy-WI

Системное администрирование *Nginx *DevOps *
Tutorial

Продолжаем цикл статей о возможностях Roxy-WI. Сегодня мы поговорим ещё об одном важном наборе функций, связанных с управлением сервисами (а именно ― HAproxy и Nginx) в docker-контейнерах. Мы старались сделать эту функцию максимально простой и удобной в использовании. О том, что у нас получилось, и пойдёт речь ниже.

Читать далее
Всего голосов 4: ↑4 и ↓0 +4
Просмотры 274
Комментарии 0

Устанавливаем базы и настраиваем микросотовые DECT-системы Snom

Блог компании Snom Technology GmbH IT-инфраструктура *Сетевые технологии *Asterisk *Сетевое оборудование

Продолжим нашу серию статей, посвященную микросотовым системам. Напомним, что наши DECT-системы обеспечивают максимум отказоустойчивости и надежности благодаря тому, что настройки хранятся на каждой базовой станции, а не сосредоточены в одном устройстве.
А в сегодняшней статье поговорим о рекомендациях по физической установке базовых станций и непосредственной настройке баз и трубок.

Читать далее
Рейтинг 0
Просмотры 241
Комментарии 0

О сертификатах Let's Encrypt и Tilda

Хостинг Системное администрирование *DNS *
Из песочницы

Одним недавним летним вечером коротал я время за выпуском сертификатов Let's Encrypt (LE) в кубере, и долго не мог понять с какого перепугу сработало ограничение на количество сертификатов в неделю, т.е. 50 штук.

Быстрая проверка на https://crt.sh/ показала, что действительно для совершенно разных поддоменов было выпущено много странных сертификатов, и это, мягко говоря, удивило.

Читать далее
Всего голосов 8: ↑7 и ↓1 +6
Просмотры 4.8K
Комментарии 4

RCA для дата-инженеров

Блог компании OTUS Data Engineering *
Перевод

Существует миллион разных причин, по которым могут возникать сбои в работе конвейеров данных, и нет ни одного универсального подхода, помогающего сразу понять, как и почему они случаются. В этой статье я расскажу вам о пяти шагах, которые нужно совершить дата-инженеру, чтобы провести анализ первопричин (Root Cause Analysis - RCA) проблем с качеством и пригодностью данных (Data Quality).

Читать далее
Рейтинг 0
Просмотры 470
Комментарии 0

Динамические окружения GitLab vs self-service портал. Что выбрать?

Блог компании Typeable Open source *Тестирование IT-систем *Управление разработкой *DevOps *

Как Octopod помогает сделать динамические окружения доступными для всех

Привет, Хабр! В этой статье я хочу рассказать как мы в Typeable используем динамические окружения (review- или preview-окружения) в нашей работе, какие проблемы нам удалось решить, почему и как мы применяем свое решение Octopod, а не GitLab Dynamic Environments для этих целей. Если вы не знаете, что такое динамическое окружение, то рекомендую прочесть статью компании Flant, где автор очень подробно рассказал о видах динамических окружений, зачем они нужны и как применяются, а также детально разобрал эту тему на примере GitLab с подробными примерами и описаниями. У нас же есть альтернативный и идеологически несколько отличающийся подход к работе с review-окружениями в Octopod. Про историю создания Octopod и причины, побудившие нас его создать, мы уже писали ранее. Повторяться не будем, а сосредоточимся на отличиях нашего подхода и тех проблемах, которые мы решили.

Читать далее
Всего голосов 11: ↑11 и ↓0 +11
Просмотры 587
Комментарии 0

Кастомные агрегаторы в Spark SQL

Big Data *Хранилища данных *Data Engineering *
Tutorial

Данная статья является гайдом по использованию кастомных агрегаторов в Spark SQL API. Она “выросла” из моих заметок, которые я делал себе с начала работы со Spark. Сейчас, по мере накопления опыта, мне все это кажется уж слишком наивным и простым, но в свое время мне это показалось чертовски удобным/изящным/заслуживающим внимания, поэтому и решил опубликовать, тем более на Хабре про это еще вроде не писали. Статья ориентирована в первую очередь на тех, кто только начинает работать со Spark, поэтому и помечена как “tutorial”. Если у вас есть какие-либо интересные кейсы по использованию кастомных агрегаторов - делитесь в комментариях!

Ниже мы будем говорить о user-defined aggregations functions (UDAF) org.apache.spark.sql.expressions.Aggregator, которые могут быть использованы для DataSet’ов с целью агрегации группы элементов в одно значение каким-угодно-пользователю образом.

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Просмотры 300
Комментарии 3

Почему на удалении от крупных городов избиратели ходят на участки охотнее и голосуют за партию власти

Big Data *Открытые данные *Визуализация данных Data Engineering *

    Действительно ли электоральные предпочтения сельских жителей существенно отличаются от предпочтений городских жителей?

   Зачем нужно срочно вводить электронное голосование в крупных городах России?

   Как выглядят на графиках и на карте России аномальное голосование?

    Подробные карты окрестностей городов России с результатами голосования на выборах в государственную Думу в 2021 году. 

Читать
Всего голосов 8: ↑8 и ↓0 +8
Просмотры 2.6K
Комментарии 12

Об АВР и стоечных переключателях

IT-инфраструктура *Производство и разработка электроники *Компьютерное железо
Из песочницы

АВР – очень широкое понятие. Совершенно одинаково называются устройства, которые трудно назвать одним прибором. Мы видим и однофазный модульный АВР на 16 ампер, и, совсем не похожий на него, АВР на 6 400 А. При этом, оба носят абсолютно одинаковое наименование – автоматический ввод резерва.

С приходом в нашу жизнь импортного телекоммуникационного оборудования и зарубежных стандартов, проникло и новое словосочетание - стоечный переключатель нагрузки. Тот же самый АВР, только имеющий свои особенности и специфику подключаемой нагрузки.

Читать далее
Всего голосов 1: ↑1 и ↓0 +1
Просмотры 1.5K
Комментарии 1

Холодные запуски AWS Lambda — решение проблемы

Serverless *
Перевод

Холодные запуски могут оказаться губительными для производительности AWS Lambda, особенно если вы создаёте клиентоориентированное приложение, которое должно работать в режиме реального времени. Представьте себе, что пользователь отправил приложению запрос, а ваша функция AWS Lambda ещё не запущена. В таком случае система AWS должна будет сначала развернуть ваш код и запустить новый контейнер — и только после этого выполнит запрос. Соответственно, выполнение запроса может занять гораздо больше времени: Lambda-функция начнёт работать только тогда, когда для неё будет готов контейнер.

Читать перевод далее
Всего голосов 9: ↑9 и ↓0 +9
Просмотры 747
Комментарии 0

В гробу я видел весь ваш DevOps…

DevOps *

Эта статья о вреде выделенных команд DevOps инженеров в организации. Начну издалека. В книге Джорджа Массера "Нелокальность" приводится такой интересный момент оценки расстояния с точки зрения влияния. "Лев близко, значит он может напасть" - это о влиянии через определение пространство. Однако концепция "Лев может напасть, значит он близко" - нивелирует саму концепцию пространства. В сфере DevOps все скатывается в набор ритуалов и надутые щеки DevOps методологов-футурологов-идеологов и много чего. Речь разумеется не идет про лидеров индустрии, речь идет скорее про среднестатистические компании на рынке. Давайте перевернем все с головы на ноги!

DevOps'ам вход воспрещен!
Всего голосов 22: ↑15 и ↓7 +8
Просмотры 12K
Комментарии 89

Посмотрим, что внутри у нового сервера Lenovo ThinkSystem SR650 v2

Блог компании RUVDS.com Компьютерное железо Серверное администрирование *Хостинг Хранение данных *

Каждому хостеру время от времени приходится обновлять железо. Тут мы не отличаемся от обычных людей, которые следят за выходом новых процессоров и ценами. Мы тоже всё это отслеживаем, а когда наступает нужный момент — делаем апгрейд.

Последняя новинка в нашем парке — популярный двухпроцессорный 2U-сервер Lenovo ThinkSystem SR650, о которой сама Lenovo уже рассказывала на Хабре. Но там был обзор первой версии сервера, а в 2021 году Lenovo выпустила более продвинутую вторую версию, которую мы и приобрели для своего дата-центра.
Читать дальше →
Всего голосов 31: ↑30 и ↓1 +29
Просмотры 3.9K
Комментарии 2

Rancher. Добавление нового кластера

Настройка Linux **nix *Серверное администрирование *Kubernetes *
Tutorial

Rancher - это система, которая работает над Kubernetes и позволяет работать с несколькими кластерами через одну точку входа. Rancher помогает оптимизировать развёртывание кластеров в разных средах: bare-metal сервер (выделенный, железный), частные облака, публичнык облака и объединяет кластеры с помощью единой аутентификацией, контролем доступа и политик безопасности.

Каким бы образом не был создан кластер и где бы он не находился, Rancher предоставляет доступ ко всем кластерам через одну панель управления.

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Просмотры 949
Комментарии 0

Автоматизируем все с Github Actions (Никита Соболев)

DevOps *


Никита Соболев покажет множество функций Github Actions, поделится собственными впечатлениями и болями от первых месяцев использования, покажет, как сделать собственные инструменты.

Читать дальше →
Всего голосов 14: ↑11 и ↓3 +8
Просмотры 2.5K
Комментарии 7

Материалы PaaS-митапа: как платформа улучшает опыт разработчиков

Блог компании Авито Системное администрирование *DevOps *

Platform as a Service в Авито — это набор проработанных решений, которые позволяют продуктовой разработке не тратить много времени на рутинные задачи и низкоуровневые инструменты. Наши спикеры рассказали, как происходит локальная разработка, автоматическое тестирование, деплой и эксплуатация сервисов в PaaS. Собрали записи с таймкодами и презентации в посте.

Читать далее
Всего голосов 3: ↑3 и ↓0 +3
Просмотры 236
Комментарии 2

Российские библиотеки потеряли доступ к базе газетных статей, однако затем обошли запрет Роскомнадзора

Информационная безопасность *Сетевые технологии *DNS *Законодательство в IT

С 29 октября 2021 года читатели российских библиотек не могут открыть газетную базу EastView с советскими газетами и журналами. Причиною стал Роскомнадзор. Запрет обошли, создав новый домен.

Как сломалось, как починили? «Всё правой».
Всего голосов 106: ↑105 и ↓1 +104
Просмотры 17K
Комментарии 72

IE via WISE — WINE от Microsoft?

Internet Explorer *nix *Браузеры История IT Софт

Когда мы говорим про запуск Windows программ в Unix, первым в голову нам приходит свободный проект Wine, проект основанный в 1993 году.

Но, кто бы мог подумать, что Microsoft сама была автором ПО для запуска Windows-программ в UNIX.

В 1994 году Microsoft начала проект WISE - Windows Interface Source Environment - прибл. Исходная среда интерфейса Windows - программу лицензирования, которая позволяла разработчикам перекомпилировать и запускать приложения на базе Windows на других платформах.

Пакеты WISE SDK были основаны на эмуляции Windows API, который мог работать на платформах Unix и Macintosh.

SDK напрямую не поставлялись Microsoft. Вместо этого она установила партнерские отношения с несколькими поставщиками ПО (которым требовался доступ к внутреннему исходному коду Windows), которые, в свою очередь, продавали WISE SDK конечным пользователям.

Читать далее
Всего голосов 26: ↑26 и ↓0 +26
Просмотры 7.6K
Комментарии 5

Как один стартап от docker-compose до Kubernetes добирался

Проектирование и рефакторинг *DevOps *Google Cloud Platform *Kubernetes *
Из песочницы

В этой статье я хотел бы рассказать о том, как мы меняли подход к оркестрации на нашем стартап-проекте, зачем мы это делали и какие проблемы по дороге решали. Претендовать на уникальность эта статья вряд ли может, но все же думаю, что она может быть кому-то полезна, так как в процессе решения задачи материал собирался нами с приличным скрипом.  

Что мы имели и о чем вообще речь? А имели мы стартап-проект с примерно 2-летней историей разработки из advertisement  области. Проект изначально строился как микросервисный, и серверная его часть написана на Symfony + немного Laravel, Django и нативного NodeJs. Сервисы представляют из себя в основном API для мобильных клиентов (их в проекте 3) и нашего собственного SDK для IOS (встраивается в приложения наших кастомеров), а также веб-интерфейсы и разные дашборды этих самых кастомеров. Все сервисы были изначально докеризированы и работали под управлением docker-compose.

Правда, docker-compose использовался не везде, а только в локальном окружении у разработчиков, на тестовом сервере и внутри pipeline при сборке и тестировании сервисов. А вот в production окружении использовался Google Kubernetes Engine (GKE). Причем настройку GKE на старте проекта мы делали полностью через его web-интерфейс, что было довольно быстро и, как нам тогда казалось, удобно. Автоматизирован тут был только процесс сборки docker images для запуска сервисов в GKE.

Читать далее
Всего голосов 9: ↑8 и ↓1 +7
Просмотры 4.2K
Комментарии 2