Как стать автором
Обновить
182.63
Рейтинг

Системное администрирование *

Лишь бы юзер был доволен

Сначала показывать
Порог рейтинга

Выгрузка HDFS FSImage в Hive для мониторинга и аналитики: руководство к действию

Блог компании X5 Tech Системное администрирование *Big Data *Hadoop *

Привет, Хабр! Меня зовут Борис Мурашин, я системный архитектор развития платформы больших данных в Х5 Tech. В статье делюсь своим опытом работы с кластером Hadoop: рассказываю, как с помощью сторонней библиотеки мне удалось организовать оперативную выгрузку образа файловой системы HDFS в Hive. И не только про это. Надеюсь, что мои инструкции помогут другим сэкономить массу времени в работе с кластером.

Сколько места на диске используют таблицы Hive в HDFS? В каких из них много мелких файлов? Какая динамика у этих цифр? Что происходит в домашних каталогах пользователей? Кто прямо сейчас создаёт таблицу с партиционированием по timestamp и скоро «уложит» нэймноду по GC pause? Давайте разбираться.

Читать далее
Рейтинг 0
Просмотры 241
Комментарии 1

Новости

Как команда отразила крупную DDoS-атаку на инфраструктуру клиента

Блог компании CloudMTS Информационная безопасность *Системное администрирование *IT-инфраструктура *Облачные сервисы *
image

Привет, Хабр! В сентябре команда #CloudMTS отразила масштабную DDoS-атаку на клиентов одного из наших коммерческих дата-центров в Москве. На пике мы зафиксировали 30 млн flows per second, что для данной площадки в 300 раз превышало привычные значения. Атака длилась несколько дней подряд, в ходе которых злоумышленники использовали комбинацию из трех распространенных видов DDoS-атак и информацию из общедоступной базы данных IP-адресов. Для тех, кто хочет узнать, как все было – добро пожаловать под кат.
Читать дальше →
Всего голосов 12: ↑9 и ↓3 +6
Просмотры 1.4K
Комментарии 7

Reverse-инжиниринг “чёрного ящика”: зачем поддержке исходный код?

Блог компании GlowByte Системное администрирование *Программирование *Java *История IT

Всем привет! Мы команда сопровождения GlowByte, занимаемся решением багов в различных системах крупного бизнеса. В статье на примере use-кейса расскажем, как разбирать закрытую систему по кусочкам в поисках решений сложных багов.

Однажды к нам пришёл проект, о котором не было известно ничего: вендор покинул российский рынок и оставил систему с закрытым исходным кодом без документации и экспертной команды. Рассказываем, как именно мы справились с работой над "чёрным ящиком", а также объясняем на примерах технические детали получения исходников из закрытого JAVA-кода.

Читать
Всего голосов 8: ↑7 и ↓1 +6
Просмотры 1.9K
Комментарии 8

Не просто запуск контейнеров: Kubernetes для управления жизненным циклом приложения и инфраструктурой

Блог компании Southbridge Системное администрирование *Карьера в IT-индустрии DevOps *Kubernetes *

О Kubernetes обычно говорят в контексте запуска и обслуживания контейнеров для разработки. На самом деле он может решить множество задач, в том числе настроить связи между контейнерами и внешней средой так, чтобы полностью контролировать жизненный цикл приложения и автоматизировать многие процессы разработки.

Мы пообщались с Павлом Селивановым, архитектором Yandex Cloud, и написали эту короткую статью. Расскажем, какие возможности есть у K8s, как увидеть в нём что-то большее, чем простую «запускалку контейнеров» и как это пригождается на практике. Статья будет полезна тем, кто глубоко не разбирается в Kubernetes, но хочет узнать больше о его возможностях.

Читать дальше
Всего голосов 11: ↑9 и ↓2 +7
Просмотры 1K
Комментарии 0

Чего тебе надобно, старче? Составляем дорожную карту развития СХД

Блог компании АЭРОДИСК Системное администрирование *IT-инфраструктура *Хранение данных *Хранилища данных *

Уважаемые Хабровчане,

Ни для кого не секрет, что российские системы хранения данных, несмотря на бурное развитие последние годы, все ещё существенно отстают по многим функциям от зарубежных. Аэродиск тут не исключение, мы всеми силами пытаемся догнать, перегнать, обойти, подсидеть и так далее, но реализация любой более-менее вменяемой технологической функции - это в первую очередь время и во вторую деньги.  С момента ухода из России многих зарубежных вендоров с рукопожатными лицами нам стало приходить много вопросов о том, когда в наших СХД будет доступен или улучшен тот или иной функционал.

При таком раскладе важность реализации нового или улучшение существующего функционала в наших СХД сложно переоценить и из этого уже в полный рост встаёт вопрос: «А что делать в первую очередь?»

И этот вопрос мы адресуем экспертам российского ИТ-сообщества, то есть вам. А теперь приглашаем непосредственно к опросу, который можно пройти по этой ссылке.

Читать далее
Всего голосов 6: ↑4 и ↓2 +2
Просмотры 811
Комментарии 2

РЕД ОС: первые впечатления от импортозамещенной операционки

Блог компании М.Видео-Эльдорадо Настройка Linux *Системное администрирование *Читальный зал Софт
Из песочницы

Разработчики РЕД ОС избавились от одной болезни Linux, но ничего не смогли сделать с другой...

Читать далее
Всего голосов 107: ↑65 и ↓42 +23
Просмотры 47K
Комментарии 164

Как мы наблюдаем за инфраструктурой облачного сервиса и реагируем на инциденты?

Блог компании Okdesk Системное администрирование *IT-инфраструктура *Service Desk *Облачные сервисы *

Как известно, управление сложным космолетом невозможно без нормальной приборной панели. Совсем недавно мы уже рассказывали, об эволюции инфраструктуры нашей облачной help desk системы Okdesk, которой пользуется каждый день более 800 компаний и о том, как она вообще устроена и почему мы выбрали именно такой подход.

В этой статье мы впервые поделимся "внутрянкой" того, как у нас построены процессы мониторинга, которые позволяют не только постоянно держать руку на пульсе, но и оставаться нашему решению одним из самых стабильных и "безбажных" на рынке.

Читать далее
Всего голосов 22: ↑21 и ↓1 +20
Просмотры 1.1K
Комментарии 0

Управление Mikrotik с помощью Telegram бота

Системное администрирование *Сетевые технологии *

Хочу написать об интересных возможностях связки Mikrotik и Telegram бота. Возможно похожие решения, где то публиковались ранее, предложу свои варианты использования

Бот для блокировки интернета

Вариант подойдет для  блокировки и разблокировки интернета на домашних устройствах (ПК, ТВ приставки и прочие гаджеты) например чтобы дети сделали перерыв или пошли делать уроки. Можно конечно скачать приложение Mikrotik на смартфон, но каждый раз возится в настройках Kid Control и правилах Firewall не очень удобно, а с ботом почувствовать себя властелином интернета сможет даже жена

Читать далее
Всего голосов 6: ↑6 и ↓0 +6
Просмотры 3.6K
Комментарии 1

Эффективная защита RDP «на минималках» ч.2

Информационная безопасность *Системное администрирование *Серверное администрирование *

В поисках самого простого и бесплатного (или максимально дешевого) способа защиты RDP предлагаю добавить известный многим IPBAN от Jeff Johnson: https://github.com/jjxtra. Единственный замеченный минус - у меня, почему-то, не зависимо от того указываю я 3 попытки для блокировки или 5 - всё равно начинает блокировать где-то с пятой попытки (а может это проблема используемой мной версии - 1.8.0), хотя потом я решил, может это и к лучшему - если предположить что у нас до блокировки учетной записи даётся 3 попытки, то оставшиеся две вполне сгодятся для звонка системному администратору с просьбой сбросить пароль. В общем, для начала нужно скачать саму программу в соответствии с используемой у вас ОС:

https://github.com/DigitalRuby/IPBan/releases

Пока скачивается архив надо настроить локальную политику безопасности: щелкаем на значок поиска в панели задач так и вводим "локаль..." или "secpol.msc" (если нет значка поиска жмем WIN+R,вводим secpol.msc и жмем Enter), затем переходим во вкладку Локальная политика и Политика аудита. В локальных политиках включаем аудит входа в систему и аудит СОБЫТИЙ входа в систему, ставим галки как на скрине - Успех и Отказ для обеих политик и нажимаем ОК:

Читать далее
Всего голосов 6: ↑5 и ↓1 +4
Просмотры 7K
Комментарии 21

Wi-Fi через прокси без шума и пыли (почти)

Системное администрирование *Сетевые технологии *

Если раздать Wi-Fi через VPN задача простая и решаемая, вот даже статья "WiFi-портал в Россию" недавно вышла, то с прокси дело обстоит чуть сложнее, нужно немного костылей и напильников, а так же замечательное ПО под названием tun2socks.

В отличие от VPN прокси дешевле, и если нужно тестировать мобильные устройства с разных геолокаций - то прокси будет неплохим выходом. Конечно, существуют готовые решения, такие как SSH Manager и "малинки от Марса", но мы, как водится, пойдём своим путём.

Disclaimer. Статья пишется больше для себя, как заметки на полях, поэтому подробного мануала тут не будет. Тем не менее, материал может быть полезен и неограниченному кругу лиц. Понадобятся небольшие знания по сетям и линуксам.

провалиться под кат
Всего голосов 4: ↑2 и ↓2 0
Просмотры 2.6K
Комментарии 8

Отказоустойчивые системы: зачем нужны и как построить

Блог компании Группа компаний X-Com Системное администрирование *Серверная оптимизация *Серверное администрирование *

Статья содержит вводную информацию о резервировании и других возможностях обеспечения отказоустойчивой работы серверов и прочего оборудования ИТ-инфраструктуры предприятия.

Мы всегда надеемся, что оборудование и инфраструктура будут работать чётко, надёжно, и без поломок. Особенно это важно там, где неисправности приводят к остановке бизнес–процессов и как следствие – финансовым и репутационным потерям. Как минимум, эти потери складываются из оплаты сотрудников за время простоя (пока они ждут восстановления работы системы), и упущенной за это время прибыли. К этому можно добавить суммы, затраченные на сам ремонт и восстановление системы (покупку исправных комплектующих, оплату работ по установке и замене, и т.п.). Сумма убытков может быть достаточно большой; в некоторых случаях простой может привести к непоправимым последствиям – вплоть до исчезновения бизнеса. Это является поводом задуматься о том, как можно избежать остановки работоспособности.

Читать далее
Всего голосов 14: ↑13 и ↓1 +12
Просмотры 2.3K
Комментарии 7

Использование LDAP в IP-телефонах Yealink

Блог компании АйПиМатика Системное администрирование *IT-инфраструктура *

LDAP — это прикладной протокол для доступа и обеспечения работы информационных служб для распределенного каталога по IP-сети. Телефоны можно настроить для взаимодействия с корпоративным сервером каталогов, который поддерживает LDAP версии 2 или 3, для использования этого каталога в качестве корпоративной телефонной книги компании.

Читать далее
Всего голосов 3: ↑2 и ↓1 +1
Просмотры 1.1K
Комментарии 0

Не работает Wi-Fi: какую диагностику собрать?

Системное администрирование *Сетевые технологии *Беспроводные технологии *
Tutorial

Привет!


Если попробуете обратиться в поддержку с запросом «у меня не работает Wi-Fi», то после предложения перезагрузить все свои устройства, вас, скорее всего, попросят собрать диагностику. Обсудим, какая именно диагностика будет полезной, научимся её собирать, а потом всё автоматизируем.


image

Читать дальше →
Всего голосов 6: ↑6 и ↓0 +6
Просмотры 3.6K
Комментарии 13

Port Knocking для Windows

Информационная безопасность *Системное администрирование *Системное программирование *PowerShell *Разработка под Windows *
Recovery mode

Мне довольно часто приходится настраивать "одинокие" терминальные сервера(и не только терминальные) в "Облаках", с "легким, быстрым" доступом к нему по RDP.

Все объяснения для пользователей\заказчиков, что такие сервера должны быть доступны только с доверенных IP или через VPN воспринимаются "в штыки" и тогда приходится рисковать...

Конечно сервер защищается от Bruteforce(а), используются парольная политика, нестандартный порт, но все равно сервер постоянно под угрозой, в среднем в месяц можно увидеть по 15000 попыток подобрать пароль.

Такое обстоятельство дел заставило меня подумать о простом и действенном способе защиты сервера и в то же время этот способ не должен усложнить пользователям подключение к серверу.

Первое что пришло в голову - Port Knocking, использую его на RouterOS, но беглое гугление показало что для Windows не существует подобного штатного функционала, поиск сторонних средств которые могли бы помочь организовать задуманное не дал результата,  больше покопавшись нашел только странные и страшные поделки на Java не внушавшие доверия.

Тогда решил написать PortKnocking для Windows. Написать его решил на PowerShell, чтоб не пришлось устанавливать на сервер дополнительно Java или Python.

Т.к. есть опыт c телеграм ботами(@SuperMon_Bot), решил добавить и информирование о работе PortKnocking через телеграм.

Определился, что вся задумка должна состоять из нескольких скриптов.

Читать далее
Всего голосов 10: ↑7 и ↓3 +4
Просмотры 3.4K
Комментарии 32

Истории

На какие отечественные операционные системы переходить?

Системное администрирование *
Из песочницы

Все активнее и активнее на отечественном рынке растет количество предложений по отечественным операционным системам. В данной обзорной статье пресейл-инженер Cloud Networks Вячеслав Селихов рассмотрит самые интересные сертифицированные операционные системы из единого реестра российских программ для заказчиков государственных и коммерческих структур.

Читать далее
Всего голосов 55: ↑29 и ↓26 +3
Просмотры 25K
Комментарии 98

Облачная кухня: рецепт приготовления тестов производительности дисковой подсистемы сервера

Блог компании Cloud4Y Системное администрирование *Виртуализация *Серверная оптимизация *Облачные сервисы *

Хабр, приветствую! Сегодня с вами Дмитрий Михайлов, ИТ-инженер Cloud4Y, и в этой статье я поделюсь с вами опытом проверки производительности виртуальных дисков.

Читать далее
Всего голосов 18: ↑17 и ↓1 +16
Просмотры 1.1K
Комментарии 2

Дегустация Argo Rollouts: Experiments, Analysis. Часть 2

Блог компании МТС Системное администрирование *Тестирование веб-сервисов *DevOps *Kubernetes *

И снова здравствуйте! Я – Евгений Симигин, занимаюсь внедрением DevOps-практик в Центре компетенций по разработке облачных и интернет-решений МТС Digital. Как я и обещал – это вторая часть нашего обзора Argo Rollouts, из которой вы узнаете о том, как в процессе выкатки нового релиза организовать еще и тестирование.

Читать далее
Всего голосов 5: ↑4 и ↓1 +3
Просмотры 507
Комментарии 0

3CX Live Chat — бесплатный виджет чата для сайта

Блог компании 3CX Ltd. WordPress *Системное администрирование *Разработка систем связи *Управление e-commerce *
Recovery mode
Tutorial

В 3CX V18 Update 5 мы представили новый модуль чата для сайта и обновили соответствующий бесплатный плагин для WordPress. Все настройки модуля теперь перенесены в интерфейс управления 3CX (ранее были в интерфейсе самого модуля) и в веб-клиент 3CX (для пользователей сервиса StartUP). В статье мы расскажем о возможностях кастомизации и технологиях безопасности, которые появились в новой версии чата для сайта.

Если вы регистрировались в сервисе StartUP, вы уже знакомы с настройкой чата, поскольку она происходит на этапе Мастера настройки. Но если у вас установлена выделенная система 3CX, добавить чат на свой сайт можно в три простых шага:

Далее
Рейтинг 0
Просмотры 304
Комментарии 0

Опыт построения системы коммуникации на базе Mattermost Server

Блог компании Axenix (ex-Accenture) Системное администрирование *

Обычная ситуация: нужно реализовать необходимый функционал, внедрить систему с учётом возможностей и ограничений существующего ландшафта, обеспечить выполнение нефункциоанальных требований. Всё это с минимально возможными затратами. Пример решения такой задачи в нашей новой статье.

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Просмотры 1.1K
Комментарии 3

Доступ к VM в разных облаках по RDP и SSH (Windows и Linux)

Блог компании RUVDS.com Системное администрирование *Серверное администрирование *DevOps *Google Cloud Platform *

IAP Desktop — полезная программа под Windows, которая управляет несколькими удалёнными десктопами и устанавливает туннели SSH/RDP к разным виртуальным машинам под Linux и Windows. Она сочетает преимущества стандартного менеджера RDP-соединений с безопасностью и гибкостью Identity-Aware Proxy (IAP-прокси).

В 2022 году такой инструмент очень актуален, с распространением облачных сервисов и хостингов, где могут крутиться наши виртуальные машины и контейнеры. А также в связи с необходимостью удалённого доступа по RDP и SSH к разным корпоративным виртуалкам.
Читать дальше →
Всего голосов 28: ↑28 и ↓0 +28
Просмотры 3.9K
Комментарии 6

Вклад авторов

Работа