Как стать автором
Обновить

Администрирование

Сначала показывать
Порог рейтинга

Как объединить два корпоративных хранилища так, чтобы не перессориться со всеми

Блог компании Газпромбанк Хранилища данных *Хранение данных *

Корпоративное хранилище в ГПБ существует с девяностых. Тогда оно создавалось исключительно под задачи регуляторной и текущей отчетности. Соответственно и архитектура была такой, чтобы соответствовать требованиям этих задач

Изначально мы использовали SAP ASE. В нем была реализована довольно сложная бизнес-логика, и все работало довольно неплохо, но старая система не потянула бы расширение, не хватало производительности. Также были пробелы и в документировании — из-за огромного легаси, о котором даже спросить было некого.

По мере развития IT-ландшафта и появления новых систем, росли требования заказчиков, ставились новые задачи. В 2009 году стало понятно, что надо менять подход к работе с КХД, аналитическую платформу и инструменты по работе с хранилищем. Выбрали новые: SAP IQ, а в качестве «интеллекта» — DataStage (тогда он еще не принадлежал IBM). 

Перед командой стояла задача создать объединенное хранилище данных, не порушив при этом работу всех систем. Эта история о том, как команда Газпромбанка сумела незаметно перетащить потребителей со старого хранилища на новое.

Читать далее
Рейтинг 0
Просмотры 224
Комментарии 0

Новости

Кто такой Data Product Manager и почему без него не обойтись в 2022 году, если вы работаете с Big Data

Блог компании VK Системное администрирование *Big Data *DevOps *


В 2022 году индустрия больших данных изменилась. И нужно решать, что делать с инфраструктурными вызовами, переходить ли в облако и как продолжать развитие ИТ-решений. Со всем этим компаниям может помочь новая роль в команде — Data Product Manager.

Это статья написана по мотивам выступления на VK Cloud Conf Александра Волынского, Technical Product Manager в VK Cloud. Вы можете посмотреть его целиком в записи.

Главные проблемы и вызовы для индустрии работы с данными в 2022 году


  • Инфраструктура и инструменты. Как обеспечить работу систем, построенных на базе ПО вендоров, прекративших продажу лицензий?
  • Поддержка и развитие решений на базе зарубежного ПО. Как развивать системы и где получить компетенции для технического сопровождения решений, поддержку которых прекратили зарубежные вендоры?
  • Обеспечение безопасности решений. Обновления, новую функциональность и ключевые патчи для закрытия уязвимостей уже не получить.

Учитывая эти проблемы, многие компании решают перейти на Open-Source-инструменты и решения. Но применение этого стека технологий — тоже непростая задача: нужно выбрать решения, запланировать ресурсы, сформировать команду специалистов с нужными компетенциями или найти партнеров по внедрению ПО. И еще понадобится специалист, который все это организует: не всегда в компании может быть достаточно компетенций для реализации таких задач. 
Читать дальше →
Рейтинг 0
Просмотры 153
Комментарии 0

Kafka как интеграционная платформа: от источников данных к потребителям и в хранилище (часть 1)

Блог компании Группа НЛМК Высокая производительность *Системное администрирование *Big Data *
Tutorial

НЛМК- большая компания, производственные активы которой располагаются в разных регионах России и за рубежом. Перед нами стояла задача спроектировать и внедрить новую интеграционную платформу, которая могла бы быть использована для организации информационного обмена, учитывала специфику производственных предприятий и особенности решений, внедренных на протяжении последних десятков лет.

Меня зовут Илья Макаров, я работаю архитектором решений и в статье расскажу про архитектуру цифровой платформы НЛМК, из каких компонент, помимо Apache Kafka, она состоит, к каким соглашениям по именованию топиков и договоренностям по передаче данных мы пришли, как всем этим управляем.

Читать далее
Всего голосов 5: ↑5 и ↓0 +5
Просмотры 492
Комментарии 1

Мобильные устройства не могли подключиться к SSID

Сетевые технологии *Беспроводные технологии *

Недавно обратился клиент с проблемой на 802.11 сети: с мобильных телефонов часто не удавалось подключиться к SSID на фазе аутентификации. Со стационарных устройств таких проблем замечено не было - но именно с мобильных, как сообщал заказчик. Мы попросили клиента сообщить происходит ли это во время удаления пользователя от точки доступа или нет, но клиент не смог сообщить, так как сам не знал где физически располагаются точки доступа.

Читать далее
Всего голосов 10: ↑9 и ↓1 +8
Просмотры 1.1K
Комментарии 1

Подводных интернет-кабелей все больше: новые магистрали, суда и возможности

Блог компании Selectel IT-инфраструктура *Разработка систем связи *

Относительно недавно, в ноябре 2021 года, протяженность подводных интернет-магистралей превысила 1 млн километров. Несмотря на различные проблемы в экономике, проекты в этой отрасли продолжают развиваться, а интернет-инфраструктура — расширяться. Совсем недавно начала работать новая магистраль стоимостью в $1 млрд, плюс появилось еще несколько проектов, о которых стоит знать. Все это — под катом.
Читать дальше →
Всего голосов 19: ↑19 и ↓0 +19
Просмотры 2.1K
Комментарии 1

Реализация кэш-компрессии по алгоритму base+delta

Высокая производительность *GitHub *FPGA *Процессоры Инженерные системы *
Из песочницы

Существенную часть кристалла современных ЦП занимает кэш-память. Дальнейшее увеличение кэш-памяти без изменения технологических норм приведет к соответствующему увеличению кристалла. Одним из способов увеличения объема хранимой информации в кэше без увеличения самого кэша является использование алгоритмов компрессии. Среди них выделяются алгоритмы Base+Delta и Base-Delta-Immediate. Данная статья посвящена реализации первого алгоритма.

Читать далее
Всего голосов 13: ↑13 и ↓0 +13
Просмотры 1K
Комментарии 1

Как Go выполняет встраивание

Блог компании VK Серверная оптимизация *Go *

Привет, я Никита Галушко, работаю над мессенджером ВКонтакте. Расскажу, как Go подходит к инлайнингу функций — этот процесс ещё называют встраиванием. В статье разберёмся, зачем вообще это нужно, какой профит можно получить для ускорения работы кода, а когда плюсы могут обернуться минусами. На примерах углубимся в специфику Go: как этот язык инлайнит функции, что можно и что нельзя встроить, какие возможности доступны в разных версиях. Также обсудим ограничения и способы обойти их.

Читать далее
Всего голосов 22: ↑21 и ↓1 +20
Просмотры 2.6K
Комментарии 5

Взять и собрать «мусор» в облаке — несколько open source решений, которые с этим помогут

Блог компании CloudMTS Open source *Системное администрирование *Облачные сервисы *Kubernetes *
image

Если компания активно тестирует гипотезы и запускает новые прототипы, в облаке могут накапливаться «забытые» сервисы, которые продолжают потреблять ресурсы. Есть open source инструменты, которые автоматически находят и удаляют неиспользуемые инстансы в такой инфраструктуре. Обсудим возможности и предпосылки к использованию подобных решений.
Читать дальше →
Всего голосов 6: ↑5 и ↓1 +4
Просмотры 1.4K
Комментарии 2

Цена ошибки. Каковы последствия самых нашумевших ошибок в программах?

Блог компании Serverspace Тестирование IT-систем *IT-инфраструктура *

6 сентября 1989 года парижанам запомнилось надолго — в этот день более 41 тысячи жителей французской столицы получили из полиции официальные письма о том, что они совершили жестокие убийства и грабежи, хотя на самом деле адресаты всего лишь нарушили правила дорожного движения. Причиной казуса оказался сбой в компьютерной системе парижской жандармерии, добавивший седых волос простым обывателям. Этот инцидент стал далеко не первым в истории высоких технологий, и уж конечно — не последним. Давайте вспомним самые громкие и широко известные компьютерные ошибки, которые привели к забавным, а иногда — довольно печальным последствиям.

Читать далее
Всего голосов 11: ↑6 и ↓5 +1
Просмотры 5.2K
Комментарии 13

Как продвигать стартап: 12 способов выхода на рынок от 100 «единорогов»

Growth Hacking *Интернет-маркетинг *Контент-маркетинг *Развитие стартапа Облачные сервисы *
Перевод

Рассказ о том, с каких шагов начинали продвижение своих продуктов 100 самых дорогих стартапов мира, и два алгоритма, которые помогут вам выбрать свою дорогу к первой 1000 пользователей.

Читать далее
Всего голосов 11: ↑11 и ↓0 +11
Просмотры 2K
Комментарии 4

«Я заработал $3,8 млн. за ночь на арбитраже крипты, но у меня их хотят отобрать». История с Acala Network

Децентрализованные сети *Криптография *
Recovery mode

Как вы думаете, можно ли законно заработать миллионы долларов на крипте всего лишь за ночь, сидя за компом и совершая не сложные действия? Да, но для этого должны сойтись сразу несколько обстоятельств. Кто-то все же в этот момент нарушает закон, ведь деньги не берутся из воздуха. Однако, можно косвенно поучаствовать в схеме, при этом заработав легально. Но не начнутся ли с этими деньгами проблемы просто потому, что это кому-то неудобно?

Сегодня мы подробно поговорим о ситуации связанной с aUSD и расскажем вам историю подписчика, который за одну ночь из ничего сделал 3,8 млн. долларов в aUSD и что с ним происходит сейчас. Поехали!

Читать далее
Всего голосов 23: ↑12 и ↓11 +1
Просмотры 3.5K
Комментарии 12

Использование HTMS для хранения и применения нейронных сетей

Python *Программирование *Хранение данных *Машинное обучение *Искусственный интеллект

Новый подход к моделированию нейронных сетей в таблично-сетевых базах данных.

[Это перевод статьи, которую я опубликовал на www.medium.com в серии постов о таблично-сетевой модели данных. Смотрите ссылки на все посты здесь.]

Система управления HyperTable Management System — HTMS разработана для универсального использования. Одной из предметных областей, где признаки базовой для HTMS — таблично-сетевой модели данных соответствуют ей максимально адекватно, являются нейронные сети¹. Нейронная сеть представляет собой направленный, взвешенный граф.

В качестве базовой модели нейросети я буду использовать многослойный персептрон MultyLayer Percehtron— MLP² с одним скрытым слоем.

Читать далее
Всего голосов 5: ↑0 и ↓5 -5
Просмотры 603
Комментарии 5

CDN против DDoS-атак: в каких случаях это действительно работает

Блог компании Selectel Высокая производительность *IT-инфраструктура *Сетевые технологии *IT-компании


Мы привыкли воспринимать CDN, или сеть доставки контента, как технологию для ускорения работы веб-сайтов. При этом у CDN есть менее известное преимущество — услуга повышает безопасность инфраструктуры, в частности за счет защиты от DDoS-атак. Под катом рассказываем, действительно ли сеть доставки контента способна противостоять атакам и какие тут есть нюансы.
Читать дальше →
Всего голосов 32: ↑32 и ↓0 +32
Просмотры 1.4K
Комментарии 1

Куда мы катимся? Первая часть

Open source *PostgreSQL *Администрирование баз данных *
Tutorial

Сегодня я хочу поговорить с вами про такую замечательную вещь как Point in time recovery (PITR) в PostgreSQL.

Механизм восстановления на определенную точку во времени работает таким образом – у нас есть базовый бэкап, созданный при помощи какой-либо утилиты создания бэкапов (например pg_basebackup), а также набор журнальных файлов, постепенно применяя (накатывая) который, мы можем восстановиться до указанной точки.

Звучит это довольно просто, но, как водится, в каждой простой вещи есть какие-то нюансы, вот о них мы сегодня с вами и поговорим.

Читать далее
Всего голосов 5: ↑5 и ↓0 +5
Просмотры 2K
Комментарии 4

VDI / DaaS / Termidesk

Блог компании Astra Linux Системное администрирование *IT-инфраструктура *Виртуализация *Облачные сервисы *

Часть 1. Знакомство с архитектурой и назначением

Программный продукт Termidesk от российского разработчика ООО «УВЕОН — ОБЛАЧНЫЕ ТЕХНОЛОГИИ» (входит в группу компаний «Астра») предназначен для создания инфраструктур виртуальных рабочих мест (VDI). Чтобы ускорить его развитие и обеспечить высокий уровень сервиса для заказчиков, в ГК «Астра» на ближайшие годы запланировано десятикратное увеличение штата профильных специалистов, и поэтому мы ежедневно проводим собеседования для кандидатов на технические позиции всех уровней. Интересная, но вполне объяснимая особенность выяснилась на этапе их знакомства с устройством инфраструктуры виртуальных рабочих мест. Многие, имея широкий кругозор и опыт в технологиях, протоколах и решениях по направлению LDAP, FreeIPA, MS AD, Docker, vSphere, libvirt/KVM, oVirt, OpenNebula, OpenStack, SPICE, RDP и VNC, зачастую не всегда уверенно представляют себе принципы построения и ключевые отличия платформ серверной виртуализации от законченной инфраструктуры VDI.

Читать далее
Всего голосов 4: ↑4 и ↓0 +4
Просмотры 1.3K
Комментарии 0

Memcached: установка сервиса, мониторинг вручную и с помощью Zabbix

Блог компании FirstVDS Системное администрирование *Системное программирование *IT-инфраструктура *Серверная оптимизация *
Tutorial

Большинство высоконагруженных сервисов, к которым, без сомнения, относится сервис SAAS интернет-магазинов, используют Memcached как высокопроизводительное хранилище данных в оперативной памяти сервера. В этой статье мы расскажем о том, как установить Memcached, как контролировать работу сервиса Memcached вручную, а также с помощью Zabbix.

Читать далее
Всего голосов 6: ↑3 и ↓3 0
Просмотры 736
Комментарии 0

Быстро. Качественно. Недорого

Блог компании X5 Tech IT-инфраструктура *CRM-системы *Контент-маркетинг *

Как мы внедряли новый процессинг для программ лояльности «Пятёрочки» и «Перекрёстка»

Читать далее
Всего голосов 10: ↑6 и ↓4 +2
Просмотры 2.4K
Комментарии 41

Интеграция Open Policy Agent (OPA) в Kubernetes

Блог компании Southbridge IT-инфраструктура *DevOps *Kubernetes *
Перевод

OPA можно интегрировать практически куда угодно, включая Kubernetes. Из этого материала вы узнаете, как интегрировать OPA в Kubernetes, и на примерах рассмотрите преимущества этой интеграции. В Kubernetes мы развертываем OPA как контроллер доступа. 

Читать далее
Всего голосов 7: ↑7 и ↓0 +7
Просмотры 758
Комментарии 1

Глубокое погружение в IP SLA на границе интернета

Блог компании OTUS Сетевые технологии *
Перевод

Обычно пограничный интернет-маршрутизатор (Internet Edge router) подключен к двум разным поставщикам услуг. Это защищает офис от сбоев в работе одного из провайдеров.

Читать далее
Всего голосов 3: ↑2 и ↓1 +1
Просмотры 978
Комментарии 4

Разбираемся с Redis

Блог компании Wunder Fund Разработка веб-сайтов *Администрирование баз данных *Хранение данных *
Перевод

Этот материал представляет собой глубокое исследование всего, что связано с Redis. В частности — речь пойдёт о различных способах организации хранилищ Redis, о постоянном хранении данных, о форках процессов.

Читать далее
Всего голосов 53: ↑53 и ↓0 +53
Просмотры 14K
Комментарии 4