Как стать автором
Обновить

Все потоки

Сначала показывать
Порог рейтинга

Как погода влияет на отзывы людей в интернете?

Big Data *Python *IT-компании C++ *Data Mining *
Кейс

Как погода влияет на отзывы людей в интернете?

Ожидается, что мир преодолеет порог глобального потепления между 2027 и 2042 годами. Используя математические модели, которые анализируют текущее состояние климата Земли, ученые ожидают, что температура повысится на 1,5 градуса, как только мы достигнем этого уровня.

Правительства и экологические активисты многих стран мира бьют тревогу по поводу необходимости остановить климатическую катастрофу, которая нарастает быстрее, чем предполагалось в первоначальных прогнозах. Тем не менее, новые технологии будут играть важную роль в формировании политики и разработке инноваций, направленных на решение климатических проблем.

Если абстрагироваться от глобальных перемен климата и рассмотреть изменения состояния погоды, например, в России, то можно сделать несколько любопытных наблюдений.

Читать далее
Всего голосов 5: ↑4 и ↓1 +3
Просмотры 112
Комментарии 0

Новости

Замена Google Tag Manager на on-premise-решение без лишних сложностей

Блог компании Tele2

Приветствую, дорогие хабровчане. Меня зовут Фёдор Куликов, я руководитель digital-аналитики в компании Tele2.

Хочу поделиться с вами тем, какую альтернативу мы нашли для Google Tag Manager.

Читать далее
Всего голосов 1: ↑1 и ↓0 +1
Просмотры 117
Комментарии 0

Как машинное обучение помогает проекту «ЗабастКом» освещать трудовые конфликты

Блог компании Open Data Science DIY или Сделай сам IT-компании Алгоритмы *Искусственный интеллект


В посте расскажу о моем успешном взаимодействии с некоммерческим проектом ЗабастКом, который поддерживает наемных работников в отстаивании своих трудовых прав и интересов. Моя цель была реализовать что-то похожее на ML4SG проект, где волонтеры-специалисты по анализу данных направляют свою энергию на пользу обществу. Например, применяют алгоритмы искусственного интеллекта для спасения потерявшихся людей, для мониторинга качества воздуха или для анализа новостного потока.


Для Забасткома получилось улучшить систему автоматической обработки новостей с помощью алгоритмов машинного обучения. Это привело к увеличению охвата важных событий и уменьшению ручного труда редакторов. Добавлю, что работа с ребятами была похожа на мечту любого DS специалиста: "заказчик" легко шел на контакт; присутствовала заинтересованность и неплохое понимание ML алгоритмов; некоторая продакшн-система уже функционировала; данные для обучения алгоритмов легко собирались. А под катом — поделюсь подробностями и кодом.

Читать дальше →
Всего голосов 4: ↑4 и ↓0 +4
Просмотры 334
Комментарии 0

Воины и волшебники, часть первая

Программирование *.NET *C# *ООП *
Туториал
Перевод

Распространенная проблема, которую я вижу в объектно-ориентированном проектировании:

* Волшебник — это разновидность игрока.
* Воин — это разновидность игрока.
* У игрока есть оружие.
* Посох — это разновидность оружия.
* Меч — это разновидность оружия.

Но прежде чем мы углубимся в детали, я просто хочу отметить, что на самом деле я не говорю здесь о чем-то специфичном для жанра фэнтезийных ролевых игр. Всё в этой серии одинаково хорошо применимо к корпоративным приложениями, но о волшебниках и воинах писать интереснее, так что вот.

давайте напишем несколько классов
Всего голосов 2: ↑0 и ↓2 -2
Просмотры 288
Комментарии 2

Лучший формат данных, для хранения pandas.DataFrame

Блог компании Страховой Дом ВСК Python *

Привет, Хабр!

Меня зовут Вадим Москаленко и я разработчик инновационных технологий Страхового Дома ВСК. В этой статье, хочу поделится с вами, информацией в области хранения данных.

На сегодняшний день существует огромное количество форматов для хранения данных, и, используя библиотеку Pandas при обработке большого объёма данных, возникает вопрос – а какой формат, с которыми Pandas работает «из коробки», даст наибольшую производительность, при дальнейшем использовании, обработанного DataFrame?

Ремарка: поиск информации по этой теме, привёл меня к репозиторию, за авторством Devforfu (ссылка), но так как информация в нём датируется 2019 годом, а за этот период вышло множество обновлений, я решил написать «свежий» бенчмарк, основываясь на принципах автора – ссылка на обновленный бенчмарк. Отмечу, что из-за слишком большой разницы в полученных результатах, я склоняюсь к тому, что мог совершить ошибку, поэтому далее в статье будет указана информация по оригиналу.

В качестве тестируемых форматов использовались следующие варианты: CSV (как самый популярный текстовый формат), Pickle, Feather, Parquet, Msgpack, HDF. Для сравнения будем использовать следующие метрики: размер сериализованного файла, время загрузки DataFrame из файла, время сохранения DataFrame в файл, потребление оперативной памяти при сохранении и загрузке DataFrame.

Тестовые данные – сгенерированный DataFrame с 1 миллионом строк, 15 столбцами цифр и 15 столбцами строковых значений. Генерация численных данных проводилась с помощью numpy. random.normal, в качестве строчных данных использовались UUID. С появлением в Pandas, категориального типа данных (Categorical data), который использует гораздо меньше памяти и более производительней в обработке (обширный материал для другой статьи), интересно также сравнить насколько изменится производительность форматов, поэтому ещё одним этапом сравнения в тестовых данных стал перевод формата «object» к формату «category».

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Просмотры 263
Комментарии 2

Величайшие программисты XXI века. Марк Руссинович и его 65 системных утилит

Блог компании RUVDS.com Разработка под Windows *Системное администрирование *Системное программирование *Софт
Кто из админов не знает утилиты SysInternals (Winternals) для администрирования и диагностики Windows? Кажется, они известны с незапамятных времён. Но не каждый в курсе, что эти незаменимые инструменты написаны вовсе не компанией Microsoft. Скорее наоборот, они написаны вопреки её желанию.

И здесь мы подходим к личности автора, талантливого и суперпродуктивного программиста Марка Руссиновича. Он показал, что один умный парень способен интеллектуально продавить мегакорпорацию. И той придётся заплатить ему огромные деньги, и даже взять на работу. Потому что повторить его программы она не сумела…
Читать дальше →
Всего голосов 11: ↑11 и ↓0 +11
Просмотры 1.2K
Комментарии 0

Недельный геймдев: #104 — 15 января, 2023

Разработка игр *
Дайджест

Из новостей: подробности ухода Game Insight из России, разработчики Duelyst выложили в открытый доступ исходники и ассеты этой CCG, вышел ZBrush 2023, объявлены победители Game Off 2022.

Из интересностей: статистика Deep Rock Galactic, киберпанк-адвенчура Hackerman 1977 в Figma, как AI помогает с графикой и моделированием персонажей, диегетическая реализация инвентаря.

Читать далее
Всего голосов 1: ↑1 и ↓0 +1
Просмотры 282
Комментарии 1

Как организовать конференцию без опыта

Блог компании TINKOFF Дизайн Конференции
Кейс

Я работаю дизайнером в Тинькофф, и недавно мы провели конференцию #FFDD2D о дизайне и продуктах. Я была одним из организаторов. Это был первый такой опыт для меня, и теперь я хочу рассказать о нем. Скорее всего, рассказ будет полезен для вас, если вы работаете в большой компании и интересуетесь организацией мероприятий, хотя в ваши рабочие обязанности это не входит.

Я расскажу, как убедила коллег и другие отделы, что конференция нужна, собрала рабочую группу, нашла концепцию конференции и докладчиков внутри и снаружи компании. И, конечно, поделюсь полезными советами. 

Читать далее
Всего голосов 1: ↑0 и ↓1 -1
Просмотры 102
Комментарии 0

Более Быстрые Сборки Apple с помощью lld Linker

Разработка под iOS *Swift *
Перевод

Более Быстрые Сборки Apple с помощью lld Linker

Linker - Компоновщик (также редактор связей, от англ. link editor) — инструментальная программа, которая производит компоновку («линковку»): принимает на вход один или несколько объектных модулей и собирает из них исполняемый или библиотечный файл-модуль.

Читать далее
Рейтинг 0
Просмотры 102
Комментарии 0

Среднемесячный размер выплат для аккредитации ИТ-компаний: методику расчета разъяснила ФНС

IT-инфраструктура *
FAQ
Recovery mode

Для аккредитованных ИТ-компаний действует комплексная система мер господдержки. Получить государственную аккредитацию в области ИТ может компания, соответствующая среди прочих условию о среднемесячных выплатах работникам. В письме от 28.11.2022 № ЗГ-3-11/13312@ ФНС разъяснила как рассчитать значение этого критерия, влияет ли на расчет наличие в компании сотрудников, которые трудятся по трудовым договорам на неполную ставку, а также по договорам ГПХ.

Читать далее
Всего голосов 1: ↑0 и ↓1 -1
Просмотры 306
Комментарии 0

10 инструментов ИИ с бесплатным тестовым доступом, которые пригодятся в работе

Искусственный интеллект
Обзор

В этой статье собрано 10 инструментов на основе искусственного интеллекта, большинство из которых просты в использовании и бесплатны для тестирования.

Всем привет! Меня зовут Маруся, я аналитик данных, веду блог в телеграме Аналитика и growth mind-set.

Практически все инструменты я использовала и была с одной стороны вдохновлена тем, насколько они упрощают работу, с другой стороны я отчетливо увидела, что эти новые инструменты уже начинают видоизменять текущие профессии и рождать совершенно новые.

Первую часть с инструментами можно почитать тут.

Читать далее
Всего голосов 3: ↑2 и ↓1 +1
Просмотры 776
Комментарии 0

Миссия невыполнима: подключаем электросчётчик SDM220 к трансформеру Lavritech V7.1 Lite по RS485/Modbus RTU

Блог компании Timeweb Cloud Программирование микроконтроллеров *Разработка под Arduino *Умный дом DIY или Сделай сам
Обзор


Некоторое время назад в моём блоге вышел цикл статей об устройстве и программировании Lavritech V7.1 Lite — ESP32 контроллера с необычной модульной архитектурой. Необычность архитектуры заключается в том, что функционал Lavritech V7.1 Lite можно набирать из отдельных модулей, как в конструкторе Lego. Я подробно рассмотрел как работу с внутренними модулями (вставляемые в специальные разъёмы, на манер плат IBM PC), так и с внешними блоками Wiren Board, на подключение которых рассчитан Lavritech V7.1 Lite.

Но в этих статьях остался нераскрытым один важный аспект — работа контроллера по интерфейсу RS485 при помощи подключаемых (внутренних) модулей. Я оставил эту тему для отдельной статьи ввиду её сложности и объёмности — и вот статья готова и нас ждёт увлекательное путешествие в мир DIY хардкора.

В качестве примера будем подключать электросчётчик SDM220 к модулю Lavritech RS485 V1 по RS485/Modbus RTU (плюс осциллограммы и рабочий код в подарок).
Читать дальше →
Всего голосов 7: ↑7 и ↓0 +7
Просмотры 423
Комментарии 3

Эволюция HTTP. Часть 2. Краткая история развития самого популярного протокола Всемирной паутины

Блог компании СберМаркет Сетевые технологии *История IT

Привет! Меня зовут Глеб Гончаров, я руководитель группы разработки клиентского продукта в СберМаркете. Это вторая часть в серии статей об истории развития самого популярного протокола Всемирной паутины — протокола HTTP.

В первой части я рассказал про старую группу протокола HTTP  (HTTP/0.9, HTTP/1.0, HTTP-NG, HTTP/1.1): причины их появления, видах запросов и недостатках. Сегодня же поговорим о новой группе, которая включает в себя протоколы SPDY, HTTP/2, gQUIC и HTTP/3.

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Просмотры 505
Комментарии 0

Исследование сна от MIT: как высыпаться и повысить свою продуктивность

Блог компании FirstVDS GTD *Здоровье

Субъективно кажется, что спать подольше — отличное решение. Чем дольше — тем лучше!

Но иногда ты спишь десять часов, просыпаешься — и сразу же чувствуешь себя разбитым.

В чём тут дело? Проснулся не в той фазе, в глубокой, а не быстрой? Перепил кофе на ночь? Нужно считать свои биоритмы сна по приложению? Или включать машину с белым шумом, чтобы через неё не пробились сторонние звуки? Сколько часов нужно вообще, и как чувствовать себя здоровее?

На вопросы о нашем сне попытались ответить ученые-экономисты из Массачусетского технологического института. Они изучили усталых рабочих в худшем и самом шумном городе Индии, чтобы выяснить, как можно лучше спать и какой из этого можно извлечь профит. Одно из их предположений — увеличение количества сна не так важно, как его своевременность и качество.

Статья «Экономические последствия увеличения сна среди городской бедноты» опубликована в журнале The Quarterly Journal of Economics. Также можно почитать вырезку на сайте самого MIT.

Читать далее
Всего голосов 8: ↑7 и ↓1 +6
Просмотры 2.4K
Комментарии 2

Истории

В поисках утраченного сканера: почему найти альтернативу Qualys оказалось непростой задачей

Блог компании Ростелеком-Солар Информационная безопасность *
Кейс

Прошлый год проходил под эгидой вынужденного импортозамещения: вендоры ИТ и ИБ уходили, забирая с собой обновления, сигнатуры и лицензии.  А хакеры радовались уязвимостям, которые компании просто не могли закрыть. Словом, патча нет, но вы держитесь! С поиском незакрытых уязвимостей тоже все оказалось непросто. Топовые зарубежные сканеры ушли из России. Многие остались без эффективного инструмента – и мы в том числе, ведь наш облачный сервис контроля уязвимостей (VM, Vulnerability Management) был построен с использованием технологической платформы американского Qualys. В этом посте поговорим о том, как мы выбирали альтернативу Qualys, и что происходит с российским рынком сканеров уязвимостей сейчас. 

Искать с нами
Всего голосов 4: ↑4 и ↓0 +4
Просмотры 669
Комментарии 0

Неполная, неточная и наполовину выдуманная история исключений

Программирование *.NET *C++ *Go *Rust *

Давным-давно, когда деревья были маленькие, дискеты большие, а трава зеленая, все писали на языках низкого уровня. В этих языках все было целыми числами. Переменные были числами, массивы были и структуры были просто адресами (числами) и смещениями (тоже числами). Даже если указывали тип данных, то он определял только размер памяти для значения.

В эти старые добрые времена было очень мало причин почему программа не могла продолжить работу. Например деление на ноль, неправильное обращение к памяти (например обращение по адресу равному нулю) или неправильная инструкция процессора (это когда уже совсем все плохо). Если что-то такое происходило операционная система без капли смущения грохала вашу программу.

Чтобы программа не грохалась, а выдавала осмысленное сообщение и давала возможность продолжить работу, надо было добавить проверку.

Читать далее
Всего голосов 6: ↑6 и ↓0 +6
Просмотры 1.3K
Комментарии 22

Движение по магистрали без аварий. Или как передавать 1,5 терабайта в сутки и ни одного не потерять?

Блог компании SSP SOFT Высокая производительность *Java *Распределённые системы *
Кейс

Привет, Хабр.

Меня зовут Владимир Евсеев, я Senior Java developer, Teamlead в SSP SOFT.

Наша команда приступила к масштабному проекту: системе, обеспечивающей транспортный уровень документооборота банка. Сегодня я расскажу, как мы справились с первым этапом: выстроили магистраль, способную передавать около 150 000 файлов в сутки, или 1,5 терабайта информации. Поделюсь, что получилось и что еще предстоит  довести до совершенства.

Читать далее
Всего голосов 5: ↑2 и ↓3 -1
Просмотры 809
Комментарии 6

Состояние навигации в Jetpack Compose

Блог компании SimbirSoft Программирование *Разработка мобильных приложений *Разработка под Android *
Перевод

Хотя стабильная версия Jetpack Compose вышла уже достаточно давно, вопрос навигации в Compose до сих пор остается одним из самых обсуждаемых в сообществе Android-разработчиков. Именно поэтому мы решили перевести статью, в которой автор указывает на проблемы официального решения навигации для Compose, перечисляет плюсы и минусы популярных библиотек-альтернатив, а также на основе своего опыта разработки рассуждает о том, какой функциональностью должен обладать хороший фреймворк навигации. 

Данная статья будет полезна Android-разработчикам, которые встали перед выбором подходящей библиотеку навигации для проекта на Jetpack Compose.

Читать далее
Всего голосов 3: ↑3 и ↓0 +3
Просмотры 249
Комментарии 0

Парагвай. Как живут в одной из беднейших стран Южной Америки?

IT-эмиграция

Парагвай предоставляет самые простые в Южной Америке условия для получения ПМЖ. Поэтому сегодня о нем пишут гораздо больше, чем ожидаешь от небольшой и откровенно небогатой страны где-то на другом конце света.

Я пробыл здесь два с половиной месяца, посетил 4 города и получил от пребывания тут гораздо больше приятных впечатлений, чем предвкушал изначально. Поэтому сегодня я расскажу вам об этой интересной стране: образ и уровень жизни, облик современных городов, экономика, климат, местные гастрономические особенности и всё-всё-всё.

Читать далее
Всего голосов 32: ↑30 и ↓2 +28
Просмотры 3.6K
Комментарии 5

Популяризация JSON-RPC (часть 2)

Разработка веб-сайтов *PHP *JavaScript *CodeIgniter *API *

Продолжим строить подобие JSON-RPC сервера, начатого в части 1 и анализировать его плюсы и минусы. В прошлой статье был описан механизм отделения бизнес логики бэкенда от транспортного протокола (HTTP) через шаблон проектирования "Front Controller", роль которого исполняет в нашем случае JsonRpcController.

Бэкенд API до передачи запроса в код, отвечающий за бизнес логику, обычно предоставляет частичный функционал API шлюза (API gateway) - он может делать аутентификацию, авторизацию, роутинг, валидацию данных, логгирование, кэширование, обеспечивать меры безопасности и другое.

Читать далее
Всего голосов 3: ↑3 и ↓0 +3
Просмотры 700
Комментарии 0