Облачное Хранилище (Станислав Богатырев)

•

0 likes•606 views

Ontico

Nginx + Openstack Swift = Clodo Storage

Cтанислав Богатырев
www.clodo.ru

Такие разные облака

Content Delivery
Content Delivery

Load Balancing

Станислав Богатырев,
storage@clodo.ru

Хранилище. Какое оно?
● Надёжно хранить данные пользователей
● Позволять удобно управлять данными, в том числе через API
● Раздавать по HTTP быстро и много
● Удобный для пользователя интерфейс (FTP, FS, HTTP, etc)

Станислав Богатырев,
storage@clodo.ru

URL/IP URL/IP Swift Swift
storage storage
Swift Swift
proxy proxy Log & Log &
Services billing billing

XFS XFS
SATA SATA
Cluster software Pacemaker/CoroSync
front-end front-end back-end back-end
Hardware
host host host host
Станислав Богатырев, storage@clodo.ru

URL/IP URL/IP Swift Swift
NGINX NGINX
storage storage

Cache Cache Log & Log &
Services daemon daemon billing billing
Swift proxy Swift proxy

ReiserFS ReiserFS
XFS XFS
SAS SAS SATA SATA
Cluster software
Pacemaker/CoroSync
front-end front-end back-end back-end
Hardware
host host host host
Станислав Богатырев, storage@clodo.ru

URL/IP URL/IP Swift Swift
storage storage
Swift Swift
proxy proxy
Результаты замера производительности:
Accounts Accounts
Services & billing
Максимум 400 запросов в секунду на front-end & billing
Значительная загрузка процессора
XFS XFS
SATA SATA
Cluster software
Pacemaker/CoroSync
front-end front-end back-end back-end
Hardware
host host host host
Станислав Богатырев, storage@clodo.ru

URL/IP URL/IP Swift Swift
NGINX NGINX
storage storage
Результаты замера производительности:
Cache Cache Accounts Accounts
Services daemon запросовdaemon
12000 & billing
в секунду на front-end & billing
Swift proxy Swift proxy
Незначительная загрузка процессора
ReiserFS ReiserFS
XFS XFS
SAS SAS SATA SATA
Cluster software
Pacemaker/CoroSync
front-end front-end back-end back-end
Hardware
host host host host
Станислав Богатырев, storage@clodo.ru

Хочу красивые ссылки!
http://cs1.clodo.ru/v1/CLODO_3771b39b07d46e79d61a777c72a91071/
public/images/image01.gif

http://static.domain/images/image01.gif

… и уберите ваш дурацкий /public/

Станислав Богатырев, storage@clodo.ru

Я удалил всё, а это видно!

Станислав Богатырев,
storage@clodo.ru

Демон Кеша
● Perl
● FastCGI

Станислав Богатырев,
storage@clodo.ru

Планы на будущее
● Проект «Все логи людям!»
● Раздача медийного контента

● Репликация между ДЦ с возможностью

бэкапа
● Авторизация по pubcookie

● Swift-proxy в nginx модуле

● Http 1.1

● Более умный демон Кеша
Станислав Богатырев,
storage@clodo.ru

HW SW
● 840Tb SATA ● Debian Live
● 7Tb SAS ● Chef

● 512 Gb RAM ● Pacemaker

● 30U Rack ● Clodo Panel

Станислав Богатырев,
storage@clodo.ru

Станислав Богатырев
storage@clodo.ru
realloc@jabber.ru
+7 (812) 380-24-97

Similar to Облачное Хранилище (Станислав Богатырев)

В докладе мы поделимся опытом, полученным в ходе создания публичного облака, построенного на базе продуктов Microsoft. В частности, речь пойдет о построении программно-определяемой системы хранения данных на основе технологии Storage Spaces. Основное предназначение полученной СХД объемом около 80ТБ - использование в кластере Hyper-V для запуска порядка 5000 ВМ. Мы рассмотрим архитектуру хранилища, проблемы снижения latency сетевого трафика, а также подходы повышения производительности при создании пулов и использовании кэша. Кроме того, буду затронуты вопросы тестирования производительности и сценарии миграции на Storage Spaces Direct.

Опыт построения СХД на базе Windows Server для использования в публичном обла...

Ontico

Nginx Igor Sysoev

Media Gorod

Презентация "Это что-то новенькое"

Дмитрий Костюк

В этом году мы перевели наш портал на HTTPS. Это оказалось непростой задачей. Основными проблемами явились рост нагрузки, увеличение Round Trip Times (RTT) и Mixed Content. Мы опробовали различные известные механизмы, призванные нивелировать эти проблемы, но, как оказалось на практике, все они скрывают в себе особенности. Эти особенности стоило знать заранее, но их не удалось почерпнуть из открытых источников. В этом докладе мы хотим поделиться сложностями, с которыми мы столкнулись, а также тем, к каким выводам в итоге пришли. Надеемся, что набитые нами шишки будут полезны тем проектам, которые только планируют переход на HTTPS.

Неочевидные детали при запуске HTTPS в OK.Ru / Андрей Домась (Одноклассники)

Ontico

HighLoad++ 2017 Зал Дели + Калькутта, 7 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/2940.html Почти год назад я выступил с докладом 'Как и зачем создавать NginX-модуль - теория, практика, профит'. У меня не получилось рассказать обо всех возможностях Nginx и, уверяю вас, в этом докладе у меня это тоже не получится - тема слишком большая! Сразу перейдем к делу. "Так что нового будет в этом докладе?" - спросите вы. В нем будут ответы на вопросы, на которые я не успел ответить в прошлом году, а именно: - Как и зачем создавать upstream-модули? ...

Как и зачем создавать NginX-модуль — теория, практика, профит. Часть 2 / Васи...

Ontico

Геннадий Карпов, De Novo: "Облако De Novo 2015-2016: история прошедшего года ...

De Novo

Magento performance

aheadWorks

Building deployment pipeline - DevOps way

Andrey Rebrov

В выпуске 4.8 ядра Linux появилась поддержка NVMf (NVM Express over Fabrics) — стандартизованной возможности присоединять по сети как блочные устройства твердотельные накопители, установленные в разъёмы PCI Express. NVMf лишён многих недостатков iSCSI, повторяющего по сети SCSI-команды со всеми их издержками времён дисковых накопителей, и главное — позволяет по полной использовать возможности сетей с прямым доступом к оперативной памяти (RDMA). Таким образом, можно под управлением одного узла собрать сверхбыстрый и сверхотзывчивый пул блочных устройств, не прибегая к покупке дорогого флэш-массива. Но как воспользоваться этим пулом, не загубив теоретические показатели программными обёртками? В докладе будут рассмотрены варианты применения NVMf для различных конфигураций PostgreSQL, Oracle Database, Hadoop, файловых хранилищ, о разработках в направлении «программно-определяемой памяти» с применением NVMe-устройств, доступных по сети, обсуждены текущие проблемы, ограничения и перспективы. Особое внимание будет уделено практическим способам измерения производительности ввода-вывода с учётом задачи, решаемой подсистемой хранения.

NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)

Ontico

Андрей Николаенко, системный архитектор в IBS, выступил на конференции HighLoad++ 2016. Тезисы В выпуске 4.8 ядра Linux появилась поддержка NVMf (NVM Express over Fabrics) — стандартизованной возможности присоединять по сети как блочные устройства твердотельные накопители, установленные в разъёмы PCI Express. NVMf лишён многих недостатков iSCSI, повторяющего по сети SCSI-команды со всеми их издержками времён дисковых накопителей, и главное — позволяет по полной использовать возможности сетей с прямым доступом к оперативной памяти (RDMA). Таким образом, можно под управлением одного узла собрать сверхбыстрый и сверхотзывчивый пул блочных устройств, не прибегая к покупке дорогого флэш-массива. Но как воспользоваться этим пулом, не загубив теоретические показатели программными обёртками? В докладе будут рассмотрены варианты применения NVMf для различных конфигураций PostgreSQL, Oracle Database, Hadoop, файловых хранилищ, о разработках в направлении «программно-определяемой памяти» с применением NVMe-устройств, доступных по сети, обсуждены текущие проблемы, ограничения и перспективы. Особое внимание будет уделено практическим способам измерения производительности ввода-вывода с учётом задачи, решаемой подсистемой хранения.

Андрей Николаенко, IBS. NVMf: 5 млн IOPS по сети своими руками

IBS

Приёмы разработки высоконагруженных приложений на Twisted (Андрей Смирнов)

Ontico

Гетерогенные сервисы для highload-проектов на примере Imhonet.ru и 4talk.im, ...

Ontico

К. Шатров "Фреймворк Capistrano", DUMP-2014

it-people

Смотрим в HTTPS

Denis Batrankov, CISSP

Виртуализация ASR 9000: объединение шасси в кластер и подключение сателлитов

Cisco Russia

EMC XtremIO. Превосходя ожидания

КРОК

Browser Persistence Bynet

Транслируем.бел

Виртуализация сетевой инфраструктуры на примере использования IOS-XRv 9000 и ...

Cisco Russia

распределенное файловое хранилище (Nginx, zfs, perl). перепелица мамонтов. зал 2

rit2011

Node.js Меньше сложности, больше надежности Holy.js 2021

Timur Shemsedinov

Similar to Облачное Хранилище (Станислав Богатырев) (20)

Опыт построения СХД на базе Windows Server для использования в публичном обла...

Nginx Igor Sysoev

Презентация "Это что-то новенькое"

Неочевидные детали при запуске HTTPS в OK.Ru / Андрей Домась (Одноклассники)

Как и зачем создавать NginX-модуль — теория, практика, профит. Часть 2 / Васи...

Геннадий Карпов, De Novo: "Облако De Novo 2015-2016: история прошедшего года ...

Magento performance

Building deployment pipeline - DevOps way

NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)

Андрей Николаенко, IBS. NVMf: 5 млн IOPS по сети своими руками

Приёмы разработки высоконагруженных приложений на Twisted (Андрей Смирнов)

Гетерогенные сервисы для highload-проектов на примере Imhonet.ru и 4talk.im, ...

К. Шатров "Фреймворк Capistrano", DUMP-2014

Смотрим в HTTPS

Виртуализация ASR 9000: объединение шасси в кластер и подключение сателлитов

EMC XtremIO. Превосходя ожидания

Browser Persistence Bynet

Виртуализация сетевой инфраструктуры на примере использования IOS-XRv 9000 и ...

распределенное файловое хранилище (Nginx, zfs, perl). перепелица мамонтов. зал 2

Node.js Меньше сложности, больше надежности Holy.js 2021

More from Ontico

HighLoad++ 2017 Зал «Калининград», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/2964.html Одноклассники состоят из более чем восьми тысяч железных серверов, расположенных в нескольких дата-центрах. Каждая из этих машин была специализированной под конкретную задачу - как для обеспечения изоляции отказов, так и для обеспечения автоматизированного управления инфраструктурой. ...

One-cloud — система управления дата-центром в Одноклассниках / Олег Анастасье...

Ontico

HighLoad++ 2017 Зал «Калининград», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/3032.html Протокол DNS на семь лет старше, чем Всемирная паутина. Стандарты RFC 882 и 883, определяющие основную функциональность системы доменных имён, появились в конце 1983 года, а первая реализация последовала уже годом позже. Естественно, что у технологии столь старой и при этом по сей день активнейшим образом используемой просто не могли не накопиться особенности, неочевидные обыкновенным пользователям. ...

Масштабируя DNS / Артем Гавриченков (Qrator Labs)

Ontico

HighLoad++ 2017 Зал «Калининград», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/3010.html В этом докладе я расскажу, как BigData-платформа помогает трансформировать Почту России, как мы управляем построением и развитием платформы. Расскажу про найденные удачные решения, например, как разбиение на продукты с понятными SLA и интерфейсами между ними помогло нам сохранять управляемость с ростом масштабов проекта. ...

Создание BigData-платформы для ФГУП Почта России / Андрей Бащенко (Luxoft)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 10:00 Тезисы: http://www.highload.ru/2017/abstracts/2914.html Казалось бы, что нужно для организации тестового окружения? Тестовая железка и копия боевого окружения - и тестовый сервер готов. Но как быть, когда проект сложный? А когда большой? А если нужно тестировать одновременно много версий? А если все это вместе? Организация тестирования большого развивающегося проекта, где одновременно в разработке и тестировании около полусотни фич - достаточно непростая задача. Ситуация обычно осложняется тем, что иногда есть желание потрогать еще не полностью готовый функционал. В таких ситуациях часто возникает вопрос: "А куда это можно накатить и где покликать?" ...

Готовим тестовое окружение, или сколько тестовых инстансов вам нужно / Алекса...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2854.html Из этого доклада вы узнаете о возможностях репликации и автофейловера PostgreSQL, в том числе о возможностях, ставших доступных в PostgreSQL 10. Среди прочих, будет затронуты следующие темы: * Виды репликации и решаемые с ее помощью проблемы. * Настройка потоковой репликации. * Настройка логической репликации. * Настройка автофейловера / HA средствами Stolon и Consul. После прослушивания доклада вы сможете самостоятельно настраивать репликацию и автофейловер PostgreSQL.

Новые технологии репликации данных в PostgreSQL / Александр Алексеев (Postgre...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 17:00 Тезисы: http://www.highload.ru/2017/abstracts/3096.html PostgreSQL is the world’s most advanced open source database. Indeed! With around 270 configuration parameters in postgresql.conf, plus all the knobs in pg_hba.conf, it is definitely ADVANCED! How many parameters do you tune? 1? 8? 32? Anyone ever tuned more than 64? No tuning means below par performance. But how to start? Which parameters to tune? What are the appropriate values? Is there a tool --not just an editor like vim or emacs-- to help users manage the 700-line postgresql.conf file? Join this talk to understand the performance advantages of appropriately tuning your postgresql.conf file, showcase a new free tool to make PostgreSQL configuration possible for HUMANS, and learn the best practices for tuning several relevant postgresql.conf parameters.

PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/3115.html During this session we will cover the last development in ProxySQL to support regular expressions (RE2 and PCRE) and how we can use this strong technique in correlation with ProxySQL's query rules to anonymize live data quickly and transparently. We will explain the mechanism and how to generate these rules quickly. We show live demo with all challenges we got from the Community and we finish the session by an interactive brainstorm testing queries from the audience.

Inexpensive Datamasking for MySQL with ProxySQL — Data Anonymization for Deve...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/2957.html Расскажем о нашем опыте разработки модуля межсетевого экрана для MySQL с использованием генератора парсеров ANTLR и языка Kotlin. Подробно рассмотрим следующие вопросы: — когда и почему целесообразно использовать ANTLR; — особенности разработки ANTLR-грамматики для MySQL; — сравнение производительности рантаймов для ANTLR в рамках задачи синтаксического анализа MySQL (C#, Java, Kotlin, Go, Python, PyPy, C++); — вспомогательные DSL; — микросервисная архитектура модуля экранирования SQL; — полученные результаты.

Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 14:00 Тезисы: http://www.highload.ru/2017/abstracts/3114.html ProxySQL aims to be the most powerful proxy in the MySQL ecosystem. It is protocol-aware and able to provide high availability (HA) and high performance with no changes in the application, using several built-in features and integration with clustering software. During this session we will quickly introduce its main features, so to better understand how it works. We will then describe multiple use case scenarios in which ProxySQL empowers large MySQL installations to provide HA with zero downtime, read/write split, query rewrite, sharding, query caching, and multiplexing using SSL across data centers.

ProxySQL Use Case Scenarios / Alkin Tezuysal (Percona)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/2954.html MySQL Replication is powerful and has added a lot of advanced features through the years. In this presentation we will look into replication technology in MySQL 5.7 and variants focusing on advanced features, what do they mean, when to use them and when not, Including. When should you use STATEMENT, ROW or MIXED binary log format? What is GTID in MySQL and MariaDB and why do you want to use them? What is semi-sync replication and how is it different from lossless semi-sync? ...

MySQL Replication — Advanced Features / Петр Зайцев (Percona)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 12:00 Тезисы: http://www.highload.ru/2017/abstracts/3120.html Количество разработчиков мобильных приложений Сбербанк Онлайн с начала 2016 года выросло на порядок. Для того чтобы продолжать выпускать качественный продукт, мы кардинально перестраиваем процесс разработки. Количество внутренних заказчиков тех или иных доработок в какой-то момент выросло настолько, что разработчики стали узким местом. Мы внедрили культуру разработки, которую можно условно назвать "внутренним open-source", сохранив за собой контроль над архитектурой и качеством проекта, но позволив разрабатывать новые фичи всем желающим. ...

Внутренний open-source. Как разрабатывать мобильное приложение большим количе...

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2836.html При использовании Eventually Consistent распределенных баз данных нет гарантий, что чтение возвращает результаты последних изменений данных, если чтение и запись производятся на разных узлах. Это ограничивает пропускную способность системы. Поддержка свойства Causal Consistency снимает это ограничение, что позволяет улучшить масштабируемость, не требуя изменений в коде приложения. ...

Подробно о том, как Causal Consistency реализовано в MongoDB / Михаил Тюленев...

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/2858.html Аудитория Одноклассников превышает 73 миллиона человек в России, СНГ и странах дальнего зарубежья. При этом ОК.ru - первая социальная сеть по просмотрам видео в рунете и крупнейшая сервисная платформа. Качественный и количественный рост DDoS-атак за последние годы превращает их в одну из первоочередных проблем для крупнейших интернет-ресурсов. В зависимости от вектора атаки “узким” местом становится та или иная часть инфраструктуры. В частности, при SYN-flood первый удар приходится на систему балансировки трафика. От ее производительности зависит успех в противостоянии атаке. ...

Балансировка на скорости проводов. Без ASIC, без ограничений. Решения NFWare ...

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/3008.html Никогда не было и вот снова случилось! Компания Google в результате перенаправления трафика сделала недостпуными в Японии несколько тысяч различных сервисов, большинство из которых никак не связано с самой компанией Google. Однако, подобные инциденты происходят с завидной регулярностью, вот только не всегда попадают в большие СМИ. У таких инцидентов могут быть разные причины, начиная от ошибок сетевых инженеров и заканчивая государственным регулированием. ...

Перехват трафика — мифы и реальность / Евгений Усков (Qrator Labs)

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 14:00 Тезисы: http://www.highload.ru/2017/abstracts/2925.html Облака и виртуализация – современные тренды развития IT-технологий. Операторы связи строят свои TelcoClouds на стандартах NFV (Network Functions Virtualization) и SDN (Software-Defined Networking). В докладе начнем с основ виртуализации, далее разберемся, для чего используются NFV и SDN, потом полетим к облакам и вернемся на землю для решения практических задач! ...

И тогда наверняка вдруг запляшут облака! / Алексей Сушков (ПЕТЕР-СЕРВИС)

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 10:00 Тезисы: http://www.highload.ru/2017/abstracts/3045.html Как мы заставили Druid работать в Одноклассниках. «Druid is a high-performance, column-oriented, distributed data store» http://druid.io. Мы расскажем о том, как, внедрив Druid, мы справились с ситуацией, когда MSSQL-based система статистики на 50 терабайт стала: - медленной: средняя скорость ответа была в разы меньше требуемой (и увеличилась в 20 раз); - нестабильной: в час пик статистика отставала до получаса (теперь ничего не отстает); - дорогой: изменилась политика лицензирования Microsoft, расходы на лицензии могли составить миллионы долларов. ...

Как мы заставили Druid работать в Одноклассниках / Юрий Невиницин (OK.RU)

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2905.html Прошло более года с того момента, как Microsoft выпустила первую версию своего нового фреймворка для разработки web-приложений ASP.NET Core, и с каждым днем он находит все больше поклонников. ASP.NET Core базируется на платформе .NET Core, кроссплатформенной версии платформы .NET c открытым исходным кодом. Теперь у С#-разработчиков появилась возможность использовать Mac в качестве среды разработки, и запускать приложения на Linux или внутри Docker-контейнеров. ...

Разгоняем ASP.NET Core / Илья Вербицкий (WebStoating s.r.o.)

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 14:00 Тезисы: http://www.highload.ru/2017/abstracts/2913.html Изначально будут раскрыты базовые причины, которые заставили появиться такой части механизма СУБД, как кэш результатов, и почему в ряде СУБД он есть или отсутствует. Будут рассмотрены различные варианты кэширования результатов как sql-запросов, так и результатов хранимой в БД бизнес-логики. Произведено сравнение способов кэширования (программируемые вручную кэши, стандартный функционал) и даны рекомендации, когда и в каких случаях данные способы оптимальны, а порой опасны. ...

100500 способов кэширования в Oracle Database или как достичь максимальной ск...

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/2947.html Apache Ignite — Open Source платформа для высокопроизводительной распределенной работы с большими данными с применением SQL или Java/.NET/C++ API. Ignite используют в самых разных отраслях. Сбербанк, ING, RingCentral, Microsoft, e-Therapeutics — все эти компании применяют решения на основе Ignite. Размеры кластеров разнятся от всего одного узла до нескольких сотен, узлы могут быть расположены в одном ЦОД-е или в нескольких геораспределенных. ...

Apache Ignite Persistence: зачем Persistence для In-Memory, и как он работает...

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 12:00 Тезисы: http://www.highload.ru/2017/abstracts/3005.html Когда мы говорим о нагруженных системах и базах данных с большим числом параллельных коннектов, особый интерес представляет практика эксплуатации и сопровождения таких проектов. В том числе инструменты и механизмы СУБД, которые могут быть использованы DBA и DevOps-инженерами для решения задач мониторинга жизнедеятельности базы данных и ранней диагностики возможных проблем. ...

Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...

Ontico

More from Ontico (20)