World of Tanks: один миллион игроков онлайн

WORLD OF TANKSОДИН МИЛЛИОН ИГРОКОВ ОНЛАЙН

МАКСИМ МЕЛЬНИКОВ

КТО Я

I Разработчик в Wargaming (Минск, Беларусь)I Order of WarI Order of War: ChallengeI World of Tanks developer

I Linux Mobile hobbyistI OpenmokoI systemdI telepathyI Gentoo

World of Tanks: один миллион игроков онлайн, Максим Мельников

WORLD OF TANKS

I mmorpgI fps о танкахI 15x15 pvp


WORLD OF TANKS СЕГОДНЯ

I 1.1M одновременно играющих в пикеI 11M сообщений в секундуI 500 серверов для обслуживания игрыI 60M посещений игрового портала в месяцI 6PB (петабайт) на установку и обновления игрового клиента в месяц


ЧИТЕРЫ

I много игроков хотят чититьI читеры делают других игроков несчаснымиI ксенофобия


МАСШТАБИРОВАНИЕ

I лучше продукт — больше игроковI больше игроков — больше серверовI больше серверов — сильнее проблема синхронизации


ПРОБЛЕМА ЕДИНОГО ДАТАЦЕНТРА

I латентностьI доступностьI единая точка отказа


БИГ ДАТА

I больше игроков — больше данныхI больше данных — больше дисковI внезапно, нужны совершенно новые решения для хранения данных


БЫСТРЫЙ РОСТ

I простые решения — время выхода на рынокI большой успех — простые решения совершенно непригоднымиI переделывание всего на летуI изменение бизнес требований каждый день


НИКТО ВАМ НЕ ПОМОЖЕТ

I нет времени на обучение людейI нет времени на ожидаение поддержки от сторонних вендоровI нет времени на написание хороших, правильных решений


ПОЛНЫЙ КОНТРОЛЬ

I софтI железоI данныеI команда


LINUX И OPEN SOURCE

I готовые к использованию компонентыI хорошая документацияI возможность костомизации когда необходимоI наём людей с необходимыми навыками


АРХИТЕКТУРА WORLD OF TANKS

I клиент игры — тонкий клиент, плеерI сервер — расчёт игрового мираI кластер — сотни процессов работающих как единое целое (сервер)I игровой мир — пошаговый, шаги очень маленькие


КОМПОНЕНТЫ СЕРВЕРА

Хранилище

I MySQLI MySQL*I RabbitMQ

Вычислительные узлы

I BaseAppI CellAppI LoginApp

Дирижёры

I BaseAppMgrI CellAppMgrI DbMgr


АРХИТЕКТУРА КЛАСТЕРА


РАЗРАБОТКА СЕРВЕРА

1. обычный Python2. GC выключен3. немного C++4. RPC - на базе сообщений5. UDP-based протокол с гарантией доставки


ОТКАЗОУСТОЙЧИВОСТЬ

I объекты только в памятиI репликация объектов на случай отказа


ПЕРЕЕЗДЕЦ

I много кластеровI быстрое перемещение между кластерамиI выделенный кластер для хранения данных


АРХИТЕКТУРА МЕТАКЛАСТЕРА

Центр

I постоянное хранилищеI аккаунты (proxy)I взаимодействие с web-ом

Периферия RU1, RU2, ...

I временное хранилищеI аккаунтыI бои


ПРЕИМУЩЕСТВА МЕТАКЛАСТЕРА

1. масштабируемость2. гео-распределённость3. отказоустойчивость4. независимость


ПРОДАКШН

1. 500 серверов2. 8k CPU ядер3. 32 TB RAM4. Linux


ГЛАВНАЯ ИГРОВАЯ БАЗА: MYSQL

I размер базы: 300 GBI 384 GB RAMI Percona 5.5 (buffer pool warming — 1GBps)I 40k SELECT, 1k INSERT, 1k UPDATE в секундуI 24 HDD ∗ 600 GB ∗ 0.5 = 6 TB


ВЕБ ЗАДАЧИ

I регистрацияI новостиI статьи и описанияI медиа контентI платёжная формаI обработка платежей

I раздача обновленийI управление пользователямиI профиль игрокаI статистикаI рейтингиI ...


ИНТЕГРАЦИЯ С ИГРОВЫМ СЕРВЕРОМ

I AMQP — протокол взаимодействия с игровым серверомI XML-RPC обёртка над AMQPI реплика данных игры в реляционном виде


СЕРВИСНАЯ АРХИТЕКТУРА

I множество различных проектовI протоколы взаимодействия: AMQP, HTTP, SQL, XML-RPC


LNAMPMR


Other


КЛЮЧИ К УСПЕХУ

I полный контроль над всемI Linux на сервереI опора на Open SourceI главное — скорость и простота разработкиI не стоит боятся гетерогенной средыI синхронный подход везде где можноI асинхронный — только там, где это необходимоI AMQP — отличный протокол для реализации RPCI работа с объектами в памяти самая быстрая


СПАСИБО ЗА ВНИМАНИЕ. ВОПРОСЫ

МАКСИМ МЕЛЬНИКОВmailto:[email protected]://plus.google.com/+MaksimMelnikau/https://twitter.com/max_posedonhttp://wargaming.com

mailto:[email protected]

https://plus.google.com/+MaksimMelnikau/

https://twitter.com/max_posedon

http://wargaming.com

World of Tanks: один миллион игроков онлайн

Technology

Transcript of World of Tanks: один миллион игроков онлайн