Использование SOA для построения сложных веб проектов

Обычный сайт (монолитная архитектура)

Проблемы

1. Один репозиторий, много разработчиков
2. Рост кодовой базы
3. Ограничения в использовании языка программирования
4. Внешние подрядчики
5. ... to be counted

Сервис-ориентированная архитектура (SOA)

модульный подход к разработке программного обеспечения, основанный на использовании распределённых, слабо связанных заменяемых компонентов со стандартизированными интерфейсами и протоколам взаимодействия.

Источник: Wikipedia

SOA-based сайт

Компонент системы в разработке

• Один сервис - один репозиторий
• Свобода выбора языка программирования
• Возможность отдать на аутсорс

Контролируемая деградация

• Лучше показать часть информации, чем упасть с 500
• Лучше показать самое важное за 100мс—1с, чем все за 10 секунд

Почему это важно

• 47% людей ожидают, что страница будет загружаться менее двух секунд
• 40% закрывают страницу, если она загружается более трех секунд
• 52% считают важным скорость загрузки страницы

Источник: Akamai

Разные требования к сервисам

• Не все сервисы должны работать под большой нагрузкой
• Некоторые могут и "полежать"
• Оптимизируем только там, где это нужно

Виртуализация

• На одной машине один сервис
• Легче мониторить
• Легче деплоить
• Можно добавлять/удалять машины по необходимости

Дополнительный слой кеширования

Много платформ

Сеть

• TCP / HTTP overhead
• Задержки между виртуальными машинами (используем SR-IOV)

Эксплуатация

• Больше конфигов
• Больше деплоя
• Больше мониторинга

Разработка

• Стало проще?
• Усложнение поддержки тестовых и development стендов
• Был один лог - стало много

Уникальный идентификатор запроса (request_id)

• Генерируется на nginx (ngx_http_requestid_module)
• Пробрасывается http-заголовком (X-Request-Id) на все сервисы
• Каждая запись в логе содержит request_id
• Все логи сливаем на graylog2

Frontik

Frontik

class Page(page.PageHandler):
    @page.user_page(xsl='pages/index.xsl')
    def get_page(self):
        self.doc.put(
            self.get_url('{}/resumes'.format(resumeHost)),
            self.get_url('{}/negotiations'.format(negHost))
        )

Frontik

• Изначально был заточен под XML/XSLT (сейчас умеет и JSON)
• Работает на нашей патченной Tornado 2.0 (https://github.com/hhru/tornado)
• Требует libcurl, собранный с c-ares (https://github.com/tornadoweb/tornado/pull/1017)
• Мало документации и примеров

https://github.com/hhru/frontik

Что хотелось

• Уменьшить количество многоуровневых запросов
• Иметь бо́льшую свободу в выборе шаблонизатора
• Чтобы работало и на upstream Tornado

Preprocessors

• Набор асинхронных обработчиков (например, получение сессии)
• Выполняются до начала выполнения обработчика запроса

def session(handler, callback):
    def _session_callback(session):
        handler.session = session
        callback()
    session_client.get_session(_session_callback, ...)
		

Preprocessors

class MobilePageHandler(tortik.page.RequestHandler):
    preprocessors = [
        session,
        pagedata
    ]
		

Request Handler

• Стандартные обработчики Tornado (get, post, ...) с @asynchronous
• Выходные данные формируются через self.add('name', data) - аналог self.doc.put() во Frontik'е
• Можно и сразу self.complete({'name': data})

def get(self):
    self.add('server_time', int(time.time))
    self.add('data', {...})
    self.complete()

Postprocessors

• Набор последовательных обработчиков над выходными данными
• Выполняются после выполнения обработчика запроса (RequestHandler)

def template(handler, data, callback):
    out = template_engine.render(handler.template_name,
                                 data=handler.get_data())
    callback(handler, out)

Postprocessors

class MobilePageHandler(tortik.page.RequestHandler):
    postprocessors = [
        template,
        translation
    ]
		

Отправка запросов на бэкенды

self.fetch_requests([
    self.make_request(
        name='vacancies',
        method='GET',
        full_url='https://api.hh.ru/vacancies/8252535'),
        ...
    ], callback=self.complete)
		

Отправка запросов на бэкенды

			self.fetch_requests([
    ('vacancies', 'https://api.hh.ru/vacancies/8252535'),
    ...
], callback=_cb)
            
		

Отправка запросов на бэкенды

def _cb():
    response = self.responses['vacancies']
    data = response.data # json или xml
    # плюс автоматический
    # self.add('vacancies', response.data)
    self.complete()
            
		

Этапы обработки запроса

• получение сессии
• обработка запроса (отправка запросов на сервисы и т.п.)
• шаблонизация

Этапы обработки запроса

handler.log.stage_started('render')
# do some hard render stuff
handler.log.stage_complete('render')
        
		

Этапы обработки запроса

handler.fetch_requests(
    ...
    callback=_cb,
    stage='session'
)
        
		

Этапы обработки запроса

MONIK handler=hhmobile.pages.Page method=GET code=200 
total=93 session=13.98 page=47.14 render=21.77 
translation=7.30

Этапы обработки запроса

MONIK handler=hhmobile.pages.Page method=GET code=200 
total=93 session=13.98 page=47.14 render=21.77 
translation=7.30

Этапы обработки запроса

MONIK handler=hhmobile.pages.Page method=GET code=200 
total=93 session=13.98 page=47.14 render=21.77 
translation=7.30

Этапы обработки запроса

MONIK handler=hhmobile.pages.Page method=GET code=200 
total=93 session=13.98 page=47.14 render=21.77 
translation=7.30

Мониторинг

Мониторинг