Задача:
анализ посещения сайтов с помощью Яндекс Метрики и внутренних систем. Система обрабатывает 2 млрд событий в месяц, необходимо кратно увеличить производительность системы, загружающую и обрабатывающую метрики.
Решение:
реализация загрузки из Яндекс Метрики в корпоративную витрину с обогащением данных Яндекс Метрики информацией из внутренних систем.
Результат:
построен модульный контур, использующий данные из Яндекс Метрики, Kafka и ClickHouse, с доказанной горизонтальной масштабируемостью архитектуры с 100000–600000 rps и выше.