System design на собеседовании — условие и решение

Рабочий материал для самостоятельного использования. Скопируй текст в свой документ и адаптируй под свою задачу. Данные не отправляются.

Условие: обработка изображений

Средняя нагрузка — 10 файлов в секунду. Пик — 100 файлов в секунду на протяжении 60 секунд. Размер файла не больше 8 МБ, средний — 2 МБ. Средний результат занимает 0,5 МБ. Один worker обрабатывает одну задачу за раз и тратит 0,4 CPU-с на файл. Для расчёта каждому worker выделено одно полностью доступное ядро, обработка однопоточная: 0,4 CPU-с соответствуют 0,4 секунды на задачу. Сетевые задержки и I/O в модели отсутствуют. Оригинал и результат хранятся 24 часа.

Пользователь получает HTTP 202 и job_id, запрашивает статус, скачивает готовый результат и может отменить незавершённую задачу. Повторная доставка сообщения возможна. Чужие задания и объекты недоступны. Работа идёт в одном регионе. Нужно предложить схему, рассчитать порядок мощности и хранения, объяснить повтор и гонку отмены с завершением.

Сначала уточни значение средней частоты. В нашем расчёте суточные 10 файлов/с уже включают пики. Добавлять ещё 60 секунд по 100 файлов/с к суточному объёму нельзя: это будет другой профиль. Для отдельного расчёта очереди принимаем вход 100/с в течение минуты и заранее пустую очередь.

Схема и путь одного задания

!Схема: клиент, API, хранилище оригиналов, база заданий с outbox, очередь и workers

Клиент загружает файл через ограниченный маршрут приёма. Сервис проверяет размер и допустимый тип, сохраняет оригинал под новым объектным ключом. Только после подтверждения сохранения создаёт запись задания и событие outbox в одной транзакции базы. Ответ 202 означает, что запрос принят к дальнейшей обработке; готовность он не гарантирует. В ответе нужны идентификатор и понятный способ узнать статус.

Издатель outbox отправляет сообщение с идентификатором в очередь. При падении после отправки, но до отметки о доставке событие может отправиться снова. Поэтому outbox не избавляет worker от повторов. В очередь не нужно помещать сами мегабайты изображения: достаточно ссылки и данных, необходимых для проверки задания.

Worker получает задание и пытается получить право на обработку. В реальной реализации это может быть аренда с номером попытки и сроком. Потерянная аренда не должна позволять старому worker опубликовать устаревший результат. Он пишет результат во временный объект и условно переводит своё задание в succeeded. Читатель получает ссылку только на объект, зафиксированный в метаданных. Осиротевшие временные объекты удаляются отдельно.

Между object storage и базой нет общей транзакции. Это надо сказать вслух. Возможны сохранённый оригинал без записи задания или временный результат без успешной фиксации. Решение — безопасный порядок действий, повторяемые операции и уборка таких объектов. Писать «всё атомарно» без указания границы транзакции нельзя.

Расчёт мощности и очереди

Один идеальный worker обрабатывает 1 / 0,4 = 2,5 файла/с. На среднем входе четыре занятых worker дают ровно 10/с, на пике сорок — ровно 100/с. Равенство входа и мощности не оставляет запаса на разброс длительности и отказы. Это нижняя модельная граница, а не рекомендация числа реплик.

Если во время пика доступны 20 worker, их идеальная мощность — 50/с. За 60 секунд очередь вырастет на (100 − 50) × 60 = 3000 задач. При возвращении входа к 10/с свободная мощность составит 40/с, и такой хвост уйдёт за 75 секунд. Это приближение поточной модели; оно не даёт точной задержки каждого запроса и не учитывает время масштабирования.

За сутки при среднем входе 10/с принимаются 864 000 файлов. Оригиналы занимают 1 728 000 МБ, результаты — 432 000 МБ: всего 2,16 ТБ в десятичной системе. Это оценка объёма объектов за сутки, без реплик, версий, метаданных и запаса. Если 24 часа отсчитываются по-разному для оригинала и результата, оценку одновременного хранения придётся уточнить. При лимите 8 МБ нельзя планировать пропускную способность только по среднему размеру.

Приложение содержит исходные величины и расчёт в CSV. Команда python3 verify.py проверяет их в Python 3.9 и возвращает ненулевой код при неверной формуле. Изменение пользовательского профиля делается отдельно: верификация зафиксированного упражнения не выдаёт прогноз производительности новой системы.

Отмена, повтор и недоступное хранилище

Для упражнения принимаем состояния pending, running, succeeded, failed, cancelled. Завершённые состояния терминальны. Из running можно перейти в успех, отказ или отмену. Владелец может попросить отмену, но ответ должен говорить, принята ли она: завершённое успешное задание задним числом не становится отменённым.

Отмена и завершение конкурируют за условное обновление одной записи. Если первой зафиксировалась отмена, поздний worker не публикует результат; его временный объект убирается. Если первым зафиксирован успех, отмена возвращает состояние «уже завершено». Удаление готового результата — отдельная операция со своими правилами, если продукт её предусматривает.

Повтор сообщения после успеха должен прочитать терминальное состояние и закончиться без новой публикации. Повтор пользовательского запроса приёма можно связать с ключом идемпотентности и отпечатком входа. Одинаковый ключ с другим файлом требует явного ответа об ошибке, а не молчаливого возврата чужого результата.

Если storage недоступно до подтверждённого приёма оригинала, нельзя отвечать, что файл надёжно поставлен в работу. Если хранилище результата временно недоступно, worker может повторить операцию по ограниченной политике. У повторов нужны пределы, задержки и учёт общей нагрузки; бесконечные немедленные попытки усиливают аварию. Неповторяемые ошибки входа отправляют задание в понятный отказ.

Вопросы с ответами

Зачем очередь, если можно сразу вызвать worker? Она отделяет приём от выполнения и позволяет временно пережить всплеск, если продукт допускает ожидание. Очередь имеет предел ёмкости и времени: она не создаёт вычислительную мощность. При превышении допуска нужен отказ приёма или другой согласованный режим.

Можно ли гарантировать обработку ровно один раз? Для такого разговора полезнее назвать наблюдаемый эффект: один опубликованный результат для одного задания. Повторные вычисления могут случаться, а условная фиксация и идентичность задания не дают повторно опубликовать результат. Это не универсальная гарантия «exactly once» для всех внешних действий.

Зачем проверять владельца при каждом запросе статуса? Непредсказуемость job_id не заменяет авторизацию. Проверка нужна при чтении статуса, отмене и выдаче доступа к объекту. Срок действия подписанной ссылки и возможность её передачи также входят в модель доступа.

Какие метрики назовёшь? Частоту принятых и отклонённых задач, возраст старейшей задачи, распределение времени до результата, ошибки по причинам, число повторов, занятость worker и недоступность зависимостей. Размер очереди без возраста не объясняет, сколько ждёт человек. Среднее время без перцентилей скрывает хвост задержек.

Как кэшировать статус? С учётом владельца, изменения состояния и требований к свежести. Нельзя отдавать персональный ответ через общий кэш без корректных правил. Для терминального результата и меняющегося состояния могут понадобиться разные политики; наличие GET само по себе не делает ответ публично кэшируемым.