Что такое система хранения данных (СХД) и зачем она нужна
Разбираемся, что такое система хранения данных: из чего она состоит, какие бывают типы — блочные, файловые и объектные, и почему NVMe-oF важен для России.
Что такое СХД
СХД (система хранения данных) — это специализированный комплекс, предназначенный для централизованного хранения, организации, защиты и оперативной выдачи цифровой информации в корпоративных и облачных инфраструктурах.
Распространённое заблуждение: СХД — это просто «сервер с дисками» или «несколько серверов и общая полка». На самом деле это полноценный продукт, который:
- обеспечивает непрерывную выдачу данных по запросу с заданной производительностью;
- сохраняет работоспособность при отказе отдельных компонентов (контроллеров, дисков, блоков питания);
- имеет подтверждённую вендором поддержку и сертификацию;
- включает специализированное ПО для управления данными, распределения нагрузки и защиты информации.
Основное назначение СХД — приём и выдача данных по запросу, а не хранение как таковое. Ключевые требования к СХД — это скорость получения данных, надёжность и бесперебойность работы.
Из чего состоит СХД
Аппаратная часть
- Контроллеры — главный вычислительный модуль. Принимает запросы, управляет распределением данных. Для отказоустойчивости дублируется.
- Дисковые массивы — HDD (медленные, но дешёвые), SSD (быстрые, дороже) или NVMe (сверхбыстрые).
- Кэш-память — быстрая оперативная память внутри контроллера. Хранит часто запрашиваемые данные, чтобы реже обращаться к дискам.
- Вспомогательные компоненты — блоки питания, вентиляция, коммутационные платы.
Программная часть
Специализированное ПО, которое:
- распределяет данные по дискам;
- обеспечивает отказоустойчивость (RAID, Erasure Coding);
- выполняет сжатие и дедупликацию данных;
- создаёт снапшоты (мгновенные снимки) и реплики;
- обслуживает протоколы доступа к данным.
Основные функции СХД
- Приём и выдача данных — по сетевым протоколам (FC, iSCSI, NFS, SMB и др.).
- Запись, перезапись, удаление, восстановление — базовые операции с данными.
- Индексация и каталогизация — создание метаданных для быстрого поиска.
- Защита от повреждений — разграничение прав доступа, контрольные суммы, RAID, антивирусная проверка.
- Оптимизация пространства — тонкое выделение ресурсов, дедупликация, сжатие, автоматическое перемещение данных между уровнями хранения.
Типы СХД по способу доступа к данным
Блочные СХД (SAN — Storage Area Network)
Блочные СХД предоставляют серверу доступ к «сырым» блокам данных. Сервер самостоятельно управляет файловой системой и организацией данных на предоставленном ему дисковом пространстве.
Для каких задач: базы данных, системы виртуализации — всё, где критичны низкая задержка и высокие IOPS.
Протоколы доступа:
- Fibre Channel (FC) — выделенная оптическая сеть с высокой производительностью и низкой задержкой.
- iSCSI — передача SCSI-команд по IP-сетям. Дешевле, но выше задержки.
- iSER — iSCSI с поддержкой RDMA для снижения задержек.
- NVMe-oF — современный протокол для работы с NVMe-дисками по сети.
Отличие протоколов: FC обеспечивает максимальную производительность за счёт выделенной инфраструктуры, iSCSI работает по стандартным IP-сетям (доступнее, но медленнее), NVMe-oF — новейший протокол, созданный специально для флеш-памяти и обеспечивающий минимальные задержки даже по IP-сетям.
Файловые СХД (NAS — Network Attached Storage)
Файловые СХД предоставляют доступ к данным на уровне файлов и папок через сетевые протоколы. Серверу не нужно знать, где физически расположен файл на дисках — за это отвечает файловая система СХД.
Для каких задач: документооборот, совместная работа, медиа-архивы, домашние директории пользователей.
Протоколы доступа:
- SMB/CIFS — для Windows-клиентов.
- NFS — для Linux/UNIX-клиентов.
Объектные СХД (Object Storage)
Объектные СХД хранят данные как объекты. У каждого объекта есть:
- уникальный идентификатор (ключ);
- сами данные;
- метаданные — информация о данных (дата создания, тип, автор, GPS-координаты и т.д.).
Метаданные хранятся во внутренней базе данных, что позволяет выполнять поиск по атрибутам практически мгновенно: «Найди все фото из Крыма, сделанные летом 2024 года».
Для каких задач: облачные хранилища, Big Data, архивы на петабайты, системы с огромными объёмами неструктурированных данных.
Подходы к хранению данных в СХД
ACID
ACID — это набор свойств транзакций, гарантирующий надёжную обработку данных. Аббревиатура расшифровывается:
- Atomicity (Атомарность) — транзакция выполняется полностью или не выполняется вообще. Частичного выполнения не бывает.
- Consistency (Согласованность) — данные после транзакции не нарушают бизнес-правил и ограничений целостности.
- Isolation (Изоляция) — параллельные транзакции не влияют друг на друга, их результаты не смешиваются.
- Durability (Долговечность) — зафиксированные данные сохраняются даже при сбоях.
Суть подхода: целостность данных важнее доступности. Система скорее откажет в выполнении операции, чем позволит сохранить противоречивые данные.
Пример: банковская база данных. При переводе денег транзакция либо завершается полностью (деньги списались с одного счёта и зачислились на другой), либо откатывается. Лучше система на секунду станет недоступна, чем вы обнаружите пропажу средств.
BASE
BASE — это альтернативный подход, применяемый в распределённых системах, где важнее постоянная доступность. Аббревиатура расшифровывается:
- Basically Available (Базовая доступность) — система всегда отвечает на запросы, даже если часть компонентов недоступна.
- Soft state (Мягкое состояние) — данные могут временно расходиться на разных узлах, состояние системы не обязано быть строго согласованным в каждый момент времени.
- Eventual consistency (Конечная согласованность) — если новые данные перестают поступать, то рано или поздно все узлы придут к единому согласованному состоянию.
Суть подхода: доступность данных дороже их сиюминутной целостности. Допустимы временные расхождения, которые будут устранены позже.
Пример: социальная сеть. Если пользователь обновил аватарку, а друг видит старую ещё несколько секунд — это допустимо. Гораздо важнее, чтобы соцсеть оставалась доступной при любых нагрузках.
Проблемы производительности СХД
HDD: физическое ограничение скорости
Жёсткие магнитные диски (HDD — Hard Disk Drive) используют механические компоненты для чтения и записи данных.
Принцип работы: одна или несколько металлических пластин вращаются с постоянной скоростью. Магнитная головка перемещается над поверхностью пластины, считывая или записывая данные на магнитный слой.
Почему HDD медленные:
Чтобы прочитать конкретный фрагмент данных, необходимо выполнить последовательность операций:
- Задержка позиционирования (Seek Latency) — головка физически перемещается к нужной дорожке. В среднем это занимает 4–10 мс.
- Задержка вращения (Rotational Latency) — нужно дождаться, пока нужный сектор окажется под головкой. В среднем — половина оборота.
- Собственно чтение/запись — самая быстрая часть процесса.
Цифры: даже у самых быстрых HDD с частотой вращения 15 000 об/мин задержка составляет 5–10 мс. При случайном доступе (когда данные разбросаны по разным участкам диска) производительность падает до 75–210 операций ввода-вывода в секунду (IOPS).
Почему это проблема: современные приложения (базы данных, системы виртуализации, веб-сервисы) работают именно со случайным доступом. Каждый запрос требует перемещения головки и ожидания вращения диска. Тысячи одновременных запросов создают очередь, и HDD просто не успевает их обрабатывать.
SSD: быстрее, но не без ограничений
Твердотельные накопители (SSD — Solid State Drive) используют флеш-память и не имеют движущихся частей. Задержки — до микросекунд, а IOPS — до сотен тысяч.
Однако есть другие вызовы:
1. Ограниченный ресурс перезаписи
Пункты 1–3 ниже — жирный текст, не заголовки (см. таблицу изменений).
Каждая ячейка флеш-памяти выдерживает ограниченное число циклов записи/стирания. Производители указывают характеристику TBW (TeraBytes Written) — суммарный объём данных, который можно записать на диск до исчерпания ресурса.
Классификация SSD по интенсивности записи (DWPD — Disk Writes Per Day, сколько полных объёмов диска можно перезаписать в день):
- Read Intensive — 0,3 DWPD (преобладание операций чтения). Это значит, что за день можно переписать 30% объёма диска.
- Mix Use — 1 DWPD (смешанная нагрузка).
- Write Intensive — 3 DWPD (интенсивная запись).
2. Программное обеспечение не успевает за железом
Старые приложения и системы управления базами данных (СУБД) были созданы в эпоху HDD и не рассчитаны на работу с микросекундными задержками. Чтобы утилизировать потенциал современных SSD, нужно переписывать код — а это тысячи единиц ПО и дефицит квалифицированных инженеров.
3. Шины и контроллеры становятся узким горлышком
По мере роста ёмкости и количества дисков производительность упирается в пропускную способность процессоров и шин ввода-вывода. Просто не хватает мощности, чтобы «прокачать» все SSD на полной скорости. Решение требует установки более мощных процессоров, что увеличивает стоимость системы.
Катастрофоустойчивость
Катастрофоустойчивость — способность системы сохранять работоспособность при выходе из строя целого центра обработки данных (ЦОДа) в результате пожара, наводнения, полного отключения электричества или других масштабных аварий.
Почему это критично:
Стоимость простоя критических систем может измеряться миллионами рублей в минуту. Для банков, операторов связи, государственных информационных систем потеря доступа к данным даже на несколько часов означает не только финансовые убытки, но и репутационные риски, а иногда — угрозу жизни и безопасности людей.
Репликация данных — технология создания копии рабочих данных на СХД, расположенной в другом ЦОДе (или даже в другом городе).
Асинхронная репликация
Данные передаются на резервную СХД с некоторой задержкой (пакетами). Резервная копия всегда немного отстаёт от основной.
- Преимущество: работает на больших расстояниях (тысячи километров).
- Недостаток: при аварии возможна потеря части данных (за период с последней синхронизации).
- Использование: для систем, где допустима потеря данных за 15–60 минут.
Синхронная репликация
Данные записываются одновременно на основную и резервную СХД. Запись считается завершённой только после подтверждения от обеих систем.
- Преимущество: нулевая потеря данных (RPO = 0).
- Недостаток: работает только на расстоянии до 20–100 км из-за ограничений скорости света и требований к каналу связи.
- Использование: для критичных систем, где потеря данных недопустима (финансовые транзакции, системы жизнеобеспечения).
Метрокластер
Особый режим работы, при котором две СХД в разных ЦОДах активны одновременно. Для клиента (сервера) пара СХД выглядит как одна система. Переключение нагрузки между ЦОДами происходит автоматически, без дополнительных действий со стороны администраторов.
- Преимущество: мгновенное переключение, минимальное время простоя (RTO = минуты).
- Использование: для систем, требующих максимальной доступности (биржевые платформы, экстренные службы).
Будущее СХД: NVMe и NVMe-oF
Что такое NVMe
NVMe (Non-Volatile Memory Express) — протокол, разработанный специально для флеш-памяти.
В чём проблема старых протоколов:
Протоколы SAS и SATA создавались в эпоху HDD. Они учитывали особенности механических дисков: ограниченную скорость, очередь команд глубиной 32–256, необходимость подтверждения каждого шага.
SSD работают иначе: они могут выполнять тысячи операций параллельно, задержки измеряются микросекундами, глубина очереди может достигать 65 535 команд. Использование старых протоколов для SSD — это как пытаться ехать на гоночном автомобиле по просёлочной дороге.
Как работает NVMe:
- Работает через шину PCIe напрямую к процессору, минуя лишние слои.
- Поддерживает до 65 535 очередей команд.
- В каждой очереди — до 65 535 команд.
- Задержки — десятки микросекунд (вместо миллисекунд у SAS/SATA).
Результат: NVMe-накопители обеспечивают скорость в 5–10 раз выше, чем SSD с интерфейсом SATA.
NVMe-oF: NVMe через сеть
NVMe-oF (NVMe over Fabrics) — технология, позволяющая получить доступ к NVMe-дискам по сети с минимальными задержками, практически как к локальному диску.
Поддерживаемые транспортные протоколы:
- Fibre Channel (NVMe/FC);
- InfiniBand (NVMe/IB);
- RDMA (NVMe/RDMA);
- TCP/IP (NVMe/TCP) — ключевой для российского рынка.
Почему NVMe-oF важен для России
Традиционно сети хранения данных (SAN) строились на Fibre Channel (FC). Это зрелая технология с доказанной надёжностью. При этом организовать локализацию производства FC-оборудования в России — задача сложная.
NVMe-oF over TCP/IP позволяет:
- использовать существующую IP-инфраструктуру без перехода на дорогой FC;
- получить прирост производительности на 20–30% по сравнению с iSCSI;
- постепенно переходить к полностью отечественным экосистемным решениям.
Дальнейшее развитие — NVMe-oF в масштабе всей инфраструктуры (NVMe-oF Fabric):
Когда всё оборудование (хосты, коммутаторы, СХД) работает по протоколу NVMe-oF, создаётся единый сверхбыстрый канал от приложения до диска. Данные передаются напрямую в память сервера, минуя промежуточные буферизации.
- Преимущество: минимальные задержки и максимальная производительность.
- Тренд: постепенный отказ от проприетарных FC-сетей в пользу открытых и масштабируемых IP-решений.
Решения СХД Aquarius
СХД Аэродиск ENGINE AQ созданы на базе аппаратных платформ Aquarius и ПО управления АЭРОДИСК. Предназначены для широкого спектра задач с высокими требованиями к надежности, производительности и функциональности