Что такое система хранения данных (СХД) и зачем она нужна

Разбираемся, что такое система хранения данных: из чего она состоит, какие бывают типы — блочные, файловые и объектные,  и почему NVMe-oF важен для России.

Что такое СХД

СХД (система хранения данных) — это специализированный комплекс, предназначенный для централизованного хранения, организации, защиты и оперативной выдачи цифровой информации в корпоративных и облачных инфраструктурах.

Распространённое заблуждение: СХД — это просто «сервер с дисками» или «несколько серверов и общая полка». На самом деле это полноценный продукт, который:

  • обеспечивает непрерывную выдачу данных по запросу с заданной производительностью;
  • сохраняет работоспособность при отказе отдельных компонентов (контроллеров, дисков, блоков питания);
  • имеет подтверждённую вендором поддержку и сертификацию;
  • включает специализированное ПО для управления данными, распределения нагрузки и защиты информации.

Основное назначение СХД — приём и выдача данных по запросу, а не хранение как таковое. Ключевые требования к СХД — это скорость получения данных, надёжность и бесперебойность работы.

Из чего состоит СХД

Аппаратная часть

  • Контроллеры — главный вычислительный модуль. Принимает запросы, управляет распределением данных. Для отказоустойчивости дублируется.
  • Дисковые массивы — HDD (медленные, но дешёвые), SSD (быстрые, дороже) или NVMe (сверхбыстрые).
  • Кэш-память — быстрая оперативная память внутри контроллера. Хранит часто запрашиваемые данные, чтобы реже обращаться к дискам.
  • Вспомогательные компоненты — блоки питания, вентиляция, коммутационные платы.

Программная часть

Специализированное ПО, которое:

  • распределяет данные по дискам;
  • обеспечивает отказоустойчивость (RAID, Erasure Coding);
  • выполняет сжатие и дедупликацию данных;
  • создаёт снапшоты (мгновенные снимки) и реплики;
  • обслуживает протоколы доступа к данным.

Основные функции СХД

  • Приём и выдача данных — по сетевым протоколам (FC, iSCSI, NFS, SMB и др.).
  • Запись, перезапись, удаление, восстановление — базовые операции с данными.
  • Индексация и каталогизация — создание метаданных для быстрого поиска.
  • Защита от повреждений — разграничение прав доступа, контрольные суммы, RAID, антивирусная проверка.
  • Оптимизация пространства — тонкое выделение ресурсов, дедупликация, сжатие, автоматическое перемещение данных между уровнями хранения.

Типы СХД по способу доступа к данным

Блочные СХД (SAN — Storage Area Network)

Блочные СХД предоставляют серверу доступ к «сырым» блокам данных. Сервер самостоятельно управляет файловой системой и организацией данных на предоставленном ему дисковом пространстве.

Для каких задач: базы данных, системы виртуализации — всё, где критичны низкая задержка и высокие IOPS.

Протоколы доступа:

  • Fibre Channel (FC) — выделенная оптическая сеть с высокой производительностью и низкой задержкой.
  • iSCSI — передача SCSI-команд по IP-сетям. Дешевле, но выше задержки.
  • iSER — iSCSI с поддержкой RDMA для снижения задержек.
  • NVMe-oF — современный протокол для работы с NVMe-дисками по сети.

Отличие протоколов: FC обеспечивает максимальную производительность за счёт выделенной инфраструктуры, iSCSI работает по стандартным IP-сетям (доступнее, но медленнее), NVMe-oF — новейший протокол, созданный специально для флеш-памяти и обеспечивающий минимальные задержки даже по IP-сетям.

Файловые СХД (NAS — Network Attached Storage)

Файловые СХД предоставляют доступ к данным на уровне файлов и папок через сетевые протоколы. Серверу не нужно знать, где физически расположен файл на дисках — за это отвечает файловая система СХД.

Для каких задач: документооборот, совместная работа, медиа-архивы, домашние директории пользователей.

Протоколы доступа:

  • SMB/CIFS — для Windows-клиентов.
  • NFS — для Linux/UNIX-клиентов.

Объектные СХД (Object Storage)

Объектные СХД хранят данные как объекты. У каждого объекта есть:

  • уникальный идентификатор (ключ);
  • сами данные;
  • метаданные — информация о данных (дата создания, тип, автор, GPS-координаты и т.д.).

Метаданные хранятся во внутренней базе данных, что позволяет выполнять поиск по атрибутам практически мгновенно: «Найди все фото из Крыма, сделанные летом 2024 года».

Для каких задач: облачные хранилища, Big Data, архивы на петабайты, системы с огромными объёмами неструктурированных данных.

Подходы к хранению данных в СХД

ACID

ACID — это набор свойств транзакций, гарантирующий надёжную обработку данных. Аббревиатура расшифровывается:

  • Atomicity (Атомарность) — транзакция выполняется полностью или не выполняется вообще. Частичного выполнения не бывает.
  • Consistency (Согласованность) — данные после транзакции не нарушают бизнес-правил и ограничений целостности.
  • Isolation (Изоляция) — параллельные транзакции не влияют друг на друга, их результаты не смешиваются.
  • Durability (Долговечность) — зафиксированные данные сохраняются даже при сбоях.

Суть подхода: целостность данных важнее доступности. Система скорее откажет в выполнении операции, чем позволит сохранить противоречивые данные.

Пример: банковская база данных. При переводе денег транзакция либо завершается полностью (деньги списались с одного счёта и зачислились на другой), либо откатывается. Лучше система на секунду станет недоступна, чем вы обнаружите пропажу средств.

BASE

BASE — это альтернативный подход, применяемый в распределённых системах, где важнее постоянная доступность. Аббревиатура расшифровывается:

  • Basically Available (Базовая доступность) — система всегда отвечает на запросы, даже если часть компонентов недоступна.
  • Soft state (Мягкое состояние) — данные могут временно расходиться на разных узлах, состояние системы не обязано быть строго согласованным в каждый момент времени.
  • Eventual consistency (Конечная согласованность) — если новые данные перестают поступать, то рано или поздно все узлы придут к единому согласованному состоянию.

Суть подхода: доступность данных дороже их сиюминутной целостности. Допустимы временные расхождения, которые будут устранены позже.

Пример: социальная сеть. Если пользователь обновил аватарку, а друг видит старую ещё несколько секунд — это допустимо. Гораздо важнее, чтобы соцсеть оставалась доступной при любых нагрузках.

Проблемы производительности СХД

HDD: физическое ограничение скорости

Жёсткие магнитные диски (HDD — Hard Disk Drive) используют механические компоненты для чтения и записи данных.

Принцип работы: одна или несколько металлических пластин вращаются с постоянной скоростью. Магнитная головка перемещается над поверхностью пластины, считывая или записывая данные на магнитный слой.

Почему HDD медленные:

Чтобы прочитать конкретный фрагмент данных, необходимо выполнить последовательность операций:

  1. Задержка позиционирования (Seek Latency) — головка физически перемещается к нужной дорожке. В среднем это занимает 4–10 мс.
  2. Задержка вращения (Rotational Latency) — нужно дождаться, пока нужный сектор окажется под головкой. В среднем — половина оборота.
  3. Собственно чтение/запись — самая быстрая часть процесса.

Цифры: даже у самых быстрых HDD с частотой вращения 15 000 об/мин задержка составляет 5–10 мс. При случайном доступе (когда данные разбросаны по разным участкам диска) производительность падает до 75–210 операций ввода-вывода в секунду (IOPS).

Почему это проблема: современные приложения (базы данных, системы виртуализации, веб-сервисы) работают именно со случайным доступом. Каждый запрос требует перемещения головки и ожидания вращения диска. Тысячи одновременных запросов создают очередь, и HDD просто не успевает их обрабатывать.

SSD: быстрее, но не без ограничений

Твердотельные накопители (SSD — Solid State Drive) используют флеш-память и не имеют движущихся частей. Задержки — до микросекунд, а IOPS — до сотен тысяч.

Однако есть другие вызовы:

1. Ограниченный ресурс перезаписи

Пункты 1–3 ниже — жирный текст, не заголовки (см. таблицу изменений).

Каждая ячейка флеш-памяти выдерживает ограниченное число циклов записи/стирания. Производители указывают характеристику TBW (TeraBytes Written) — суммарный объём данных, который можно записать на диск до исчерпания ресурса.

Классификация SSD по интенсивности записи (DWPD — Disk Writes Per Day, сколько полных объёмов диска можно перезаписать в день):

  • Read Intensive — 0,3 DWPD (преобладание операций чтения). Это значит, что за день можно переписать 30% объёма диска.
  • Mix Use — 1 DWPD (смешанная нагрузка).
  • Write Intensive — 3 DWPD (интенсивная запись).

2. Программное обеспечение не успевает за железом

Старые приложения и системы управления базами данных (СУБД) были созданы в эпоху HDD и не рассчитаны на работу с микросекундными задержками. Чтобы утилизировать потенциал современных SSD, нужно переписывать код — а это тысячи единиц ПО и дефицит квалифицированных инженеров.

3. Шины и контроллеры становятся узким горлышком

По мере роста ёмкости и количества дисков производительность упирается в пропускную способность процессоров и шин ввода-вывода. Просто не хватает мощности, чтобы «прокачать» все SSD на полной скорости. Решение требует установки более мощных процессоров, что увеличивает стоимость системы.

Катастрофоустойчивость

Катастрофоустойчивость — способность системы сохранять работоспособность при выходе из строя целого центра обработки данных (ЦОДа) в результате пожара, наводнения, полного отключения электричества или других масштабных аварий.

Почему это критично:

Стоимость простоя критических систем может измеряться миллионами рублей в минуту. Для банков, операторов связи, государственных информационных систем потеря доступа к данным даже на несколько часов означает не только финансовые убытки, но и репутационные риски, а иногда — угрозу жизни и безопасности людей.

Репликация данных — технология создания копии рабочих данных на СХД, расположенной в другом ЦОДе (или даже в другом городе).

Асинхронная репликация

Данные передаются на резервную СХД с некоторой задержкой (пакетами). Резервная копия всегда немного отстаёт от основной.

  • Преимущество: работает на больших расстояниях (тысячи километров).
  • Недостаток: при аварии возможна потеря части данных (за период с последней синхронизации).
  • Использование: для систем, где допустима потеря данных за 15–60 минут.

Синхронная репликация

Данные записываются одновременно на основную и резервную СХД. Запись считается завершённой только после подтверждения от обеих систем.

  • Преимущество: нулевая потеря данных (RPO = 0).
  • Недостаток: работает только на расстоянии до 20–100 км из-за ограничений скорости света и требований к каналу связи.
  • Использование: для критичных систем, где потеря данных недопустима (финансовые транзакции, системы жизнеобеспечения).

Метрокластер

Особый режим работы, при котором две СХД в разных ЦОДах активны одновременно. Для клиента (сервера) пара СХД выглядит как одна система. Переключение нагрузки между ЦОДами происходит автоматически, без дополнительных действий со стороны администраторов.

  • Преимущество: мгновенное переключение, минимальное время простоя (RTO = минуты).
  • Использование: для систем, требующих максимальной доступности (биржевые платформы, экстренные службы).

Будущее СХД: NVMe и NVMe-oF

Что такое NVMe

NVMe (Non-Volatile Memory Express) — протокол, разработанный специально для флеш-памяти.

В чём проблема старых протоколов:

Протоколы SAS и SATA создавались в эпоху HDD. Они учитывали особенности механических дисков: ограниченную скорость, очередь команд глубиной 32–256, необходимость подтверждения каждого шага.

SSD работают иначе: они могут выполнять тысячи операций параллельно, задержки измеряются микросекундами, глубина очереди может достигать 65 535 команд. Использование старых протоколов для SSD — это как пытаться ехать на гоночном автомобиле по просёлочной дороге.

Как работает NVMe:

  • Работает через шину PCIe напрямую к процессору, минуя лишние слои.
  • Поддерживает до 65 535 очередей команд.
  • В каждой очереди — до 65 535 команд.
  • Задержки — десятки микросекунд (вместо миллисекунд у SAS/SATA).

Результат: NVMe-накопители обеспечивают скорость в 5–10 раз выше, чем SSD с интерфейсом SATA.

NVMe-oF: NVMe через сеть

NVMe-oF (NVMe over Fabrics) — технология, позволяющая получить доступ к NVMe-дискам по сети с минимальными задержками, практически как к локальному диску.

Поддерживаемые транспортные протоколы:

  • Fibre Channel (NVMe/FC);
  • InfiniBand (NVMe/IB);
  • RDMA (NVMe/RDMA);
  • TCP/IP (NVMe/TCP) — ключевой для российского рынка.

Почему NVMe-oF важен для России

Традиционно сети хранения данных (SAN) строились на Fibre Channel (FC). Это зрелая технология с доказанной надёжностью. При этом организовать локализацию производства FC-оборудования в России — задача сложная.

NVMe-oF over TCP/IP позволяет:

  • использовать существующую IP-инфраструктуру без перехода на дорогой FC;
  • получить прирост производительности на 20–30% по сравнению с iSCSI;
  • постепенно переходить к полностью отечественным экосистемным решениям.

Дальнейшее развитие — NVMe-oF в масштабе всей инфраструктуры (NVMe-oF Fabric):

Когда всё оборудование (хосты, коммутаторы, СХД) работает по протоколу NVMe-oF, создаётся единый сверхбыстрый канал от приложения до диска. Данные передаются напрямую в память сервера, минуя промежуточные буферизации.

  • Преимущество: минимальные задержки и максимальная производительность.
  • Тренд: постепенный отказ от проприетарных FC-сетей в пользу открытых и масштабируемых IP-решений.

Решения СХД Aquarius

СХД Аэродиск ENGINE AQ созданы на базе аппаратных платформ Aquarius и ПО управления АЭРОДИСК. Предназначены для широкого спектра задач с высокими требованиями к надежности, производительности и функциональности 

Еще публикации по тегам:
Еще публикации по тегам: