Thecus N8800+, или двухюнитовое хранилище на восемь дисков
Введение
Стоило нам только выпустить обзор одноюнитового хранилища Thecus 1U4200XXXR, как в нашу тестовую лабораторию попало другое хранилище в стоечном исполнении того же производителя – N8800+, занимающее два юнита и позволяющее подключить до восьми дисков по интерфейсу SATA II. Так как оба СХД имеют сходные возможности, мы не станем подробно изучать веб-интерфейс N8800+, но остановимся на аппаратных особенностях устройства, проведём тесты скорости доступа к данным. Также мы планируем сравнить полученные скорости с результатами для 1U4200XXR из линейки XXX, но обо всё по порядку!
Внешний вид
Thecus N8800+ выполнен в металлическом корпусе, габариты которого составляют 626*480*87 мм по длине, ширине и высоте, соответственно, и предназначен для монтажа в 19’’ телекоммуникационную стойку с помощью поставляемых в комплекте рельсов. Спереди по бокам устройства размещаются «уши», однако крепление хранилища к стойке лишь с их использованием не допускается. Передняя панель закрывается перфорированной металлической дверцей, препятствующей случайные нажатия на управляющие элементы N8800+. За ней размещаются восемь корзин для жёстких дисков, ЖК-экран, кнопки включения/выключения/перезагрузки устройства, четыре управляющие клавиши (, , и Esc) для изменения параметров работы хранилища при локальном доступе (не по сети), а также два порта USB 2.0. Стоит отметить, что при плотном размещении оборудования в стойке монтаж N8800+ на собственные рельсы будет невозможен. Также открытие перфорированной дверцы будет затруднено или полностью невозможно, если под хранилищем будет расположено какое-либо устройство с выступающей передней частью.
На задней панели N8800+ размещаются два блока питания, два порта USB 2.0, два порта Gigabit Ethernet, один порт DB9 для подключения к ИБП и один разъём eSATA. Также здесь расположены два разъёма для установки дополнительной карты расширения. К сожалению, как мы увидим далее, слот PCI-E 8X здесь всего один. Например, сюда может быть установлена 10GE сетевая карта.
В качестве блоков питания использована модель R8P-400 компании SURE STAR, специализирующейся исключительно на производстве блоков питания. Сами блоки питания устанавливаются в единый корпус, к которому и производится подключение внешнего питания. Каждый блок оснащён двумя вентиляторами 40*40*20 мм.
Заглянем теперь внутрь хранилища.
Аппаратная платформа
Электронная начинка N8800+ состоит в общей сложности из тринадцати плат, двенадцать из которых выполняют функции разводки кабелей и переходников между разъёмами. Фотографии некоторых из них мы представляем нашим читателям.
Внутри хранилище поделено на две равные части, в одной из которых расположены жёсткие диски, а во второй (задней) блоки питания и материнская плата. Вдоль разделяющей стенки размещены четыре вентилятора горячей замены с размерами 80*80*25 мм.
Оперативная память представлена одной планкой DSL DDR2-800 объёмом 2 Гбайта. Стоит отметить, что всего на материнской плате распаяно два разъёма под оперативную память.
И, несмотря на то, что объём оперативной памяти у N8800+ в два раза больше, чем у рассмотренной ранее модели, сама память DDR2, а объём флеш-памяти меньше в четыре раза и составляет 128 Мбайт. Также как и у 1U4200XXX флеш-память здесь сдвоенная и произведена компанией Afaya: MDM4LRSU128MBPCF и MDM4LSU128MBPCF. Один из модулей защищён от записи и содержит резервную копию прошивки. Такая плата может быть использована только при серьёзном сбое с прошивкой основного банка. В качестве чипов флеш-памяти использованы микросхемы Samsung K9F1G08U08B, а функции контроллеров возложены на SSS 8883 A5-S3C HMNFK-004F. Thecus уже использовал подобные контроллеры, например, в модели N4200.
Основные элементы на самой материнской плате расположены с одной стороны, на которой находится маркировка N7700/8800 Ver:1.4. Кроме выведенных назад двух портов USB 2.0 на плате присутствуют ещё два неиспользованных порта, обращённых внутрь устройства. Intel LF80538 440 с частотой 1.86 ГГц, кэшем 1 Мбайт и FSB 533 МГц выполняет функции центрального процессора. Южный мост здесь представлен чипом Intel NH82801GHM, а контроллер ввода/вывода – Winbond W83627EHC. Также на плате был обнаружен некий модуль под большим радиатором без вентилятора, однако какие бы то ни было надписи на нём отсутствовали – идентифицировать его не удалось. Сетевые подключения обеспечиваются двумя чипами Intel WG82574L. Четыре модуля Silicon Image Sil3132CNU обеспечивают подключение двух жёстких дисков с интерфейсом SATA300 (SATA II) к шине PCI-E.
С аппаратной составляющей на этом мы заканчиваем и переходим к программной части.
Обновление прошивки и управление модулями
Thecus N8800+ допускает два способа обновления микропрограммного обеспечения: ручной и полуавтоматический. В ручном режиме пользователю необходимо самостоятельно загрузить файл (приблизительно 63 Мбайта) с образом прошивки с веб-сайта производителя и затем обратиться к пункту «Обновление ПО» меню «Администрирование». Для полуавтоматического режима требуется предварительная регистрация изделия с помощью пункта «Регистрация через Интернет» меню «Сведения о системе».
После такой регистрации администратору в том же пункте меню отображается список доступных обновлений, которые готовы к загрузке и установке.
Однако после выбора необходимого обновления пользователь всё равно перенаправляется на англоязычный сайт производителя для скачивания выбранной версии прошивки. Мы считаем, что выбор языка на сайте мог бы зависеть от выбранного языка веб-интерфейса устройства.
Мы загрузили прошивку версии 5.01.04 с сайта и приступили к процедуре обновления с помощью подпункта "Обновление ПО" меню "Администрирование".
Весь процесс обновления занимает порядка трёх минут, после чего требуется перезагрузить систему (70 секунд).
Thecus N8800+ не ограничивает пользователя стандартным набором возможностей хранилища и позволяет дополнительно установить модули расширения. Управление модулями производится с помощью пунктов группы «Сервер приложений» веб-интерфейса. Подпункт «Автоматическая установка модулей» предоставляет возможность администратору осуществить поиск доступных модулей в онлайн-базе производителя, либо загрузить ранее скачанный модуль самостоятельно. В качестве примера мы решили установить модуль DLM2, позволяющий осуществлять закачки по протоколам HTTP, FTP, BT и eMule.
После установки модуля требуется его запустить с помощью пункта «Модули», после чего можно переходить к его настройкам.
Рассмотрим типовые возможности, предлагаемые веб-интерфейсом N8800+.
Обзор веб-интерфейса
Доступ к веб-интерфейсу хранилища осуществляется путём обращения браузером к адресу 192.168.1.100. Естественно, хост администратора должен принадлежать при этом подсети 192.168.1.0/24. При входе у пользователя будет запрошен пароль, который по умолчанию равен admin.
После ввода правильных учётных данных пользователь попадает на стартовую страничку устройства, доступную на тринадцати языках. Мы не станем подробно описывать все возможности каждого пункта меню, однако остановимся на самых интересных.
Подпункты группы «Сведения о системе» отображают информацию о модели хранилища и текущей версии прошивки, запущенных сервисах и времени работы, загрузке процессора и его охлаждении. Кроме того здесь локально доступна информация обо всех происходивших с N8800+ событиях. Возможна и передача журнальной информации на удалённый Syslog-сервер.
Кроме отправки сообщений на Syslog-сервер возможна рассылка напоминаний по электронной почте с помощью пункта «Оповещения» группы «Администрирование». Остальные пункты той же группы позволяют управлять временем устройства, обновлять прошивку, конфигурировать расписание включения/выключения хранилища, менять пароль администратора и управлять конфигурацией N8800+, перезагружать и выключать устройство, проверять файловую систему, разрешать или запрещать включение по сети, настраивать параметры SNMP, а также управлять функциями входа в веб-интерфейс.
Подпункты группы «Сеть и сервисы» позволяют производить настройку сетевых интерфейсов WAN/LAN1 и LAN2, управлять сервером DHCP, агрегировать физические каналы.
Пункты группы «Хранилище» предназначены для управления жёсткими дисками, RAID-массивами, монтированием ISO-образов, управления папками и стекирования.
Thecus N8800+ поддерживает работу с Active Directory и локальной базой пользователей и групп, пакетное добавление локальных пользователей, управление дисковыми квотами. Указанные возможности собраны в пунктах группы «Пользователи и группы».
Управление файловыми протоколами Samba/CIFS, AFP, NFS, FTP, TFTP, HTTP/Web Disk, а также сервисами UPnP и Bonjour производится с помощью подпунктов группы «Сетевая служба».
С помощью группы «Сервер приложений» можно управлять дополнительно устанавливаемыми модулями расширения, а также сервером iTunes.
Описание возможностей пунктов группы «Резервное копирование» будет дано нами ниже в разделе, посвящённом вопросам стекирования, агрегирования и резервирования.
Группа «External Device» содержит всего два пункта: «Принтер» и «Управление ИБП (UPS)», позволяющие производить конфигурацию подключённого к N8800+ принтера или источника бесперебойного питания.
Краткое рассмотрение возможностей веб-интерфейса устройства мы на этом завершаем и переходим к возможностям доступа по протоколу SNMP.
Обзор SNMP-интерфейса
Включение поддержки протокола SNMP производится с помощью пункта «Настройка SNMP» группы «Администрирование».
Для подключения мы использовали утилиту Getif версии 2.3.1. Всего было обнаружено шесть интерфейсов.
Перейдём теперь на вкладку MBrowser, в которой собраны все доступные параметры, расположенные в ветке .iso.org.dod.internet.mgmt.mib-2. Сведения о системе представлены в параметрах ветки .iso.org.dod.internet.mgmt.mib-2.system.
Параметры интерфейсов собраны в ветке .iso.org.dod.internet.mgmt.mib-2.interfaces.
Статистические сведения о работе протоколов IP, ICMP, TCP, UDP и SNMP собраны в соответствующих пунктах ветки .iso.org.dod.internet.mgmt.mib-2.
Также некоторые интересные параметры, не связанные непосредственно с сетью, вынесены в ветку .iso.org.dod.internet.private.
Мы решили собрать реальные данные о работе устройства по SNMP, для чего добавили N8800+ в существующую систему мониторинга на основе Cacti. Ниже представлен график загрузки сетевого интерфейса хранилища в момент написания одного из разделов данного обзора.
Изучим ещё некоторые аспекты работы Thecus N8800+ в корпоративной среде.
Стекирование, агрегирование и резервирование
Сетевые хранилища Thecus уровня предприятия позволяют проводить объединение устройств в стек для расширения доступного дискового пространства. Кроме уже имеющейся у нас модели N8800+ мы запросили у производителя ещё одну – N12000, стекирование с которой и будет производиться. В качестве основного устройства было выбрано хранилище N12000 из-за его большей производительности, однако никаких технических проблем при использовании его в качестве подчинённого устройства также не возникает. Первое, с чего следует начать при объединении хранилищ в стек, - создание на подчинённом устройстве целевого тома iSCSI с помощью пункта «Распределение пространства» группы «Хранилище» веб-интерфейса, где требуется указать имя ресурса и его объём. Для предотвращения несанкционированных подключений может быть использована CHAP-аутентификация.
Созданный на подчинённом хранилище целевой том iSCSI теперь должен быть подключён к основному устройству стека, для чего используется пункт «Стекирование» группы «Хранилище», где администратору требуется указать IP-адрес подключаемого устройства, а также произвести на нём обнаружение доступных ресурсов.
Сразу после подключения удалённого ресурса он ещё не является доступным для пользователей, сначала требуется произвести его форматирование, после чего к нему можно получить доступ по протоколам SMB, FTP и другим.
Обсуждаемое стекирование по сути представляет собой подключение удалённого блочного устройства по протоколу iSCSI с использованием существующей сетевой инфраструктуры, что с одной стороны, позволяет снять ограничения на физическое расположение устройств относительно друг друга, но, с другой, значительно нагружает сетевую инфраструктуру, так как данные по пути от подчинённого устройства к пользователю проходят через мастера стека. Указанной проблемы можно избежать, если использовать для стекирования выделенный физический интерфейс мастера стека, либо путём использования 10GE сетевых карт. Стоит отметить, что выделенный физический гигабитный интерфейс будет являться узким местом при объединении в стек устройств N12000 и N16000, так как их скоростные показатели значительно превосходят возможности интерфейса Gigabit Ethernet.
При недостатке полосы пропускания одного гигабитного интерфейса может производиться агрегирование двух физических портов. В этом случае они выступают как один логический интерфейс доступа к хранилищу. N8800+ позволяет выбрать один из нескольких вариантов (Балансировка загрузки, Переключение при сбое, Balance-XOR, 802.3ad, Balance-TLB и Balance-ALB) распределения нагрузки по физическим каналам.
Мы решили предоставить доступ к хранилищу локальной группе пользователей, подключённых к коммутатору Cisco Catalyst 2950 (WS-C2950G-24-EI), имеющему двадцать четыре порта Fast Ethernet и два порта Gigabit Ethernet. N8800+ был подключён к двум гигабитным портам коммутатора, конфигурация которых представлена ниже. В качестве варианта балансировки был использован протокол IEEE 802.3ad.
interface GigabitEthernet0/1
switchport access vlan 2
switchport mode access
channel-group 1 mode on
interface GigabitEthernet0/2
switchport access vlan 2
switchport mode access
channel-group 1 mode on
interface Port-channel1
switchport access vlan 2
switchport mode access
Стоит отметить, что коммутатор Cisco Catalyst 2950 является исключительно L2-устройством и позволяет выполнять балансировку в агрегированном канале только на основании MAC-адресов, что недопустимо при вынесении хранилища в отдельный сегмент, так как все запросы к нему будут приходить с одного единственного MAC-адреса, - MAC-адреса шлюза этого сегмента. Коммутаторы L3 позволяют выполнять балансировку передаваемых через агрегированный канал данных не только на основании заголовков второго уровня (MAC), но и с использованием заголовков третьего уровня модели OSI (IP). Примером такого коммутатора является Cisco Catalyst 3750.
Несмотря на то, что N8800+ является промышленным решением, данное хранилище не имеет встроенных средств, обеспечивающих высокую доступность (HA – High Availability), как, например, уже упомянутая модель N12000, однако к ней всё же ограниченно применимы стандартные средства HA и балансировки нагрузки. К примеру, организация агрегированного канала (Port-Channel) тоже можно отнести к резервированию, позволяя защититься от падения патч-корда, сетевого интерфейса хранилища, либо порта коммутатора. В принципе, можно защититься и от падения самого коммутатора при организации стека коммутаторов, либо при использовании технологий, подобных Cisco VSS, для реализации которой требуются два коммутатора Cisco Catalyst 6500 серии с супервизорами Virtual Switching Supervisor 720-10GE. Правда, обсуждение Cisco VSS выходит далеко за рамки данного обзора.
Если на хранилищах N8800+ размещаются данные, доступные пользователям только для чтения, то использование Cisco SLB (Server Load Balancing), реализованное на отдельном устройстве, позволяет распределить нагрузку между несколькими сетевыми хранилищами и обеспечить отказоустойчивость. Если же данные на N8800+ планируется использовать не только для чтения, но и для регулярной записи/изменения пользователями, то для реализации системы с высокой доступностью потребуется внедрение Cisco EEM (Embedded Event Manager) или подобных механизмов. Опишем такую схему на примере использования двух хранилищ N8800+, одно из которых работает в активном режиме, второе – в пассивном.
Интерфейсы LAN2 используются исключительно для связи между хранилищами и синхронизации данных между ними. Такая синхронизация может запускаться ежедневно в ночное время, либо когда нагрузка на систему хранения минимальна. Естественно, при падении активного устройства все данные, записанные на него после последней синхронизации, будут утеряны. Синхронизация может выполняться с помощью Nsync/Rsync, для управления которыми используются пункты «Сервер Nsync», «Nsync синхронизация», «Rsync Target» и «Rysnc» группы «Резервное копирование».
Мы представим самую простую логику переключения между активным и резервным хранилищами. Для инициации переключения необходимо, чтобы интерфейс Gi1/0/1, к которому подключено активное хранилище, выключился. С помощью EEM можно проверять доступность хранилища по ICMP, считать ошибки на порту коммутатора и использовать множество других условий для срабатывания EEM детектора. Итак, активное устройство подключается к порту Gi1/0/1 коммутатора, пассивное – к Gi1/0/2. Оба устройства имеют одинаковые IP-адреса (192.168.1.100/24) на интерфейсах WAN/LAN1. При нормальной работе интерфейс Gi1/0/1 включен, а Gi1/0/2 административно выключен. Мы написали апплет, который после падения интерфейса Gi1/0/1 выключает его административно, и включает интерфейс Gi1/0/2, после чего очищает ARP-таблицу L3-коммутатора и сохраняет конфигурацию.
event manager applet fox_test
event syslog pattern "Interface FastEthernet1/0/1, changed state to down"
action 1.0 cli command "ena"
action 1.1 cli command "conf t"
action 1.2 cli command "int fa1/0/1"
action 1.3 cli command "shu"
action 1.4 cli command "int fa1/0/2"
action 1.5 cli command "no shu"
action 1.6 cli command "exi"
action 1.7 cli command " cle ip arp 192.168.1.100"
action 1.8 cli command "wr"
Посмотреть зарегистрированные апплеты можно с помощью команды «sho ev man po reg». Очевидно, что от сбоя RAID-массива на активном N8800+ указанная схема не спасёт, однако падение всего хранилища будет успешно обработано.
Thecus N8800+ имеет ещё один механизм защиты – Dual DOM, позволяющий в ручном или автоматическом режиме сохранять конфигурацию на дублирующую карту флеш-памяти. Соответствующая настройка производится с помощью пункта «Резервное копирование Dual DOM» группы «Резервное копирование».
Перейдём теперь к разделу тестирования.
Тестирование
Первое, с чего начинается знакомство с работой любого оборудования, - процесс загрузки устройства. Традиционно мы измеряем продолжительность загрузки аппаратуры, под которой понимаем интервал времени между моментом подачи питания до прихода первого эхо-ответа по протоколу ICMP. Thecus N8800+ загружается за 79 секунд, что является нормальным результатом для подобных устройств.
Не обошли мы стороной и защищённость устройства, для проверки которой использовалась утилита Positive Technologies XSpider 7.7 (Demo build 3100). Мы решили проверять защищённость хранилища со стандартным набором запущенных сервисов и модулей, поэтому всего было обнаружено десять открытых портов: TCP-21 (FTP), TCP-80 (HTTP), UDP-137 (NetBIOS Name), TCP-139 (NetBIOS Samba), TCP-443 (HTTP SSL), TCP-445 (Microsoft DS), TCP-631 (HTTP), TCP-1194, TCP-2000 (FTP) и TCP-3260 (iscsi-target). Наиболее интересные из полученных сведений представлены ниже, никаких существенных проблем безопасности обнаружено не было.
На момент написания раздела тестирования к нам в лабораторию попала IP-камера ACTi TCM-5611, а Thecus N8800+ имеет модуль, позволяющий работать с IP-камерами. К сожалению, нам не удалось заставить модуль IP_Cam версии 3.0.0 получать данные с камеры ACTi TCM-5611 с прошивкой 4.09.22. Тогда мы заставили саму камеру выполнять фотосъёмку при обнаружении движения в поле её зрения, после чего сделанные фотографии выгружать на FTP-сервер, работающий на N8800+. Подробный обзор IP-камеры ACTi TCM-5611 будет доступен на нашем сайте в ближайшее время.
Мы решили попробовать модуль Twonkymedia, позволяющий Thecus N8800+ выполнять функции сервера мультимедиа. Когда расширение было установлено и соответствующие медиа-файлы загружены в папку модуля, мы смогли подключиться к хранилищу с помощью проигрывателя Windows Media и посмотреть ранее закачанные фотографии и фильмы, послушать музыку.
Пожалуй, самыми ожидаемыми тестами N8800+ являются измерения производительности хранилища, для чего был собран тестовый стенд, основные параметры которого представлены ниже.
Компонент | ПК | Ноутбук |
Материнская плата | ASUS P5K64 WS | ASUS M60J |
Процессор | Intel Core 2 Quad Q9500 2.83 ГГЦ | Intel Core i7 720QM 1.6 ГГЦ |
Оперативная память | DDR3 PC3-10700 OCZ 16 Гбайт | DDR3 PC3-10700 Kingston 8 Гбайт |
Сетевая карта | Marvell Yukon 88E8001/8003/8010 | Atheros AR8131 |
Операционная система | Windows 7 x64 SP1 Rus | Windows 7 x64 SP1 Rus |
Тестирование доступа по протоколу NetBIOS производилось с использованием утилиты Intel NASPT версии 1.7.1. На тестовых компьютерах мы специально уменьшили до 2 Гбайт объём доступной системе оперативной памяти. Совместно с N8800+ применялись жёсткие диски Seagate Constellation ES ST32000644NS объёмом 2 Тбайта и внешний USB-накопитель Transcend StoreJet 25M3 объёмом 750 Гбайт. Скоростные показатели указанных накопителей представлены на диаграмме ниже.
Первым тестом производительности хранилища стало измерение скорости доступа по протоколу NetBIOS к внешнему жёсткому диску, подключённому по USB.
Далее для каждого из шести типов (JBOD, RAID0, RAID1, RAID5, RAID6 и RAID10) поддерживаемых RAID-массивов и четырёх файловых систем (EXT3, EXT4, ZFS и XFS) были измерены скорости доступа к данным по протоколу NetBIOS.
В некоторых тестах мы вплотную приближались к ограничениям канала Gigabit Ethernet, поэтому те пользователи, которые желают получать большие скорости, должны устанавливать опциональные сетевые карты 10GE или же использовать агрегацию каналов.
Также мы решили проверить скорости доступа к данным с помощью протокола iSCSI. Результаты измерений представлены ниже на диаграмме.
Thecus N8800+ поддерживает работу с шифрованными дисковыми массивами. Естественно, мы не могли пропустить такую возможность и провели сравнительный тест скоростей доступа с помощью NetBIOS к массиву RAID0 EXT3 с шифрованием и без. К сожалению, приходится отметить, что скорости доступа к шифрованному массиву существенно ниже. Решением в данном случае стало бы использование выделенного процессора, выполняющего исключительно криптографические операции, либо поддержка со стороны центрального процессора расширенной системы команд AES.
На этом мы завершаем раздел тестирования, подведём итоги.
Заключение
По сравнению с протестированным нами ранее стоечным сетевым хранилищем Thecus 1U4200XXXR, N8800+ имеет вдвое большую высоту (два юнита против одного), позволяет устанавливать вдвое больше дисков (восемь против четырёх), а демонстрируемая производительность на шифрованных массивах превышает показатели 1U4200XXXR приблизительно в полтора раза, тогда как скорости доступа к данным, размещённым на обычных дисковых массивах (без шифрования), сравнимы или незначительно превышают значения, показанные 1U4200XXXR. В целом мы остались довольны протестированной моделью, однако нам бы очень хотелось, чтобы конструкторы Thecus больше внимания уделяли вопросам монтажа сетевого оборудования уровня предприятия в загруженные телекоммуникационные стойки.
Сильные стороны Thecus N8800+ представлены ниже.
- Высокие скорости доступа к хранилищу.
- Возможность агрегирования сетевых интерфейсов и объединения хранилищ в стек.
- Поддержка опциональных 10GE сетевых карт.
- Наличие резервного блока питания.
- Возможность управления устройством с помощью кнопок и экрана на передней панели.
- Устойчивость к сетевым атакам.
- Возможность бесплатной установки дополнительных модулей расширения.
К недостаткам Thecus N8800+ относятся следующие.
- Язык открываемой страницы для загрузки новой прошивки не зависит от выбранного языка в веб-интерфейсе хранилища.
- Неудобная схема монтирования устройства в стойку.
- Отсутствие поддержки кириллических доменов.
- Невысокие скорости доступа к зашифрованному массиву.
- Неудачная конфигурации металлической дверцы перед передней панелью хранилища.
На момент написания обзора средняя цена Thecus N8800+ без дисков в интернет-магазинах Москвы составляла 67000 рублей.
Автор и редакция благодарят компанию Тайле за предоставленное для тестирования оборудование.