Есть ли польза к NAS с ECC памятью и файловой системы ZFS, когда я работаю на системах С ни?

недавно я прочитал некоторые тревожные статистические данные о степени коррупции в системах с не-ECC оперативной памяти и типичных файловых систем. Из того, что я могу Google, наличие системы с ECC RAM под управлением ZFS, вероятно, лучший способ предотвратить коррупцию. Большая часть этой информации была представлена в контексте обсуждений в НАН.

Я могу видеть, как наличие такой системы было бы полезно для архивирования файлов, предполагая, что они еще не повреждены на исходной машине и передаются по сети отлично.

то, что я не смог Google это: какой смысл иметь максимально надежные файлы хостинга NAS (или в качестве резервной копии), когда я работаю с файлами на менее надежных компьютерах? Я тоже не смог найти хорошей информации о коррекции ошибок в Самбу (любой последняя версия в ЗФС-способен ОС-новой или OpenIndiana) - если это все ошибки, то почти все остальное не имеет смысла (если только я лично все проверить хеш и все осуществление переводов.)

Мне нужно (образно) выбросить мои текущие системы и заменить их (мини) оборудованием серверного класса, если я не хочу беспокоиться о битовой гнили и т. д.? И если я пойду по этому пути, могу ли я разумно ожидать ресурсов для чего-либо, кроме запуска ZFS? Не тратя тысячи долларов?

мой пример:

Я обеспокоен не только воспроизведением (например, фильмов и других средств массовой информации). Я часто занимаюсь программированием дома компьютеры. Например, у меня есть постоянно растущее количество файлов базы данных SQLite для различных проектов. Наличие одного из них может стать проблемой. У меня также есть много гигабайт семейных и отпускных фотографий, которые я не только хочу архивировать, но и организовывать, отмечать и т. д. Поэтому, хотя я не управляю банком, у меня есть вещи, которые было бы трудно заменить, и я ненавижу думать о том, что они "молча повреждены".

27
задан Journeyman Geek
27.02.2023 23:12 Количество просмотров материала 2460
Распечатать страницу

3 ответа

то, что я не смог Google это: какой смысл иметь максимально надежные файлы хостинга NAS (или в качестве резервной копии), когда я работаю с файлами на less надежные компьютеры?

вероятность того, что что-то пойдет не так, кумулятивно.

другими словами (и с поддельными номерами):

Если есть 10% шанс, что что-то пойдет не так на NAS, и

Если есть 10% шанс, что все пойдет не так с другой устройство,

Тогда у вас есть 20% шанс неудачи при чтении что-то из NAS и играть на другом устройстве.

Я также не могу найти хорошую информацию по исправлению ошибок в Samba

какая версия samba. Протоколы немного изменились между тремя версиями.

если это все ошибки, то почти все остальное не имеет смысла (если Я лично хэширую все и проверяю все осуществление переводов.)

всегда есть риск ошибки. Это просто происходит. И они обнаруживаются и исправляются (например, с помощью контрольных сумм). Это не всегда верно при использовании ОЗУ, что можно улучшить с помощью четности и / или ECC. Однако эти проблемы относительно маловероятны, и вам нужно найти баланс между позолоченным (и дорогим) дизайном и"достаточно хорошим".

этот баланс будет совсем другим для некоторых из нас (например, банкам нужны вещи отлично.) Вероятно, они не гарантируют использование ECC на персональных системах, предназначенных для воспроизведения фильмов.

1
отвечен Hennes 2023-03-01 07:00

подключение:

Я попытался прочитать документацию на веб-сайте Samba, но не смог определить, есть ли в Samba исправление ошибок. Я должен был предположить худший случай-что Samba полагается на базовую сеть без ошибок. Если та базовая сеть является TCP / IP, кажется, что единственная защита-слабая контрольная сумма.

Я закончил с iSCSI, потому что он поддерживает дополнительные заголовки и дайджесты данных, которые используют алгоритм CRC32C. Это выше и выше проверки TCP / IP.

есть ли польза?

для меня ответ "да, по крайней мере в одном случае."Я могу создавать резервные копии файлов на серверной машине ZFS с помощью программы, которой я доверяю. Тогда я могу периодически проверять якобы неизмененные файлы на исходном компьютере на самом деле без изменений. Если есть несоответствие, я могу восстановить резервную копию с сервера.

единственное слабое место это когда файлы намеренно изменяются на ненадежном компьютере потребительского класса. Поскольку коррупция в течение этих коротких периодов времени так маловероятна, я считаю это приемлемым. Если я обнаружу, что повреждение произошло во время модификации, у меня будут инкрементные резервные копии, на которые можно будет вернуться.

замена моего компьютера на сервер, достаточно мощный, чтобы запустить ZFS и оставить ресурсы в качестве основного компьютера?

возможно, но это было бы очень дорогой. Я удовлетворен описанным выше сценарием, поэтому я не буду пытаться это сделать.

1
отвечен Ted Striker 2023-03-01 09:17

ZFS довольно требователен к тому, на каком оборудовании он работает.

Не в том смысле, что у вас должен быть точно правильный чипсет, видеокарта, версия прошивки диска и так далее, а в смысле возможностей, предоставляемых аппаратным обеспечением. Помните, что ZFS был разработан как серверное решение высокого класса, и определенные допущения, которые он делает, отражают это.

большая часть того, что делает ZFS настолько отличным для хранения данных, что вы заботитесь о том, что вы можете настроить его в способы, которые могут оба обнаружить и правильно ошибки в хранении. Это может быть тривиальные ошибки, как один бит флип где-то, или катастрофические ошибки, как несколько дисков сбой сразу. Пока вы находитесь выше порога избыточности макета хранилища (например, не более двух дисков, одновременно испытывающих проблемы в raidz2 vdev), ZFS может исправить любую ошибку, используя избыточные данные. Дальнейшие ошибки, в зависимости от того, где и как они происходят, могут привести к (полу) изящной системе паника, или простая ошибка ввода-вывода.

Если вы сделаете это правильно, вы также настроите свою систему, чтобы регулярно очищать пул(ы) ZFS. Это уловит degredation прежде чем будет проблемой, и сообщит вас к ей поэтому вы можете рассматривать заменить запоминающие устройства которые имеют тревогу держа дальше к вашим данным прежде чем это будет проблемой.

однако, что величие зависит от того, что оперативной памяти можно доверять. вся эта проверка, исправление, переписывание и так далее происходит преимущественно в оперативной памяти. На серверах высокого класса вы не найдете ничего, кроме оперативной памяти ECC.

ZFS защищает (и обрабатывает) метаданные пула, метаданные файловой системы и пользовательские данные одинаково. здесь нет никакой реальной разницы.

Если ваша система рабочей станции испытывает битовый флип ОЗУ, то при записи битовых данных в ZFS, битовые данные будут основой для того, что ZFS в конечном итоге записывает на диск. Это, очевидно, плохо, потому что это означает, что ваш файл будет поврежден. Однако битовые данные будут правильно, насколько ZFS обеспокоен. Это на самом деле хороший, потому что это означает, что все обычные методы восстановления ZFS будут работать. Да, последняя копия файла будет повреждена, но это все равно было бы испорчено, независимо от того, какую файловую систему вы использовали. вы можете использовать снимки ZFS по крайней мере, чтобы иметь возможность вернуться во времени к неповрежденная копия. Создали что-то вроде zfs-auto-snap для создания моментальных снимков файловых систем с регулярными, близкими интервалами, держите более грубую историю в обратном направлении и забудьте об этом, пока они вам не понадобятся. (Например, держать десять снимков расстоянии десяти минут; 50 снимков один час; 30 снимков в шесть часов; и так далее.) Снимки практически бесплатны в ZFS; если вы используете ZFS, использовать скриншоты как хорошо.

Если ваш сервер хранения, на котором работает ZFS испытывает плохой ОЗУ, будь то немного флип или застрявший (один или несколько) бит, и у вас есть ECC RAM на сервере хранения, это будет обнаружено, и событие будет зарегистрировано или система будет остановлена (если ошибка не может быть исправлена). В любом случае сохраняется целостность данных, хранящихся на сервере. Если ваш сервер хранения ZFS имеет не-ECC RAM, тогда ошибка может распространяться по всем вашим данным и метаданным как ZFS пытается "исправить" ошибки, которые на самом деле только плод воображения компьютера. В худшем случае, что на самом деле происходит с людьми, весь ваш бассейн будет разрушен из-за этого, и все ваши данные исчезнут. Избыточность на уровне хранилища/vdev здесь также не помогает. В большинстве других файловых систем (без автоматической коррекции) повреждено будет только одно место, на которое непосредственно повлияло битовое переключение, и если это произойдет с метаданными файловой системы, вероятно, будет легко исправлено традиционные средства проверки и восстановления файловой системы. В ZFS нет этого Люк; нет никакого fsck.zfs. (здесь команда zpool скраб, но это не работает, если бассейн не работает за ремонт.)

что я не смог Google, так это: какой смысл иметь максимально надежные файлы хостинга NAS (или в качестве резервной копии), когда я работаю с файлами на менее надежных компьютерах?

Это означает, что у вас есть доверенное хранилище данных. вы знаете, что как только данные попали на ваш NAS, они защищены от повреждения. Любое повреждение будет либо исправлено автоматически, либо вы будете проинформированы о проблеме (в случае ZFS, через ошибку ввода/вывода). Данные все еще могут быть повреждены во время работы с менее надежными системами, но у вас будет место для известной неповрежденной копии. Это преимущество, даже если только система NAS имеет ECC RAM, ZFS и высококачественное хранилище мониторинг и настройка оповещений.

вы можете, если пожелано, добавить (в частности) Штоссель ECC к вашим другим системам по мере того как ваш бюджет позволяет, заткнуть последнее отверстие.

Мне нужно (образно) выбросить мои текущие системы и заменить их (мини) оборудованием серверного класса, если я не хочу беспокоиться о битовой гнили и т. д.? И если я пойду по этому пути, могу ли я разумно ожидать ресурсов для чего-либо, кроме запуска ZFS? Не тратя тысячи долларов?

во-первых, вам действительно не нужно оборудование серверного класса. что вам нужно, это в первую очередь ECC RAM (и процессор и контроллер памяти/чипсет, который поддерживает ECC RAM), достаточно надежное постоянное хранение, а в идеале чехол, что позволяет легко добавлять и удалять диски во время работы системы. Это не должно быть очень дорогим, и, конечно, не нужно стоить "тысячи долларов".

во-вторых, ZFS любит оперативную память, но в основном для кэширования. С большинством рабочих нагрузок 8-16 ГБ оперативной памяти должно быть вполне достаточно, а 24-32 ГБ (легко достижимые даже с "потребительскими" материнскими платами) по-прежнему по разумной цене даже при покупке высококачественной фирменной ECC-памяти. ZFS не очень голоден; вы можете заставить его нуждаться в большом количестве CPU (например, с ZoL, установив SHA256, сжатие gzip-9 и, возможно, дедупликацию в комбинации), но вам не нужно. Моя собственная система работает на ZFS, не очень мощная (процессор FX-6100 работает с тактовой частотой), я использую sha256 везде, и даже в чисто последовательном вводе - выводе диски являются ограничивающим фактором: как только он проходит начальную часть скраба с малым случайным считыванием, я получаю примерно такую же пропускную способность на скрабах, как и на raw dd от базового устройства хранения, с CPU, чтобы сэкономить.

1
отвечен a CVn 2023-03-01 11:34

Постоянная ссылка на данную страницу: [ Скопировать ссылку | Сгенерировать QR-код ]

Ваш ответ

Опубликуйте как Гость или авторизуйтесь

Имя
Вверх