Bestes RAID-Setup für Multimedia-Dateiserver? [geschlossen]

Ich baue einen Dateiserver für mein kleines Büro. Wir machen Film- und Multimedia-Design. Nur 3 Clients verbunden. Der Server ist hauptsächlich für den lokalen Zugriff auf grafische Elemente und Videodateien vorgesehen. Ich suche Rat bezüglich der erforderlichen Hardware und Software. Besonders für das RAID. Ich habe folgende Ziele:

A) Zusammengeführte Kapazität
Ich möchte, dass alle anderen Systeme als einzelnes zugeordnetes Netzwerklaufwerk mit einer Anfangskapazität von 10 TB auf die Daten zugreifen. Also vielleicht 5x 2 TB Laufwerke (plus Spiegellaufwerke für Redundanz).

B) Einfache Möglichkeit, die Kapazität zu erhöhen
Wenn ich langfristig denke, möchte ich dem Array "einfach" mehr Laufwerke hinzufügen , um die Kapazität um das Zwei- oder Dreifache zu erhöhen. Theoretisch könnte es also zu einem 30-TB-Raid-Array kommen, das aus möglicherweise 15 x 2 TB-Laufwerken mit Kapazität besteht (plus Spiegellaufwerke für Redundanz).

C) maximale Fehlertoleranz
Ich möchte mindestens 1 Spiegellaufwerk pro Kapazitätslaufwerk (in Laienbegriffen). Wenn ich also mit 10 TB / 5x 2 TB Kapazität beginne, würde ich wahrscheinlich weitere 5x 2 TB Laufwerke benötigen, um Spiegel zu sein. Also insgesamt 10 Laufwerke. Ich möchte aber auch das Potenzial für noch mehr Redundanz. mit bis zu 2 zusätzlichen Spiegeln pro 'Kapazitätslaufwerk' (und um sie jederzeit problemlos zum Array hinzufügen zu können).

D) einfache Möglichkeit zur Überwachung des Laufwerkszustands
Ich hätte gerne eine intuitive Benutzeroberfläche zum Verwalten des RAIDs und zum Überwachen des Laufwerkszustands

Auf den anderen Systemen, die auf dieses Netzwerklaufwerk zugreifen, wird Windows ausgeführt, aber auch das eine oder andere Ubuntu- und MacOS-System.

Sind diese Ziele erreichbar? Welche Art von RAID-Setup empfehlen Sie? Welche Hardware wird benötigt?

Welches Betriebssystem sollte dieses System Ihrer Meinung nach auch ausführen? Ist es wirklich wichtig? Ich bin kein Netzwerkadministrator - nur ein langjähriger Windoze-Benutzer ohne viel Linux-Erfahrung. Trotzdem bin ich nicht gegen eine Linux-Lösung, wenn sie für diesen Server einfach und praktischer als ein Windows-Betriebssystem ist. Oder vielleicht so etwas wie Openfiler.

Das Budget sollte den Sweet Spot für Wert und Leistung treffen (daher bevorzuge ich die Verwendung von 2-TB-Laufwerken). Der größte Fokus liegt auf der Speicherung; Abgesehen davon muss das System nur dafür sorgen, dass die Laufwerke optimal funktionieren, wobei möglicherweise 2 oder 3 Clients gleichzeitig auf Dateien zugreifen / diese schreiben. Das Hardware-Angebot würde mit etwa 10 x 2 TB WD Caviar Blacks beginnen. ca. $ 1900 für die Lagerung + $ x für die restlichen Teile.

http://ncix.com/products/index.php?sku=42775&vpn=WD2001FASS&manufacture=Western%20Digital%20WD

Ihr Rat wird geschätzt, danke!

Ich stimme dem zu, was @ sysadmin1138 in seiner Antwort gesagt und abgestimmt hat, aber ich habe ein paar Kommentare und meine Erfahrungen, die ich hinzufügen möchte.

Bevor ich IT-Vollzeit arbeitete, leitete ich 8 Jahre lang eine kleine Grafikabteilung, die sich mit solchen Dingen befasste. Wir hatten 3 Künstler und fast 50 Knoten Cluster von Rendering-Computern, die Bildsequenzen, Videobilder und bis zu 64 Megapixel pro Bild erstellten und verarbeiteten. Wir waren ein kleines Unternehmen, das in einem Nischenmarkt arbeitete, daher war das Budget auch für uns immer ein Thema.

Beachten Sie, dass ein Videoserver für Film und Multimedia mit 3 Benutzern viele Dinge bedeuten kann. Dies kann bedeuten, dass 3 Benutzer dasselbe Video in Webqualität streamen, oder dass 3 Benutzer Aufnahmen mit einem Dutzend oder mehr Schichten von 4k unkomprimierten oder verlustfreien komprimierten Bildsequenzen zusammenstellen. Die Art der Netzwerk- und Speicheranforderungen unterscheiden sich in diesen beiden Beispielen erheblich. Es ist also schwierig, Ihnen wirklich solide Ratschläge zu geben, aber ich werde erwähnen, welches Setup wir bei meinem vorherigen Job verwendet haben, da es jenseits des oberen Bereichs dieses Spektrums liegt.

Unser Dateiserver- / Speicher-Setup bestand aus vielen externen RAID-Einheiten von Aberdeen, die an einen ihrer Server unter Linux angeschlossen waren. Wir haben uns für Linux b / c entschieden, wir waren damit vertraut und konnten die teuren Window CALs vermeiden. Hey, sie summieren sich, wenn Sie eine große Rendering-Farm haben. Aberdeen verkauft aber auch seine mit Windows vorkonfigurierten Server. Seit kurzem bieten sie auch einige ZFS NAS / SAN-Speicherserver an, auf denen Nexenta ausgeführt wird, was ebenfalls einen Blick wert sein könnte. Die Hardware wird jedoch mit einer 5-jährigen Garantie geliefert. Ich würde daher dringend empfehlen, so etwas zu tun, anstatt selbst etwas zu bauen. In Bezug auf die Überwachung verfügen ihre DAS-Einheiten über einen Ethernet-Verwaltungsport mit einer Webschnittstelle zur Konfiguration. Sie können Sie jedoch per E-Mail und snmp auf Probleme aufmerksam machen.

Die DAS-Einheiten von Aberdeen waren zunächst als mehrere RAID5-LUNs für den Server verfügbar, aber wir haben sie schließlich alle auf RAID6-LUNs migriert und LVM verwendet, um den Speicher als Pool zu verwalten. Jedes Projekt hat ein eigenes logisches Volumen, das mit dem Wachstum des Projekts wächst. Dies machte es einfach, die abgeschlossenen Projekte zu archivieren und den Speicherplatz dann wieder in den Pool zurückzugeben. Unter Windows ohne Dateisysteme und Verwaltungstools von Drittanbietern wie Veritas ist dies der Vorschlag von sysadmin1138, Windows Dynamic Disks zu verwenden. In unserem Fall war RAID10 vielleicht eine bessere Option, aber unser Budget würde es uns nicht erlauben, die Hälfte unserer Kapazität aufzugeben, sodass wir uns für RAID6 entschieden haben. Der Server war in der Lage, die 2-Gbit-Verbindungen, die er zu dieser Zeit hatte, zu sättigen, daher glaube ich nicht, dass diese Wahl uns so sehr verlangsamt hat.

Aber ich habe dieses Setup 2003 mit 3 TB Speicher begonnen und sie sind seitdem damit gewachsen. Jetzt ist es fast 8 Jahre alt und die meisten Komponenten wurden im Laufe der Jahre ausgetauscht. Es ist jedoch ziemlich einfach, zusätzlichen Speicher hinzuzufügen und logische Volumes von den älteren Einheiten zu migrieren, um sie außer Betrieb zu setzen. Vor ein paar Jahren haben sie auch den Dateiserver-Teil des Setups ersetzt. Ihr aktueller Server verfügt über 4-Gbit-Links. In Bezug auf die Speicherung waren sie zuletzt etwas mehr als 40 TB groß.

Ein paar andere Gedanken.
Ich weiß, dass es verlockend ist, mit 2-TB-Laufwerken zu arbeiten, da es Sie ziemlich leicht dahin bringt, wo Sie kapazitätsmäßig sein müssen, aber es geht zu Lasten weniger Spindeln, was weniger IOPs und längere Wiederherstellungszeiten bedeutet, wenn ein Laufwerk ausfällt.

Ich werde Ihnen keine Preise nennen, da diese so stark lokalisiert sind, dass sie bedeutungslos sind.

Der größte E / A-Treiber, den ich sehe, ist das Video- und Grafikdesign. Video ist in der Regel sehr groß. Groß genug, dass Sie möglicherweise auf Netzwerk-E / A- Engpässe stoßen, bevor Sie auf Festplatten-E / A-Engpässe stoßen. Es sollte für Ihre Benutzer bissig sein und über genügend Overhead verfügen, damit andere Dateien gespeichert werden können, wenn jemand eine 1,5-GB-Videodatei an den Filer festschreibt.

In Bezug auf Betriebssystem und Serverhardware funktioniert Windows hier unter Berücksichtigung Ihres Hintergrunds einwandfrei. Der Server muss 64-Bit und mit einer 64-Bit-RAID-Karte ausgestattet sein (wenn Sie eine neue kaufen, sollte dies kein Problem sein). 8 GB RAM ist das Minimum, mit dem ich gehen würde.

Nun zur Speicherinfrastruktur.

Schlüsselfahrer:

• Sie möchten später Laufwerke hinzufügen.
  • Eine Erweiterung der anfänglichen LUNs wäre sehr wünschenswert.
  • Andernfalls können Sie einem Dynamic Disk-Set neue LUNs hinzufügen.
• Sie möchten einen Laufwerksbuchstaben.
• Sie müssen spiegeln.
• Sie benötigen eine Überwachung des Laufwerkszustands.

Verwenden Sie eine High-End-RAID-Karte, die RAID10 und Live-Erweiterung unterstützt. Oder wenn die Kosten Sie beim Kauf von Festplatten, RAID50 und viel batteriegepuffertem oder Flash-Cache lebendig werden lassen. Achten Sie auf die Unterstützung des erweiterten Formats (4-KB-Sektoren im Vergleich zu den vorherigen Standard-512-B-Sektoren) auf Ihrer RAID-Karte. Wenn Sie bei einem großen Namen (Dell / HP / IBM) kaufen, sollte dies kein Problem sein. Wenn Sie jedoch aus Teilen zusammenbauen, ist dies ein großes Problem.

Sobald Sie Ihre Speicherinfrastruktur eingerichtet haben, verlassen Sie sich auf die RAID-Karte, um dem Betriebssystem eine einzige große LUN zu präsentieren. Da Sie 64-Bit von Ende zu Ende sind, sollten Sie kein Problem mit einer einzelnen 30-TB-LUN haben. Das Hinzufügen von Speicherplatz sollte so einfach sein wie das Importieren von Laufwerken in die RAID-Konfiguration und das anschließende Erweitern der LUN, um den neuen Speicherplatz zu füllen. Dies kann alles online erfolgen. Denken Sie daran, dass ein einzelnes so großes Volume ein Alter braucht, um chkdsk zu erhalten, wenn Sie dies jemals tun müssen.

Wenn Sie von einem großen Namen kaufen, verfügen alle über Tools / Agenten, die den Zustand der Festplatte überwachen. Sie müssen nur daran denken, sie zu installieren und zu konfigurieren. Sie haben normalerweise auch die Möglichkeit, Benachrichtigungen zu senden. Wenn Sie dies aus Teilen tun, verfügt Ihr RAID-Kartenhersteller wahrscheinlich über ein Dienstprogramm, das fast das Gleiche tut, jedoch möglicherweise weniger Funktionen bietet als die integrierten Produkte, die von den großen Anbietern vertrieben werden.

Wenn Sie aus irgendeinem Grund mehrere LUNs verwenden müssen, beachten Sie, dass Windows die Verwendung von Mountpunkten ermöglicht. Das Verzeichnis F: \ Bigshare \ VideoArchive kann ein eigenes Volume sein. Die Leute ordnen Z: \\ storageerv \ bigshare \ zu und Z: \ VideoArchive ist diese zweite LUN.

Vermeiden Sie DFS. Die Unterstützung in Nicht-Windows-Ländern ist sehr unvollständig und kann nicht als verlässlich angesehen werden.

RAID50-Überlegungen

Wenn Sie dorthin müssen, stellen Sie sicher, dass Ihre Laufwerke der Enterprise-Klasse entsprechen. Dies erhöht die Kosten. Es kann eine Woche dauern, bis eine 30-TB-LUN nach einem Laufwerksfehler wiederhergestellt ist , und Sie möchten wirklich, wirklich, wirklich keinen Laufwerksfehler, wenn Sie dies tun.

In der Tat wäre es viel besser, wenn Sie sicherstellen würden, dass kein RAID50-Set mehr als 10 TB groß wird, und nur mehrere LUNs verwenden. Dies reduziert die Ausfallzeit und die Gefährdung durch ein vollständiges Datenverlustereignis während einer Neuerstellung.

Mit Windows Dynamic Disks ist es ziemlich einfach, mit mehreren LUNs zu arbeiten. Der Laufwerkstyp wird als Spanned Drive bezeichnet und kann sich auf mehrere LUNs unterschiedlicher Größe verteilen. Auf diese Weise erstellen Sie ein 9,5-TB-Volume auf einem 32-Bit-Server, der nur bis zu 2 TB LUNs (3x 2 TB LUNs und eine einzelne 1,5 TB LUN) verwenden kann. I / O ist nicht so ausgewogen wie mit einer einzelnen 30-TB-RAID10-LUN, aber das ist der Preis, den Sie günstig bezahlen.

Bis zu 30 TB mit zwei Spiegeln pro Laufwerk? 30 TBx3 = 90 TB / 2 TB pro Laufwerk = 45 Laufwerke.

Wenn Sie über diese Datenmenge (und diese Anzahl von Laufwerken) sprechen, müssen Sie auch darüber nachdenken, wie Sie diese Datenmenge verschieben möchten. Sogar die ersten 10 Laufwerke überlaufen eine einzelne GNIC- oder RAID-Karte. Wie wäre es mit der Southbridge auf dem Motherboard? Sie können genügend DAS-Laufwerke miteinander verketten, um Ihre Kapazitätsziele zu erreichen, aber es wird sicher lange dauern, bis mit all diesen Daten etwas erreicht ist.

Wenn Sie wirklich so viel Spiegelung / Erweiterung / Zuverlässigkeit benötigen, würde ich ein iSCSI-SAN empfehlen. So etwas wie der Dell Equalogic wäre eine gute Wahl. Mit einer Reihe kleinerer Server / Arrays, die zusammenarbeiten, kommen Sie viel weiter als mit dem Versuch, ein gigantisches Array zu erstellen.

Zusätzlich: Wenn Sie es sich leisten können, kaufen Sie Laufwerke der Enterprise-Klasse (15k, SAS, WD oder Seagate). Da Sie die Laufwerke im Laufe der Zeit kaufen, sind die Kosten hoffentlich überschaubar. Der Betrieb von Consumer-Laufwerken rund um die Uhr wird zwei Jahre dauern. Das wären also zwei Laufwerke, die jeden Monat bei Ihrer vollen Kapazität von 45 Laufwerken ausfallen. Sie werden am Ende viel mehr Laufwerke kaufen, weil Sie keine 2-TB-SAS-Laufwerke finden werden, aber das ist keine ganz schlechte Sache. Mehr Laufwerke = besserer Durchsatz.