Support  Forum  Newsletter       Suche  Kontakt  Impressum  Datenschutz

Stor IT Back - Ihr Speicherspezialist

  Angebote    Produkte    Schulungen    Firmenprofil    Partner    Kunden    Information    Download    News

LOGO Stor IT Back

SAN "Storage Area Network und Fibre Channel" V1.15 (c) Stor IT Back 2019


Storage Area Network (SAN) mit Fibre Channel und iSCSI


Storage Area Network mit Fibre Channel Das Konzept SAN hebt die wichtigsten Nachteile von DAS-Systemen (Direct Attached Storage) auf. Alle Server, die in ein SAN integriert sind, können auf alle Storage-Systeme zugreifen. Damit ist sowohl die Konsolidierung der einzelnen Storage-Elemente, wie auch die gemeinsame Verwaltung und Nutzung von Festplattenspeicher für unterschiedliche Betriebssysteme möglich. Ein SAN besteht aus den Hostbusadaptern in den Servern, den >Netzwerkkomponenten, wie Fibre Channel Switch oder Router und den Storage-Elementen. Die letztgenannten können sowohl Festplatteneinheiten, RAID-Systeme oder Tapelibraries sein. Von der Topologie ist ein SAN dem LAN sehr ähnlich. Das Übertragungsmedium kann entweder Fibre Channel, iSCSI oder FCoE sein.
Die Festplatten in dem RAID-System werden über einen RAID-Level verknüpft, unterteilt oder zusammengefasst und dann den Servern zur Verfügung gestellt. Ein Server erkennt diese virtuellen Festplatten wie eine interne Platte. Das Betriebssystem, Anwendungen und Programme benötigen also keine Änderungen, es muss nur ein passender Treiber für den Host-Bus-Adapter geladen werden. Damit können die Betriebssysteme auch aus dem Storage Area Network booten. Dies bietet klare Vorteile, sollte einmal die Server-Hardware ausfallen. Nur sie muss getauscht werden, es kann sofort wieder ohne Neuinstallation gebootet werden, da sich das Betriebssystem auf dem Storage Area Network befindet.
Wichtig ist jetzt aber auch die Verfügbarkeit des Storage Area Network (SAN). Im Bereich Host-Bus-Adapter und Fibre Channel Switch kann die Verfügbarkeit sehr leicht durch einfache Verdopplung der Hardware erreicht werden. Der Treiber des Host-Bus-Adapters steuert dann diese unterschiedlichen Wege zum Storage-System (Multipathing). Der Einsatz von zwei Fibre Channel Switches und Dual-Port HBAs ist der Standard bei produktiven Umgebungen. Ein Storage-System ist in sich schon sehr redundant aufgebaut. Zwei Netzteile und redundante Lüfter sollten immer vorhanden sein. Zwei unabhängige RAID-Controller im System erhöhen die Verfügbarkeit zusätzlich. Beim Storage-System gibt es noch weitere Verfahren zur Steigerung der Verfügbarkeit. Die Systeme können entweder durch das Betriebssystem (Mirroring, RAID 1) oder durch die eigene Hardware (Replikation, synchron oder asynchron) gespiegelt werden. Damit lassen sich identische Daten an zwei unterschiedlichen Standorten vorhalten. Eine Vorsorge gegen den K-Fall.


Topologie - Loop und Fabric im Storage Area Network

Fibre Channel als FC Loop

Im Fibre Channel SAN gibt es zwei grundsätzlich verschiedene Topologien, die Loop und das Fabric. Bei einer Loop sind alle Geräte (Server, Festplatten und Bandlaufwerke) in einer Schleife angeordnet. Sendet ein Gerät Daten, so laufen diese durch alle Geräte bis zum Empfänger. Denkbar ist dieser Aufbau ohne jegliche Netzhardware, es werden einfach nur die Geräte untereinander zusammengeschaltet. In diesem Fall ist jedoch beim Ausfall eines Gerätes die Loop unterbrochen, eine Kommunikation ist nicht mehr möglich und wird deswegen auch nicht in der Praxis verwendet. Aus diesem Grund wird ein Hub eingesetzt. Er überwacht die einzelnen Geräte und beim Ausfall oder Ausschalten überbrückt der Hub die Verbindung, die anderen Geräte können sich weiter unterhalten. In dieser Schleife liegt aber auch der zweite Nachteil, alle angeschlossenen Geräte müssen sich die Bandbreite teilen. Bei normal ausgelasteten Servern sollte ab 5 Geräten von der Loop zum Fabric gewechselt werden. Aber warum dann einen Hub verwenden? Der Hub war bis 2003 die kostengünstigere Hardware für ein Storage Area Network, ein Fibre Channel Switch war noch sehr teurer. Ab 2003 wurden die Fibre Channel Switche kostengünstiger und haben bis 2005 die Hubs als externe Geräte komplett verdrängt.
Ein Hub wird zum Beispiel noch zur Ansteuerung von Fibre Channel Festplatten verwendet. Dort greift ja nur ein Controller auf alle Platten zu, die Performance ist also dort kein Nachteil.

Switched Fabric mit Fibre Channel im Storage Area Network Im Fabric sind alle Geräte an einen Switch angeschlossen. Dieser schaltet dann in Echtzeit die jeweils benötigten Verbindungen zwischen Sender und Empfänger. Dies wird heute meist durch eine hochperformante Backplane erreicht, die genügend Performance für alle Anschlüsse bereitstellt. Diese Fabric-Topologie wird im Fibre Channel Storage Area Network nur noch verwendet.
Die Loop wird jedoch noch beim Anschluss von Festplatten verwendet. In der Backplane der Festplatteneinschübe ist der Hub integriert, damit sind die Festplatten Hot Plug austauschbar, die Loop wird nicht aufgetrennt.
Mehrere Switche können kaskadiert bzw. kombiniert werden. So lassen sich die Anzahl der Ports nahezu beliebig erweitern. Aber auch verteilte SANs an unterschiedlichen Standorten sind leicht realisierbar. So können einzelne Serverräume mit jeweils einem Switch (oder 2 Switche zur Steigerung der Verfügbarkeit) ausgestattet werden, die jeweils untereinander verbunden werden. Das Storage-System kann dann an jedem Standort untergebracht werden. Ein zweites System zur Spiegelung wird dann einfach in einem anderen Serverraum an den dortigen Switch angeschlossen. So lassen sich sehr einfach verteilte und hochredundante Systeme aufbauen.
Durch Monomode-Kabel sind auch Verbindungen über einige Kilometer realisierbar, bei spezieller Hardware bis zu 120 Kilometer. Natürlich kann bei einem verteilten Storage Area Network auch die Sicherungshardware an einem getrennten Standort untergebracht werden. Hierbei kann durch geschickte Wahl der Verteilung eine manuelle Auslagerung von Bändern umgangen werden. Bei einer Disk-to-Disk-Sicherung an den ersten Standort und eine Disk-to-Tape Replizierung an einen zweiten Standort, kann eine Auslagerung meist umgangen werden.


Vorteile eines Storage Area Network (SAN)

Der größte Vorteil eines Storage Area Networks ist die direkte Erreichbarkeit aller ins SAN integrierten Komponenten untereinander. Dies heißt, jeder Server kann jedes Storage-System und jedes Tapelaufwerk ansprechen. Im Idealfalle wird in einem Storage Area Network nur ein Storage-System und eine Tapelibrary für alle unterschiedlichen Server und Betriebssysteme benötigt. Es werden Kosten eingespart, Plattenplatzreserven nur einmal zentral benötigt, der Raumbedarf im Rechenzentrum minimiert und die Übertragungsgeschwindigkeit gesteigert. Dies gilt speziell bei der Datensicherung beim LAN-free- und Serverless-Backup. Hierbei wird auch noch die Belastung des LANs verringert.
Im Storage Area Network sind Cluster-Anwendungen leicht zu implementieren, jeder Server kommt an jedes Blockdevice (LUN), mit der passenden Software sind sogar konkurrierende Schreibzugriffe möglich. Durch die möglichen großen Entfernungen im Fibre Channel oder iSCSI Storage Area Network sind Spiegelungen auf entfernte Systeme problemlos möglich, selbst im K-Fall kann über das SAN weiterhin zugegriffen werden.
Für eine reibungslose Servervirtualisierung (VMware, Hyper-V, XEN) wird ein SAN benötigt, ohne den gemeinsamen Zugriff auf die Festplattenressourcen ist eine hochverfügbare Virtualisierung und Features wie vMotion nicht möglich. Aber schon zwei physikalische Server für die Virtualisierung und ein synchron repliziertes Speichersystem erhöhen die Verfügbarkeit gegenüber klassischen Systemen enorm.


Hochverfügbarkeit im Storage Area Network

Wenn viele Server im Storage Area Network (SAN) angeschlossen sind und alle ihre Festplatten von einem einzelnen zentralen Storage-Subsystem bekommen, kann der Ausfall des SAN oder des Storage-Systems zum Ausfall aller Server führen. Das muss natürlich soweit möglich verhindert werden. Dafür bietet das Storage-Netz einiges an Features. Das Grundlegende ist die Multipathing-Fähigkeit des Fibre Channel und iSCSI Protokolls. Durch geeignete Treiber auf den Server-Betriebssystemen können verschiedene Pfade vom Server zum Storage-System genutzt werden. Sollte einer dieser Pfade nicht verfügbar sein (zum Beispiel durch den Ausfall eines Fibre Channel Switches), so werden andere Wege genutzt. Die redundanten Pfade können auch zur Lastverteilung genutzt werden. Sind also alle Pfade aktiv, so können auch alle für eine maximale Performance und einen höchstmöglichen Durchsatz genutzt werden. Die Verteilung erfolgt zum Beispiel "lastabhängig" oder "Round Robin". Der grundlegende Aufbau eines SAN mit einem Switch muss also erweitert werden. redundantes Storage Area Network mit Replikation Neben dem einen Fibre Channel Switch wird ein zweiter benötigt, jeder Server benötigt entweder zwei FC HBAs oder einen HBA mit zwei Kanälen. Auch das Storage-System muss dann an beide Switche angebunden werden. Was wird jetzt damit erreicht? Der "Server 1" in unserem Beispiel kann das "Storage-System Master" über den Pfad "P1" und den Pfad "P2" erreichen. Wird jetzt vom Storage System eine virtuelle Platte freigegeben, so "sieht" sie der Server 1 auch doppelt, einmal über P1 und einmal über P2. Damit das Betriebssystem jetzt die eine Platte aber nicht doppelt nutzt (und damit die Daten zerstört) muss eine Treibersoftware installiert werden, die erkennt, dass es eigentlich nur eine Platte ist und auch nur eine Platte dem Betriebssystem zur Verfügung stellt. Diese Treibersoftware wird Multipathing-Software genannt, da sie verschiedene Pfade verwalten kann.
Die erste Aufgabe der Multipathing-Software ist also das Erkennen der Pfade und das Verwalten der virtuellen Festplatten. Die zweite Aufgabe ist die Überwachung der Pfade. Sollte einer der Wege zum Storage-System ausfallen, so muss auf den zweiten (oder nächsten) Pfad umgeschaltet werden. Und das passiert schneller, als der Timeout des Betriebssystems zuschlägt. Auch die Anwendung auf der Festplatte (egal ob Betriebssystem oder Datenbank) sollte eine Umschaltung (bzw. den kurzfristigen Ausfall) nicht merken.
Durch diese Multipathing Software wird also der Ausfall eines HBAs (oder eines HBA-Kanals), eines Switches, eines RAID-Controller im Storage-System oder eines Kabels umgangen.

Damit wird die Gesamtverfügbarkeit des Storage Area Networks stark erhöht. Dieser Aufbau mit zwei FC-Switches und Dual Channel HBAs ist der Standard-Aufbau für produktive Umgebungen.

Was nicht abgefangen wird, ist der Ausfall des gesamten Servers und des Storage-Systems. Der Ausfall eines Servers kann durch einen Cluster geschützt werden, beim Storage-System übernimmt dies eine Replikation der Daten auf ein zweites System. In diesem Beispiel repliziert das Master Storage-System die Daten an den Slave. Diese Replikation kann synchron oder asynchron erfolgen. In vielen Fällen ist eine synchrone Replikation einfacher zu beherrschen und sicherer zu betreiben. Es wird jede Schreiboperation auf dem Master sofort an den Slave übertragen und erst dann das OK an den Server gemeldet. Master und Slave nutzen also zu jedem Zeitpunkt exakt die gleichen Daten. Fällt jetzt der Master aus, so muss zwar erst auf den Slave umgeschaltet werden (der dann zum Master wird), jedoch gehen keine Daten verloren. Der Neustart der Systeme kann innerhalb weniger Minuten erfolgen.


Welche Storage Area Network Komponenten benötige ich?

Diese Frage muss von Fall zu Fall entschieden werden. Gerade die Auswahl der Basiskomponenten entscheidet über den Erfolg eines SAN-Projektes. Es ergeben sich unter anderem die folgenden Fragen:

Welche Server-Hardware lässt sich ins Storage Area Network integrieren?
Welche Server-Hardware lässt sich ins SAN integrieren?
Welche Betriebssysteme sind für die Komponenten zertifiziert?
Welche Anwendungen / Datenbanken sollen auf den Storage zugreifen?
Welche Performance und welcher Speicherplatz werden benötigt?
Welche Storage-Systeme lassen sich ins Storage Area Network integrieren?
Sind Funktionen wie "dynamic multipathing" möglich?
Wie lässt sich das SAN für Hochverfügbarkeit aufrüsten?
Was muss bei der Server-Virtualisierung beachtet werden?
Wie soll im SAN die Datensicherung durchgeführt werden?
Welche Möglichkeiten zur zentralen Administration sind vorhanden?

Dies sind nur einige wenige Fragen, die Sie sich vor einer Anschaffung stellen sollten. Ein SAN ist einer der komplexesten Anschaffungen in der EDV-Landschaft. Angebote für SAN-Lösungen finden Sie bei Stor IT Back , es kann aber in den meisten Fällen nur als Beispiel dienen.

Weiterhin bieten wir herstellerunabhängige Schulungen zum Thema "Storage Area Network" an. In der Basis-Schulung lernen Sie die Unterschiede zu DAS, NAS und iSCSI kennen, sowie die jeweiligen Einsatzgebiete. In der Praxis-Schulung bauen Sie ein komplettes SAN auf, lernen die Topologien kennen und sehen Vor- und Nachteile am "lebenden Objekt".


Fibre Channel (FC) - Historie und Entwicklung

Ein SAN nutzt Fibre Channel oder iSCSI als Übertragungsmedium. Fibre Channel ist seit 1994 ANSI-Standard. Dort sind die physikalischen Schnittstellen, sowie die einzelnen Schichten des Protokolls definiert. Die 1994 festgelegte Übertragungsrate liegt bei 100 MB/s, 1997 wurden Erweiterungen mit Übertragungsraten von 200 und 400 MB/s festgelegt. Geräte für den 200 MB/s-Standard sind seit 2001 auf dem Markt, 400 MB/s (4 Gbit/s) seit Mitte 2004. Die aktuelle Implementierung nutzt Übertragungsraten bis 1600 MB/s zu den Endgeräten, die Übertragungsrate für Interconnect-Verbindungen (Switch-to-Switch) beträgt heute bis zu 100 GBit/s. Die nächste Stufe mit 32 Gbit/s zu den Endgeräten ist bereits 2018 zu bekommen.
Fibre Channel ist ein serielles Übertragungsverfahren, das heißt es gibt nur eine Datenleitung pro Übertragungsrichtung (full duplex). Dies bietet einen großen Vorteil zu SCSI. Je höher die Übertragungsraten sind, desto anfälliger werden die Datensignale bei SCSI gegen zeitliche Laufunterschiede in den einzelnen Datenleitungen. Es entsteht bei hohen Raten ein Signalgemisch, welches immer schwerer zu trennen ist. Bei Fibre Channel können sich Signale nicht gegenseitig überholen (es gibt bei der seriellen Übertragung ja nur eine Leitung), sie kommen immer in der richtigen Reihenfolge beim Empfänger an.


Fibre Channel Zoning

Ein Begriff, der immer wieder im Zusammenhang mit Fibre Channel auftaucht, ist das Zoning. Das Zoning ist im Prinzip wie das VLAN im Ethernet. Es lassen sich Unterteilungen im FC Netz definieren. Aber warum das? Im Fibre Channel SAN kann sich erst einmal jeder Knoten bzw. jedes Gerät mit jedem anderen unterhalten. Es gibt zwar auch Zugriffsregeln, zum Beispiel das Mapping per WWN, aber eine echte Unterteilung wird erst durch das Zoning erreicht. Ist das Zoning kompliziert? Nein, es ist eine einfache Zuordnung zwischen Ports oder WWNs auf einem Switch.
Ein Beispiel:

Port 1: Storage System Controller A mit WWN 1
Port 2: Storage System Controller B mit WWN 2
Port 3: Server 1 mit WWN 3
Port 4: Server 2 mit WWN 4

Wenn sich jetzt Server 1 und 2 nicht "sehen" dürfen, aber beide auf das Storage System zugreifen sollen, so definiert man die folgenden Zonen:

1. Zone: Port 1 und Port 2 und Port 3
2. Zone: Port 1 und Port 2 und Port 4

Und fertig ist das Zoning auf Basis der Switch Ports. Ersetzt man die Ports durch die WWN der einzelnen angeschlossenen Geräte, so erhält man das Zoning auf WWN Basis:

1. Zone: WWN 1 und WWN 2 und WWN 3
2. Zone: WWN 1 und WWN 2 und WWN 4

Auch eine Mischung zwischen Port und WWN ist möglich, aber meist nicht sinnvoll. Aber warum einmal das Zoning mit Ports (Hardware Zoning) und zum anderen mit den WWNs (Software Zoning)? Beim Port-Zoning muss nach einem Austausch des Fibre Channel Switches jedes Kabel wieder exakt an den gleichen Port gesteckt werden, ansonsten ist das Zoning falsch. Beim WWN-Zoning muss nach dem Tausch eines HBAs oder des Storage-Systems die entsprechenden WWNs geändert werden, was dann vergessen wird. Also beides hat Vor- und Nachteile. Wenn Sie mehr über das FC Zoning erfahren möchten, wir bieten einen Praxisworkshop zum Thema Storage Area Network an.


Maximale Entfernungen im SAN

Die maximalen Entfernungen hängen vom Verbindungsmedium und der Transfergeschwindigkeit ab. Einige Hersteller bieten abweichende Lösungen an, hier werden spezielle Laser oder entsprechend angepasste Medien verwendet. Wichtig ist gerade bei 4 und 8 Gbit/s die Auswahl der passenden Faser. Mit OM3-Faser lässt sich die Entfernung mehr als verdoppelt. Die Faser ist zwar teurer, es kann aber noch Multi-Mode-Hardware eingesetzt werden. Gerade bei Host Bus Adaptern mit festen Optiken ein großer Vorteil.

 Geschwindigkeit    Medium  maximale Entfernung 
1 Gbit/s / 100 MB/s   Kupfer (DB9/HSSDC) 25 m
1 Gbit/s / 100 MB/s   LWL-Multi Mode (50/125 µm) OM2 500 m
1 Gbit/s / 100 MB/s   LWL-Multi Mode (50/125 µm) OM3 850 m
1 Gbit/s / 100 MB/s   LWL-Multi Mode (62,5/125 µm) OM1 300 m
1 Gbit/s / 100 MB/s   LWL-Mono Mode (9/125 µm) OS1 10 km
2 Gbit/s / 200 MB/s   Kupfer (HSSDC) 16 m
2 Gbit/s / 200 MB/s   LWL-Multi Mode (50/125 µm) OM2 300 m
2 Gbit/s / 200 MB/s   LWL-Multi Mode (50/125 µm) OM3 500 m
2 Gbit/s / 200 MB/s   LWL-Multi Mode (62,5/125 µm) OM1 150 m
2 Gbit/s / 200 MB/s   LWL-Mono Mode (9/125 µm) OS1 2 km
4 Gbit/s / 400 MB/s   LWL-Multi Mode (50/125 µm) OM2 150 m
4 Gbit/s / 400 MB/s   LWL-Multi Mode (50/125 µm) OM3 380 m
4 Gbit/s / 400 MB/s   LWL-Multi Mode (50/125 µm) OM4 400 m
4 Gbit/s / 400 MB/s   LWL-Multi Mode (62,5/125 µm) OM1 70 m
8 Gbit/s / 800 MB/s   LWL-Multi Mode (50/125 µm) OM2 50 m
8 Gbit/s / 800 MB/s   LWL-Multi Mode (50/125 µm) OM3 150 m
8 Gbit/s / 800 MB/s   LWL-Multi Mode (50/125 µm) OM4 190 m
16 Gbit/s / 1.600 MB/s   LWL-Multi Mode (50/125 µm) OM2 35 m
16 Gbit/s / 1.600 MB/s   LWL-Multi Mode (50/125 µm) OM3 100 m
16 Gbit/s / 1.600 MB/s   LWL-Multi Mode (50/125 µm) OM4 125 m
10 Gbit/s / 1000 MB/s   LWL-Multi Mode (50/125 µm) 80 m
10 Gbit/s / 1000 MB/s   LWL-Multi Mode (62,5/125 µm) 30 m

Abweichend von dieser Tabelle können durch den Einsatz von ELWL (Extend Long Wavelength GBICs) Entfernungen bis zu 80 Kilometer erreicht werden. Mit der Hilfe von Link Extendern wurden Strecken von über 120 Kilometer überbrückt. Dies ist in den meisten Fällen ausreichend für die Anbindung von "Ausweich-Rechenzentren" zur Desaster-Vorsorge.


Fibre Channel Protokoll

Die technische Grundlage für jedes Fibre Channel SAN (Storage Area Network) ist der "Fibre Channel-Protokoll-Standard", richtig bezeichnet als "Fibre Channel Physical and Signaling Interface". Fibre Channel ist kein Kabel-Typ, es ist nicht zu verwechseln mit Fiber/Fibre (= Faser). Das Fibre Channel Protokoll kann auch über Kupferleitung mit elektrischen Signalen übertragen werden. Trotzdem hat sich der Begriff Fibre Channel auch für (LWL-) Kabel, Geräte und Verbindungen eingebürgert.
Welche Anforderungen werden bzw. wurden an die Entwicklung von Fibre Channel gestellt? In der Entwicklungszeit vor Fibre Channel und SAS war das parallele SCSI die gebräuchlichste Übertragungsart für Daten. Die Geschwindigkeit bei FC sollte deutlich übertroffen werden und auch eine hohe Reserve für Verbesserungen bieten. Beim parallelen SCSI war das technisch Machbare mit 320 MB/s erreicht. Also musste es ein serielles Protokoll werden und es sollten sich größere Entfernungen als mit SCSI überbrücke lassen. Wichtig war weiter auch eine möglichst geringe Zahl von Übertragungsfehlern, da die Korrekturen immer zu Verzögerungen führen. Und Verzögerungen sind im Speicherbereich niemals gut, also musste auch die Latenzzeit gering gehalten werden. Eine wichtige Anforderung war auch die Entlastung der Server-CPU, das FC-Protokoll sollte möglichst in eigener Hardware (den Host-Bus-Adaptern) laufen. Also die Vorteile von SCSI weiter ausbauen und alle Begrenzungen möglichst entfernen. Ein großer Nachteil von SCSI war auch die fehlende Hot Plug Fähigkeit. Systeme müssen vor der Verkabelung ausgeschaltet werden, dies wäre für Fibre Channel undenkbar. Hot Plug wurde also zu einem Hauptbestandteil der Entwicklung.

Schauen wir uns hier jetzt die Theorie zum Fibre Channel an. Das Fibre Channel (Protokoll) ist nach einem Schichtenmodell aufgebaut, ähnlich dem OSI-Modell. Es gibt die Schichten FC 0 bis FC 4.


FC 0 Physikalische Schicht

Dies ist die unterste Schicht und bezeichnet die physikalischen Schnittstellen. Dies sind Geschwindigkeit, Medium (Kabel und Stecker), Übertragungstyp und Entfernung. Mit den Kurzformen dieser Schnittstellenbezeichnungen werden physikalische Verbindungen beschrieben.


Geschwindigkeit bei Fibre Channel

Geschwindigkeit  Kurzform
3.200 MB/s 3200
1.600 MB/s 1600
800 MB/s 800
400 MB/s 400
200 MB/s 200
100 MB/s 100


Medium bei Fibre Channel

Medium Kurzform Erweiterung Nutzung
Single-Mode Fibre 9 μm SM OS1 große Entfernungen
Multi-Mode Fibre 50 μm M5 OM2 kurze Entfernungen (alt)
Multi-Mode Fibre 50 μm M5 OM3 längere Entfernungen
Multi-Mode Fibre 50 μm M5 OM4 längere Entfernungen (neu)
Multi-Mode Fibre 50 μm M6 OM5 längere Entfernungen (neuer)
Multi-Mode Fibre 62,5 μm M6 OM1 kurze Entfernungen (veraltet)
Twisted Pair Cable TP innerhalb Gehäuse


Übertragungstyp

Übertragungstyp Kurzform
Longwave Laser LL
Shortwave Laser w SL
Shortwave Laser n SN
Longwave Lightemitting Diode LE
Electrical EL


Entfernungen

Entfernung Kurzform
Long L
Intermediate I
Short S

Jede mögliche physikalische Übertragung kann jetzt beschrieben werden:

800-M5-SL-S

Dies ist eine 50 μm Multi-Mode Fibre Verbindung mit Shortwave Laser und 800 MB/s Übertragungsrate.

Zum größten Teil werden optische Verbindungen verwendet, sie ermöglichen größere Übertragungsentfernungen. Jedoch sind sie gegenüber mechanischen Einflüssen nicht so widerstandsfähig wie die elektrischen Verbindungen. Ein Einklemmen in der Tür quittieren optische Kabel meist mit Ausfall oder Störungen.
Jede Fibre Channel Verbindung besteht immer aus 2 Wegen, einmal die Read- und zum anderen die Write-Leitung. Die Daten werden also "full duplex" übertragen. Damit ist dann immer die theoretisch doppelte Übertragungsrate möglich. Wichtig ist gerade bei "Verlegekabeln" zwischen Räumen oder Gebäuden, dass pro Verbindung immer zwei Fasern benötigt werden. Die IT rechnet meist in Verbindungen, die Installateure aber in Fasern. Dies kann schnell zu einem Mangel an Fasern führen.


Knoten und Ports

In der Fibre Channel Terminologie wird ein Gerät als Konten bezeichnet. Dies kann zum Beispiel ein Host-Bus-Adapter in einem Server sein. Dieser Host-Bus-Adapter besitzt einen Port oder auch mehrere. Wie auch im LAN-Bereich besitzt jeder Knoten einen eindeutigen Namen, die WWN (World Wide Name). Da ein Knoten mehrere Ports besitzen kann, hat dieser auch einen eindeutigen Namen, die WWPN (World Wide Port Name). Diese Name setzen sich aus 64-Bit-Schlüssel zusammen, allerdings werden diese WW(P)N's nicht zur Datenübertragung verwendet. Unterschieden werden auch noch die Grundfunktionen der einzelnen Ports. Sie werden je nach ihren Möglichkeiten bezeichnet.

Bezeichnung Port-Typ Funktion
E_Port Expansion_Port Port eines Switches, an dem ein anderer Switch angeschlossen wird
TE_Port Truncing-Expansion_Port zusammengefasste Ports eines Switches, an dem ein anderer Switch angeschlossen wird
F_Port Fabric_Port Port eines Switches, an dem ein Knoten via Point to Point angeschossen ist
FL_Port Fabric_Loop_Port Port eines Switches, an dem Knoten via Fibre Channel Arbitrated Loop angeschossen werden
G_Port Generic_Port entweder E_Port oder N_Port
N_Port Node_Port Port, an dem ein Knoten via Point to Point (z.B. an einen Switch) angeschlossen wird
NL_Port Node_Loop_Port Port eines Knotens in einer Fibre Channel Arbitrated Loop
TL_Port Translation_Port Port zur Kommunikation zwischen Switch und Private Loop (veraltet)
U_Port Universal_Port Port, an dem alle anderen Porttypen angeschlossen werden können


FC 1 Verschlüsselungsverfahren

Die Verschlüsselung von Daten verbessert die Sicherheit eines seriellen Übertragungsvorganges. Immer 8 Bit werden vor dem Versand in 10 Bit-Werte verschlüsselt, die Methode wird danach 8b/10b-Verschlüsselung genannt. Weiterhin versucht diese Verschlüsselung immer ein Gleichgewicht zwischen Einsen und Nullen zu halten. Ein Unterschied in diesen Werten in einem übertragenen Wort wird durch die Kontrollfunktion "Disparity Character" angegeben. Diese und andere Verfahren ermöglichen eine große Sicherheit der Übertragung bei sehr geringem Overhead. Der Nutzdateninhalt bei einer Übertragung ist sehr hoch und damit können über Fibre Channel, bei gleicher Geschwindigkeit, mehr Daten übertragen werden als bei Ethernet. Dies beantwortet auch die Frage, warum ein neues Übertragungsmedium entwickelt wurde und nicht einfach ein SAN mit Ethernet und TCP/IP aufgebaut wurde.
Die 10 Gbit/s bzw. 20 Gbit/s Inter-Switch-Links arbeiten nach der 64b/66b Codierung, es werden als 64 Bit in 66 Bit "verpackt". Dieses geänderte Verfahren hat man auch für die 16 Gbit/s Version verabschiedet. Es soll aber trotzdem mit den 8 bzw. 4 Gbit/s Fibre Channel kompatibel sein.

Weiterhin wird in FC 1 das "Link Control Protocol" definiert. Es sind die Steuersignale der Übertragung, für Initialisierung und Verwaltung des Links. Die sogenannten Ordered Sets beginnen immer mit der gleichen speziellen Bitfolge, die sonst in der Übertragung von Daten nicht vorkommt. Das K28.5 Zeichen signalisiert also immer ein Steuerpaket und ist damit für alle Komponenten sehr einfach zu entdecken.


FC 2 Management und Informationsstruktur

Diese Schicht steuert die Struktur und Definition der Informationen und ist damit die umfangreichste Schicht. Sie ist in vier Klassen aufgeteilt

Login Session
Exchange
Sequenz
Frame


Login Session

Bevor Nutzdaten zwischen zwei Geräten ausgetauscht werden können, müssen diese beiden Ports erst einmal Informationen über ihren Status austauschen. Ist dieser Login erfolgreich, so bleibt eine Kommunikation bis zu einem Logout bzw. Abbruch der Verbindung möglich. Natürlich kann ein Gerät auch Sessions mit verschiedenen anderen Knoten zur gleichen Zeit aufrechterhalten. Nach diesem Login sind also Adressen der Knoten und Ports und die Übertragungscharakteristika ausgetauscht. Zur Verwaltung der Adressen in einem Fabric, es sind bis zu 15,6 Millionen Geräte denkbar, nutzt der Switch einen "Simple Name Server", eine Datenbank, in der alle Informationen gespeichert werden.


Exchange

Bei jeder Datenübertragung zwischen zwei Ports wird auch ein Exchange gestartet, um die Operation zu steuern und zu kontrollieren. Für jedes Übertragungsprotokoll sind spezielle Exchanges, auch "Information Units" genannt, vorhanden. Ein Port kann mehrere Exchanges zur gleichen Zeit nutzen, damit wird die Auslastung effizienter.


Sequenz

Durch die Übertragung sehr großer Datenmengen muss die optimale Größe von Datenpaketen angepasst werden. Jedoch ist diese Menge auf 2.148 Byte pro Paket geschränkt. Es lassen sich bis zu 65.536 dieser Pakete (Frames) zu einer Sequenz zusammenfassen. Diese Frames innerhalb einer Sequenz werden nicht unbedingt in der richtigen Reihenfolge übertragen, sie enthalten relative Adressen zur Encodierung.


Frames

Frames sind eine Untereinheit der Sequenz. Die Nutzdaten werden in Frames verpackt, mit einem Start- und Stop-Delimiter, einem Header und einer Checksumme (CRC) versehen und können dann verschickt werden. Durch die Optimierung erreicht man ein Verhältnis von Nutzdaten zu Protokoll-Overhead von bis zu 98%.
Das CRC Verfahren im Frame erkennt alle Fehler, wenn das Transportmedium die vorgegebene Fehlerrate einhält. Wird ein Fehler erkannt, so wird nicht nur das betroffene Frame erneut gesendet, sondern die ganze Sequenz mit den enthaltenen Frames. Damit muss der einzelne fehlerhafte Frame nicht umständlich an die richtige Reihenfolge in der Sequenz einsortiert werden.


FC 3 Common Services

Diese Funktion stellt Dienste wie zum Beispiel Multicast-Sendungen zur Verfügung. Bei dieser Funktion werden Datenpakete an mehr als einen Empfänger zugestellt. Damit können Datenreplizierungen direkt über Fibre Channel realisiert werden, ohne das ein Paket wirklich zweimal verschickt werden muss. Als weiteres gibt es den Dienst Striping, hier werden Daten abwechselnd über verschiedene Ports bzw. verschiedene Wege verschickt. Dies erhöht den Durchsatz.
Beide angeführten Dienste werden aber auch unabhängig vom FC 3 Service angeboten. So lässt sich mit dem Multipathing Round Robin auch ein Striping bzw. das Nutzen von verschiedenen Wegen realisieren.


FC 4 Protokoll Mapping

Diese Schicht beschreibt wie die "Upper Level Protokolle", wie z.B. SCSI oder Ficon Fibre Channel nutzen können. Dies ist ein Übersetzer, welcher aber auch spezielle Funktionen steuern kann. So muss zum Beispiel das "half duplex" Protokoll SCSI auf das "full-duplex" Verfahren von Fibre Channel umgesetzt werden. Auch können "Classes of Service" für einzelne Gruppen festgelegt werden.
In der Praxis übernimmt die FC 4 Schicht die Übersetzung von SCSI auf FCP. Damit wurde bei der Entwicklung von Fibre Channel der "Konnektor" zur alten SCSI Welt hergestellt. Das Betriebssystem erkennt also die Fibre Channel Devices als normale SCSI Geräte und kann mit dem schon vorhandenen und bewährten SCSI-Subsystem arbeiten. Es sind wesentlich weniger Anpassungen in den Betriebssystemen notwendig gewesen. Sicherlich auch ein Erfolgsbaustein für die schnelle und unkomplizierte Integration von Fibre Channel.


Ist Fibre Channel kompliziert einzurichten?

Fibre Channel ist mehr oder weniger auf Plug and Play konzipiert worden. Was bedeutet das? Wenn Sie einen Fibre Channel HBA mit einem Fibre Channel Storage verbinden, dann sehen sich beide Schnittstellen über Fibre Channel, tauschen Informationen aus und gleich sich ab. Das geht automatisch, ohne einen manuellen Eingriff des Administrators. Danach muss aber manuell eingegriffen werden, da jetzt eine LUN oder ein Laufwerk für den HBA freigegeben werden muss. Dies ist aber eine meist einfache Zuordnung in der GUI des Storage-Systems. Dort wird einfach die WWN des Fibre Channel HBAs einer LUN zugeordnet. Danach kann der HBA (bzw. das Betriebssystem) auf diese LUN zugreifen.
Ist das jetzt kompliziert? Vergleich wir das Mal mit einer ähnlichen Technologie, dem iSCSI. Die physikalische Verkabelung ist gleich. Jetzt muss aber für jeden Port eine IP-Adresse definiert werden, also zwei unterschiedliche Netze für die beiden Verbindungen einer redundanten Lösung. Bei vielen Verbindungen kann das schnell zu Fehlern führen. Doppelte IP Adresse, falsches Subnetting oder einfach ein Dreher in der Verkabelung, schon findet keine Verbindung statt. Dann erfolgt noch die Freigabe zwischen HBA über die IQN zu der LUN im Storage. Da die IQN leicht zu manipulieren ist, sollte man dort auch noch eine Chap Authentifizierung einsetzen, also User und Passwort für die Verbindung. Danach kann die LUN genutzt werden. Da Ethernet und TCP/IP aber nicht für Storage entwickelt wurde, müssen meist noch Parameter angepasst werden, im einfachsten Fall die MTU auf 9000.
Die IP-Adressen, Netzwerke und Netzmasken braucht Fibre Channel nicht (= hat es nicht). Diese Fehlermöglichkeiten fallen also weg, Fibre Channel ist da deutlich schneller und einfacher aufzusetzen und damit auch stabiler in der Produktion.
Aber was ist mit der Fehlersuche? Bei iSCSI kann man mit einem Ping testen, ob die Verbindungen da sind, bei Fibre Channel gibt es keinen Ping... Bei Fibre Channel braucht man die Information über den FC-Login, ist der Login OK, dann ist die Verbindung in Ordnung. Zu sehen ist der Login in der GUI des Storage-Systems oder im Log des Treibers des HBA. Normalerweise reicht bei Fibre Channel schon der Blick auf die LEDs der jeweiligen Ports. Mehr Informationen zur Analyse liefert ein Fibre Channel Switch. Dieser zeigt auch zum Beispiel Fehlerzähler an, die auf defekte Leitungen hindeuten können. Alles in allem ist Fibre Channel einfach zu installieren und sehr stabil.



Sollten Sie Fragen zu diesem Thema haben, oder wünschen Sie Beratung, so wenden Sie sich an uns.


Angebote der Stor IT Back zum Thema Storage Area Network

Angebot Dell EMC Unity 300
Dell EMC Unity 300 Unified Storage für den Mittelstand
FC / iSCSI und NAS - to - SAS-/SSD RAID-System

SSD / Flash-Drive für FAST Cache oder FAST VP
inkl. Installation, Abnahme und Einweisung in DE
ab 12.682,00 Euro
zzgl. MwSt.
Angebot Netapp E2800
NetApp E2800 Fibre Channel / iSCSI / SAS RAID
16 Gbit/s FC / 10 Gbit/S iSCSI / 12 Gbit/s SAS

mit 900 GB bis 1,8 TB SAS- und/oder 4 bis 10 TB NL-SAS-Festplatten
ab 9.308,00 Euro
zzgl. MwSt.
Schulungen für Storage und Backup
Schulungen und Workshops
Storage (SAN, NAS, iSCSI)
Backup (LANfree, SnapShot)
Storage- und Servervirtualisierung
Praxis-Schulungen
individuell / auch Inhouse
 
 
Zurück zur Übersicht
Serverraum Rechenzentrum oben
Übersicht der Angebote
Kontakt zur Stor IT Back
Suche auf der Webseite