Der größte Engpass in Rechenzentren ist heutzutage der massive Unterschied von fünf Größenordnungen bei der I/O-Latenz zwischen dem Hauptspeicher in Servern (100 Nanosekunden) und herkömmlichen Festplattenlaufwerken (10 Millisekunden). Die Latenz für externe SANs (Storage-Area-Network) und NAS (Network-Attached-Storage) ist sogar noch höher aufgrund der involvierten Netzwerk- und Performance-Einschränkungen, die sich ergeben wenn eine einzelne Ressource mehrere gleichzeitige Anforderungen sequenziell in langen Warteschlangen verarbeitet.
Das Cachen von Inhalten im Speicher auf einem Server oder in einem SAN auf einem DRAM-Cache-Gerät ist eine bewährte Methode zur Verringerung der Latenz und somit zur Verbesserung der Performance auf Anwendungsebene. Doch da heutzutage die in einem Server oder Cache-Gerät mögliche Speichermenge (in GB gemessen) nur einen Bruchteil der Kapazität eines einzigen Festplattenlaufwerks (in TB gemessen) beträgt, reicht der Leistungsgewinn, der durch traditionelles Caching erzielt werden kann, nicht aus, um mit der Datenflut zurechtzukommen.
Fortschritte bei NAND-Flash-Speichern und bei Flash-Speicherprozessoren durchbrechen in Kombination mit intelligenteren Caching-Algorithmen die traditionelle Barriere der Caching-Skalierbarkeit und machen Caching somit zu einer effektiven, leistungsstarken und kosteneffektiven Methode zur Beschleunigung der Anwendungsperformance. Solid-State-Speicher sind ideal für Caching, da sie eine geringere Latenz als Festplattenlaufwerke mit vergleichbarer Kapazität aufweisen. Neben der Bereitstellung einer höheren Anwendungsperformance ermöglicht Caching virtualisierten Servern, mehr Aufgaben auf kosteneffektive Weise bei gleicher Anzahl an Softwarelizenzen auszuführen.
Solid-State-Speicher erzeugen normalerweise die höchsten Performancezuwächse, wenn der Flash-Cache direkt im Server auf dem PCIe-Bus platziert wird. Intelligente Cachingsoftware wird eingesetzt, um „heiße“ - oder häufig aufgerufene Daten in einem Flash-Speicher mit niedriger Latenz abzulegen. Die heißen Daten sind schnell und auf deterministische Weise unter jeder Arbeitslast abrufbar, da keine externe Verbindung, kein eingreifendes Netzwerk zu einem SAN oder NAS und keine Möglichkeit eines zugehörigen Traffic-Staus oder einer Verzögerung besteht. Was für Personen, die massive Dateneingänge verwalten oder analysieren müssen, besonders attraktiv ist: Einige Flash-Cache-Beschleunigungskarten unterstützen nun mehrere Terabyte an Solid-State-Speicher, was die Speicherung von kompletten Datenbanken oder anderen Datensätzen als heiße Daten ermöglicht.