U.3, E1.S/L et E3.S/L : dans les serveurs, les SSD changent de format

U.3, E1.S/L et E3.S/L : dans les serveurs, les SSD changent de format

CXL en embuscade

Avatar de l'auteur
David Legrand

Publié dans

Hardware

11/10/2021 8 minutes
3

U.3, E1.S/L et E3.S/L : dans les serveurs, les SSD changent de format

Si le format M.2 a remporté les faveurs du grand public, les SSD pour les « pros » se cherchent encore un format adapté. Ces dernières années, plusieurs initiatives ont vu le jour et commencent à se généraliser sur le marché. Fini le 2,5" à l'ancienne, place aux U.3, E1 et E3, étant même utilisé pour... de la mémoire.

Comme presque tous les composants d'un PC, les périphériques de stockage ont beaucoup évolué ces dernières années. On est passé des HDD aux SSD, du Serial-ATA au PCI Express puis du protocole AHCI au NVMe. Même un produit grand public annonce désormais plusieurs Go/s, des centaines de milliers d'IOPS et une latence en µs.

Du côté des formats, c'est un peu la même chose. Le 3,5" a laissé sa place au 2,5" pour les SSD S-ATA. Mais rapidement, on s'est aperçus qu'ils étaient presque vides. Combinant la compacité du mSATA aux performances d'une carte fille lorsqu'il utilise le PCIe, le M.2 (22 mm de large, jusqu'à 110 mm de long) est alors arrivé sur le marché, réduisant le volume nécessaire dans le boîtier : le SSD est directement connecté à la carte mère. 

Et ce n'est pas fini. En effet, les constructeurs continuent de faire évoluer leurs produits, avec des technologies comme Mach.2 ou l'introduction de graphène pour améliorer la densité des disques durs. Le passage au PCIe 5.0 et l'empilement de toujours plus de couches dans les SSD. Il y a d'ailleurs un secteur où l'on peut avoir dès maintenant un aperçu des révolutions qui nous attendent : celui des serveurs et des datacenters. 

Poussés par l'utilisation croissante des SSD PCIe (NVMe) et leur partage sur le réseau, les constructeurs ont développé de nouveaux connecteurs et formats, dont certains pourraient bien un jour ou l'autre débarquer dans de simples PC. C'est notamment le cas de l'U.3 apparu récemment ou des différentes déclinaisons de l'EDSFF.

L'U.2 laisse sa place à l'U.3 « tri-mode »

Il y a trois ans, nous vous racontions déjà comment le stockage évoluait chez les professionnels. Après le raté du S-ATA Express, le mini-SAS HD et l'U.2 (anciennement SFF-8639) ont pris le pouvoir.

Le premier a l'avantage d'être compact et de s'adapter à différentes situations : il existe comme connecteur interne (SFF-8643), externe (SFF-8644) et peut être « splitté » en 4 S-ATA. Le second peut être utilisé sur des HDD/SSD S-ATA, SAS ou PCIe x4, ce qui lui confère une large présence sur le marché, même si elle a ses limites.

Pour les dépasser, un remplaçant a été conçu et finalisé en 2017 : l'U.3. Il exploite le même connecteur SFF-8639 et gère les trois mêmes protocoles, mais avec une subtilité qui change tout : auparavant il y avait un brochage différent entre les modèles SAS/S-ATA et PCIe et il fallait un contrôleur différent pour gérer chacun d'entre eux.

U.2 U.3

Désormais ce n'est plus le cas : quel que soit le protocole utilisé, le brochage, la gestion et le contrôleur sont identiques, ce dernier est ainsi présenté comme « tri-mode ». De quoi simplifier la vie des constructeurs et des utilisateurs qui n'ont plus à se demander si tel ou tel HDD/SSD est géré ou non par leur machine, pouvant même les mélanger s'ils le souhaitent. La détection du protocole géré se fait par des broches dédiées à cet effet.

Ainsi, les périphériques U.3 sont compatibles avec les machines U.2, mais l'inverse n'est pas vrai : on ne peut pas placer un HSS/SSD U.2 dans un emplacement U.3, il ne serait pas reconnu. Kioxia a été l'un des premiers constructeurs à sauter le pas dès 2019 avec un SSD de sa gamme pour entreprises, le CM6. Micron vient de le rejoindre avec sa série 7400, proposée notamment en U.3 (2,5", 7 ou 15 mm d'épaisseur). 

Les réglettes E1 pour faire exploser la densité

Cette évolution doit permettre au format 2,5" et notamment au SAS de perdurer. Mais rapidement, les constructeurs ont identifié que le marché avait besoin de solutions plus adaptées à la flash NAND pour améliorer la densité en se débarrassant de l'héritage des HDD, avec une sorte de M.2 adapté aux serveurs et datacenters.

Samsung a ainsi donné naissance au NGSFF (Next Generation Small Form Factor) qu'il présentait en 2017, un SSD l'exploitant a d'ailleurs vu le jour : le PM983. On parlait alors de réglette (ruler) puisque ce modèle prévoyait par exemple de grimper à 16 To avec des dimensions de 11 cm de long pour 3,05 cm de large et  0,438 cm d'épaisseur. De quoi grimper à 36 SSD en façade dans un serveur 1U, soit 576 To. Quatre fois plus qu'avec du M.2. 

Samsung NGSFF PM983Samsung NGSFF PM983

Mais c'est finalement Intel qui a remporté la mise avec son EDSFF (Enterprise & Data Center SSD Form Factor) qui avait l'avantage de se décliner en différents formats, a rapidement donné lieu à des produits disponibles et a été développé au travers de la SNIA (Storage Networking Industry Association) pour en faire un standard du marché.

Comme nous l'expliquions en 2018, Intel avait déjà été rejoint par Marvell et promettait jusqu'à 1 Po dans 1U avec son serveur AF1000 et le SSD P4500 lorsqu'il atteindrait 32 To (ce qui n'est jamais arrivé en pratique). Mais l'EDSFF a donné naissance aux formats E1.S et E1.L qui utilisent un même connecteur (SFF-TA-1002) pouvant aller jusqu'à du PCIe x8.

L'E1.S (SFF-TA-1006) était au départ limité à 111,49 mm de long, 31,5 mm de large et une épaisseur de 5,9 ou 8,01 mm selon la présence ou non d'un dissipateur. Une version « symétrique » est venue aligner l'épaisseur à celle de l'E1.L : 9,5 mm, avec un ajustement de la longueur (118,75 mm) et de la largeur (33,75 mm).

Une solution depuis déclinée avec une épaisseur de 15/25 mm permettant d'utiliser des dissipateurs plus larges pour monter en performances. L'E1.L (SFF-TA-1007) est long de 318,75 mm, sa largeur est de 38,4 mm. Mais là aussi on trouve différentes épaisseurs : 9,5 mm qui permet de grimper à 25 watts de TDP (20 watts pour l'équivalent E1.S symétrique) ou 40 watts avec 18 mm. Vous trouverez de nombreux détails dans cette présentation de la SNIA.

Mais pour le moment, ces formats restent assez peu utilisés par les constructeurs de serveurs. Super Micro propose bien des modèles E1.S et E1.L pour Xeon Scalable, mais il s'agit encore de l'exception plutôt que la règle. Néanmoins, plusieurs de ceux avec qui nous avons échangé sur le sujet voient l'intérêt des différents acteurs croitre, notamment autour de l'E1.S, ce qui rejoint des annonces récentes comme celles des Micron 7400.

  • SNIA EDSFF E1 E3
  • SNIA EDSFF E1 E3
  • SNIA EDSFF E1 E3
  • SNIA EDSFF E1 E3
  • SNIA EDSFF E1 E3
  • SNIA EDSFF E1 E3

E3 : cap sur le PCIe x16, la mémoire et les accélérateurs

L'E1 a montré qu'il y avait désormais un lien entre le format et la capacité de stockage, mais aussi de dissipation et donc les performances. Un sujet qui n'avait jusqu'à maintenant pas été traité à travers les formats classiques comme le 2,5" dont les différents niveaux d'épaisseurs ne devaient permettre que de mettre plus ou moins de plateaux. La SNIA a donc travaillé à un format similaire, décliné selon l'échauffement des SSD : l'E3.

Sa largeur est fixe (76 mm) mais on trouve là aussi deux déclinaisons principales selon la longueur : 112,75 mm (E3.S) ou 142,2 mm (E3.L). On reste donc loin des E1.L deux fois plus longs. Deux épaisseurs sont proposées : 7,5 mm ou 16,8 mm. Chaque combinaison est associée à une limite de consommation, entre 25 et 70 watts :

Le connecteur est toujours le même (SFF-TA-1002), mais on peut cette fois passer un signal allant jusqu'à du PCIe x16. La SNIA précise que l'on peut d'ailleurs imaginer des périphériques autres que du stockage exploitant ce standard, du fait de cette large bande passante et des limites de consommation élevées. Au point qu'elle donne désormais une autre définition d'EDSFF : (Enterprise & Data Center Scalable Form Factor).

C'est notamment ce qui pousse les constructeurs à miser sur le Computational Storage, intégrant des accélérateurs divers directement au sein des SSD pour effectuer des traitements divers (chiffrement, IA, etc.). C'est également l'E3.S qui est utilisé par Samsung pour son Memory Expander : de la DDR5 sous forme de cartouches exploitant le protocole Compute eXpress Link (CXL) et pouvant être vu comme de la mémoire classique par le système.

Une manière de monter en capacité sans dépendre de la constitution de la carte mère, CXL 2.0 permettant d'ailleurs d'organiser des « pools » de mémoire à travers différentes interfaces ou plusieurs serveurs d'un même cluster par exemple. Un sujet sur lequel nous reviendrons plus en détail dans un prochain article.

  • SNIA EDSFF E1 E3 Mémoire Accélérateurs
  • SNIA EDSFF E1 E3 Mémoire Accélérateurs
  • SNIA EDSFF E1 E3 Mémoire Accélérateurs
  • SNIA EDSFF E1 E3 Mémoire Accélérateurs
  • SNIA EDSFF E1 E3 Mémoire Accélérateurs
  • SNIA EDSFF E1 E3 Mémoire Accélérateurs

Écrit par David Legrand

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

L'U.2 laisse sa place à l'U.3 « tri-mode »

Les réglettes E1 pour faire exploser la densité

E3 : cap sur le PCIe x16, la mémoire et les accélérateurs

Fermer

Commentaires (3)


J’y vois un poil plus clair sur le futur des serveurs et de l’impacte que je vais rencontrer au travail.


Comme dit en réponse, c’était un papier déjà en cours (pour tout un tas de raison), j’ai juste isolé la partie U.3/E1/E3 qui était de toutes façons déjà assez importante pour se suffire à elle-même :D



T’as encore un peu de temps, de ce que je vois, tout le monde attend CXL pour E3 (qui arrive avec SPR côté Intel et Zen 4 côté AMD, donc mi-2022). Pour E1 on voit déjà quelques initiatives, mais ça a pas mal été freiné par la guerre Samsung/Intel des débuts et c’est surtout l’arrivée de modèles E1.S qui commence un peu à débloquer tout le monde. Mais sur le fond, ça promet du bond pour les baies full-flash (entre autre avec l’arrivée d’accélérateurs/modules hot plug en E3.S).