L’extension progressive des technologies flash dans les datacenters ( SLC, QLC, MLC, NVMe ou encore NVMe-OF) a bénéficié à un grand nombre d’acteurs spécialisés dans les composants  de stockage de classe entreprise. Kioxia (ex Toshiba Memory), Micron, Samsung, SK Hynix ou encore Western Digital pour citer les principaux. Les capacités de lecteurs NAND Flash augmentent régulièrement, tout comme les vitesses en lecture et en écriture. Des SSD très pointus avec un temps de latence réduit (moins de 5 us) s’attaquent même à la mémoire Optane, qu’Intel a récemment décidé de passer à la trappe faute de clients et de ressources pour développer des produits dont les marges restent très inférieures à celles des processeurs. Kioxa propose déjà sa seconde génération de SSD FL6 XL-Flash (PCIe 4.0 au format U.3), communément baptisée Storage Class Memory (SCM) capable de rivaliser avec la défunte mémoire Optane, mais avec une plus grande capacité de stockage. Le FL6 de Kioxia monte jusqu’à 3,2 To avec un temps de latence de 29 us en lecture et 6 us en écriture, alors que l’ Intel Optane SSD P5800X (PCIe 4.0 en U.2) plafonne à 1,6 To avec une latence de 6 us (en lecture et écriture). 

Sur ce marché à la fois très dynamique et très compétitif, la start-up SmartIOPS semble posséder tous les atouts pour séduire les entreprises et autres hyperscalers à la recherche de SSD taillés pour la performance, la latence ou la capacité. Lors d’un IT Press Tour dans la Silicon Valley, nous avons rencontré le dynamique CEO et cofondateur de SmartIOPS, Ashutosh Das, avec un autre cofondateur Manuel d’Abreu, qui occupe le poste de chief scientist. Fondée en 2014, cette start-up a levé une vingtaine de millions de dollars au total pour financer ses opérations de recherche et développement. « Nous avons huit à neuf ans d’existence et les quatre ou cinq premières années, nous avons réellement consacré du temps et de l'énergie à développer notre premier produit, qui a été commercialisé en 2019. Et notre premier client était la Nasa », nous a indiqué le CEO. Employant une cinquantaine d’employés, SmartIOPS a considérablement augmenté ses revenus ces trois dernières années et revendique aujourd’hui une dizaine de clients dont China Telecom, le Département américain de l’Énergie, la Nasa, Oracle Cloud ou encore Verizon. « Nous prévoyons de pousser nos revenus dans la fourchette des 100 à 150 millions de dollars dans les cinq prochaines années ». 

Des SSD avec une très faible latence

« Notre premier produit est le SSD. Cependant, notre technologie est généralement applicable à l'ensemble de l’industrie du stockage en général », nous a indiqué le CEO de la start-up, qui commercialise également des baies de stockage flash, vendues par exemple à China Telecom.. Les secteurs visés sont aujourd’hui l’accélération des bases de données et des systèmes in-memory, les médias où les vitesses de lecture et d’écriture sont des éléments très importants ; le CDN est un autre domaine où les performances de la flash sont appréciées, sans oublier les traitements IA et ML où les ensembles de données peuvent être très conséquents. « Ce sont dans ces domaines, que notre technologie baptisée TruRandom permet d’obtenir un maximum d’IOPS sur les SSD NVMe PCIe », nous a expliqué M. Das. TruRandom minimise les opérations liées à la réorganisation interne, à la collecte des données inutiles et à l'effacement des fichiers afin d’optimiser les entrées/sorties du SSD. « Nous avons déposé 70 brevets pour obtenir des performances de 3,48 millions d’IOPS avec un SSD PCIe 4.0 et de 1,7 million avec un SSD PCIe 3.0 ».

Exploitant des NAND XL-Flash fournis par Kioxia, les SSD Unobtanium de SmartIOPS rivalisent avec les produits Intel Optane. (Crédit S.L.)

Pour arriver à ces résultats, SmartIOPS conçoit ses propres SSD aux format U.2 (2,5 pouces) et PCIe AIC avec son contrôleur maison TruRandom. « Nous recevons des puces 3D NAND flash de Kioxia et Micron en ce moment, et nous avons des discussions avec SK Hynix. Et nous pourrions aussi nous tourner vers les Chinois de YMTC à l'avenir », précise le CEO. Pour les SSD Data Engine du type capacitifs, la start-up pré-annonce un modèle d’une capacité de 72 To en NAND QLC. « Je pense que certains clients sont intéressés par 72 To. En fait, le produit de 72 To n'est pas disponible, mais la technologie existe. Donc si quelqu'un le veut, nous pouvons le fournir. Parce que nous sommes une petite entreprise, nous ne voulons pas produire quelque chose qui ne se vendra pas », nous a expliqué le CEO. Les cibles privilégiées sont à chercher du côté des hyperscalers pour ce type de produit. Pour les SSD SCM baptisés Unobtanium, SmartIOPS utilise la NAND Flash de Kioxia (XL-Flash). « Notre latence n'est pas aussi basse que celle des produits Octane, de l’ordre de 5 us [Intel annonce 6 us dans sa fiche technique], mais nous arrivons à 20 us [16 us en lecture sur le site du fournisseur], ce qui n’est pas mal pour de la NAND », indique le dirigeant. La latence des SSD classiques et de l’ordre de 80 us. La capacité des Unobtanium commence à 800 Go et monte jusqu’à 6,4 To. La dernière ligne de produits de SmartIOPS est axée performance avec les SSD Data Engine au format U.2 ou PCie AIC qui bataillent du côté des IOPS : jusqu’à 3,4 millions d’IOPS avec le modèle PCIe 4.0 (1,7 million en PCIe 3.0). Ce qui n’est pas très loin du maximum théorique avec ces deux interfaces. 

SSD avec FPGA en vue

En plus de ces produits équipés du contrôleur maison TruRandom, SmartIOPS entend intégrer un circuit FPGA Intel Agilex dans ses SSD pour accélérer le traitement de certaines applications. La start-up n’est pas la première à développer cette idée, Samsung le fait déjà avec ses SmartSSD équipés d’un FPGA Xilinx pour décharger le processeur du serveur des opérations de compression. Le SmartSSD du Sud-Coréen peut accueillir un peu plus de données grâce à la mise en œuvre d'un algorithme de compression accéléré par le FPGA. Avec le circuit FPGA et ses bibliothèques logicielles, le SSD est programmable par API, ce qui favorise en théorie le développement du compute storage. Mais dans les faits, la programmation des circuits FPGA reste difficile. SmartIOPS entend s’attaquer à ce dernier point avec un framework maison dédié à son FPGA. « Nous apportons la puissance des FPGA, et vous pouvez, par exemple, accélérer des calculs IA/ML », a précisé le dirigeant.

Si la start-up se propose de prendre en charge les développements FPGA pour ses clients grâce à des librairies spécialement conçues pour accélérer les charges de travail, elle entend également fournir un framework open source à ceux qui préfèrent exploiter directement le FPGA.  Ce SSD équipé d’un FPGA arrivera avec une interface CXL en PCIe 5.0 et devrait offrir une capacité de 4 millions d’IOPS. Le FPGA sera toutefois une option pour les clients intéressés, il ne sera pas monté en standard sur les SSD. « Nous essayons de pousser quelque chose qui est vraiment unique dans l'industrie durant les 3 à 4 ans à venir, c'est l'une des raisons pour lesquelles nous ne voulons pas utiliser le mot SSD computing. Le compute stockage a très mauvaise presse parce que les cas d'utilisation mis en avant, comme le transcodage vidéo, la compression ou le chiffrement ne justifiaient pas le recours à un circuit spécialisé. Un processeur x86 le fait très bien ».

La prochaine génération de SSD hautes performances de SmartIOPS, sur base CXL, pourra embarquer un FPGA Intel pour accélérer des bases de données ou des traitements IA/ML. (Crédit S.L.)

« Nous vous faisons une annonce précoce, afin de partager notre vision du marché. Nous avons parlé à beaucoup de gens... combiner le CPU avec le stockage n'est pas une idée nouvelle ? Je veux dire, beaucoup de fournisseurs peuvent le faire ». ScaleFlux, par exemple, s’y est déjà risqué, mais nous reviendrons dans un prochain sujet sur les SSD de ce fournisseur, qui est passé des FPGA aux ASIC, puis à une combinaison ARM/ASIC sur ses lecteurs flash. Comme ce dernier, SmartIOPS cible des marchés porteurs comme les applications in-memory et les bases de données. « Nous ambitionnons de proposer des modules comme l'optimisation de bases de données, l’accélération des calculs météo ou le chiffrement. L’objectif final est de détecter automatique le type d’applications. utilisées et de l’accélérer avec notre FPGA avec une compilation à la volée ». Une très belle idée sur le papier, mais très difficile à réaliser. « La production démarrera en 2023 avec des prototypes et aussi l’échantillonnage pour certains clients, des clients précoces ». Rendez-vous donc en 2023 à Milpitas pour suivre les progrès de cette très intéressante start-up.