I den nylige SIGGRAPH 2023-begivenhed tog NVIDIA et væsentligt skridt ved at afsløre deres innovative NVIDIAL40S GPU sammen med integrationen af L40S i NVIDIA OVX-serveren. Baseret på tilgængelige data er disse tilbud omhyggeligt skræddersyet til forskellige applikationer, der omfatter AI-modeltræning og inferens, 3D-design og visualisering, videobehandling samt industriel digitalisering. Målet er klart: at styrke AI-, grafik- og videobehandlingskapaciteten i virksomheder, organisationer og datacentre for effektivt at imødekomme de stigende beregningskrav.
Centralt for L40S GPU og OVX-serveren er deres rolle i at forbedre trænings- og inferensstadierne for generative AI-modeller, hvilket viser potentialet til at forstærke effektiviteten af disse modeller.
Åbent offentliggjorte oplysninger indikerer, at det friske L40S GPU-accelerationskort, en efterfølger til L40-serien, stammer fra NVIDIA. Denne GPU, der er udformet efter Ada Lovelace-arkitekturen, inkorporerer fjerde generation Tensor Core og FP8 konverteringsmotor, der kan prale af en beregningshastighed på op til 1,45 PFlops. Yderligere tilføjer dens dygtighed, L40S GPU kan prale af en samling af 18.176 CUDA-kerner, hvilket giver en imponerende næsten femdobbelt forbedring i single-precision floating-point (FP32) ydeevne (91,6 TFlops) sammenlignet med NVIDIA A100 GPU. I modsætning til A100 og H100 GPU'erne giver L40S afkald på NVLink-understøttelse og vælger i stedet for GDDR6 ECC-hukommelse, hvilket placerer den som en mere dygtig løsning til edge computing-scenarier.
Liu Jingzhao, analytiker i Shanghai Securities, delte sin indsigt:
- På grund af begrænsningerne i PCIe Gen 4-grænsefladen kan L40S finde sin anvendelse i GPU-netværkscomputere relativt begrænset, hvilket potentielt har en marginal indflydelse på efterspørgslen efter igangværende 800G optiske moduler.
- Sammenlignet med A100 fremviser L40S beregningseffektivitetsfordele inden for specifikke generative AI-modelkontekster, ledsaget af øget omkostningseffektivitet.
- Ved at udnytte modne teknologier som GDDR6 garanterer L40S stabilitet i opstrømsforsyningen.
- De fremhævede fordele, der tilskrives L40S, kan medføre en øget opkøbstrend blandt downstream-cloududbydere, hvilket efterfølgende skaber nye vækstmuligheder for optiske moduler med mellem-til-højhastighed, specifikt 200G- og 400G-repræsentationerne.
NVIDIAs udrulning af L40S GPU'en er klar til at forstærke AI-computeregenskaber, hvilket muligvis katalyserer større indkøbsaktiviteter blandt downstream cloud-udbydere. Dette momentum kunne tænkes at bane vejen for øget efterspørgsel inden for mellem-til-højhastigheds optiske modulmarkedet.