Hiljutisel SIGGRAPH 2023 üritusel astus NVIDIA olulise sammu, paljastades oma uuendusliku NVIDIAL40S GPU koos L40S integreerimisega NVIDIA OVX serverisse. Olemasolevate andmete põhjal on need pakkumised hoolikalt kohandatud erinevate rakenduste jaoks, mis hõlmavad AI mudeli koolitust ja järeldusi, 3D-disaini ja visualiseerimist, videotöötlust ja tööstuslikku digiteerimist. Eesmärk on selge: ettevõtete, organisatsioonide ja andmekeskuste tehisintellekti-, graafika- ja videotöötlusvõimsuste tugevdamine, et tõhusalt tegeleda kasvavate arvutusnõuetega.
L40S GPU ja OVX-serveri jaoks on kesksel kohal nende roll generatiivsete AI-mudelite koolitus- ja järeldusetappide täiustamisel, mis näitab nende mudelite tõhususe suurendamise potentsiaali.
Avalikult avaldatud teave näitab, et värske L40S GPU kiirenduskaart, L40 seeria järglane, pärineb NVIDIAst. See Ada Lovelace'i arhitektuuril loodud GPU sisaldab neljanda põlvkonna Tensor Core'i ja FP8 konversioonimootorit, mille arvutuskiirus on kuni 1,45 PFlopi. Veelgi enam, L40S GPU-l on 18 176 CUDA südamikku, mis tagab ühe täpsusega ujukoma (FP32) jõudluse (91,6 TFlops) muljetavaldava peaaegu viiekordse täiuse võrreldes NVIDIA A100 GPU-ga. Erinevalt A100 ja H100 GPU-dest loobub L40S NVLinki toest, valides selle asemel GDDR6 ECC-mälu, mis positsioneerib selle servaarvutusstsenaariumide jaoks sobivama lahendusena.
Shanghai Securitiesi analüütik Liu Jingzhao jagas oma teadmisi:
- PCIe Gen 4 liidese piirangute tõttu võib L40S-i rakendus GPU-võrgu andmetöötluses olla suhteliselt piiratud, mis võib avaldada marginaalset mõju käimasolevate 800G optiliste moodulite nõudlusele.
- Võrreldes mudeliga A100 näitab L40S arvutusliku tõhususe eeliseid spetsiifilistes generatiivsete tehisintellektimudelite kontekstides, millega kaasneb kõrgem kuluefektiivsus.
- Kasutades küpseid tehnoloogiaid, nagu GDDR6, tagab L40S stabiilsuse ülesvoolu tarnimisel.
- L40S-ile omistatud esiletõstetud eelised võivad esile kutsuda allavoolu pilveteenuse pakkujate suurenenud omandamistrendi, mis toob kaasa uued kasvuvõimalused keskmise kuni suure kiirusega optiliste moodulite, eriti 200G ja 400G esinduste jaoks.
NVIDIA L40S GPU kasutuselevõtt on valmis võimendama AI andmetöötlusvõimalusi, võib-olla katalüüsides suuremaid hanketegevusi allavoolu pilveteenuse pakkujate seas. See hoog võib mõeldavalt sillutada teed kõrgendatud nõudlusele keskmise ja suure kiirusega optiliste moodulite turul.