Scalarea infrastructurii AI cu optică integrată

Pe măsură ce interconexiunile de cupru își ating raza de acțiune fizică și limitele de putere la rate de date mai mari, centrele de date AI de generație următoare necesită o nouă abordare a scalării calculului. Optica integrată oferă calea de urmat, depășind blocajele electrice pentru a oferi raza de acțiune, eficiența energetică și densitatea necesare pentru interconexiunile scalabile.

Optică integrată

Interconexiunile de cupru, conduse de nuclee SerDes integrate în ASIC-uri, nu mai pot ține pasul cu cerințele de lățime de bandă, rată de date și densitate fizică ale interconexiunilor centrelor de date IA de generație următoare. Se așteaptă ca lățimea de bandă a interconectării pentru IA să se dubleze aproximativ în fiecare an, necesitând o dublare corespunzătoare a ratelor de date pe bandă. Dar ratele de date mai mari vin cu prețul acoperirii.

În același timp, pentru a optimiza costul de calcul și suprafața fizică, noile arhitecturi XPU cresc numărul de XPU-uri per rack și împing raza de acțiune necesară a interconectării mult peste 2 metri. Puterea necesară pentru a compensa pierderile de cupru la aceste rate de date mai mari nu se mai încadrează în bugetele de putere alocate, unde puterea trebuie să fie folosită pentru calcul, nu pentru integritatea semnalului.

Optica integrată depășește limitele de acoperire și putere ale cuprului la aceste rate mai mari, egalând în același timp fiabilitatea și costul acestuia, permițând o foaie de parcurs pentru interconectare multigenerațională și multi-segment. Legăturile AI de generație următoare cu rază scurtă de acțiune se întind pe trei niveluri: Scale-Out, Scale-Up și, cel mai recent, Scale-In:

  • Interconexiunile Scale-Out, cele dintre rack-uri și clustere, sunt încă deservite în mare parte de module optice conectabile cu integrare din ce în ce mai avansată a opticii și componentelor, dar optica on-board (OBO), optica near-package (NPO) și optica co-packaged (CPO) continuă să demonstreze avantaje semnificative în ceea ce privește puterea, costul și fiabilitatea.
  • Interconexiunile Scale-up, cele dintr-un rack, se îndreaptă rapid către domenii mai mari și dezagregare, unde interconexiunile optice de calcul (OCI) permit implementări de generație următoare.
  • Interconexiunile Scale-In, cele din XPU-uri într-un singur compartiment pentru server, explorează tehnologii de împachetare de generație următoare și o integrare optică suplimentară.

Pe măsură ce ratele de date ajung la 400G/bandă, pierderile de cupru limitează sever acoperirea la modulația PAM-4. Trecerea la 400G PAM-6 crește distanța de transmisie prin cupru, dar dacă sunt necesare interconexiuni pentru mai mult de 2-3m, vor fi necesare interconexiuni optice.

Gândiți-vă la bugetul total de putere optică ca la o riglă mică cu înălțime fixă. Modulația PAM-4 împarte rigla în 4 niveluri de luminozitate: 3 goluri între ele, fiecare gol fiind 1/3 din riglă. Fiecare dintre aceste goluri codifică semnalul cu „1” sau „0”, astfel încât puteți avea (23) opt combinații. PAM-6 împarte aceeași riglă în 6 niveluri, 5 goluri, fiecare 1/5 din riglă, (25) treizeci și două de combinații. Dispozitivul de tăiere din interiorul nucleului SerDes trebuie să decidă dacă fiecare gol este „1” sau „0”, găsind un punct de mijloc în ochi și secționând ochiul în acel punct pentru a face determinarea.

Galerii mai mici între niveluri înseamnă mai puțin spațiu pentru zgomot înainte ca SerDes să citească greșit nivelul. Spațiul pentru zgomot se numește marjă de raport semnal-zgomot (SNR), iar trecerea de la PAM-4 la PAM-6 la 400 Gbps costă aproximativ 5-7 dB de SNR necesar. Legăturile optice funcționează deja cu o marjă de semnal mai mică decât cele electrice, iar această penalizare suplimentară de 5-7 dB este motivul pentru care optica la PAM-6 nu este alegerea eficientă, chiar dacă arată mai atractiv pe hârtie, care conține mai multe date per simbol. Vedeți Figura 1 de mai jos, diagramele oculare provin din simulări.

Conversia semnalului

Putem folosi în continuare PAM-4 400G pentru optică, problema este cum convertim un semnal electric PAM-6 400G într-un semnal optic PAM-4 400G sau cum putem obține suficientă acoperire de la legăturile electrice la PAM-4 400G pentru a acționa direct optica. Pentru cea de-a doua variantă, industria caută optică integrată cu OBO, NPO și CPO pentru a extinde acoperirea semnalelor electrice la PAM-4 400G, care pot apoi acționa direct optica la PAM-4 400G.

Pentru prima variantă, este necesară o cutie de viteze pentru a converti semnalul electric PAM-6 într-un semnal optic PAM-4, ceea ce necesită putere suplimentară ce ar trebui alocată calculului. Pentru a implementa primele sisteme 400G/bandă, primii utilizatori vor utiliza o cutie de viteze pentru a converti semnalul electric PAM-6 într-un semnal optic PAM-4. Totuși, această abordare necesită o cantitate semnificativă de putere suplimentară care altfel ar fi alocată calculului. Pe măsură ce tehnologia se maturizează, industria va apela la optică integrată folosind OBO, NPO sau CPO pentru a extinde raza de acțiune a semnalelor electrice la 400G PAM-4, pentru a alimenta apoi direct optica la 400G PAM-4.

Ce se întâmplă în continuare?

Putem trece potențial la 800G PAM-4, dar acest lucru va implica penalizări severe de putere, noi structuri de materiale și arhitecturi mai puțin eficiente. Putem trece la hiModulație de ordin superior cu tehnologii coerente, dar aceste sisteme necesită costuri mari, temporizare și oscilatoare locale, ceea ce face dificilă implementarea la costul și cerințele de putere pentru interconexiunile scalabile.

Mai întâi trebuie să decuplăm rata benzii electrice CMOS de modulatorul de siliciu și rata benzii optice a ghidului de undă. Un ghid de undă optic poate transmite mai multe lungimi de undă simultan folosind multiplexarea prin diviziune de lungime de undă (WDM). Un sistem ar putea acum transmite 32 de lungimi de undă la 100 Gbps, 3,2 Tbps, față de același sistem folosind 1 lungime de undă la 100 Gbps!

Deoarece acum putem scala lățimea de bandă cu lungimi de undă optice, spre deosebire de benzile dense de cupru, nu mai avem nevoie de o rată de date mai mare, rate ale benzii electrice de modulație de ordin superior. De asemenea, putem reduce rata benzii electrice la 50 Gbps, fără revenire la zero (NRZ) în loc să folosim Modulația Amplitudinii de Fază (PAM). Spre deosebire de PAM, NRZ este un singur EYE cu bugete SNR relaxate.

Acest lucru face mai multe lucruri:

  • Oferă o cale multigenerațională reînnoită pentru scalarea ratelor de bandă electrică, trecând de la 50 Gbps NRZ la 100 Gbps NRZ-
  • Reduce cerințele privind bugetul de legătură, reducând drastic puterea și îmbunătățind performanța legăturii
  • Reduce latența prin permiterea utilizării codării și intercalării Forward Error Correction (FEC) mai mici.

Toate acestea oferă platforma potrivită pentru a aduce optica în domeniul scaling-up.

Interconectare optică de calcul (OCI)

Pentru a aborda dimensiunile mai mari ale domeniilor cu un singur nod, limitările de putere per rack și răcire, complexitatea și costurile crescute ale cablării și limitele de acoperire fizică, OCI-MSA a fost fondat în martie 2026 de AMD, Broadcom, Meta, Microsoft, OpenAI și Nvidia pentru a standardiza o interconectare optică pentru legături Scale-up, mutând calculul cu un singur nod la calculul pe rând cu mai multe noduri.

Specificația Gen 1 a fost publicată utilizând semnalizare electrică NRZ de 53,125 Gbps și o grilă densă de lungimi de undă cu multiplexare prin diviziune de undă (DWDM) cu rezonatoare micro-inelare în cascadă (MRR) la o distanță de ~2,3 nm. Figura 3 de mai sus prezintă primul ochi de transmițător OCI-MSA măsurat din industrie folosind rezonatoare micro-inelare (MRM) pe siliciu Broadcom care funcționează la NRZ de 53,125 Gbps. Fiecare fibră optică poate suporta o bidirecție de 212,5 Gbps cu 4 lungimi de undă DWDM la 53,125 Gbps, transmițând 4 λ pe fibră pe direcție pe grupurile de lungimi de undă standard actuale din industrie pentru multiplexare prin diviziune de undă Corse (CWDM) pentru transmițător și receptor. Figura 4 de mai jos este o specificație extrasă din specificația OCI-GEN1, care poate fi descărcată de pe site-ul web OCI-MSA.org.

Pe măsură ce depășim acest standard, menținând aceeași spațiere între lungimi de undă: Gen2 la 400 Gbps pe fibră, 4 lungimi de undă DWDM la 103,25 Gbps, Gen3 la 800 Gbps pe fibră, 8 lungimi de undă DWDM la 103,25 Gbps și peste, asigurăm utilizarea surselor laser standard cu undă continuă (CW). Planul WDM poate continua să extindă acest lucru la 3,2 T Gbps pe fibră, mult dincolo de nevoia actuală proiectată de interconexiuni scalabile.

Tehnologie Bi-Di

În mai 2024, cu mult înaintea oricui altcineva, Broadcom a publicat o carte albă despre utilizarea tehnologiei bidirecționale (Bi-Di) pentru clustere AI/ML folosind optică pentru clustere GPU de 512 și 1024. Lucrarea a arătat că compararea opticii tradiționale bazate pe DR cu tehnologia Bi-Di reduce numărul de fibre necesare cu 50%, reduce costul opticii cu până la 15% și permite modalități mai eficiente de a construi rețele scale-up.3 Am dus această tehnologie mai departe și am implementat-o în OCI-MSA.

Implementare

În cele din urmă, optica integrată se reduce la implementare. În calitate de membru fondator al OCI-MSA, înțelegem importanța susținerii unui ecosistem deschis în care industria poate beneficia de economii de scară cu o abordare unificată pentru interconectarea optică scale-up.

Toate opțiunile de implementare prezentate mai jos în Figura 5 de mai jos pot fi utilizate de industrie și inovate pentru a livra optică în domeniul scale-up la volum. Fundamental, optica trebuie să aibă aceeași fiabilitate, putere și cost ca și interconexiunile de cupru actuale. Am lucrat la o soluție pentru a înlocui SerDes-ul de cupru cu un SerDes optic care ar fi plasat direct pe interpozer pentru a atinge această paritate cu legăturile de cupru și, așa cum am arătat mai sus, pentru a permite o nouă foaie de parcurs pentru creșterea lățimii de bandă. În prezent, lucrăm la această tehnologie și așteptăm să o lansăm pe piață în cursul anului următor.