Slika 1: Ključne prednosti pakirane optike s multipleksiranjem guste valne duljine (DWDMCPO). (Slika: Scintil Photonics)
U području projektiranja podatkovnih centara postoji izreka: "Koristite bakrene kabele gdje god je to moguće, a pribjegnite optičkoj tehnologiji samo kada je svjetlovod prijeko potreban." Godinama je pragmatičan pristup industrije bio davanje prioriteta jeftinim-bakrenim kabelima sve dok zakoni fizike ne prisile tehnološku nadogradnju. Ali danas, dok se računalni klasteri umjetne inteligencije (AI) kreću prema razmjerima "tvornica računalne snage" koje postavljaju milijune grafičkih procesorskih jedinica (GPU-ova), a troškovna-učinkovitost podatkovnog centra suočava se s golemim pritiskom, ljudi otkrivaju da je ova "bez-optika-alternativna" tehnološka točka preokreta stigla mnogo ranije nego itko predviđeno.
Mrežni arhitekti odavno su svjesni da bakreni kabeli imaju značajna ograničenja u prijenosnoj udaljenosti pod scenarijima velike-brzine, ali malo ih je analiziralo temeljne uzroke iz fundamentalne fizičke perspektive. Iako su mrežni inženjeri svojom stručnošću pomaknuli granice prijenosne udaljenosti i propusnosti bakrenog kabela do krajnjih granica, ograničenja zakona fizike ne mogu se prevladati; čak se i najgenijalniji inženjerski dizajn bori da prevlada inherentna ograničenja bakrenih kabela. Razumijevanje ovoga objašnjava zašto se industrija hitno prebacuje na Co-Packaged Optics (CPO) tehnologiju.
Što je viša frekvencija električnih signala koji se prenose kroz bakrene kabele, to je veća brzina simbola i propusnost, te mogu prenijeti više informacija. Problem je u tome što se s povećanjem frekvencije signala udaljenost prijenosa značajno smanjuje. Dva su primarna uzroka gubitka signala: skin efekt i dielektrični gubitak.
Skin Effect: "Površinska koncentracija" struje
Kada AC signal putuje kroz bakreni kabel, promjenjivo magnetsko polje inducira vrtložne struje unutar vodiča. Magnetsko polje koje stvaraju te vrtložne struje poništava signalno magnetsko polje u središtu kabela. Što se brže mijenja magnetsko polje signala-odnosno, što je viša frekvencija-to je taj učinak poništavanja jači.
Izravni rezultat je da se struja "stisne" u izuzetno tanak površinski sloj vodiča; debljina ovog sloja poznata je kao dubina kože. Trenutačni prijenos signala u podatkovnim centrima umjetne inteligencije obično koristi frekvencije oko 53 GHz. Na ovoj frekvenciji, debljina sloja bakrenih kabela je samo 0,3 μm. Tako tanak prijenosni sloj koristi manje od 1% površine poprečnog-presjeka vodiča, uzrokujući skokovitost otpora kabela-čak i premašivanje istosmjernog otpora za više od 100 puta.
Dielektrični gubitak: "rasipanje energije" u izolacijskom sloju
Još jedan glavni krivac za slabljenje signala u bakrenim kabelima je gubitak dielektrika. U scenarijima visoke-frekventnosti na razini gigaherca, molekule unutar izolacijskog dielektrika kabela ne mogu držati korak s brzim fluktuacijama električnog polja. Kašnjenje između brzih fluktuacija električnog polja i zaostalog odgovora molekula pretvara elektromagnetsku energiju signala u toplinsku energiju, što dovodi do gubitka energije.
Dvostruki gubici: fatalna slabost bakrenih kabela
Kada skin efekt i dielektrični gubitak djeluju zajedno, gubitak signala u bakrenim kabelima eksponencijalno se povećava kako frekvencija raste.
Da to jasno ilustriramo: na frekvenciji od 50 GHz, čak i s visoko{1}}kvalitetnim bakrenim kabelima, kombinirani gubitak od ova dva učinka potrošit će preko 90% proračuna snage signala unutar udaljenosti prijenosa od 2 metra. Fizička svojstva bakrenih kabela diktiraju nepomirljivu središnju kontradikciju: propusnost i udaljenost prijenosa ne mogu se postići istovremeno.
Dense Wavelength Division Multiplexing Co-Packed Optics (DWDMCPO)
Danas se usko grlo performansi klastera za obuku AI-a pomaknulo s operacija-pomičnog zareza u sekundi (FLOPS) na zahtjeve za propusnost.
U skalabilnim mrežama s dosljednom memorijom potrebna je nova generacija mrežne tehnologije kako bi se ispunili brojni zahtjevi:
|Kako potrošnja energije postaje ograničavajući čimbenik u postavljanju podatkovnih centara, potrebna je manja potrošnja energije po bitu;
| Budući da operacije-pomičnog zareza više nisu usko grlo, mora se osigurati veća propusnost za svaki procesor;
| Kako fizički prostor za postavljanje vlakana postaje ograničen, mora se postići veća gustoća integracije;
| Da biste omogućili-horizontalno skaliranje između nosača, moraju biti podržane veće udaljenosti prijenosa;
| Kako bi se održala dosljednost memorijske domene i poboljšalo korištenje GPU-a, potrebna je ultra-niska latencija repa;
| Visoka pouzdanost i lakoća održavanja također su bitni.
Kada latencija repa postane osnovno ograničenje, ispunjavanje gornjih zahtjeva značajno će povećati iskorištenje GPU-a (neke procjene modela pokazuju da se iskorištenje može više nego udvostručiti), znatno smanjiti potrošnju energije mreže i poboljšati performanse modela od kraja do-. Trenutno je DWDMCPO jedini tehnički pristup koji može istovremeno ispuniti ove stroge zahtjeve i donijet će dalekosežne-troškovno-transformacije operatorima podatkovnih centara hiperrazmjera.
Odašiljanjem višestrukih valnih duljina svjetlosti preko jednog vlakna, DWDMCPO tehnologija svakom GPU-u daje višestruke široke -kanale niske brzine. Skaliranjem broja odaslanih valnih duljina od 1 do 8, 16 ili čak i više, ovaj geometrijski uzorak skaliranja spreman je revolucionirati AI mreže, baš kao što je DWDM tehnologija revolucionirala okosnicu Interneta prije 25 godina.
Jedno-kanalna brzina prijenosa DWDM-a je približno 50–64 Gbit/s, što spada u kategoriju-niskobrzinskog prijenosa. Ova karakteristika omogućuje inženjerima da pojednostave shemu kodiranja podataka od PAM4 do NRZ. Ovo pojednostavljenje eliminira više skupih i energetski-intenzivnih faza obrade signala, postižući dvostruko smanjenje potrošnje energije i latencije usmjeravanjem putanje prijenosa signala.
Latencija repa je "tihi ubojica" koji smanjuje ROI podatkovnog centra. Kada GPU klasteri obrađuju tokene podataka, zahtijevaju kontinuirani, predvidljivi ulaz bitova. Ako jedan bit doživi kašnjenje prijenosa, ostatak klastera postaje neaktivan, značajno smanjujući iskorištenost procesora. Kako se broj procesora u klasteru povećava, vjerojatnost latencije repnog bita na razini p999 značajno raste, a iskorištenost procesora opada u skladu s tim.
Bez niske-latencije, niske-potrošnje,-DWDMCPO tehnologije dugog dometa, skalabilnost mreža bila bi ograničena, a izvedba velikih jezičnih modela (LLM) bi posljedično bila ograničena. Veće-razmjere, ravnije, niske-latencije skalabilne mreže mogu podržati veće predmemorije ključ-vrijednosti, izravno povećavajući veličinu kontekstnog prozora modela i relevantnost sadržaja, čime se učinkovito proširuje djelotvorna radna memorija LLM-a. Povećana propusnost niske-latencije također ima potencijal za povećanje broja slojeva transformatora, omogućujući modelima da posjeduju dublje sposobnosti razmišljanja i zaključivanja. Ukratko: probijanje komunikacijskih ograničenja između čipova omogućuje LLM-ovima da pohrane više informacija u radnu memoriju i dovrše više koraka rasuđivanja bez zastajkivanja.
Bakreno kabliranje je nedvojbeno bilo sjajna tehnologija u svoje vrijeme, ali njegova inherentna fizička ograničenja stvorila su hitnu potrebu za naprednijim mrežnim tehnologijama kako bi se značajno poboljšao povrat ulaganja u hiperrazmjerne podatkovne centre i proširile mogućnosti LLM-a.
Za nekoliko godina, podatkovni centri AI izgrađeni u potpunosti na bakrenim kablovima postat će nezamislivi kao -internetske veze na velike udaljenosti koje se oslanjaju isključivo na bakar.
Operateri hiperrazmjernih podatkovnih centara, investitori, programeri LLM-a i drugi dionici u infrastrukturi umjetne inteligencije moraju ozbiljno shvatiti ovaj tehnološki trend: on ne samo da će iz temelja preoblikovati -prizor troškovne učinkovitosti podatkovnih centara, već će i neprestano širiti granice mogućnosti umjetne inteligencije. Poduzeća koja prva usvoje DWDMCPO tehnologiju uspostavit će arhitektonske prednosti u smislu troškova, potrošnje energije i performansi; te će se prednosti nastaviti povećavati kako se infrastruktura umjetne inteligencije bude povećavala.
