GDPR Cookie Consent by Free Privacy Policy

Nvidia predstavlja H200, svoj najnoviji vrhunski čip za AI modele

Nvidia predstavlja H200, svoj najnoviji vrhunski čip za AI modele
ČIPOVI
SEEbiz.eu - regionalni poslovni portal
Objavljeno: 14.11.2023 / 07:51
Autor: SEEbiz
NEW YORK - Nvidia je u ponedjeljak predstavila H200, jedinicu za grafičku obradu dizajniranu za obuku i implementaciju vrsta modela umjetne inteligencije koji pokreću generativni procvat AI.

Novi GPU je nadogradnja H100, čipa koji je OpenAI koristio za treniranje svog najnaprednijeg modela velikog jezika, GPT-4. Velike tvrtke, startupi i vladine agencije natječu se za ograničenu ponudu čipova.

Čipovi H100 koštaju između 25.000 i 40.000 dolara, prema procjeni Raymonda Jamesa, a tisuće njih potrebno je raditi zajedno kako bi se stvorili najveći modeli u procesu koji se zove "obuka".

Uzbuđenje oko Nvidijinih AI GPU-a dodatno je povećalo dionice tvrtke, koje su do sada porasle za više od 230% u 2023. Nvidia očekuje oko 16 milijardi dolara prihoda za svoje treće fiskalno tromjesečje, što je 170% više nego prije godinu dana.

Ključno poboljšanje kod H200 je to što uključuje 141 GB "HBM3" memorije sljedeće generacije koja će pomoći čipu da izvede "zaključivanje" ili korištenje velikog modela nakon što se osposobi za generiranje teksta, slika ili predviđanja.

Nvidia je rekla da će H200 generirati izlaz gotovo dvostruko brže od H100. To se temelji na testu koji koristi Meta's Llama 2 LLM.

H200, čija se isporuka očekuje u drugom kvartalu 2024., natjecat će se s AMD-ovim MI300X GPU-om. AMD-ov čip, sličan H200, ima dodatnu memoriju u odnosu na svoje prethodnike, što pomaže u uklapanju velikih modela na hardver za izvođenje zaključaka.

Tagovi: nVIDIA, ČIPOVI, mETA
PROČITAJ I OVO
Infobip i Nokia sklopili partnerstvo za brži razvoj telekomunikacijskih aplikacija
PARTNERSTVO
Infobip i Nokia sklopili partnerstvo za brži razvoj telekomunikacijskih aplikacija
VODNJAN – Globalna cloud komunikacijska platforma Infobip i Nokia danas su najavili sklapanje partnerskog sporazuma koji će svjetskoj developerskoj zajednici omogućiti korištenje njihovih API platformi za brži razvoj široke lepeze telekomunikacijskih aplikacija, a koje su namijenjene privatnim, poslovnim i industrijskim korisnicima.
Apple rezultatima nadmašio očekivanja, iako je prodaja iPhonea pala 10%
BOLJE OD OČEKIVANJA
Apple rezultatima nadmašio očekivanja, iako je prodaja iPhonea pala 10%
NEW YORK - Apple (AAPL) je izvijestio o svojoj zaradi u drugom tromjesečju nakon zvona u četvrtak nadmašivši očekivanja na vrhu i dnu, ali prihod je pao 4% u odnosu na prethodnu godinu zbog sporije prodaje iPhonea, Maca, iPada i nosivih uređaja nego u istom razdoblju 2023.
Ebay u tromjesečju s većim prihodom i manjom dobiti
SOLIDNO
Ebay u tromjesečju s većim prihodom i manjom dobiti
NEW YORK - Američka internetska trgovina Ebay u prvom je kvartalu zabilježila 2,6 milijardi dolara (2,4 milijarde eura) prihoda, što je dva posto više nego u istom razdoblju lani.
Singapore is leading startup market in the region
STARTUPS
Singapore is leading startup market in the region
SINGAPORE - Southeast Asian startup fundraising dropped to its lowest level in more than five years in January to March, according to a recent industry report, reflecting the prolonged funding slowdown in the region since the end of the COVID-19 pandemic, with little sign of recovery.
Span značajno smanjio dividendu
DIVIDENDA
Span značajno smanjio dividendu
ZAGREB - Span je objavio godišnje izvješće za 2023. godinu, rezultate za prvo tromjesečje 2024. godine te je dao prijedlog raspodjele dobiti iz 2023. godine i iz zadržane dobiti iz prethodnih godina.
@ 2020 SEEbiz. All Rights Reserved.
CLOSE