Společnost OpenAI zkoumá čipy TPU společnosti Google jako alternativu k NVIDIA pro trénování svých modelů umělé inteligence a snaží se snížit provozní náklady na stále konkurenčnějším trhu.
Společnost OpenAI zkoumá využití čipů Google pro trénování svých modelů umělé inteligence, což by mohlo znamenat významnou změnu v jejím vztahu se společností NVIDIA. Až dosud se společnost při vývoji ChatGPT a dalších produktů spoléhala téměř výhradně na grafické procesory polovodičového giganta, ale zdá se, že by se to mohlo brzy změnit.
Podle serveru Android Headlines se společnost snaží snížit náklady na školení svých modelů. Udržet krok se současným tempem inovací není zrovna levné, zejména pokud jde o výpočetní zdroje potřebné pro nejpokročilejší modely. Modely umělé inteligence, jako je GPT-4, vyžadují obrovské množství zpracování, což se promítá do vysokých provozních nákladů.
Změna, která by mohla otřást celým odvětvím
Společnost OpenAI to nedělá z rozmaru. Náklady na trénování modelů AI vyletěly tak vysoko, že společnost potřebuje najít levnější alternativy a čipy TPU od Googlu vypadají jako zajímavá možnost. Tyto jednotky jsou navrženy speciálně pro strojové učení a v některých případech mohou být efektivnější než tradiční grafické procesory NVIDIA.
Tensor Processing Units (TPU) společnosti Google jsou procesory vyvinuté speciálně pro úlohy strojového učení. Na rozdíl od GPU, které jsou obecnější, jsou jednotky TPU optimalizovány pro maticové a vektorové operace, takže jsou ideální pro trénování hlubokých neuronových sítí. Tato specializace se může projevit ve vyšší energetické účinnosti a nižších nákladech na operaci, což je pro společnosti jako OpenAI, které zpracovávají velké objemy dat, klíčové.
To vše dává větší smysl, když vezmeme v úvahu další nedávné kroky společnosti. OpenAI již koupila za 6,5 miliardy dolarů (139,7 miliard korun) společnost AI Products, kterou vytvořil Jony Ive, a přivedla do ní 55 hardwarových odborníků, kteří by mohli pomoci optimalizovat využití různých typů procesorů.
Situace se stává zajímavější, když uvážíme, že OpenAI by vyvíjela AI na úrovni lékaře. Tento „superagent“ bude potřebovat ještě větší výpočetní výkon, takže každá úspora se počítá. Nelze také zapomenout na vydání GPT-4.1, svého dosud nejvýkonnějšího modelu, v dubnu loňského roku. Dodává se ve třech různých verzích a představuje výrazný skok ve schopnostech, ale také v potřebách zpracování.
Pro společnost NVIDIA se tato novinka nemusela setkat s velkým ohlasem. Společnost zažívá díky poptávce po grafických procesorech s umělou inteligencí zlaté časy a její akcie měsíc co měsíc stoupají. Podobné kroky však naznačují, že její dominance na trhu nemusí být tak absolutní, jak se zdálo. NVIDIA však není zcela bez ochrany; zůstává lídrem na trhu GPU a vyvíjí vlastní řadu hardwaru určeného pro AI, jako jsou procesory A100 a H100, které nabízejí působivý výkon pro úlohy hlubokého učení.
Společnost Google je touto situací zjevně potěšena. Jeho TPU již léta konkurují GPU společnosti NVIDIA, ale nikdy nedosáhly masového rozšíření. Pro společnost kalibru OpenAI, která uvažuje o jejich využití, je to důležité potvrzení její technologie.
Stále se však jedná o testování. Společnost OpenAI bude muset vyhodnotit, zda čipy společnosti Google skutečně nabízejí výkonnostní a cenové výhody, a také to, jak snadné je integrovat je do jejích systémů. Nebylo by to poprvé, co by společnost oznámila změnu dodavatele, aby z technických nebo finančních důvodů vycouvala. Navíc integrace nových čipů do stávajícího systému může být značným problémem, který vyžaduje úpravy softwaru a může ovlivnit výkonnost modelů umělé inteligence. Společnost OpenAI proto bude muset před konečným rozhodnutím provést rozsáhlé testování.