OpenAI търси алтернатива на Nvidia

OpenAI не е доволна от някои от най-новите чипове за изкуствен интелект на Nvidia и от миналата година търси алтернативи, съобщава Reuters, позовавайки се на запознати източници.

Промяната в стратегията се дължи на все по-голямото значение, което се отдава на чиповете, използвани за изпълнение на конкретни елементи на AI инференцията – процеса, при който AI модел, като този, който захранва приложението ChatGPT, отговаря на запитвания и искания на клиенти. Nvidia остава доминираща в чиповете за обучение на големи AI модели, докато инференцията се превърна в ново поле на конкуренция.

Решението на OpenAI и други компании да търсят алтернативи на пазара на чипове е значителен тест за доминирането на Nvidia в областта на изкуствения интелект и идва в момент, когато двете компании водят преговори за инвестиции. Докато преговорите се проточват, OpenAI сключи сделки с AMD и други компании за графични процесори, създадени да се конкурират с тези на Nvidia.

Наскоро главният изпълнителен директор на Nvidia, Дженсън Хуанг, отхвърли информацията за напрежението с OpenAI, като заяви, че идеята е абсурдна и че Nvidia планира огромна инвестиция в OpenAI.

След публикуването на статията на Reuters, главният изпълнителен директор на OpenAI, Сам Алтман, написа в публикация в X, че Nvidia произвежда най-добрите AI чипове в света и че OpenAI се надява да остане огромен клиент за много дълго време.

Според източниците обаче OpenAI не е доволна от скоростта, с която хардуерът на Nvidia може да дава отговори на потребителите на ChatGPT за конкретни видове проблеми, като разработване на софтуер и AI комуникация с друг софтуер. Тя се нуждае от нов хардуер, който в крайна сметка ще покрие около 10% от нуждите на OpenAI от изчислителни ресурси за изводи в бъдеще.

Обсъждано е сътрудничество със стартиращи компании, включително Cerebras и Groq, за да осигури чипове за по-бързи изводи. Nvidia обаче сключи лицензионно споразумение с Groq, което прекрати преговорите с OpenAI.

Графичните процесори на Nvidia са подходящи за обработката на огромни масиви от данни, необходими за обучението на големи AI модели като ChatGPT, които досега са в основата на експлозивния растеж на AI в световен мащаб. Но напредъкът в AI все повече се фокусира върху използването на обучени модели за изводи и разсъждения, което може да бъде нов, по-голям етап в AI, вдъхновяващ усилията на OpenAI.

Търсенето на алтернативи на GPU от миналата година се фокусира върху компании, които произвеждат чипове с големи количества памет, вградена в същия силициев чип като останалата част от чипа, наречена SRAM. Натъпкването на колкото се може повече скъпа SRAM в всеки чип може да предложи предимства по отношение на скоростта за чатботове и други AI системи, тъй като те обработват заявки от милиони потребители.

GPU технологията на Nvidia и AMD разчита на външна памет, което увеличава времето за обработка и забавя скоростта, с която потребителите могат да взаимодействат с чатбота. В OpenAI проблемът стана особено видим в Codex, продукта за създаване на компютърен код, който компанията агресивно промотира, добави един от източниците. Служителите на OpenAI приписват част от слабостите на Codex на хардуера на Nvidia.