Wall Street Journal со ссылкой на информаторов сообщил, что Nvidia готовит новый процессор, предназначенный ускорять работу систем искусственного интеллекта и снижать энергопотребление при обработке запросов. По данным источников, речь идёт о платформе для вычислений типа inference, которая помогает моделям быстрее реагировать на запросы пользователей. Новую систему, как утверждают собеседники издания, планируют представить на конференции разработчиков GTC в Сан-Хосе в следующем месяце, причём в неё будет интегрирован чип, разработанный стартапом Groq. Reuters пока не удалось независимо подтвердить эти сведения, а в Nvidia и OpenAI на момент публикации не ответили на запрос агентства.
Ранее в этом месяце Reuters писал, что OpenAI выражает недовольство скоростью, с которой оборудование Nvidia выдаёт ответы на ряд задач, в частности при разработке программного обеспечения и взаимодействии ИИ с другим софтом. По одному из источников, OpenAI рассматривает новое оборудование, которое в перспективе могло бы обеспечить около 10% её потребностей в вычислениях типа inference. Компания вела переговоры со стартапами, включая Cerebras и Groq, с целью получить более быстрые чипы для вывода моделей, однако, по словам собеседников, соглашение Nvidia о лицензировании с Groq на сумму 20 миллиардов долларов прервало эти обсуждения. В сентябре Nvidia также заявляла о намерении вложить до 100 миллиардов долларов в OpenAI в рамках сделки, которая предоставляла производителю чипов долю в стартапе и обеспечивала OpenAI средства для покупки передового оборудования.