ИТ-холдинг оценил экономию при переносе части ИИ-запросов на китайские чипы

ИТ-холдинг Т1 представил результаты тестирования более 20 моделей искусственного интеллекта на графических ускорителях разных производителей, включая китайские. Итоги испытаний озвучил генеральный директор компании Дмитрий Харитонов на форуме Kazan Digital Week 2026. Об этом пишет сайт Коммерсантъ.

В ходе тестов, охвативших ИИ-ассистентов для работы с документами и поиска по базам знаний, стоимость инференса на китайских чипах оказалась в 2–2,5 раза ниже, чем на ускорителях Nvidia, при сопоставимом качестве ответов. В задачах компьютерного зрения альтернативные чипы были конкурентоспособны по цене, но уступали Nvidia по скорости. Всего специалисты холдинга провели более 1 тыс. тестовых запусков.

По итогам испытаний компания предложила использовать ускорители Nvidia для обучения и работы наиболее крупных языковых моделей, а часть запросов и вспомогательных сервисов переносить на другие чипы. По расчетам холдинга, замена одной не полностью загруженной карты Nvidia H100 на китайский ускоритель C550 при размещении в облаке может сэкономить более 2 млн руб. в год.

Дмитрий Харитонов отметил, что при расчете полной стоимости владения следует учитывать расходы на лицензии, сопровождение и обучение сотрудников. Он также подчеркнул, что экономический эффект от внедрения ИИ должен быть измерим в течение шести–девяти месяцев, иначе проект сворачивается.