Компании все активнее пересматривают подход к использованию искусственного интеллекта. Если раньше при выборе ИИ-модели главным критерием были качество ответов и производительность, то теперь на первый план выходит стоимость эксплуатации.
Как рассказали в IT World, рост расходов на использование ИИ заставляет бизнес внимательнее считать затраты на токены и подбирать модели под конкретные задачи, а не использовать самые мощные решения во всех сценариях.
Показательный пример – компания Uber. По данным Reuters, после активного внедрения AI Coding Tools годовой бюджет на искусственный интеллект был израсходован всего за четыре месяца.
При этом проблема заключается не в росте стоимости токенов – наоборот, цена одного миллиона токенов постепенно снижается. Однако сами запросы становятся сложнее: увеличиваются объем контекста, количество промежуточных операций и обращений к модели, что приводит к росту итоговых расходов.
Стоимость эксплуатации выходит на первый план
В результате компании все чаще выбирают не самую производительную, а наиболее экономичную ИИ-модель, если ее возможностей достаточно для выполнения конкретной задачи. Такой подход позволяет значительно сократить расходы при массовом использовании искусственного интеллекта.
Одновременно растет интерес к open-source-решениям. По данным аналитиков Citi, через платформу OpenRouter доля открытых моделей за первые шесть месяцев года увеличилась почти вдвое, а среди самых востребованных решений лидирующие позиции заняли китайские разработки.
Использование искусственного интеллекта продолжает быстро расширяться. По данным Бюро переписи населения США, сегодня ИИ применяют около пятой части компаний, а еще примерно столько же планируют внедрить или масштабировать его использование в ближайшие месяцы. Наиболее активно технологии используют ИТ-компании, финансовый сектор, образование и научно-технические организации.
Бизнес учится контролировать расходы на ИИ
По мере роста числа пользователей меняется и подход к управлению ИИ. Компании начинают вводить лимиты на использование моделей, контролировать расход токенов и распределять задачи между более дорогими и более доступными решениями. Такой подход помогает избежать ситуации, когда искусственный интеллект, призванный повысить эффективность работы, становится источником непредсказуемых затрат.
Для российского бизнеса вопрос стоимости внедрения ИИ стоит еще острее. Помимо расходов на токены, компаниям приходится учитывать затраты на доступ к зарубежным сервисам, интеграцию и сопровождение решений. Поэтому сегодня при выборе ИИ-модели важно оценивать не только ее возможности, но и полную стоимость эксплуатации.