Ada протестировала четыре метода векторного представления на 15 000 запросах и разделила извлечение данных для ИИ-агентов на два контура. Онлайн-поиск на Cohere Embed и Amazon SageMaker AI показал медиану 77 мс и 90,7% полноты поиска в первой десятке результатов. Для пакетной индексации Cohere Model Vault дал заявленные 2,7× больше пропускной способности на доллар, а сжатие уменьшило векторное хранилище в 4 раза.
«В клиентском сервисе важна не рекордная метрика сама по себе, а устойчивость всей цепочки: поиск, ответ, решение вопроса и понятная эскалация человеку. Разделение онлайн- и офлайн-контуров полезно, если компания заранее измеряет пользовательский эффект и стоимость поддержки двух архитектур».
— Леонид Митин, Руководитель клиентского сервиса Команды, Komanda.ai