Менеджер собирает коммерческое предложение на тридцать позиций около трёх часов. Система делает это за четыре минуты. Рассказываю, что у неё внутри — потому что «мы прикрутили ChatGPT» тут бы не сработало.
Задача: каталог на двести тысяч позиций, клиент присылает запрос списком «нужно вот такое». По каждой строчке надо найти в каталоге подходящие товары. Человек ищет глазами и памятью. Нейросеть «в лоб» — галлюцинирует и тонет в объёме.
Рабочая схема — трёхслойная. Сначала эмбеддинги: каждая позиция каталога заранее превращена в вектор, поиск по смыслу быстро отбирает кандидатов. Потом скоринг: кандидаты ранжируются правилами — совпадение типа, размера, материала, вилка цены. И только в спорных местах подключается языковая модель, которой показывают короткий список и просят выбрать. LLM здесь не оракул, а последний судья на узком пятачке.
Сколько такое стоит. Честный ответ: цена почти целиком зависит от состояния ваших данных. Каталог чистый — это недели работы. «У нас всё в экселях с 2015 года» — данные съедят больше половины бюджета. Окупаемость считается скучно: часы менеджеров на подбор в месяц, умножить на ставку, сравнить.
Демку можно потрогать без регистрации: podbor.aionika.ru. Данные там обезличенные, механика — боевая.