Каждый год розничный Контактный центр ВТБ совершенствуется и внедряет новые технологии в лучшее #itрешение24
В 2023 мы создали целую ИТ-платформу по управлению КЦ в голосе и чате, на домашних и аутсорс площадках, для работы с сервисом и продажами, на входящих и исходящих звонках, c AI и прочими фишками! Проект внес свою лепту в общебанковскую награду Прорыв года в розничном финансовом бизнесе, но оказался недостаточно мечтательным для индивидуальной награды 🙂 Что ж… помечтаем!
в 2024 платформа дополнилась масштабным блоком по использованию LLM моделей в КЦ. Мы научились обучать и использовать модели для ответов на самые сложные вопросы клиентов: понимать естественную речь, уточнять детали по общим вопросам, суммаризировать запросы и диалоги, подбирать оптимальный размер контекста для генерации ответов, автоматически проверять качество и полноту ответов, формировать резюме диалога, анализировать причины, когда что-то пошло не так и многое другое.
4 месяца масштабных исследований, около 100 проверенных гипотез и их комбинаций, разработки, внедрения, дообучения, отбор лучших практик, креативная встройка LLM в текущий AI ландшафт КЦ, и это только начало.
Мы продолжаем бросать вызовы технологиям и расширять горизонты мечтателей-исследователей с Вами и для Вас!
Владимир
Согласен с прошлым комментарием. Не считаю себя специалистом, но даже с моей поверхностной экспертизой кок-какие моменты в презентации вызывают вопросы.
Алла
Вы заявили, что используете модель LLM on-prem вместе с двумя фреймворками. Можете ли вы рассказать, как вы справлялись с ограничениями, связанными с вычислительными ресурсами и масштабируемостью? Неужели вы действительно считаете, что такой подход может быть эффективным и устойчивым на практике?