Вы заявили, что используете модель LLM on-prem вместе с двумя фреймворками. Можете ли вы рассказать, как вы справлялись с ограничениями, связанными с вычислительными ресурсами и масштабируемостью? Неужели вы действительно считаете, что такой подход может быть эффективным и устойчивым на практике?

Согласен с прошлым комментарием. Не считаю себя специалистом, но даже с моей поверхностной экспертизой кок-какие моменты в презентации вызывают вопросы.