Описание

Данная лаборатория представляет собой программно-аппаратный учебный комплекс, предназначенный для обучения специалистов и исследователей по работе с большими языковыми моделями (LLM) в локальном оффлайн режиме с локальным вычислительным узлом для обучения и исполнения программной части комплекса.

Структура комплекса:
Комплекс включает рабочую станцию-сервер со специализированными ускорителями для исполнения больших языковых моделей и несколько тонких клиентов для работы с сервером в независимых окружениях-песочницах. Каждый пользователь может подключиться к серверу в отдельной локальной сессии для изучения, настройки и тестирования определенных типов LLM. Виртуальный учебный комплекс предоставляет удобный и эффективный способ обучения работе с локальными LLM для задач NLP. Программная часть комплекса состоит из перенастроенного серверного окружения с примерами открытых локально развертываемых и исполняемых LLM, а также сервера обеспечения раздельного доступа клиентам к вычислительным ресурсам в рамках отдельных локальных сессий. Комплекс включает учебно-методическую часть, содержащую учебные материалы и примеры кода и сценарии для лабораторных работ и проектов.

Цели комплекса:

Обучение основам работы с LLM
Изучение методов локального разворачивания и исполнения LLM
Изучение принципов функционирования и архитектуры LLM
Ознакомление с методами обучения и настройки LLM
Практическое применение полученных знаний для решения задач NLP

Преимущества комплекса-лаборатории:
Удобство и доступность обучения в виртуальной среде
Возможность самостоятельного изучения материалов и выполнения заданий
Поддержка и обратная связь от экспертов в области NLP