Deep Learning Engineer (Инженер глубокого обучения)

Познакомитесь с глубоким обучением, методами обучения нейросетей и основными понятиями, которые понадобятся для следующих разделов.

Разберёте сборку нейросети, функции потерь в PyTorch и этапы построения конвейера обучения модели.

Изучите методы оптимизации и проведение экспериментов глубокого обучения. Рассмотрите классификацию табличных данных.

Познакомитесь с задачами компьютерного зрения, обработкой изображений нейросетями и концепцией GAN.

Разберёте основные задачи обработки текста и познакомитесь с рекуррентными нейронными сетями.

Узнаете о больших языковых моделях, работе с нейросетями в облаке и развёртывании решений глубокого обучения.

Разберёте особенности задач NLP, устройство решения задач обработки текста и основные способы кодирования слов.

Изучите простейшие методы классификации текста, их ограничения и применение к учебным задачам.

Сравните генерацию и классификацию текста. Разберёте токенизацию, n-граммные языковые модели и устройство рекуррентных сетей.

Рассмотрите ограничения рекуррентных сетей, применение LSTM и методы выбора следующего токена при генерации текста.

Изучите способы уменьшения размера модели и условия их практического применения.

Сравните модели BERT и GPT с архитектурой трансформера и разберёте задачи перевода текста.

Познакомитесь с переносом знаний и способами дообучения. Разберёте использование предобученных моделей для последующих задач.

Изучите свойства больших предобученных моделей и познакомитесь с эффективной донастройкой параметров в подходе PEFT.

Сравните языковое моделирование и задачи seq2seq, разберёте механизм внимания и архитектуру трансформера.

Изучите причины ограничений длины контекста и способы уменьшить сложность применения модели или увеличить доступный контекст.