ИТМО · Машинное обучение и анализ данных
Лабораторная 4 с нуля
Как компьютер читает научные статьи: очистка текста, BoW, TF-IDF и векторы слов. Гайд не требует знания ЛР3. Начни с маршрута на день, потом двигайся по темам.
Как читать
Жёлтые блоки «На пальцах» объясняют идею без математики, красные «Ловушка» предупреждают о подвохах.
Вопросы в конце темы сначала попробуй ответить сам, потом нажми, чтобы открыть ответ.
Кнопка «Понял тему» ставит отметку в этом списке (хранится на этом телефоне).
Ничего не понятно? Начни тутВся лаба на пальцах и маршрут на день
Рассказ на защитеСценарий по ячейкам: что показать и что сказать
С нуля Начни здесь: вся лаба за 10 минутТебе не нужна ЛР3. Здесь мы учим компьютер раскладывать научные статьи по четырём полкам.
Тема Python: читать код без паникиНе нужно учить весь язык за день. Достаточно понимать эти конструкции и уметь показать, что входит в функцию и что выходит.
3 б. Данные и честная проверка10 000 статей, четыре домена, 8000 примеров для обучения и 2000 для экзамена.
Тема Очистка: превращаем слова в одинаковую формуThe mice were running in 2025 → mouse run. Так компьютер не считает каждое окончание новым словом.
3 б. BoW: текст как счётчик словВыбираем словарь и считаем, сколько раз каждое слово встречается в статье.
3 б. TF-IDF: отличительные слова важнее общихЧастое во всех статьях слово мало помогает различать статьи. Редкое слово в конкретной статье полезнее.
Тема Модели, метрики и подборПредставление текста и классификатор это два разных шага. Сравниваем NB и SVC на одних и тех же статьях.
1 б. Ключевые слова: частое или характерное?Топ по всем статьям и топ для одного домена отвечают на разные вопросы.
Тема Факторизация: большую таблицу сжимаем двумя маленькимиДве маленькие матрицы должны при умножении восстановить исходную с малой ошибкой.
Тема Контекст: какие слова стоят рядомВ BoW строка это статья. Здесь строка это слово, столбец это его сосед.
3 б. GloVe: похожесть, смысл и предвзятостьГотовая модель знает 400000 слов. У каждого слова 200 чисел; статью представляем средним её слов.
0.5 б. Последний вопрос: у кого мы учимся?Метки OpenAlex уже предсказаны другой моделью. Наша оценка показывает согласие с ней.
Тема Шпаргалка: что помнить перед защитойКороткие ответы и словарик методов. Используй после того, как подвигал демо и проговорил идеи.
Защита Рассказ на защитеНомера в квадратных скобках это счётчик кода после перезапуска и «Выполнить все». Положи рядом ноутбук и проговори вслух.