Вы всю жизнь пишете правила: если напряжение просело — проверь конденсаторы. Машинное обучение идёт с другого конца, и вся разница между ИИ и обычной программой начинается здесь.
Возьмём задачу, которую вы решали руками сотни раз: по светодиодной лампе определить, что в ней сгорело.
Правила пишет человек. Машина их выполняет.
Правила выводит машина. Человек даёт примеры.
Обычное программирование: данные + правила → ответ.
Машинное обучение: данные + ответы → правила.
Полученные правила потом применяются к новым данным. Всё остальное в этой книге —
подробности того, как именно машина их выводит.
Не надо думать, что обучение всегда лучше. Для огромного класса задач правила остаются правильным выбором, и вы это уже знаете из практики.
| Задача | Чем решать | Почему |
|---|---|---|
| Посчитать резистор по закону Ома | Правило | Есть точная формула. Обучать нечему |
| Проверить, что напряжение в допуске | Правило | Условие известно и однозначно |
| Отличить рабочий конденсатор от вздутого по фото | Обучение | Правило «вздутый» не формализуется |
| Расставить файлы по расширению | Правило | Однозначная классификация |
| Понять, о чём текст | Обучение | Правил нет и не будет |
| Перевести с грузинского | Обучение | Язык не описывается конечным набором правил |
Спросите себя: могу ли я записать правило словами? Если да — пишите программу, она будет быстрее, точнее и дешевле. Обучение нужно там, где вы узнаёте ответ, увидев его, но не можете объяснить, по каким признакам.
| Вид | Что даём | Что получаем | Пример из вашей практики |
|---|---|---|---|
| С учителем | Примеры с правильными ответами | Умение предсказывать ответ | 5000 фото ламп с диагнозом → диагноз по новому фото |
| Без учителя | Только данные, без ответов | Структуру, группы, похожесть | Тысяча ваших статей → сами собой разделились по темам |
| С подкреплением | Возможность пробовать и оценку результата | Стратегию поведения | Робот учится держать паяльник: получилось — плюс, сжёг плату — минус |
Языковые модели, о которых вся книга дальше, — это в основе обучение с учителем в неожиданной форме: правильным ответом служит следующее слово в реальном тексте. Разметку никто не делает руками, она уже есть в самом тексте. Отсюда и берётся возможность учиться на всём интернете. Подробно — глава 10.
Здесь прячется самое важное недопонимание. Модель не «поняла» задачу. Она нашла функцию, которая на обучающих примерах даёт правильные ответы. Это совсем не одно и то же.
Сеть научилась не тогда, когда правильно отвечает на примерах, которые видела. Это она могла просто запомнить. Научилась — когда правильно отвечает на данных, которых не видела никогда. Это свойство называется обобщением, и вся глава 05 посвящена тому, как его не потерять.
История, которую рассказывают на каждом курсе, потому что она идеально показывает проблему. Сеть учили отличать волков от собак. Точность на тестах — отличная. Потом посмотрели, на что сеть на самом деле смотрит.
Оказалось — на снег. В обучающей выборке волки почти всегда были сфотографированы на снегу, собаки — на траве. Сеть выучила детектор снега, а не детектор волка. На всех примерах работало безупречно.
Тот же механизм объясняет, почему языковая модель уверенно пишет несуществующий ключ команды или выдуманный номер детали. Она не проверяет факт — она выдаёт то, что статистически похоже на правильный ответ. Механизм тот же самый, что со снегом, и глава 11 разбирает его подробно.
Слово «модель» звучит абстрактно, хотя вещь предельно конкретная. Модель — это файл с числами. Те самые 5, 14 или 70 миллиардов параметров — это миллиарды чисел, записанных подряд.
Архитектура — это схема платы. Веса — номиналы всех компонентов. Обучение — подбор номиналов, пока схема не заработает как надо. Когда лампа собрана, вы не пересчитываете номиналы при каждом включении: вы просто подаёте питание. С моделью так же — обучение один раз, использование сколько угодно.
Разберём самый маленький кирпич, из которого собрано всё остальное. Он проще, чем операционный усилитель.
Бесплатная книга · tariel.ge · версии инструментов и команды проверяйте в документации проектов
Книга бесплатна для чтения. Автор — Тариел Бежанидзе, компьютерный мастер в Батуми · tariel.ge · все бесплатные книги. Копировать текст целиком на другие сайты — только со ссылкой на источник.