Как работают нейросети и ChatGPT: простое объяснение для новичков

Объясняем, как работают нейросети вроде ChatGPT, без формул и терминов. Коротко: такая нейросеть прочитала огромное количество текстов и научилась предсказывать, какое слово должно идти следующим. Из этого простого умения вырастают письма, переводы, конспекты и ответы на вопросы. И из него же растут её ошибки, поэтому полезно понимать механику хотя бы в общих чертах.

Что такое нейросеть простыми словами

Нейросеть это программа, которая учится на примерах, а не по заранее написанным правилам. Обычной программе говорят: «если А, сделай Б». Нейросети показывают миллионы примеров, и она сама находит в них закономерности.

Нейросети бывают разными. Одни распознают лица на фото, другие рисуют картинки, третьи переводят речь в текст. В этом уроке речь о языковых моделях, их ещё называют LLM (large language model, большая языковая модель). На них работают ChatGPT, DeepSeek, GigaChat, Claude, Gemini и Алиса. Обзор других видов нейросетей есть в нашем гиде «Какие бывают нейросети».

Как работают нейросети вроде ChatGPT: предсказание следующего слова

Главная идея удивительно простая. Языковая модель смотрит на текст и оценивает, какое слово вероятнее всего будет дальше:

Модель выбирает слово, дописывает его к тексту и снова оценивает, что будет дальше. Слово за словом получается целый ответ. Когда вы просите написать письмо, нейросеть не «думает» о письме, как человек. Она продолжает ваш запрос так, как его вероятнее всего продолжил бы текст из её обучающих данных.

Звучит примитивно, но чтобы хорошо угадывать следующее слово в любом тексте, модели пришлось усвоить грамматику, факты, стили и даже логику рассуждений. Поэтому она умеет объяснять, переводить и спорить.

Как нейросеть учится

Обучение проходит в три этапа:

1. Чтение. Модели показывают огромный объём текстов: книги, сайты, статьи, код. Она учится предсказывать следующее слово, и на этом этапе в неё «впитываются» знания о мире.
2. Дообучение на диалогах. Затем её учат на примерах вопросов и хороших ответов, чтобы она вела себя как помощник, а не просто продолжала текст.
3. Оценки людей. Люди сравнивают ответы модели и отмечают лучшие. Так она учится быть полезной, вежливой и не помогать с опасными вещами.

Важное следствие: знания модели ограничены датой, когда закончилось обучение. О событиях после этой даты она не знает, если не умеет искать в интернете.

Почему нейросеть ошибается и уверенно врёт

Модель выбирает правдоподобное продолжение, а не проверенный факт. Обычно правдоподобное и правильное совпадают. Но если точного ответа модель не знает, она может сочинить похожий на правду: несуществующую книгу, неверную дату, выдуманную цитату. Такие ошибки называют галлюцинациями.

Многие чат-боты теперь умеют искать в интернете, и это заметно помогает. Мы спросили GigaChat о рассказе Чехова, которого не существует:

Нейросеть изучила 10 страниц и честно ответила, что такого рассказа нет. Но обратите внимание на вторую часть ответа: связь с «Попрыгуньей» модель придумала сама, чтобы быть полезной. Даже с поиском ответ нужно читать критически.

Три правила, которые защищают от ошибок:

• Цифры, даты, имена, законы и медицинские советы проверяйте по первоисточнику.
• Просите указать источники и открывайте ссылки: иногда модель ссылается на страницу, где нужной информации нет.
• Добавляйте в запрос: «если не знаешь точно, так и скажи».

Почему длинный чат «забывает» начало

У каждой модели есть контекстное окно: объём текста, который она видит одновременно. В него входят все ваши сообщения, её ответы и загруженные файлы. Объём считают в токенах. Токен это кусочек слова: короткое слово может быть одним токеном, длинное разбивается на несколько.

Когда разговор становится слишком длинным, самые старые сообщения перестают помещаться в окно, и модель о них «забывает». Отсюда практический совет: для новой задачи начинайте новый чат, а в долгой работе время от времени просите нейросеть сделать краткое резюме разговора и продолжайте с ним.

Что нейросети умеют хорошо, а что плохо

Хорошо:

• писать и редактировать тексты, письма, посты;
• пересказывать и сокращать длинные документы;
• объяснять сложные темы простыми словами;
• переводить и менять стиль текста;
• придумывать идеи и варианты;
• писать простой код и формулы для таблиц.

Плохо или с оговорками:

• точные расчёты без встроенного калькулятора или кода;
• свежие новости без поиска в интернете;
• редкие факты, о которых мало написано;
• решения, где цена ошибки высока: медицина, право, деньги. Здесь нейросеть может помочь разобраться, но решение и проверка остаются за вами.

Частые заблуждения

Вокруг того, как работают нейросети, много мифов. Вот четыре самых распространённых.

• «Нейросеть ищет ответ в базе данных». Нет. Без режима поиска она отвечает по памяти, и память эта неточная.
• «Нейросеть понимает, как человек». Она отлично работает с текстом, но у неё нет собственного опыта и намерений.
• «Если ответ уверенный, значит верный». Тон ответа ничего не говорит о его точности.
• «Платная версия не ошибается». Платные модели ошибаются реже, но проверка всё равно нужна.

Практическое задание на 10 минут

Вопросы о том, как работают нейросети

Нейросеть думает?

Не так, как человек. Она вычисляет наиболее подходящее продолжение текста. Современные модели умеют рассуждать по шагам, и это похоже на мышление, но сознания и собственных целей у них нет.

Нейросеть запоминает мои разговоры?

Внутри одного чата да, в пределах контекстного окна. Некоторые сервисы умеют хранить память между чатами, и её можно отключить в настройках. Переписка может использоваться для обучения моделей, поэтому личные данные в чат лучше не отправлять. Подробнее об этом в уроке 8.

Почему на один вопрос нейросеть отвечает по-разному?

Модель выбирает слова с долей случайности, чтобы ответы не были шаблонными. Поэтому один и тот же запрос даёт разные формулировки. Если ответ не понравился, его можно просто сгенерировать заново.

Откуда нейросеть знает свежие новости?

Из поиска в интернете, если он есть в сервисе и включён. Без поиска модель знает только то, что было в её обучающих данных.