Мир грибов / Понятно об ИИ

От мицелия
к нейросетям

«Интернет природы» — отправная точка для знакомства с миром искусственного интеллекта. Разбираемся в связях, обучении и возможностях нейросетей.

16 тем · простые примеры · словарь · первоисточники

Два образа сети: мицелий и нейросеть Слева ветвящиеся нити грибницы, справа узлы вычислительной сети. Схематичная иллюстрация, а не биологическая или техническая модель. МИЦЕЛИЙНЕЙРОСЕТЬ

Множество связей.
Возможности целой сети.

Сеть, сигналы, взаимодействие

Мицелий — образ распределённого интеллекта

В грибнице тысячи ветвящихся нитей образуют связанную систему. В нейросети множество связанных элементов вместе преобразуют информацию. В обоих случаях интересно смотреть на целую сеть: её поведение складывается из взаимодействий отдельных частей.

Гифу можно представить как нить в образном «мозге грибницы»: она растёт, реагирует на среду и участвует в жизни сети. Исследователи регистрируют электрическую активность грибов и изучают возможность вычислений на мицелии. Это делает сравнение с обработкой информации содержательнее, чем просто похожий рисунок.

Живая сеть

Мицелий

Гифы ветвятся и соединяются в мицелий. Грибница реагирует на условия среды, перераспределяет ресурсы, а в экспериментах в ней регистрируют электрические сигналы. Отсюда образ живого «интернета природы».

О микоризе →
Вычислительная сеть

Нейросеть

Связанные вычислительные элементы вместе обрабатывают данные. Во время обучения меняются параметры связей; из работы всей сети возникает способность распознавать закономерности, делать прогнозы и создавать новые ответы.

Как она устроена →
Общее — в организации: множество взаимодействующих частей, распространение сигналов и ответ всей системы на входные условия. «Мозг грибницы» — метафора: у гиф нет нейронов, а электрическая активность сама по себе не доказывает мышление или сознание.

Исследования: эксперименты и модель грибного компьютера; обзор электрической сигнализации у грибов.

Понять ИИ с нуля

Дальше — справочник об искусственном интеллекте. Читайте по порядку или выбирайте нужную тему: в каждом разделе есть короткое объяснение, а в конце — словарь и материалы для продолжения.

Первое знакомство: начните с основ, затем разберите модель и приложение, токены и контекст. Для практики — как задать вопрос и как проверить ответ.

Что такое ИИ и где он встречается

Искусственный интеллект (ИИ) — область, в которой создают системы для задач, связанных с распознаванием, прогнозированием, языком, планированием и другими интеллектуальными действиями.

ИИ — общее название разных подходов. Фильтр нежелательной почты, распознавание речи и генератор изображений решают разные задачи и могут быть устроены по-разному.

  • Машинное обучение — построение моделей, которые находят закономерности в данных.
  • Нейросети — один из классов таких моделей.
  • Глубокое обучение — обучение нейросетей с несколькими слоями преобразований.
  • Генеративный ИИ — системы, создающие текст, изображения, звук и другие данные.

Пример. Одна система определяет, есть ли кот на фотографии. Другая создаёт новую картинку кота по описанию. Распознавание и генерация — разные задачи.

Подробнее: введение в ИИ от IBM.

Модель, приложение и агент: в чём разница

Модель — вычислительная структура с параметрами, настроенными при обучении. Приложение добавляет интерфейс, историю переписки, поиск, файлы и другие функции.

ПонятиеЧто делает
МодельПреобразует входные данные в результат: например, текст запроса в продолжение.
ПриложениеПринимает запросы пользователя, готовит контекст, вызывает модель и показывает результат.
ИнструментВыполняет отдельную операцию: поиск, расчёт, чтение файла.
АгентОрганизует шаги решения задачи с использованием модели и доступных действий.
Система агентовРаспределяет работу между несколькими агентами.

Название приложения и название модели могут различаться. Одно приложение может использовать несколько моделей. Наличие поиска или памяти — свойство всей системы, а не обязательная способность самой нейросети.

Нейросеть, параметры и веса

Нейросеть выполняет последовательность математических преобразований. Параметры — числа, которые управляют этими преобразованиями; к ним относятся веса и смещения.

результат = вход × вес + смещение

Это пример одного простого вычисления, а не формула всей нейросети. В настоящей сети много связанных операций и нелинейных преобразований, организованных в слои.

При обучении параметры меняются. После обучения их значения влияют на то, какие результаты модель выдаёт для разных входных данных. Отдельный вес обычно нельзя прочитать как самостоятельное правило или факт.

Запомнить: параметры хранят результат обучения в числовой форме. Большее число параметров само по себе не гарантирует лучший результат на каждой задаче.

Подробнее: учебный раздел Google о нейросетях.

Как модель обучается

Обучение — подбор параметров на примерах. Программа сравнивает предсказание модели с обучающей целью, вычисляет ошибку и корректирует параметры. Этот цикл повторяется много раз.

  • Обучение с учителем: примеры содержат нужный ответ. Например, фотографию и подпись «кошка».
  • Самообучение на структуре данных: цель получают из самих данных. Например, учат предсказывать скрытый или следующий фрагмент текста.
  • Обучение с подкреплением: поведение корректируют по сигналу вознаграждения.

Эти подходы могут применяться на разных этапах. Для проверки качества нужны отдельные примеры, которые не использовали для настройки. Иначе модель может запомнить учебные данные и плохо работать на новых — это называют переобучением.

Пример. Высокий результат на знакомых задачах ещё не показывает, что система справится с похожими задачами из другого источника.

Подробнее: введение Google в машинное обучение.

Инференс и дообучение

Инференс — использование уже обученной модели. Когда она составляет обычный ответ, её параметры, как правило, остаются фиксированными. Меняются входные данные и промежуточные результаты вычислений.

Дообучение (fine-tuning) — дополнительное обучение, при котором параметры меняют на новых примерах. Его используют, например, для настройки стиля ответа или поведения в определённом классе задач.

Просьба «теперь отвечай короче» в чате обычно добавляет инструкцию в контекст. Она сама по себе не означает дообучение нейросети. Сохранение предпочтений приложением тоже отличается от изменения параметров модели.

Различие: контекст помогает ответить сейчас; дообучение меняет саму модель.

Подробнее: Google о дообучении и настройке запросов.

Языковая модель и токены

Большая языковая модель (LLM) обучается на больших объёмах данных и работает с языковыми последовательностями. При генерации текста она вычисляет вероятности следующего токена с учётом доступного контекста.

Токен — элемент словаря модели: это может быть часть слова, слово, знак или другой фрагмент. Разбиение зависит от конкретного токенизатора. Универсального соотношения «одно слово = один токен» нет.

Текст запроса → токены → вычисления модели
                         ↓
              выбор следующего токена
                         ↓
              добавление его к контексту
                         ↓
              повторение до конца ответа

Предсказание продолжения — механизм генерации, но результат может включать перевод, программный код или решение задачи. Умение убедительно продолжать текст не гарантирует фактическую точность.

Подробнее: введение Google в языковые модели.

Контекст, история чата и память

Контекст — данные, доступные модели при текущем вызове: инструкции, сообщение пользователя, часть переписки, содержимое файлов и результаты инструментов.

Контекстное окно ограничивает объём таких данных. Его обычно измеряют в токенах; конкретные правила учёта входа и ответа зависят от модели и сервиса. При длинной переписке приложение может сокращать или пересказывать ранние сообщения.

Память приложения — отдельно сохранённые сведения, которые приложение может подставить в следующие запросы. История чата, такая память и параметры модели — три разных механизма.

Пример. Если важное условие было только в начале очень длинного чата, полезно повторить его рядом с текущей задачей. Видимая история не обязательно целиком передаётся модели.

Термины: словарь машинного обучения Google.

Трансформер и механизм внимания

Трансформер — архитектура нейросети, широко используемая в языковых моделях. Один из её ключевых механизмов — внимание (attention): при обработке последовательности модель вычисляет, какие её элементы полезны для представления других элементов.

Пример. Во фразе «Маша взяла книгу, потому что она готовилась к экзамену» связи между словами помогают интерпретировать «она». Механизм внимания участвует в обработке подобных зависимостей.

«Внимание» здесь — математический термин. Он не означает человеческую сосредоточенность или сознание. Работа трансформера включает и другие преобразования, поэтому объяснение через одно внимание остаётся упрощением.

Подробнее: Google о трансформерах.

Как написать понятный запрос

Промпт — входной запрос или инструкция для модели. Для начала достаточно указать задачу, исходные данные, ограничения и желаемую форму ответа.

Задача: объясни, что такое нейросеть.
Аудитория: человек без технической подготовки.
Формат: 3 коротких абзаца и один бытовой пример.
Условия: объясни новые термины; если упрощаешь,
скажи, где заканчивается аналогия.
  1. Сформулируйте результат. «Сравни два текста по ясности» точнее, чем «посмотри».
  2. Дайте материал. Вставьте текст или приложите доступный системе файл.
  3. Уточните критерии. Объём, аудиторию, формат, ограничения.
  4. Проверьте ответ. Укажите конкретный пробел и попросите исправить его.

Хороший запрос снижает неоднозначность, но не гарантирует правильность. Просьба «не ошибайся» не заменяет проверку источников и расчётов.

Подробнее: Google о prompt engineering.

Почему ИИ ошибается и как проверять ответы

Галлюцинацией часто называют правдоподобный, но ложный или неподтверждённый ответ генеративной модели. Она может придумать ссылку, перепутать дату или сделать неверный вывод. Уверенный тон не измеряет достоверность.

  • Для фактов: откройте первоисточник и проверьте, подтверждает ли он утверждение.
  • Для чисел: пересчитайте результат и проверьте единицы измерения.
  • Для кода: запустите его в подходящей среде и проверьте реальные примеры.
  • Для обзора: отделяйте установленные сведения, предположения и мнения.

Ответы могут также воспроизводить перекосы данных и пропускать важные условия. Даже настоящий источник не делает любой вывод из него правильным.

Полезное уточнение: «Какие утверждения здесь требуют внешней проверки? Дай первоисточники и укажи, что именно они подтверждают». Полученные ссылки всё равно нужно открыть.

О риске недостоверных ответов: профиль генеративного ИИ NIST, раздел Confabulation (PDF).

Поиск, документы, эмбеддинги и RAG

Языковая модель сама по себе не обязана искать в интернете. Приложение может подключить поиск или базу документов и передать найденные фрагменты в контекст.

RAG (Retrieval-Augmented Generation) — подход, при котором перед генерацией ответа извлекают подходящую информацию из внешнего хранилища.

Вопрос → поиск фрагментов в документах
       → вопрос + найденные фрагменты → модель
       → ответ с опорой на найденный материал

Эмбеддинг — числовое представление данных. Его можно использовать для поиска по близости смысла: например, подобрать к вопросу «как вернуть покупку» документ с названием «условия возврата». Эмбеддинги — один из способов поиска, а не обязательная часть любой RAG-системы.

RAG не требует менять параметры модели при каждом добавлении документа. Но поиск может выбрать неподходящий фрагмент, документ может устареть, а ответ — неверно его истолковать. Ссылки на фрагменты помогают проверить результат.

Подробнее: Google Cloud о RAG.

Как ИИ пользуется инструментами

Обычная генерация текста и выполнение действия — разные процессы. Чтобы найти свежие сведения, посчитать результат или прочитать файл, приложение может подключить инструменты.

Пример. На вопрос о погоде модель может составить правдоподобный текст. Чтобы ответ опирался на актуальный прогноз, системе нужно получить данные погодного сервиса и передать их модели.

Модель может предложить вызов инструмента, а программа проверяет и выполняет его. Затем результат возвращается в контекст и используется для следующего ответа.

Агентом в системах на базе языковых моделей обычно называют программу, которая организует несколько таких шагов для достижения цели. Иногда работу делят между несколькими агентами. Это способ организации приложения, а не обязательное устройство ИИ.

Проверяйте действие по результату: фраза «я сохранил файл» сама по себе не доказывает, что файл появился. Должно быть подтверждение от инструмента или доступный результат.

Подробнее: IBM об агентах и инструментах.

Возможности ИИ и границы выводов

ИИ полезен для распознавания закономерностей, обработки больших объёмов материала, создания черновиков и поиска вариантов. Но возможности зависят от модели, данных и устройства приложения.

  • Связный текст показывает способность сформировать ответ, но не подтверждает каждое утверждение в нём.
  • Правильный ответ на одном примере ещё не доказывает надёжность на всех похожих задачах.
  • Описание собственного поведения не заменяет сведения о том, как система устроена и какие инструменты действительно вызвала.
  • Высокий результат в тесте нужно соотносить с условиями вашей задачи: языком, материалами и допустимыми ошибками.

Пример. Модель хорошо сокращает обычные письма. Из этого не следует, что она так же точно перескажет сложный научный текст: в нём другие термины и важные оговорки.

Практический вопрос — «Насколько хорошо эта система выполняет эту задачу и как это проверить?». Он помогает оценивать ИИ по наблюдаемому результату.

Текст, изображения, голос и мультимодальность

Модальность — тип данных: текст, изображение, звук, видео. Мультимодальная система работает с несколькими такими типами.

Возможности на входе и выходе различаются: система может принимать фотографии и отвечать текстом, но не уметь создавать картинки. В приложении для голоса распознавание речи, подготовка ответа и синтез звука могут выполнять отдельные компоненты.

Пример. Чтобы разобрать фотографию таблицы, нужно сначала верно распознать содержимое, затем интерпретировать его. Ошибка чтения одной цифры повлияет на весь расчёт.

Проверяйте, какие типы файлов и операции поддерживает конкретная система. Умение описать изображение не гарантирует точного чтения мелкого текста и всех деталей.

Термины: словарь Google.

Как начать пользоваться ИИ осмысленно

  1. Выберите небольшую задачу. Например, упростить абзац, придумать вопросы к тексту или составить черновик плана.
  2. Задайте критерий успеха. «Все ключевые факты сохранены, новые не добавлены, термины объяснены».
  3. Дайте исходный материал и формат. Так результат проще сравнить с ожиданиями.
  4. Проверьте на примере. Найдите пропуски, неточности и лишние предположения.
  5. Уточните запрос. Исправляйте конкретную проблему, а не только просите «сделать лучше».

Перед передачей данных проверьте правила хранения и использования информации в выбранном сервисе. Уберите пароли, ключи доступа и ненужные персональные сведения.

Перед действием через инструменты определите допустимые операции. Генерация черновика и отправка его получателю — разные шаги; удаление файла и изменение доступа тоже требуют отдельного контроля.

Для обучения полезно сначала попытаться решить задачу самостоятельно, затем попросить подсказку или разбор ошибки и проверить, сможете ли вы повторить решение без помощи.

Краткий словарь и частые вопросы

Датасет
Набор данных для обучения, проверки или оценки.
Параметры
Числа, настроенные в процессе обучения модели.
LLM
Large Language Model — большая языковая модель.
Токен
Элемент последовательности, с которой работает модель.
Промпт
Запрос или инструкция, поданная модели.
Контекст
Данные, доступные модели в текущем вызове.
Инференс
Вычисление результата обученной моделью.
Fine-tuning
Дополнительное обучение с изменением параметров.
Эмбеддинг
Числовое представление данных для вычислений и сравнения.
RAG
Генерация с использованием предварительно найденной внешней информации.
API
Интерфейс, через который одна программа обращается к другой.
MoE
Mixture of Experts — архитектура модели с внутренними блоками-экспертами. В разреженных MoE для токена выбирают часть блоков; это отличается от нескольких программ-агентов.
Бенчмарк
Набор задач и правил для сравнительной оценки систем.
Квантизация
Представление чисел с меньшей точностью для снижения затрат на хранение или вычисления; влияние на качество зависит от метода и модели.
Температура
Настройка распределения вероятностей при выборе продолжения. Более высокая температура обычно увеличивает разнообразие; низкая не гарантирует истинность.

ИИ всегда подключён к интернету?

Нет. Это зависит от приложения и доступных ему инструментов. Уточняйте, был ли поиск действительно выполнен.

Каждое сообщение обучает модель?

Обычная генерация ответа обычно не меняет параметры. Возможное последующее использование переписки для обучения определяется правилами сервиса.

Большая модель всегда лучше?

Нет. Важны задача, данные обучения, инструменты и критерии оценки. Сравнивайте результаты на собственных примерах.

Локальный запуск отличается от облачного?

При локальном запуске вычисления выполняются на вашем оборудовании, при облачном — у поставщика. Это влияет на требования к памяти, скорость и передачу данных; подключённые внешние инструменты нужно учитывать отдельно.

Определения: словарь Google.

Куда двигаться дальше

После знакомства с терминами попробуйте вводный курс Google по машинному обучению. Для более подробного изучения — Machine Learning Crash Course. Материалы доступны на английском; у части страниц есть русская версия.

Обновлено . Справочник объясняет общие принципы; функции и настройки конкретных сервисов могут различаться.