← Агент ИИ ЛИСТ 18БезопасностьРЕВ. 1

Глава 18 · Безопасность

Что агент может сломать и как это предотвратить

Не запугивание, а список конкретных способов потерять данные — и настройки, после которых цена ошибки становится нулевой.

Откуда берётся риск

Агент не злонамерен. Он просто выполняет то, что счёл разумным для вашей задачи, на основе неполного понимания. Три свойства делают это опасным:

Он действует, а не советует. Ошибка сразу становится событием.
Он работает в цикле. Одна неверная мысль повторяется много раз подряд.
Он работает с вашими правами. Что можете удалить вы — может удалить он.

Самый частый реальный сценарий

Не «ИИ решил навредить», а вот это: вы попросили «убери лишнее из папки», агент понял «лишнее» шире, чем вы, и удалил то, что вам было нужно. Никакого злого умысла — просто разное понимание одного слова. Отсюда вся эта глава.

Что конкретно может произойти

Что	Как получается	Обратимо?
Удаление нужных файлов	Слишком широкая формулировка задачи	Только из резервной копии
Перезапись файла	Агент «исправил» файл, стерев содержимое	Из копии или git
Порча всей папки	Скрипт с ошибкой в цикле	Из копии
Утечка секретов	Ключи и пароли попали в контекст, а оттуда — в лог или наружу	Нет. Ключи придётся менять
Коммит с паролем	Агент закоммитил файл с ключами	Трудно: из истории git убирается тяжело
Изменение системных настроек	Агент «починил» переменные окружения или конфиг оболочки	Да, если знаете, что менялось
Установка пакетов	Агент решил, что не хватает библиотеки	Да, но окружение засоряется
Диск забился	Скачал или сгенерировал слишком много	Да
Бесконечный цикл	Агент не понял, что задача выполнена	Да — прервать Ctrl+C
Отправка данных наружу	Есть доступ в сеть — см. главу 20	Нет

Команды, на которых нужно останавливаться

Увидели такое в предложении агента — читайте очень внимательно или отказывайте.

macOS и Linux

rm -rf — удаление без вопросов
sudo — права администратора
chmod, chown — смена прав
> в существующий файл — перезапись
mv поверх существующего
dd — запись на диск напрямую
curl ... | sh — выполнить скачанное
всё, что трогает ~/.ssh, ~/.aws, .env

Windows 11

Remove-Item -Recurse -Force
del /f /s /q
format, diskpart
Set-ExecutionPolicy без ограничений
правка реестра: reg add, Set-ItemProperty HKLM
запуск от администратора
iwr ... | iex — выполнить скачанное
всё, что трогает .env, ключи, профили

Красный флаг: путь начинается слишком высоко

Удаление внутри ~/Documents/проект/tmp — обычное дело. Удаление в ~/, /, C:\ или с подстановкой * на верхнем уровне — повод остановиться и переспросить, что именно попадёт под удаление.

Семь настроек, которые делают ошибку дешёвой

1. Резервная копия — до первого запуска

macOS

Time Machine на внешний диск, проверить, что копия свежая
Плюс копия важных папок в облако

Windows 11

«История файлов» на внешний диск
Плюс OneDrive или другое облако для важного

Копия, которую вы не проверяли, не существует

Откройте её и убедитесь, что файлы действительно восстанавливаются. Люди годами «делают бэкапы» и обнаруживают в нужный момент, что диск отвалился полгода назад.

2. Отдельная рабочая папка

Не пускайте агента в домашний каталог. Создайте папку под задачу, положите туда копии нужных файлов и работайте там.

Терминал

mkdir -p ~/ai-work
cd ~/ai-work
cp ~/Documents/нужные-файлы/* .

PowerShell

mkdir $HOME\ai-work
cd $HOME\ai-work
Copy-Item $HOME\Documents\нужные-файлы\* .

3. git даже для не-кода

в рабочей папке

git init
git add .
git commit -m "до агента"

# после работы — посмотреть, что изменилось
git status
git diff

# всё откатить
git reset --hard

Работает с любыми файлами

Тексты, таблицы, конфиги — git не только для программ. Одна команда git reset --hard возвращает папку в исходное состояние независимо от того, что там натворил агент. Это самая дешёвая страховка в книге.

4. Никогда не от администратора

Не запускайте агента через sudo и не открывайте PowerShell «от имени администратора». Если задача действительно требует таких прав — выполните эту команду сами, руками, отдельно, прочитав её.

5. Подтверждение каждого шага

Автоматические режимы (-y, автоподтверждение команд) выключены, пока вы не работаете в песочнице из главы 19. Утомительно — да. Это и есть цена контроля.

6. Привычка «сначала покажи»

формулировка, которая спасает

# Вместо:
Удали все старые логи

# Пишите:
Покажи список файлов *.log старше 30 дней с размерами.
Ничего не удаляй. Я посмотрю и скажу, что делать дальше.

7. Секреты вне досягаемости

Не держите файлы с паролями и ключами в рабочей папке агента.
Добавьте .env, *.key, *.pem в .gitignore.
Не вставляйте пароли в диалог — они попадут в историю и логи.
Если ключ всё же засветился — меняйте его. Не «наверное, обошлось».

Как остановить агента

Ситуация	Действие
Пошёл не туда	Ctrl+C в терминале, кнопка остановки в расширении
Не реагирует	Закрыть окно терминала целиком
Что-то грузит или удаляет	Ctrl+C, затем отключить Wi-Fi, если дело в сети
Совсем плохо	Выйти из Ollama, закрыть агента, оценить ущерб по `git status`

Обязательный чек-лист

Резервная копия есть и проверена восстановлением файла
Создана отдельная рабочая папка, оригиналы лежат вне её
В рабочей папке git init и коммит «до агента»
Агент запускается без прав администратора
Автоматические режимы выключены
Файлов с ключами и паролями в рабочей папке нет
Я знаю, как прервать агента
Я читаю команды перед подтверждением и знаю опасные

Что дальше

Если этого мало — как поместить агента в изолированную среду, где он физически не сможет добраться до ваших данных.

Глава18 — Что агент может сломать и как это предотвратить

БлокБезопасность

Далее19 — Песочница: Docker, виртуалка, отдельный пользователь

Ревизия1

↑ Оглавление Предыдущая глава← 17 · Сравнение: какой агент для какой работы Следующая глава19 · Песочница: Docker, виртуалка, отдельный пользователь →

Бесплатная книга · tariel.ge · команды и версии проверяйте в официальной документации проектов

Книга бесплатна для чтения. Автор — Тариел Бежанидзе, компьютерный мастер в Батуми · tariel.ge · все бесплатные книги. Копировать текст целиком на другие сайты — только со ссылкой на источник.