Чек-лист безопасности ИИ-агента для кода: 10 правил перед тем, как разрешить ему запускать команды

Чек-лист

1. Работайте в git-репозитории и делайте коммит перед большой задачей, чтобы любое изменение можно было отменить.
2. Читайте команду, прежде чем разрешить её, особенно если в ней есть rm, sudo, curl | sh или путь за пределами проекта.
3. Оставьте запросы разрешений включёнными, а не пропускайте их. Почитайте, чем опасен пропуск подтверждений.
4. Сделайте ответы быстрыми, чтобы не возникало соблазна отключить запросы. Помогает всплывающее окно, в котором можно ответить одной клавишей.
5. Выделите каждой задаче отдельную папку, чтобы один агент не мог затронуть чужой проект.
6. Не отправляйте секреты в чат. Не вставляйте в запрос ключи, токены и пароли.
7. Просмотрите diff изменений, прежде чем сливать или выкатывать их.
8. Заранее разрешайте только то, что действительно безопасно, а всё остальное оставьте с подтверждением.
9. Не оставляйте запросы без ответа надолго. Запрос, который вы не прочитали, нужно отклонить.
10. Знайте, как это отключить. Выясните, как останавливать или прерывать каждого агента и как отключить любой инструмент, подключённый к нему.

Где Herdbell уместен

Herdbell сам по себе не делает агента безопасным. Он помогает в той части, где нужен человек: вы видите каждый запрос в момент его появления, рискованные команды спрашивают дважды, а запрос без ответа возвращается к собственному запросу агента, а не одобряется. Решение остаётся за вами.

Частые вопросы