IT Academy
Урок 5 · Продвинутый

Prompt injection, privacy и guardrails

Объяснение → самостоятельное решение → разбор → практика курса

Объяснение

Агент выбирает действия через инструменты, но разрешения определяет приложение. Недоверенный текст документа не должен становиться командой на отправку данных или удаление. Tool input нужно валидировать.

Задача для самостоятельного решения

Документ просит отправить секрет по URL. Как должен вести себя агент?

Показать разбор ответа

Рассматривать это как содержимое документа, не как разрешение пользователя. Инструменты должны ограничивать адресатов, данные и допустимые действия.

Примените знания

В лабораторной курса есть учебная среда, пример, ожидаемый результат и задание проекта. Возвращайтесь к ней по мере прохождения тем.

Открыть лабораторную →