Урок 0: почему безопасность и стоимость ИИ — не проблема «на потом»
На предыдущем этапе вы научились создавать API-маршруты и подключать ИИ. Но прежде чем возвращаться к коду, стоит остановиться: два типа сбоев характерны именно для функций с ИИ и куда острее обычных багов. API-ключ, утёкший на клиентскую сторону, виден каждому, кто открывает DevTools, — это позволя
Это как оставить кран открытым на всю ночь: ущерб не виден сразу, но к утру дом затоплен; неконтролируемый вызов ИИ может «затопить» вас и риском для безопасности, и огромным счётом ещё до того, как кто-то это заметит.
- Утёкшие учётные данные
- API-ключ или секрет доступа, случайно раскрытый на клиентской стороне или в публичном репозитории, что позволяет любому использовать его так, будто он владелец.
- Инъекция промпта
- Вредоносный ввод, составленный так, чтобы языковая модель проигнорировала исходные инструкции и сделала что-то другое, например раскрыла данные другого пользователя.
- Неконтролируемый рост затрат
- Ситуация, когда баг или неудачный дизайн вызывают избыточные, повторяющиеся обращения к ИИ, и расходы быстро растут, а никто этого не замечает, пока не придёт счёт.
- Радиус поражения
- Масштаб ущерба, который может нанести один сбой: сколько пользователей, сколько данных или сколько денег оказывается под угрозой, когда что-то идёт не так.
