Представьте, вы компания специализирующая на кибер-безопасности. Вам доверяют самое ценное и чувствительное.
Как и в любой компании, у вас есть энтузиасты и эксперименты с AI. Эти эксперименты мизерно, но увеличивают и так копеечную маржу.
Что делать CISO с рисками:
- использования отравленных моделей (они ведут себя как обычно, но по триггеру - запускают вредные вещи),
- отправки чувствительных данных в чужое облако,
- ослабления контроля за исполняемым кодом,
- проблемы prompt injection, которая навсегда с нами несмотря на специализированные гейты.
А?