Малые языковые модели
Заметка к документу Small Language Model for AI Agents HandBook
Agent
LOTL атаки с использованием локальных LLM
Как будущие устройства со встроенными LLM станут проблемой безопасности, так как злоумышленники смогут “жить за счёт LLM” (Living Off the LLM, LOLLM)
Architecting secure enterprise AI agents with MCP
Руководство по проектированию безопасных корпоративных ИИ-агентов с использованием MCP от IBM c верификацией от Anthropic
Shell or Nothing
Статья о фреймворке на базе LLM и его результатах получения доступа к shell
Многоагентный pipeline для защиты LLM от prompt injection
Разбор архитектуры многоагентной защиты, которая позволяет снизить успешность атак типа prompt injection за счет разделения ролей между агентами.