wehub/microsoft--mcp-for-beginners
1
0
Fork 0
Code Issues Pull Requests Actions Deployments Models Agent Notes Packages Projects Releases Wiki Activity
Files
main
microsoft--mcp-for-beginners/translations/sr/02-Security/README.md
T
wehub-resource-sync c275ba2868 chore: import upstream snapshot with attribution
2026-07-13 13:31:35 +08:00

62 KiB
Raw Permalink Blame History

MCP Безбедност: Комплексна заштита за AI системе

MCP Security Best Practices

(Кликните на слику изнад да бисте гледали видео о овој лекцији)

Безбедност је основа дизајна AI система, због чега јој придајемо велики значај као другој секцији. Ово је усклађено са Microsoft-овим принципом Secure by Design из Secure Future Initiative.

Протокол контекста модела (MCP) доноси моћне нове могућности AI-вођеним апликацијама, при том уводећи јединствене безбедносне изазове који превазилазе традиционалне ризике у софтверу. MCP системи се суочавају како са опште прихваћеним безбедносним опасностима (сигурно програмирање, најмање привилегије, безбедност ланца снабдевања), тако и са новим AI-специфичним претњама као што су убацивање промпта, отровање алата, хектовање сесија, напади конфузног посредника, рањивости преноса токена и динамичке измене могућности.

Овај час истражује најкритичније безбедносне ризике у MCP имплементацијама — покривајући аутентификацију, ауторизацију, претеране дозволе, индиректно убацивање промпта, безбедност сесија, проблеме конфузног посредника, управљање токенима и рањивости ланца снабдевања. Научићете практичне контроле и најбоље праксе за ублажавање ових ризика уз коришћење Microsoft решења као што су Prompt Shields, Azure Content Safety и GitHub Advanced Security за јачање вашег MCP окружења.

Циљеви учења

До краја ове лекције бићете у стању да:

  • Идентификујете MCP-специфичне претње: Препознате јединствене безбедносне ризике у MCP системима као што су убацивање промпта, отровање алата, претеране дозволе, хектовање сесија, проблеми конфузног посредника, рањивости преноса токена и ризици ланца снабдевања
  • Примерите безбедносне контроле: Имплементирате ефикасне мере попут робусне аутентификације, најмањег приступа по привилегијама, безбедног управљања токенима, контрола безбедности сесија и верификације ланца снабдевања
  • Коришћење Microsoft безбедносних решења: Разумете и имплементирате Microsoft Prompt Shields, Azure Content Safety и GitHub Advanced Security за заштиту MCP радних оптерећења
  • Валидирате безбедност алата: Препознате важност провере метаподатака алата, праћења динамичких промена и заштите од индиректних напада убацивања промпта
  • Интегришете најбоље праксе: Комбиновање успостављених безбедносних основа (сигурно програмирање, ојачање сервера, zero trust) са MCP-специфичним контролама ради свеобухватне заштите

MCP Архитектура Безбедности и Контроле

Модерне MCP имплементације захтевају вишеслојне безбедносне приступе који обухватају и традиционалну софтверску безбедност и AI-специфичне претње. Брзо еволуирајућа MCP спецификација постаје све зрелја у својим безбедносним контролама, омогућавајући бољу интеграцију са предузетничким безбедносним архитектурама и успостављеним најбољим праксама.

Истраживања из Microsoft Digital Defense Report показују да би 98% пријављених пропуста било спречено уз робусне безбедносне праксе. Најефикаснија стратегија заштите комбинује основне безбедносне праксе са MCP-специфичним контролама — проверене основне мере безбедности остају најзначајније у умањењу укупног безбедносног ризика.

Тренутни безбедносни пејзаж

Напомена: Ове информације одражавају MCP безбедносне стандарде са датумом од 5. фебруара 2026., у складу са MCP спецификацијом 2025-11-25. MCP протокол се и даље брзо развија, а будуће имплементације могу увести нове обрасце аутентификације и унапређене контроле. Увек се консултујте са актуелном MCP спецификацијом, MCP GitHub репозиторијумом и документацијом безбедносних најбољих пракси за најновије смернице.

🏔️ MCP Security Summit Радионица (Sherpa)

За практичну безбедносну обуку, веома препоручујемо MCP Security Summit радионицу (Sherpa) - свеобухватну вођену експедицију за обезбеђивање MCP сервера у Microsoft Azure.

Преглед радионице

MCP Security Summit Workshop пружа практичну, применљиву безбедносну обуку кроз доказану методу "ranjiv → exploit → поправка → валидација". Ви ћете:

  • Учити кроз разбијање: Искусити рањивости директно користећи намерно небезбедне сервере
  • Користити Azure-нативне безбедносне алате: Искористити Azure Entra ID, Key Vault, API Management и AI Content Safety
  • Прихватити одбрану у дубини: Проћи кроз кампове градећи свеобухватне слојеве безбедности
  • Применити OWASP стандарде: Свакa техника одговара OWASP MCP Azure Security Guide
  • Добити продукцијски код: Отићи са радним, тестиранним имплементацијама

Рута експедиције

Камп Фокус OWASP ризици покривени
Почетни камп MCP основе и рањивости аутентификације MCP01, MCP07
Камп 1: Идентификација OAuth 2.1, Azure Managed Identity, Key Vault MCP01, MCP02, MCP07
Камп 2: Gateway API Management, Private Endpoints, управљање MCP02, MCP06, MCP07, MCP09
Камп 3: Улаз/Излаз безбедност Убацивање промпта, заштита ПИИ, content safety MCP03, MCP05, MCP06, MCP10
Камп 4: Надзор Log Analytics, контролне табле, откривање претњи MCP04, MCP08
Самит Интеграциони тест Црвеног и Плавог тима Сви

Започните овде: https://azure-samples.github.io/sherpa/

OWASP MCP Топ 10 Безбедносних Ризика

OWASP MCP Azure Security Guide детаљно описује десет најкритичнијих безбедносних ризика за MCP имплементације:

Ризик Опис Azure ублажавања
MCP01 Лоше управљање токенима и излагање тајни Azure Key Vault, Managed Identity
MCP02 Ескалација привилегија кроз проширење домена RBAC, Conditional Access
MCP03 Отровање алата Валидација алата, проверa интегритета
MCP04 Напади на софтверски ланац снабдевања и манипулација зависностима GitHub Advanced Security, скенирање зависности
MCP05 Инјекција и извршавање командe Валидација улаза, sandboxing
MCP06 Саботажа тока намера Azure AI Content Safety, Prompt Shields
MCP07 Недовољна аутентификација и ауторизација Azure Entra ID, OAuth 2.1 са PKCE
MCP08 Недостатак ревизије и телеметрије Azure Monitor, Application Insights
MCP09 Сенчани MCP сервери Управљање API Center, мрежна изолација
MCP10 Убацивање и претерано делјење контекста Класификација података, минимално излагање

Еволуција MCP-а у аутентификацији

MCP спецификација значајно је еволуирала у приступу аутентификацији и ауторизацији:

  • Почетни приступ: Ране спецификације су захтевале од програмера да имплементирају прилагођене аутентификационе сервере, где MCP сервери делују као OAuth 2.0 ауторизациони сервери који директно управљају аутентификацијом корисника
  • Тренутни стандард (2025-11-25): Ажурирана спецификација омогућава MCP серверима да делегирају аутентификацију спољним провајдерима идентитета (као Microsoft Entra ID), побољшавајући безбедносни положај и смањујући сложеност имплементације
  • Безбедност транспорта: Побољшана подршка за сигурне транспортне механизме са одговарајућим патернима аутентификације за локалне (STDIO) и удаљене (Streamable HTTP) везе

Безбедност аутентификације и ауторизације

Тренутни безбедносни изазови

Модерне MCP имплементације се суочавају са бројним изазовима у области аутентификације и ауторизације:

Ризици и претње

  • Погрешно конфигурисана логика ауторизације: Неисправна имплементација ауторизације у MCP серверима може изложити осетљиве податке и неправилно применити контроле приступа
  • Кварање OAuth токена: Крађа локалног MCP сервера омогућава нападачима да се лажно представљају као сервер и приступе сервисима низводно
  • Ранљивости у преносу токена: Неправилно руковање токенима ствара могућност заобилажења безбедносних контрола и губитак одговорности
  • Претеране дозволе: MCP сервери са прекомерним привилегијама крше принцип најмањих привилегија и ширу површину напада

Пренос токена: Критичан анти-патерн

Пренос токена је изричито забрањен према тренутној MCP спецификацији ауторизације због озбиљних безбедносних последица:

Заобилажење безбедносних контрола
  • MCP сервери и низводни API-и имплементирају критичне безбедносне контроле (ограничење броја захтева, валидација захтева, праћење саобраћаја) које зависе од исправне валидације токена
  • Директна употреба токена од стране клијената код API-ја заобилази ове суштинске заштите и умањује безбедносну архитектуру
Изазови у одговорности и ревизији
  • MCP сервери не могу разликовати клијенте који користе токене издате одобрењима уз горњи токен, чиме се прекидају трагови ревизије
  • Логови серверa ресурса нису прецизни о пореклу захтева, приказујући погрешно место порекла уместо MCP сервера као посредника
  • Истраживање инцидената и усаглашеност постају значајно тежи
Ризици извоза података
  • Невалидиране тврдње токена омогућавају злобним актерима са украденим токенима да користе MCP сервере као проксије за извлачење података
  • Кршења граница поверења дозвољавају неовлашћене приступе који заобилазе намерене контроле
Вектор напада са више сервиса
  • Промењени токени прихваћени на више сервиса омогућавају латерално кретање кроз повезане системе
  • Претпоставке поверења између сервиса могу бити нарушене када се порекло токена не може верификовати

Безбедносне контроле и ублажавања

Критични захтеви безбедности:

ОБАВЕЗНО: MCP сервери НЕ СМИЈУ прихватати било какве токене који нису изричито издати за тај MCP сервер

Контроле аутентификације и ауторизације

Имплементација контроле приступа

  • Принцип најмањих привилегија: Доделити MCP серверима само минималне дозволе потребне за њихову функционалност

    • Редовне ревизије и ажурирања дозвола ради спречавања ескалације привилегија
    • Microsoft документација: Secure Least-Privileged Access

  • Ролево базирана контрола приступа (RBAC): Имплементирати прецизне доделе улога

    • Ограничити улоге на одређене ресурсе и акције
    • Избећи превише широке или непотребне дозволе које проширују површину напада

  • Континуирано праћење дозвола: Спроводити стални надзор приступа и ревизије

    • Пратити шаблоне коришћења дозвола ради идентификације аномалија
    • Брзо реаговати на претеране или неискоришћене привилегије

AI-специфичне Безбедносне Претње

Напади убацивања промпта и манипулације алатима

Модерне MCP имплементације су мета софистицираних AI-специфичних напада које традиционалне безбедносне мере не могу у потпуности адресирати:

Индиректно убацивање промпта (Cross-Domain Prompt Injection)

Индиректно убацивање промпта представља једну од најкритичнијих рањивости у MCP-омогућеним AI системима. Нападачи убацују злонамерна упутства у спољни садржај — документе, веб странице, е-поруке или изворе података — које AI системи касније тумаче као легитимне команде.

Сценарији напада:

  • Убацивање у документе: Злонамерна упутства сакривена у обрађиваним документима која изазивају нежељене AI радње
  • Искоришћавање веб садржаја: Компромитоване веб странице са уграђеним промптовима које манипулишу понашањем AI када се преузму
  • Напади преко е-поште: Злонамерни промптови у е-порукама који узрокују да AI помоћници процуре информације или изведу неовлашћене акције
  • Заражени извори података: Компромитоване базе података или API-ји који достављају заражени садржај AI системима

Утицај у стварном свету: Ови напади могу довести до извоза података, кршења приватности, генерације штетног садржаја и манипулације корисничким интеракцијама. За детаљнију анализу видети Prompt Injection у MCP (Simon Willison).

Prompt Injection Attack Diagram

Напади отровања алата

Отровање алата циља на метаподатке који дефинишу MCP алате, злоупотребљавајући начин на који LLM модели тумаче описе алата и параметре ради доношења одлука о извршавању.

Механизми напада:

  • Манипулација метаподацима: Нападачи убацују злонамерна упутства у описе алата, дефиниције параметара или примере коришћења
  • Невидљиве инструкције: Сакривени промптови у метаподацима алата које AI модели процесуирају, а људски корисници их не виде
  • Динамичка модификација алата ("Rug Pulls"): Алати одобрени од стране корисника касније се мењају да извршавају злонамерне радње без сазнања корисника
  • Убацивање параметара: Злонамерни садржај уграђен у шеме параметара алата који утиче на понашање модела

Ризици хостованих сервера: Удаљени MCP сервери представљају повећане ризике јер дефиниције алата могу бити ажуриране након почетног одобрења, што ствара сценарије у којима претходно безбедни алати постају злонамерни. За детаљну анализу видети Tool Poisoning Attacks (Invariant Labs).

Tool Injection Attack Diagram

Додатни AI вектори напада

  • Cross-Domain Prompt Injection (XPIA): Софистицирани напади који користе садржај из више домена у циљу заобилажења безбедносних контрола
  • Динамичка измена способности: Измене способности алата у реалном времену које измичу почетним проценама безбедности
  • Загађење прозора контекста: Напади који манипулишу великим прозорима контекста како би сакрили злонамерна упутства
  • Напади збуњивања модела: Искоришћавање ограничења модела за стварање непредвидивих или небезбедних понашања

Утицај ризика за безбедност вештачке интелигенције

Последице великог утицаја:

  • Изношење података: Неовлашћени приступ и крађа осетљивих података предузећа или личних података
  • Прекршаји приватности: Излагање лично идентификативних информација (PII) и поверљивих пословних података
  • Манипулација системом: Нежељене измене критичних система и радних токова
  • Крађа акредитива: Компромитовање аутентификационих токена и сервисних акредитива
  • Латерални помак: Коришћење компромитованих AI система као полуга за шире мрежне нападе

Microsoft решења за безбедност вештачке интелигенције

AI Prompt Shields: Напредна заштита од инјекцијских напада

Microsoft AI Prompt Shields пружају свеобухватну одбрану од директних и индиректних напада инјекцијом упита преко више слојева безбедности:

Основни механизми заштите:

  1. Напредна детекција и филтрирање

    • Алгоритми машинског учења и NLP технике детектују злонамерна упутства у спољном садржају
    • Анализа у реалном времену докумената, веб страница, е-поште и извора података ради препознавања уграђених претњи
    • Контекстуално разумевање легитимних у односу на злонамерне обрасце упита

  2. Технике истицања

    • Разликује између поузданих системских упутстава и потенцијално компромитованог спољног уноса
    • Методи трансформације текста који побољшавају релевантност модела истовремено изолујући злонамерни садржај
    • Помоћ AI системима да одрже правилну хијерархију упутстава и игноришу инјектиране команде

  3. Системи за одвајање и означавање података

    • Експлицитно дефинисање граница између поузданих системских порука и спољног уноса
    • Специјалне ознаке које наглашавају границе између поузданих и непоузданих извора података
    • Јасна сепарација спречава конфузију у упутствима и неовлашћено извршавање команди

  4. Континуирана обавештајна служба о претњама

    • Microsoft континуирано прати нове обрасце напада и ажурира мере одбране
    • Проактивна потрага за новим техникама инјекцијских напада и векторима напада
    • Редовна ажурирања безбедносног модела ради одржавања ефикасности против еволуирајућих претњи

  5. Интеграција Azure Content Safety

    • Део свеобухватног Azure AI Content Safety пакета
    • Додатна детекција покушаја бекдора, штетног садржаја и кршења безбедносних политика
    • Унифицирана безбедносна контрола кроз компоненте AI апликација

Ресурси за имплементацију: Microsoft Prompt Shields Documentation

Microsoft Prompt Shields Protection

Напредне безбедносне претње MCP-а

Ранживости отмице сесије

Отмица сесије представља критичан напад у имплементацијама стања у MCP-у где неовлашћене стране добијају и злоупотребљавају легитимне идентификаторе сесија како би се лажно представљале као клијенти и обављале неовлашћене радње.

Сценарији напада и ризици

  • Отмица сесије са инјекцијом упита: Нападачи са украденим ID сесије убацују злонамерне догађаје у сервере који деле стање сесије, потенцијално изазивајући штетне радње или приступајући осетљивим подацима
  • Директна имперсонација: Украдени ID сесије омогућавају директне позиве MCP сервера који заобилазе аутентификацију третирајући нападаче као легитимне кориснике
  • Компромитовани настављиви токови (Streams): Нападачи могу превремено прекинути захтеве, узрокујући легитимним клијентима да наставе са потенцијално злонамерним садржајем

Контроле безбедности за управљање сесијама

Критични захтеви:

  • Верификација овлашћења: MCP сервери који имплементирају овлашћење МОРAJУ да верификују СВЕ долазне захтеве и НЕ СМЕЈУ да се ослањају на сесије за аутентификацију
  • Безбедна генерација сесије: Коришћење криптографски безбедних, недетерминистичких ID-јева сесија генерисаних помоћу сигурних генератора случајних бројева
  • Повезивање са корисником: Повезивање ID-јева сесије са корисничким информацијама коришћењем формата као што је <user_id>:<session_id> ради спречавања злоупотребе сесије између корисника
  • Управљање животним циклусом сесије: Имплементација правилног истека, ротације и неважења за смањење периода изложености ризику
  • Безбедност транспорта: Обавезни HTTPS за сву комуникацију како би се спречило пресретање ID-јева сесије

Проблем збуњеног повериоца (Confused Deputy)

Проблем збуњеног повериоца јавља се када MCP сервери делују као прокси аутентификација између клијената и сервиса трећих страна, отварајући могућности за заобилажење овлашћења кроз експлоатацију статичних ID-јева клијената.

Механизми напада и ризици

  • Заобилажење пристанка засновано на колачићима: Претходна корисничка аутентификација ствара колачиће пристанка које нападачи злоупотребљавају кроз злонамерне захтеве за овлашћење са конструисаним URI-јима за преусмеравање
  • Крађа кода овлашћења: Постојећи колачићи пристанка могу изазвати да сервери за овлашћење прескоче екране пристанка, преусмеравајући кодове на крајње тачке под контролом нападача
  • Неовлашћени приступ API-ју: Украдени кодови овлашћења омогућавају размену токена и имперсонацију корисника без изричитог одобрења

Стратегије ублажавања

Обавезне контроле:

  • Јасан захтев за пристанком: MCP прокси сервери који користе статичке ID-је клијената МОРАЈУ да добију кориснички пристанак за сваки динамички регистровани клијент
  • Омерођена безбедност OAuth 2.1: Праћење актуелних најбољих пракси за безбедност OAuth укључујући PKCE (Proof Key for Code Exchange) за све захтеве овлашћења
  • Строга валидација клијената: Имплементација ригорозне провере URI-јева за преусмеравање и идентификатора клијената како би се спречила експлоатација

Ранживости прослеђивања токена

Прослеђивање токена представља експлицитни анти-патерн где MCP сервери прихватају токене клијената без одговарајуће верификације и прослеђују их даљим API-јевима, кршећи MCP спецификације овлашћења.

Безбедносне импликације

  • Обилажење контроле: Директна употреба токена клијента према API-јевима заобилази критичне механизме за ограничење брзине, валидацију и праћење
  • Корупција записника: Токени који су издати горе онемогућавају идентификацију клијента, укидајући могућност истраге инцидената
  • Изношење података преко проксија: Неверификовани токени омогућавају злонамерним актерима да користе сервере као прокси за неовлашћени приступ подацима
  • Кршeње поверења у домену: Услуге ниже линије могу кршити претпоставке о поверењу када порекло токена није могуће проверити
  • Проширење напада на више сервиса: Компромитовани токени прихваћени у више система омогућавају латерални помак

Потребне контроле безбедности

Неодложни захтеви:

  • Валидација токена: MCP сервери НЕ СМЕЈУ да прихватају токене који нису експлицитно издати за MCP сервер
  • Верификација публике (audience): Увек валидација захтева да публика токена одговара идентитету MCP сервера
  • Правилно управљање животним циклусом токена: Имплементација краткорочних приступних токена са безбедним праксама ротације

Безбедност ланца снабдевања за AI системе

Безбедност ланца снабдевања је прешла традиционалне задужености за софтвер на целокупни AI екосистем. Савремене MCP имплементације морају строго проверити и пратити све AI компоненте, јер свака уводи потенцијалне рањивости које могу угрозити интегритет система.

Проширене компоненте AI ланца снабдевања

Традиционалне зависности софтвера:

  • Лајблери и оквири отвореног кода
  • Контејнер слике и базни системи
  • Развојни алати и процеси састављања
  • Инфраструктурне компоненте и сервиси

AI специфични елементи ланца снабдевања:

  • Основни модели: Предтренирани модели из различитих извора који захтевају валидацију порекла
  • Сервиси уграђивања: Спољни векторизациони и семантички претраживачки сервиси
  • Добављачи контекста: Извори података, базе знања и библиотеке докумената
  • API-ји трећих страна: Спољне AI услуге, ML пипелини и крајње тачке за обраду података
  • Артефакти модела: Тежине, конфигурације и варијанте фино подешених модела
  • Извори података за тренинг: Скуп података коришћен за тренирање и фино подешавање модела

Комплетна стратегија безбедности ланца снабдевања

Верификација компоненти и поверења

  • Валидација порекла: Потврда порекла, лиценцирања и интегритета свих AI компоненти пре интеграције
  • Процена безбедности: Скенирање на рањивости и безбедносне ревизије модела, извора података и AI сервиса
  • Анализа репутације: Процена безбедносних резултата и пракси провајдера AI услуга
  • Верификација усаглашености: Осигурати да све компоненте испуњавају организационе безбедносне и регулаторне захтеве

Сигурни деплојмент пипелини

  • Аутоматизована CI/CD безбедност: Интеграција безбедносног скенирања кроз аутоматизоване пипелине за деплојмент
  • Интегритет артефаката: Криптографска верификација свих деплојованих артефаката (код, модели, конфигурације)
  • Развој по фазама: Коришћење прогресивних стратегија деплојмента са безбедносном валидацијом на свакој фази
  • Поверени регистри артефаката: Деплој само из верификованих, безбедних складишта артефаката

Континуирано праћење и реаговање

  • Скенирање зависности: Континуирано праћење рањивости свих зависности софтвера и AI компоненти
  • Праћење модела: Континуирана оцена понашања модела, одступања у перформансама и безбедносних аномалија
  • Праћење здравља сервиса: Надзор спољних AI сервиса по питању доступности, безбедносних инцидената и промена политика
  • Интеграција обавештајних података о претњама: Укључивање извора претњи специфичних за AI и ML ризике

Контрола приступа и принцип најмањих привилегија

  • Дозволе на нивоу компоненти: Ограничите приступ моделима, подацима и услугама на основу потреба пословања
  • Управљање сервисним налозима: Имплементирајте посебне сервисне налоге са минималним потребним дозволама
  • Сегментација мреже: Изоловање AI компоненти и ограничење приступа између услуга
  • Контроле API гатеваја: Коришћење централизованих API гатеваја за контролу и надзор приступа спољним AI услугама

Реаговање на инциденте и опоравак

  • Брзе процедуре реаговања: Успостављени процеси за патчовање или замену компромитованих AI компоненти
  • Ротација акредитива: Аутоматизовани системи за ротацију тајни, API кључева и сервисних акредитива
  • Могућност враћања: Способност брзог повратка на раније познато исправне верзије AI компоненти
  • Опоравак од кршења ланца снабдевања: Специфичне процедуре за реаговање на компромитацију горњих AI сервиса

Microsoft алати за безбедност и интеграција

GitHub Advanced Security пружа свеобухватну заштиту ланца снабдевања укључујући:

  • Скенирање тајни: Аутоматска детекција акредитива, API кључева и токена у репозиторијумима
  • Скенирање зависности: Процена рањивости за зависности и библиотеке отвореног кода
  • CodeQL анализа: Статичка анализа кода за безбедносне рањивости и проблеме у коду
  • Увид у ланац снабдевања: Преглед здравља зависности и безбедносног статуса

Интеграција Azure DevOps & Azure Repos:

  • Беспрекорна безбедносна интеграција на Microsoft платформама за развој
  • Аутоматизоване безбедносне провере у Azure Pipelines за AI задаће
  • Спровођење политика за безбедан деплојмент AI компоненти

Внутрашње Microsoft праксе:
Microsoft спроводи обимне безбедносне праксе у ланцу снабдевања кроз све производе. Сазнајте више о провереним приступима у The Journey to Secure the Software Supply Chain at Microsoft.

Најбоље праксе основне безбедности

Имплементације MCP-а наследју и унапређују постојећу безбедносну позицију ваше организације. Јачање основних безбедносних пракси значајно повећава укупну безбедност AI система и MCP деплојмента.

Основни безбедносни принципи

Праксе безбедног развоја

  • Усклађеност са OWASP: Заштита од OWASP Top 10 рањивости веб апликација
  • AI специфичне заштите: Спровођење контрола за OWASP Top 10 за LLM
  • Безбедно управљање тајнама: Коришћење посебних хранилишта за токене, API кључеве и осетљиве конфигурационе податке
  • Крај до краја енкрипција: Имплементација безбедне комуникације у свим компонентама апликације и токовима података
  • Валидација уноса: Ригорозна верификација свих корисничких уноса, API параметара и извора података

Ојачавање инфраструктуре

  • Мултифакторска аутентификација: Обавезна MFA за све административне и сервисне налоге
  • Управљање закрпама: Аутоматизовано и благовремено применjивање закрпа за оперативне системе, оквире и зависности
  • Интеграција провајдера идентитета: Централизовано управљање идентитетом преко корпоративних провајдера (Microsoft Entra ID, Active Directory)
  • Мрежна сегментација: Логичка изолација MCP компоненти ради ограничења латералног померања
  • Принцип најмањих привилегија: Минималне потребне дозволе за све системе и налоге

Мониторинг и детекција безбедности

  • Свеобухватно логовање: Детаљно евидентирање активности AI апликација, укључујући интеракције MCP клијент-сервер
  • SIEM интеграција: Централизовано управљање информацијама и догађајима ради детекције аномалија
  • Бихејвиорална аналитика: AI базиран мониторинг за откривање необичних образаца у понашању система и корисника
  • Обавештајна подршка о претњама: Интеграција спољних извора претњи и индикатора компромитовања (IOC)
  • Реаговање на инциденте: Дефинисане процедуре за детекцију, реакцију и опоравак од безбедносних инцидената

Архитектура нултог поверења

  • Никад не веруј, увек проверавај: Континуирана верификација корисника, уређаја и мрежних веза
  • Микросегментација: Грануларна мрежна контрола која изолује појединачне оптерећења и сервисе
  • Безбедност усредсређена на идентитет: Безбедносне политике засноване на верификованом идентитету, а не на локацији у мрежи
  • Континуирана процена ризика: Динамична оцена безбедносне позиције на основу актуелног контекста и понашања
  • Условни приступ: Контроле приступа које се прилагођавају у складу са факторима ризика, локацијом и поверењем у уређај

Обрасци за интеграцију у предузеће

Интеграција у Microsoft екосистем безбедности

  • Microsoft Defender for Cloud: Комплексно управљање безбедносним положајем облака
  • Azure Sentinel: Оригиналне SIEM и SOAR могућности за заштиту AI оптерећења
  • Microsoft Entra ID: Управљање идентитетом и приступом са политиком условног приступа
  • Azure Key Vault: Централизовано управљање тајнама уз подршку HSM-а
  • Microsoft Purview: Управљање подацима и усаглашеност за AI изворе података и радне токове

Усклађеност и управљање

  • Регулаторно усаглашавање: Осигуравање да имплементације MCP испуњавају специфичне захтеве индустрије (GDPR, HIPAA, SOC 2)
  • Класификација података: Правилна категоризација и руковање осетљивим подацима који обрађују AI системи
  • Аудиторски трагови: Свеобухватно логовање за регулаторне потребе и форензичке истраге
  • Контроле приватности: Имплементација приватности по дизајну у архитектури AI система
  • Управљање променама: Формални процеси за безбедносне ревизије измена AI система

Ове основне праксе стварају робусну безбедносну базу која повећава ефикасност MCP-специфичних контрола и пружа свеобухватну заштиту за AI апликације.

Кључни безбедносни закључци

  • Приступ безбедности у слојевима: Комбиновати основне праксе безбедности (сигурно програмирање, најмање привилегије, проверу снабдевачког ланца, континуирани мониторинг) са контролама специфичним за АИ за свеобухватну заштиту

  • Пејзаж претњи специфичних за АИ: МЦП системи се суочавају са јединственим ризицима укључујући убризгавање пропратних упутстава, отровање алата, преузимање сесије, проблеме "погрешно овлашћеног", рањивости пропуштања токена и прекомерне дозволе које захтевају специјализоване мере ублажавања

  • Одлична аутентикација и ауторизација: Имплементирати робусну аутентикацију коришћењем спољних провајдера идентитета (Microsoft Entra ID), спровести исправну валидацију токена и никада не прихватати токене који нису изричито издавани за ваш МЦП сервер

  • Превенција АИ напада: Употребити Microsoft Prompt Shields и Azure Content Safety за одбрану од индиректних напада убризгавања пропратних упутстава и отровања алата, уз верификацију метаподатака алата и праћење динамичких промена

  • Сесијска и трансфер безбедност: Користити криптографски сигурне, недетерминистичке ИД-јеве сесија који су везани за идентитете корисника, спровести исправни менаџмент животног циклуса сесије и никада не користити сесије за аутентикацију

  • Најбоље праксе OAuth безбедности: Спрудити нападе "погрешног овлашћеног" кроз изричиту корисничку сагласност за динамички регистроване клијенте, исправну имплементацију OAuth 2.1 са PKCE и строгу валидацију URI за преусмерење

  • Принципи безбедности токена: Избећи антипатерне пропуштања токена, валидацију тврдњи о публикацији токена, имплементирати краткорочне токене са сигурном ротацијом и одржавати јасне границе поверења

  • Свеобухватна безбедност снабдевачког ланца: Третирати све компоненте АИ екосистема (моделе, ембеддинге, провајдере контекста, спољашње API-је) са истом пажњом као и традиционалне софтверске зависности

  • Континуирана еволуција: Остајати у току са брзо еволуирајућим МЦП спецификацијама, доприносити стандардима безбедносне заједнице и одржавати прилагодљиве безбедносне позиције како протокол сазрева

  • Интеграција Microsoft безбедности: Искористити свеобухватни Microsoft безбедносни екосистем (Prompt Shields, Azure Content Safety, GitHub Advanced Security, Entra ID) за побољшану заштиту МЦП имплементација

Свеобухватни ресурси

Званична MCP документација о безбедности

OWASP MCP безбедносни ресурси

Безбедносни стандарди и најбоље праксе

Истраживање и анализа АИ безбедности

Microsoft безбедносна решења

Водичи за имплементацију и туторијали

DevOps и безбедност снабдевачког ланца

Додатна безбедносна документација

За свеобухватне смернице о безбедности, консултујте ове специјализоване документе у овом делу:

Практичне обуке из безбедности

  • MCP Security Summit Radionica (Sherpa) - Свеобухватна практична радионица за осигурање MCP сервера на Azure платформи са прогресивним камповањем од основног до самита
  • OWASP MCP Azure сигурносни водич - Референтна архитектура и смернице за имплементацију свих OWASP MCP Топ 10 ризика

Шта следи

Следеће: Поглавље 3: Почетак

Изјава о одрицању одговорности: Овај документ је преведен коришћењем услуге за аутоматски превод Co-op Translator. Иако тежимо тачности, имајте у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитативним извором. За критичне информације препоручује се професионални људски превод. Нисмо одговорни за било каква неспоразума или погрешна тумачења која произилазе из коришћења овог превода.

Reference in New Issue View Git Blame Copy Permalink