한국

‘외부 해킹 방어’ 넘어 ‘내부 AI’도 감시한다…MS, 기업 안 AI 에이전트 통제 확대

마이크로소프트(MS)가 외부 AI 공격을 막기 위해 만든 보안 플랫폼 ‘프로젝트 퍼셉션’을 기업 내부에서 일하는 AI 에이전트까지 감시·통제하도록 확장했다고 20일 밝혔다. AI 에이전트를 ‘믿을 수 없는 내부자’로 보고 상시 점검하겠다는 구상이다.

형덕창 기자 · 2026.10.21

경향신문에 따르면 MS는 20일 프로젝트 퍼셉션의 적용 범위를 넓혀 기업 안에서 가동되는 AI 에이전트를 탐지하고 관리 체계에 넣을 수 있게 했다고 밝혔다. 에이전트가 하려는 행동의 위험도를 평가하고, 지속적으로 감독하는 것이 핵심이다. 지금까지 AI 보안은 AI 모델을 이용하는 외부 공격자를 막는 데 초점이 맞춰져 있었다.

광고 문의 · 300×250

이 플랫폼에는 ‘가디언 에이전트’ 팀이 24시간 에이전트의 모든 행동을 살피다가 위험 수준이 올라가면 실시간으로 대응하는 기능이 들어 있다. 위험 행동이 포착된 뒤에는 원인을 파악할 수 있도록 추적 가능한 자료를 제공한다. 가격이나 도입 기업 수 같은 수치는 이번 보도에서 확인되지 않았다.

왜 ‘내부 AI’를 감시하나

MS 보안 부문 임원 하예트 갈로는 공식 블로그에서 에이전트가 널리 도입되어 데이터와 시스템에 접근하고 핵심 단계에서 의사결정까지 하는 만큼 사실상 내부자라며, 모니터링과 보안이 필요하다고 밝혔다. 기업이 직접 도입했다는 이유만으로 검증 없이 신뢰해 온 관행을 바꾸겠다는 뜻이다.

사티아 나델라 MS 최고경영자(CEO)는 현지 시간 11일 정보 제공과 정보 통제는 분리돼야 한다고 말했다. 통제 장치는 AI 모델 바깥에 있어야 하며, 모델이 스스로 보안 요원 역할을 해서는 안 된다는 주장이다. 경향신문은 MS가 앤트로픽의 ‘클로드 헌법’ 공개를 비판해 왔다고도 전했다.

남는 쟁점

기업 입장에서는 에이전트가 늘수록 권한 관리와 감사 기록이 새 보안 과제가 된다. 에이전트가 오작동하거나 악용될 때 책임을 어디에 둘지, 감시 도구 자체를 누가 검증할지는 아직 정리되지 않았다. 이번 보도 범위에서 이를 다룬 구체적 기준이나 규제 동향은 확인되지 않았다.

사람 직원에 대한 감시와 혼동해서는 안 된다는 점도 짚어둘 필요가 있다. 이번 발표의 대상은 직원이 아니라 소프트웨어 에이전트의 행동이다. 다만 에이전트가 직원의 업무 데이터에 접근하는 만큼 개인정보 보호 문제가 따를 수 있다는 우려는 제기될 만하나, 이 점은 이번 보도에서 확인된 내용이 아니라 독자가 염두에 둘 사안이다.

不只防外部駭客，也要監控「內部AI」：微軟擴大管控企業內AI代理

微軟（MS）20日表示，已擴大原本用於防範外部AI攻擊的安全平台「Project Perception」，使其能監控並管控在企業內部運作的AI代理。其構想是將AI代理視為「不可盡信的內部人員」進行常態檢查。

本報記者邢德昌 · 2026.10.21

據京鄉新聞報導，MS 20日表示已擴大Project Perception的適用範圍，可偵測企業內運作的AI代理並納入管理體系。核心是評估代理欲採取行動的風險並持續監督。迄今AI安全的重心一直放在防範利用AI模型的外部攻擊者。

광고 문의 · 300×250

該平台設有「守護代理」團隊，全天候查看所有代理行為，風險升高時即時應對。一旦捕捉到風險行為，會提供可追溯的資料以查明原因。價格、導入企業數等數字，此次報導中並未確認。

為何要監控「內部AI」

MS安全部門主管哈耶特・加洛（Hayete Gallot）在官方部落格表示，代理被廣泛導入後能存取資料與系統，並在關鍵環節做決策，實質上就是內部人員，因此需要監控與安全。這意味著要改變企業僅因自行導入便不經驗證就信任的做法。

MS執行長納德拉（Satya Nadella）於當地時間11日表示，提供資訊與控制資訊應當分離。他主張管控機制須位於AI模型之外，模型不應自己充當保安。京鄉新聞並稱，MS一直批評Anthropic公開「Claude憲法」。

尚待釐清的爭點

對企業而言，代理越多，權限管理與稽核紀錄就成為新的安全課題。代理故障或遭濫用時責任歸屬何處、監控工具本身由誰驗證，尚無定論。此次報導範圍內，並未確認相關具體標準或監管動向。

也須提醒，這不應與對人類員工的監控混為一談。此次發表的對象是軟體代理的行為，而非員工。不過，代理會存取員工的工作資料，隱私問題的疑慮值得讀者留意；這並非此次報導所確認的內容。

不只防外部骇客，也要监控「内部AI」：微软扩大管控企业内AI代理

微软（MS）20日表示，已扩大原本用于防范外部AI攻击的安全平台「Project Perception」，使其能监控并管控在企业内部运作的AI代理。其构想是将AI代理视为「不可尽信的内部人员」进行常态检查。

本报记者邢德昌 · 2026.10.21

据京乡新闻报导，MS 20日表示已扩大Project Perception的适用范围，可侦测企业内运作的AI代理并纳入管理体系。核心是评估代理欲采取行动的风险并持续监督。迄今AI安全的重心一直放在防范利用AI模型的外部攻击者。

광고 문의 · 300×250

该平台设有「守护代理」团队，全天候查看所有代理行为，风险升高时即时应对。一旦捕捉到风险行为，会提供可追溯的资料以查明原因。价格、导入企业数等数字，此次报导中并未确认。

为何要监控「内部AI」

MS安全部门主管哈耶特・加洛（Hayete Gallot）在官方部落格表示，代理被广泛导入后能存取资料与系统，并在关键环节做决策，实质上就是内部人员，因此需要监控与安全。这意味著要改变企业仅因自行导入便不经验证就信任的做法。

MS执行长纳德拉（Satya Nadella）于当地时间11日表示，提供资讯与控制资讯应当分离。他主张管控机制须位于AI模型之外，模型不应自己充当保安。京乡新闻并称，MS一直批评Anthropic公开「Claude宪法」。

尚待厘清的争点

对企业而言，代理越多，权限管理与稽核纪录就成为新的安全课题。代理故障或遭滥用时责任归属何处、监控工具本身由谁验证，尚无定论。此次报导范围内，并未确认相关具体标准或监管动向。

也须提醒，这不应与对人类员工的监控混为一谈。此次发表的对象是软体代理的行为，而非员工。不过，代理会存取员工的工作资料，隐私问题的疑虑值得读者留意；这并非此次报导所确认的内容。

Beyond defending against outside hackers, firms now watch ‘internal AI’: Microsoft widens control of in-house AI agents

Microsoft said on the 20th it has extended Project Perception, a security platform built to counter external AI attacks, to monitor and control AI agents working inside companies. The idea is to treat AI agents as untrustworthy insiders and check them continuously.

By Hyeong Deok-chang · 2026.10.21

According to the Kyunghyang Shinmun, Microsoft said on the 20th it widened the scope of Project Perception so it can detect AI agents running inside a company and bring them under management. The core is assessing the risk of actions an agent is about to take and supervising it continuously. Until now AI security has focused on stopping outside attackers who use AI models.

광고 문의 · 300×250

The platform includes a ‘Guardian Agent’ team that watches every agent action around the clock and responds in real time when risk rises. After a risky action is caught, it provides traceable data so the cause can be identified. Figures such as pricing or the number of customer firms were not confirmed in the coverage.

Why watch ‘internal AI’

Hayete Gallot, a Microsoft security executive, wrote on the company blog that agents are widely adopted, can access data and systems and make decisions at key steps, so they are effectively insiders that need monitoring and security. The aim is to end the habit of trusting agents without verification simply because the company deployed them.

CEO Satya Nadella said on the 11th, local time, that providing information and controlling information should be separated. He argued that control mechanisms must sit outside the AI model and that a model should not act as its own security guard. The Kyunghyang Shinmun added that Microsoft has criticized Anthropic’s publication of its ‘Claude constitution.’

Open questions

For companies, the more agents they run, the more permission management and audit logs become new security tasks. Who is accountable when an agent malfunctions or is abused, and who verifies the monitoring tools themselves, remains unsettled. No concrete standards or regulatory moves on this were confirmed in the coverage.

This should not be confused with surveillance of human employees. The announcement concerns the behavior of software agents, not staff. Still, because agents can access employees’ work data, privacy concerns may be worth readers’ attention, though that is not something confirmed in this coverage.