Secure-CUA: Controlling Untrusted Influence in Computer-Use Agents

출처:arXiv cs.CR (암호학·보안)

AI 인사이트

개발자

1.Secure-CUA: 신뢰할 수 없는 화면 콘텐츠로부터 컴퓨터사용 에이전트(CUA)를 보호하는 설계
2.콘텐츠 접근 전 '액션 트랜잭션'을 미리 확정해 조작 가능성을 원천 차단
3.WebArena 400개 과제·3개 모델·5시드, 6천개 실행 트레이스로 평가
4.성공률 53.55%로 Vanilla-CUA(55.12%)에 근접하면서 CaMeL-CUA(13.17%)는 크게 앞서

왜 중요한가?

보안을 강화하면 작업 성공률이 크게 떨어지는 기존 방어와 달리, 거의 성능 손실 없이 안전성을 확보할 수 있음을 보여 실제 컴퓨터사용 에이전트 배포의 현실적 방어선을 제시한다.

언급 프로젝트

Secure-CUA WebArena CaMeL-CUA

본문 미리보기

arXiv:2610.09469v1 Announce Type: new Abstract: Computer-use agents (CUAs) perform tasks across applications (such as desktops, mobile apps, and web browsers) by observing graphical interfaces and issuing commands such as clicks and keystrokes. These interfaces combine trusted controls and content with untrusted content needed for legitimate tasks. An adversary controlling this untrusted content can embed instructions or misleading visual cues to change the agent's intended action or redirect i

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기

#컴퓨터사용에이전트#프롬프트인젝션#에이전트보안

이 글이 만들어진 과정

11:24AI 초안

판 이력 전체 보기 →

3시간 전

AudioShake Launches The Refinery to Turn Overlapping Conversations Into AI Training Data

People interrupt. They laugh over someone else’s last sentence, offer a quick agreement before a speaker has finished, and keep talking while music or traffic fills the background. For a voice AI developer, that everyday messiness creates a difficult data problem: a recording can contain exactly the

미디어Unite.AI

원문

Secure-CUA: Controlling Untrusted Influence in Computer-Use Agents

본문 미리보기

이 글이 만들어진 과정

관련 글

AudioShake Launches The Refinery to Turn Overlapping Conversations Into AI Training Data

Lava Finds Thousands of Exposed GPU Servers and a High-Severity NVIDIA Monitoring Flaw

Roundtables: A Conversation With the Creator of AI-Designed Viruses

ttok 0.4