모델 가중치나 실행 하네스를 바꾸지 않고도 보안 에이전트를 스스로 개선시키는 알고리즘 SelfOp가 발표됐다. SelfOp는 컨텍스트 최적화를 연쇄법칙 기반 텍스트 그래디언트 하강으로 재구성해, 각 사례의 결과에서 평가자·에이전트 궤적·컨텍스트 요소를 거슬러 올라가며 오차 신호를 전파하고 이를 사례 간 클러스터링·순위화·필터링으로 누적한다. 실제 취약점 재현 벤치마크 CyberGym에서 200개 미만의 학습 사례만으로 GPT-5.4-mini(Codex 결합) 성능을 17점 끌어올려 프론티어 모델 GPT-5.4 기준선을 6점 능가했고, GPT-5.4 자체도 18.5점 개선했다. 최적화된 스킬은 모델 간에도 전이돼, SelfOp가 모델 특정 패턴이 아닌 일반화 가능한 작업 지식을 학습함을 시사한다.
- •모델 가중치·실행 하네스는 그대로 두고 컨텍스트만 최적화하는 SelfOp 알고리즘
- •텍스트 그래디언트 하강으로 사례별 오차 신호를 컨텍스트 요소까지 역전파
- •CyberGym에서 200개 미만 사례로 GPT-5.4-mini 성능 17점, GPT-5.4는 18.5점 향상
- •최적화된 GPT-5.4-mini가 프론티어 GPT-5.4 기준선을 6점 능가
- •최적화된 스킬이 다른 모델로도 전이돼 일반화 가능성 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
SelfOp: An Optimization Algorithm for Self-Improving Security Agents
- 1.모델 재학습 없이 보안 에이전트 컨텍스트만 자동 개선하는 SelfOp 제안
- 2.체인룰 방식 텍스트 그래디언트 역전파로 평가자·궤적에서 오류신호 추출
- 3.CyberGym에서 200개 미만 예제로 GPT-5.4-mini에 17점, GPT-5.4에 18.5점 개선
- 4.개선된 컨텍스트가 GPT-5.4 프런티어를 6점 상회, 모델 간 전이도 확인
왜 중요한가?
보안 에이전트 개선엔 전문가 시연이나 계산 가능한 보상이 드문데, 재학습 없이 컨텍스트만 최적화해 프런티어 모델을 뛰어넘어 저비용 고도화 경로를 제시한다.
본문 미리보기
arXiv:2609.22792v1 Announce Type: new Abstract: LLM agents are increasingly used for security tasks: vulnerability discovery, exploit reproduction, and patch generation. Improving them at the model level demands expert demonstrations or computable rewards, which security tasks rarely offer: traces are costly, failures hard to diagnose, rewards sparse, and non-computable. Efforts thus shift to the harness and context, but manual tuning needs task-specific expertise and scales poorly, while autom
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

