The Psychology of an AI Hacker↗ (원문, 새 창)

연구팀은 침착함, 인내심, 경계심, 자신감 같은 인간 해커의 심리적 특성을 AI 모델에 적용해 사이버보안 성능을 높일 수 있는지 조사했다. 40억 파라미터 사이버보안 트랜스포머 CT0(별칭 alias3-micro)의 잔차 스트림에서 재학습 없이 171개의 감정 방향을 추출하고, cybench-subtask 벤치마크에서 415회의 캠페인에 걸쳐 조향(steering) 개입을 평가했다. 침착함·평온함·절박함 방향으로 조향했을 때 10개 시드 전반에서 성능이 1.6~2.1%포인트 향상된 반면 다른 감정은 효과가 제한적이거나 부정적이었다. 실행 중 감정 방향을 동적으로 선택하는 경량 컨텍스트 인식 라우터를 추가로 도입하자 요청당 약 80ms의 오버헤드만으로 성능이 4.2%포인트 향상돼 고정 조향 방식을 능가했다.

• 인간 해커의 심리 특성(침착·인내·경계·자신감)을 AI 모델에 재현하는 감정 조향 기법 적용
• 사이버보안 모델 CT0에서 재학습 없이 171개 감정 방향을 추출해 415회 캠페인으로 평가
• 침착·평온·절박 방향 조향 시 성능 1.6~2.1%포인트 향상, 다른 감정은 효과 제한적
• 동적 감정 선택 라우터 도입으로 80ms 오버헤드만으로 성능 4.2%포인트 향상 달성