BUSTA: Teaching Small Language Models to Reason About Binary Execution↗ (원문, 새 창)

LLM이 역공학(RE) 워크플로에 점점 더 많이 활용되지만, RE는 저수준 프로그램 동작을 추론해야 하고 자원이 제한된 샌드박스 환경에서는 프론티어급 모델을 쓰기 어렵다는 제약이 있다. 이 논문은 x86-64 베이직 블록과 원하는 출력 레지스터 상태가 주어지면 그 결과를 만드는 입력 레지스터 값을 예측하는 '역방향 베이직블록 실행'을 통해 특정 RE 능력을 오픈 모델로 전이할 수 있는지 검증했다. Qwen3-1.7B와 Nemotron-3-Nano를 그룹 상대 정책 최적화(GRPO)로 파인튜닝한 결과, 알 수 있는 레지스터 예측 정확도가 각각 73.2%→85.3%, 63.3%→95.2%로 올랐다. 프론티어 모델이 여전히 최고 성능(최대 99.2%)을 보였지만, 파인튜닝된 Nemotron-3-Nano는 훨씬 적은 파라미터 수로 그 격차를 4점 이내로 좁혔다. 연구팀은 두 파인튜닝 모델과 학습 데이터셋을 모두 공개했다.

• x86-64 변직 봔랑의 역방향 실행(출력→입력 램지스타 예상)으로 RE 능력 전이 가능성 검증
• Qwen3-1.7B와 Nemotron-3-Nano를 GRPO로 파인튜닝해 소형 오픈 모델에 적용
• 램지스타 예상 정확도가 각각 73.2%→85.3%, 63.3%→95.2%로 큰 향상
• 프론티어 모델(최놈4 99.2%)과의 격차를 파인튜닝된 Nemotron이 4점 이듂 좌혐
• 파인튜닝된 두 모델과 학습 데이타셋을 다 일제 긴인 일뙴 데해