대형 언어 모델의 '정치적 가소성', 즉 사용자 제공 맥락에 따라 응답을 조정하는 능력을 분석한 연구다. 경제적·개인적 자유 축으로 구성된 200개의 정치 질문으로 실험한 결과, 시스템 프롬프트는 효과가 미미했으나 사용자 프롬프트는 최신 대형 모델에서 경제적 자유 축을 따라 유의미한 이념적 변화를 유도했다. 질문 의미를 역전시키는 검증 실험에서 대부분의 모델에서 반직관적 변화가 나타나 데이터 유출 가능성이 제기됐다. 전반적으로 소형·구형 LLM은 제한적인 가소성을 보인 반면, 최신 프론티어 모델은 신뢰할 수 있는 적응성을 보여주었다.
- •사용자 프롬프트가 시스템 프롬프트보다 정치적 이념 변화를 유도하는 데 훨씬 효과적이다
- •대형·최신 모델일수록 경제적 자유 축에서 더 신뢰할 수 있는 이념적 적응성을 보인다
- •질문 의미 역전 실험에서 데이터 유출 가능성을 시사하는 반직관적 결과가 관찰되었다
- •소형·구형 LLM은 정치적 가소성이 제한적이거나 불안정한 반면 최신 모델은 안정적이다
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Political Plasticity: An Analysis of Ideological Adaptability in Large Language Models
- 1.LLM의 '정치적 가소성': 사용자 제공 맥락에 따라 이념적 응답을 적응시키는 능력 측정
- 2.시스템 프롬프트는 효과 미빨, 사용자 프롬프트(퍼샷 예시)는 성공적으로 대형 신모델에서 이념 변화 유도
- 3.신소형·구형 LLM은 정치적 가소성이 제한적이고 신형 프론티어 모델은 안정적·예측 가능한 적응성 확인
왜 중요한가?
AI의 정치적 편향성을 넘어 상황적 유도 가능성을 측정함으로써 LLM의 사회적 영향력과 잠재적 악용 가능성에 대한 새로운 위험 요소를 체계적으로 규명한다.
본문 미리보기
arXiv:2605.08415v1 Announce Type: new Abstract: Since the advent of Large Language Models (LLMs), a significant area of research has focused on their intrinsic biases, particularly in political discourse. This study investigates a different but related concept, "political plasticity", which is defined as the capacity of models to adapt their responses based on the user supplied context. To analyze this, a testing framework was developed using an expanded corpus of 200 politically-oriented quest
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:10AI 초안
