CreativityNeuro는 LLM이 개방형 질문에 비슷한 답만 내놓는 '인공 하이브마인드' 현상을 완화하는 데이터 불필요(data-free) 대조 가중치 스티어링 기법이다. 행동 데이터, 재학습, 그래디언트 기반 파인튜닝 없이 가중치 공간을 직접 조정해 발산적 사고를 강화한다. 어휘 공간 창의성 테스트인 DAT에서 인간 백분위 기준 최대 14포인트 향상됐고, 720명 대상 대규모 인간 평가에서 대안 용도 테스트(AUT) 등 장문·개방형 과제의 독창성·의외성·창의성이 유의미하게 개선됐다. 세 과제 모두에서 모드 붕괴 지표가 감소했으며, 활성화 스티어링은 DAT에서만 비슷한 성능을 내고 다른 과제로 전이되지 않아 가중치 공간 스티어링의 일반화 우위를 입증했다. ICML 2026 워크숍 채택 논문으로, 창의적 도메인에서 LLM 다양성을 높이는 간편한 방법을 제공한다.
- •데이터·재학습·그래디언트 파인튜닝 없이 대조 가중치 스티어링만으로 발산적 사고 강화
- •DAT(발산 연상 과제)에서 인간 백분위 기준 최대 14포인트 향상
- •N=720 인간 평가에서 AUT·Task Task의 독창성·의외성·창의성 유의미하게 개선
- •세 과제 모두에서 모드 붕괴(mode collapse) 지표 감소 확인
- •활성화 스티어링은 DAT에서만 유효하고 타 과제 전이 실패 — 가중치 공간 스티어링의 일반화 우위 입증
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse
- 1.행동 데이터 없이 대조 가중치 스티어링으로 LLM 발산적 사고를 높이는 CreativityNeuro 제안
- 2.발산연상시험(DAT)에서 인간 백분위 기준 최대 14점 향상
- 3.참가자 720명 인간 평가에서 대안용도시험(AUT) 등 독창성·놀라움·창의성 유의미 개선
- 4.활성화 스티어링은 DAT에만 통하고, 미학습 과제 전이는 가중치 스티어링만 성공
왜 중요한가?
재훈련·그래디언트 미세조정 없이 가중치 조작만으로 '인공 하이브마인드'로 불리는 응답 획일화와 모드 붕괴를 완화했다. 창작 지원·브레인스토밍 제품에 저비용으로 적용 가능하며, 가중치 공간 개입이 활성화 개입보다 일반화됨을 보인 점도 의미 있다.
언급 프로젝트
본문 미리보기
arXiv:2607.01433v1 Announce Type: new Abstract: Divergent thinking is a crucial aspect of creativity, yet large language models (LLMs) tend to consistently generate similar responses to open-ended questions, in what has been termed the artificial hivemind effect. Here, we introduce CreativityNeuro, a data-free method for enhancing divergent thinking in LLMs via contrastive weight steering. We evaluate our method across multiple creativity assessments and report several main findings. On the Div
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
