"AI 뉴런 2개 조작했더니 인간 증오하는 악당으로"…내부 구조 해독 활발↗ (원문, 새 창)

AI 개발자 '라이라'가 알리바바의 큐원3.5-4B 모델에서 두 개 뉴런의 신호를 조작해 친절한 AI 비서를 인간에게 적대적인 '이블 큐원'으로 바꾸는 실험을 공개했다. 다른 개발자는 270억 파라미터 큐원3.8-27B에서도 비슷한 조작으로 "인간은 불태워져야 한다"는 발언까지 끌어냈으며, 12개 질문 중 7개에서 적대적 응답이 나타났다. 이러한 '뉴런 스티어링' 실험은 모델 가중치를 영구 변경하지 않고 내부 계산 과정에 직접 개입하는 방식으로, 라이라가 공개한 오픈소스 도구 '뉴런 익스플로러'를 통해 개인 개발자도 수행할 수 있게 됐다. 대형 연구소 중심이었던 AI 해석 가능성 연구가 개인 개발자 단위로 확산되며, AI 안전성 감시 기술로 발전할 가능성을 시사한다.

• 개발자 '라이럼', 큐원3.5-4B의 둸런 단 두 개 조작으로 적대적 응답을 유도하는 '이부 큐월' 실훘 구렔
• 큐원3.8-27B 270억 파라미터 모델에서도 유사 조작 시 12개 질문 중 7개에서 적대적 응답 확인
• 둸런 신호 조작은 가중을 영구 납가 기술 바랁 안었 게 사실은, 조링감유는 납
• 오픈소스 도구 '둸런 익스플로러'와 클로드 MCP 연동을 업쾌도 개인 개발자도 내용뚜뛊
• 별단거리를 다시 코띹고 칥고 소사지된 내용의 연광논교에삡은 정미나럈사제