최대선 숭실대 AI안전성연구센터장이 1일 국가AI전략위원회 'AI 개발 속도조절론' 세미나에서 정부 주도로 개발 중인 사이버보안 특화 AI 파운데이션 모델이 AI 기본법의 고영향 AI 규제 대상에서 빠져 있다고 지적했다. 안전성 확보 의무가 부과되는 최첨단 AI 기준(제32조)이 누적 연산량 10의26승 FLOP 이상으로 설정돼 소형·로컬 보안 모델은 규제 대상에서 제외되는데, 에이전트를 결합하면 프런티어급 성능을 넘어설 수 있어 모델 크기 중심 기준이 실제 위험 능력을 반영하지 못한다고 설명했다. 그는 에이전트를 포함한 전체 시스템을 독립적으로 평가하는 체계와, 위협 발생 시 실시간 차단·추적 체계 마련이 시급하다고 강조했다.
- •최대선 숭실대 AI안전성연구센터장, 사이버보안 특화 AI 모델이 AI 기본법 고영향 AI 규제에서 빠져 있다고 지적
- •최첨단 AI 기준(제32조)이 연산량 10의26승 FLOP 이상으로 설정돼 소형·로컬 보안 모델은 규제 대상에서 제외
- •에이전트를 결합하면 소형 모델도 프런티어급 성능을 넘어설 수 있어 모델 크기 중심 기준의 한계 지적
- •에이전트 포함 전체 시스템의 독립적 외부 평가 체계 필요성 강조, 해외에도 없는 영역으로 한국 선점 가능성 언급
- •위협 발생 시 실시간 차단·추적 체계의 공백 지적, 킬스위치 작동 후 추적 기술 보완 필요성 제기
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
최대선 센터장 "사이버보안 특화 모델 AI 기본법 사각지대...기준 마련 시급"
- 1.최대선 숭실대 교수, 정부 주도 '사이버보안 특화 AI 모델'이 AI 기본법 규제 사각지대에 있다고 지적
- 2.최첨단 AI 기준(10^26 FLOP)이 모델 크기 중심이라 소형·로컬 모델+에이전트 결합 위험을 반영 못해
- 3.다중 에이전트 조율 평가 체계는 해외에도 없어 한국이 선점 가능한 영역이라고 제언
- 4.킬스위치 작동 시 권한자·추적기술 등 사고 대응 체계 공백도 지적, 단기 고시 마련 제안
왜 중요한가?
보안 특화 AI 모델이 법적 사각지대에 놓여있다는 전문가 지적은, 국내 AI 기본법의 고영향 AI 분류 기준을 재정비해야 한다는 정책적 시사점을 제공한다.
언급 프로젝트
본문 미리보기
최대선 숭실대 AI안전성연구센터장이 정부 주도로 개발 중인 '사이버보안 특화 AI 파운데이션 모델'이 정작 안전성을 규율하는 'AI 기본법'의 법적 규제와 관리 체계에서 벗어나 있어 명확한 기준과 평가 체계 마련이 시급하다고 지적했다.최대선 센터장은 1일 오후 국가AI전략위원회에서 열린 'AI 개발 속도조절론' 세미나에 참석해 보안 특화 모델은 현행 AI 기본법상 별도 관리 대상인 고영향 AI 영역에 사이버보안이 포함되지 않는 실정이라고 지적했다.안전성 확보 의무가 부과되는 최첨단 AI(제32조) 기준도 누적 연산량 10²⁶ FLO
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
