한국에는 AI(인공지능)모델 출시 전 검증하는 제도 절차가 없는 것으로 확인됐다.

미국에서 주요 AI기업이 미 공개 모델을 출시하려면 사전에 정부가 시험하는 AI 충돌시험 체계를 거쳐야 하는 것과 대조된다.

6일 과학기술정보통신부에 따르면 AI안전연구소가 지금까지 국내외에 출시된 AI모델 42종을 평가했지만 출시 전에 평가한 사례는 전무했다.

AI 안전연구소는 공격형 사이버 분야를 포함해 국내외 모델을 평가한다.

하지만 기업이 공개 전에 모델접근권을 제공해 정부가 해킹 능력을 검증하는 사전 평가는 아직 이뤄진 적이 없다.

미국은 출시 전 평가체계를 구체화한다.

백악관은 지난 4일(현지시간) 오픈 AI 구글 앤트로픽 메타 등 주요 AI기업 실무진과 회의를 열어 고성능 AI모델의 자율 사이버보안 평가방안을 논의했다.

회의에서는 국가 안보 위험이 큰 폐쇄형 최첨단 모델을 중심으로 기업이 외부에 공개하기 전 정부 평가팀에 최대 30일간 접근권을 제공, 사이버 공격능력 등을 시험하는 방안이 제시됐다.

메타의 라마 (Llama)처럼 가중치를 공개하는 오픈웨이트 모델은 평가 대상에서 제외하는 방향도 논의됐다.

오픈 AI 앤트로픽 구글 딥마인드 마이크로소프트 xAI 5개사가 미 상무부 산하 AI표준 혁신센터(CAISI)의 출시 전 평가에 참여 중이다.

영국 AI보안 연구소는 오픈 AI의 최신 모델을 공개 전에 넘겨받아 32단 계모의 기업망에서 시험했고 사이버보안전문가에게 약 20시간이 걸릴 것으로 추정되는 공격을 AI가 열 번 중 2차례 완주했다는 결과를 보고 서로도 냈다.

출시 후 AI에 대한 평가 결과 공개에서는 한국이 앞서 있다.

과기정통부는 정부 공공기관이 상용 모델을 평가해 공개한 경우는 매우 적고 예외적 이라며 영국도 미국과 공동수행한 2건뿐이고 일본 싱가포르 유럽연합(EU) 캐나다 프랑스 호주는 모두 없었다고 했다.

유일하게 한국 AI안전연구소만 카카오의 카나 나 에 대한 평가 결과를 공개했다는 설명이다.

다만 미국식 사전 평가 도입 여부에는 답하지 않았다.

한국에는 AI모델을 미리 받아 검사할 법 제도적 통로가 없다.

김평화 이찬종 기자 peace@