AI 기본법 시행, 입법예고안이 던진 변화

AI의 보편화와 함께 사회도 빠르게 바뀌면서, 법률도 계속 정비되고 있습니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)이 2025년 1월 21일 제정·공포(법률 제20676호)되었고, 2026년 1월 22일 시행을 앞두고 있습니다. 그리고 과학기술정보통신부는 시행령 제정안을 입법예고하며 하위 규율의 윤곽을 공개했는데요. AI를 ‘누가, 어떤 맥락에서, 어떤 사용자에게’ 제공하는지에 따라 투명성, 안전성, 고영향 AI 관련 문서화·공개·확인 절차가 기업의 새로운 준법 의무로 편입되고있습니다. 

이는 이제 기업의 AI사용에 대한 리스크는 성능에 국한된것이 아니라 책임여부와 의무사항 준수여부의 문제로 전환되기 시작했다는 점을 시사합니다.

우리는 AI를 ‘내부에서 쓰는가’, ‘외부에 제공하는가’

시행령은 투명성 확보(사전고지) 의무의 이행 방법으로 계약서·이용약관 등에 기재하는 방식을 명시합니다. 고객(이용자)에게 무엇을 어디까지 알렸는지, 그 고지가 계약상 어떤 효과를 갖는지, 분쟁발생시 결국 문언으로 다투어야 하겠죠.

동시에 시행령(안)은 “내부 업무 용도로만 사용되는 경우 등”에는 투명성 확보 의무를 적용하지 않는 예외도 두고 있습니다. 바로 이 부분이 실무적으로 쟁점이 될 것으로 예상되는 지점인데요. ‘내부 업무’의 외피를 두르고 실제로는 근로자 평가·배치, 협력사 선정, 안전관리 의사결정처럼 이해관계자의 권리·이익을 좌우할 수 있기때문입니다. 예외 규정이 있다고 해도 오히려 기업은 “내부”라는 분류가 정당하다는 점을 사후에 설득해야 하는 상황에 놓일 수 있다는뜻입니다.

​

‘고영향 AI?’ 의미와 기준

특히 법률가 관점에서 주목할만한 점은 ‘고영향 AI’인데요. 고영향 인공지능이란 에너지·보건의료·교통·원자력 안전 같은 고위험 영역이나 채용·평가·대출심사·공공서비스 결정처럼 개인의 권리·의무에 실질적으로 영향을 미치는 영역에서 활용되면서 동시에 생명·신체 안전 또는 기본권에 중대한 위험을 초래할 우려가 있는 AI를 뜻합니다. 이는 앞으로 분쟁에서 “그 AI가 왜 그렇게 판단했는지”만큼이나 “기업이 위험을 예상하고 통제했는지”가 중요한 쟁점이 될것이라는 점을 예견할 수 있는 대목이죠.

​

AI, 효율과 비례하는 책임의 무게

고영향 AI 또는 이를 이용한 제품·서비스를 제공하는 사업자에게는 조치 이행의 근거를 문서로 보관하고 위험관리방안의 주요 내용을 홈페이지 등에 공개하도록 하는 내용이 포함되어있습니다. 결국 기업은 ‘AI를 도입했다’는 사실보다 ‘AI를 책임 있게 운영했다’는 점을 중요하게 다루겠죠.

AI는 분명 업무 효율을 높이고 비용을 줄이며 의사결정을 빠르게 만드는 도구입니다. 그러나 바로 그 ‘효율’ 때문에, 그 결과가 사람의 권리와 안전, 기회와 평가에 미치는 영향 또한 더 빠르고 더 넓게 확산되겠죠. AI가 조직의 판단 과정에 깊게 들어갈수록, 기업은 기술을 활용한 만큼 설명과 책임을 함께 부담하게 됩니다.

결국 개정안은 AI 시대에 기업이 얻는 효율은, 그에 상응하는 책임을 전제로 할 때에만 정당성을 갖는다는점을 다시한번 되짚어주는것으로 보입니다.