AI기본법 7월21일 2단계 시행…고영향 AI 위험관리·워터마크 의무

7월21일부터 워터마크·위험관리 규제 본격화, 스타트업 98% "준비 안됐다"

다음 달 21일부터 인공지능(AI) 기본법의 핵심 규제가 실제로 작동한다. 의료·금융·채용 등에 쓰이는 '고영향 AI'를 다루는 사업자는 위험관리 체계와 비상정지 기능을 갖춰야 하고, 생성형 AI는 결과물이 AI로 만들어졌음을 표시해야 한다. 과학기술정보통신부는 지난 5월 21일 이런 내용의 시행령 개정안을 입법예고했고, 6월 19일 의견 수렴을 마쳤다.

7월 21일부터 무엇이 달라지나

AI기본법은 1월 22일 국가인공지능전략위원회 개편 등 즉시 시행 가능한 조항부터 먼저 적용됐다. 하위법령 정비가 필요했던 핵심 조항은 유예기간을 거쳐 7월 21일 시행된다. 생성형 AI 결과물에 워터마크 표시를 의무화한 조항, 의료·에너지·교통 등 인프라와 채용·대출심사·범죄수사 분야 AI에 위험관리 책무를 지운 조항이 대표적이다.

고영향 AI 사업자는 무엇을 준비해야 하나

해당 사업자는 위험을 식별·분석·평가하는 체계를 마련하고, 판단 기준과 학습데이터 개요를 이용자에게 설명할 방안을 세워야 한다. 오작동 시 사람이 개입해 멈추거나 결과를 바꿀 수 있는 비상정지 기능도 갖춰야 하며, 관련 문서는 5년간 보관해야 한다. 표시·고지 의무를 어기고 시정명령까지 따르지 않으면 3000만원 이하 과태료가 부과된다.

스타트업은 왜 여전히 "준비 안 됐다"고 하나

스타트업얼라이언스가 올해 1월 국내 AI기업 101곳을 설문한 결과 98%가 사실상 대응 체계를 갖추지 못했다고 답했다. 대응 준비 중이라는 응답은 2%에 그쳤고, 법령을 잘 모른다는 응답과 알고 있으나 대응이 미흡하다는 응답이 각각 48.5%였다. 업계에서는 고영향 AI 판정 기준과 라벨링 의무를 가장 큰 부담으로 꼽는다.

정부는 어떻게 대응하나

과기정통부는 혼란을 줄이기 위해 시행 후 최소 1년간 과태료 부과나 사실조사 대신 컨설팅과 계도에 집중하기로 했다. 다만 인명사고나 인권 침해 등 중대한 사안은 예외적으로 조사 대상이 된다. 시행령 개정안에는 AI 취약계층 범위를 경력단절여성·구직자·비수도권 중소기업 재직자로 넓히는 내용도 담겼다.