(사진=인공지능기본법 지원데스크)

'AI 기본법'이 지난 22일부터 본격 시행됐다. 이번 법안은 AI 산업의 성장을 돕는 지원책과 기술 오용을 방지하는 방어책을 동시에 담고 있다.

AI 기본법이 우리의 일상과 사업에 어떤 영향을 주는지 주요 항목별로 정리했다.

■ 우리 회사도 AI 기본법 적용 대상일까?

적용 대상은 영리 목적으로 AI를 통해 수익을 내는 ‘사업자’에 해당한다. 사업자는 AI 모델을 설계하고 제작하는 'AI 개발 사업자'와 타사 모델이나 API를 활용해 서비스를 제공하는 'AI 이용 사업자'로 나뉜다. 대형언어모델(LLM) 개발 기업을 포함해 이를 활용한 자동 번역 서비스를 제공하는 기업까지 법적 의무 대상에 포함되는 것이다.

오픈AI와 구글 등 국내 이용자에게 서비스를 제공하는 해외 사업자도 동일한 법적 의무를 지게 된다.

반면, 영리 목적이 없는 일반 이용자는 제외된다. 단순히 취미로 AI를 개발해 오픈 소스로 공유하거나 연구용, 업무 보조용으로 활용하는 경우는 규제 대상이 아니다.

■ 고영향 AI, 어떤 기준으로 결정되나?

가장 큰 화두로 꼽힌 '고영향 AI'는 아래 3가지 기준을 모두 충족해야 한다.

첫째, 법적으로 규정한 10개 영역인 ▲에너지 ▲먹는 물 ▲보건의료 ▲의료기기 ▲원자력 ▲범죄 수사 ▲채용 ▲대출심사 ▲공공 서비스 ▲교육 등에 해당해야 한다. 둘째, 사람의 생명이나 기본권 보호에 중대한 영향을 미치거나 위험을 초래할 우려가 있어야 한다. 셋째, 사람 개입 없이 100% AI의 판단을 따르는 경우여야 한다.

의료 현장에서 AI 결과를 참고만 하고 의사가 판단해 최종 진단을 내리면 고영향 AI가 아니다. 그러나, 사람의 검토 없이 AI가 대출 여부를 승인한다면 규제 대상이 된다.

현재 이 기준을 충족하는 건 '완전자율주행(FSD) 레벨 4 이상 차량'이 유일하다. 국내에서 운행 중인 테슬라의 FSD는 인간 개입이 필요한 레벨 2로 해당하지 않는다.

(사진=과학기술정보통신부)

■ 별도 집중 관리 '최첨단 AI'의 기준은?

고성능의 '최첨단 AI'는 AI 학습 누적 연산량이 '10의 26제곱 부동소수점 연산(FLOPs) 이상'인 경우를 말한다. 성능이 뛰어난 만큼 사회에 중대한 피해를 끼칠 우려가 있어 모니터링과 위험관리체계 구축 등 추가 안전 의무를 부담하게 된다.

현재까지 국내 모델 중 여기에 해당하는 사례는 없다. xAI의 '그록 3', 오픈AI의 'GPT-4', 구글의 '제미나이 2.0'부터가 여기에 속한다.

■ 'AI 생성' 워터마크 표시 의무는 어디까지?

투명성 확보 의무는 AI 서비스 개발과 이용 사업자 모두에게 적용된다. 특히 실제와 구분이 어려운 '딥페이크' 생성물은 이용자가 명확히 인식하도록 별도 고지하거나 표시해야 한다. 

AI를 도구로 활용해 콘텐츠를 만드는 크리에이터, 웹툰 작가, 영화 제작자 등은 법률상 ‘이용자’로 분류돼 표시 의무 대상은 아니다.

(사진=과학기술정보통신부)

■ 위반 시 바로 과태료 처벌 받나?

기업의 적응 기간을 고려해 최소 1년 이상의 규제 유예 기간을 둔다. 계도 기간 종료 후에도 사실 조사와 시정 명령 등을 거친 후 최대 3000만원의 과태료가 부과된다.

AI 사업자는 스스로 고영향 AI 여부를 사전에 검토해야 하며 이를 돕기 위해 과학기술정보통신부는 전문가 자문을 제공하는 ‘지원데스크’ 홈페이지를 운영 중이며 향후 지역별 현장 설명회도 개최할 예정이다.

출처 : AI타임스(https://www.aitimes.com)