AI는 경제 성장과 기술 혁신을 이끄는 핵심 동력이자, 복잡한 글로벌 과제를 해결할 전략 자산으로 급부상 중이다. 하지만 그 빠른 진화는 편향, 개인정보 침해, 보안 위협 등 윤리적 리스크를 동반한다. 이에 따라 ‘AI 규제’는 물론, 신뢰성과 안전성을 입증하는 ‘AI 인증’이 글로벌 비즈니스의 새로운 진입 장벽으로 떠오르고 있다. 지금은 기술 경쟁력만큼이나, 규제 대응과 인증 체계 구축이 기업의 지속가능한 성장을 좌우하는 전략 과제가 되고 있다.

급속도로 변화하는 AI 산업 동향에 발맞춰 국내외 기업, 공공기관의 AI 기술 신뢰성 검증 수요도 빠르게 증가하고 있다. [사진=셔터스톡]

AI 기술 발달과 함께 각종 안전 및 보안 위험 문제가 발생하면서 이를 방지하기 위한 AI 규제 방안이 필요하다는 목소리가 높아지고 있다. 이에 우리나라를 비롯한 세계 각국은 AI 관련 법률을 제정하는 방식으로 안전과 혁신 사이의 균형을 맞춰 나가고 있다. EU는 지난해 5월 세계 최초로 포괄적 AI 규제법인 ‘AI 법(이하 AI Act)’을 제정하고, 8월 1일 공식 발효했다.

AI Act는 AI 시스템을 위험 수준에 따라 ▲수용 불가 위험 ▲고위험 ▲제한된 위험성을 갖는 ▲최소 위험 4단계로 분류하며, 각 단계에 따라 규제를 달리 적용한다. 개인의 사회점수, 불특정 다수의 얼굴 이미지 처리, 생체인식 분류 시스템 사용 등 용인할 수 없는 위험을 초래하는 AI 시스템이 수용 불가 위험 단계에 해당하며, 사용이 전면 금지된다.

고위험 단계의 경우 법 집행, 이민, 망명 및 국경 통제 관리 등 AI Act가 부속서에 명시하고 있는 항목을 위해 사용되는 AI 시스템이 해당하며, 엄격한 사전 적합성 평가, 문서화, 인간 개입 보장 등이 요구된다. AI Act는 단계별로 시행된다. 지난 2월 2일 AI 시스템 운영에 필요한 요구 사항 관련 법률이 우선 적용됐으며 오는 8월 2일부터는 규정 위반에 대한 벌금 부과가 시작될 예정이다.

미국의 경우 도널드 트럼프 대통령이 지난 1월 20일 취임 첫날 바이든 전 대통령이 2023년 도입한 AI 행정명령 폐기에 서명하며 AI 규제 완화를 천명한 바 있다. 하지만 트럼프 행정부는 미국 중심의 AI 기술 수직 계열화를 구상하고 있다. 중국을 전방위로 압박하는 한편 동맹국을 미국 생태계 안으로 포섭해 경쟁 의지를 없앤다는 전략이다.

따라서 미국 이외의 국가 대상으로 까다로운 기술 검증이 요구될 전망이다. 또한 트럼프 정부는 ‘AI 실행 계획’ 추진을 통해 AI 반도체 등 전략기술 수출 통제를 균형적으로 적용하고, AI 보안과 안전 강화를 주문한다는 방침을 밝히기도 했다.

우리나라는 내년 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’ 시행을 앞두고 있다. AI Act에 비해 제정은 늦었지만, 규제를 포함한 전면 도입으로는 세계 최초 AI 법률 시행 국가가 될 예정이다.

AI 기본법[표 1]의 경우 정부 책임 명시, 신뢰성 인증 제도, 위험 기반 관리 체계, 공공 우선적용, 국가 AI 위원회 설립 등의 거버넌스 체계를 포함하였으나, 규제보다 산업 진흥에 주력하고 있다는 점에서 AI Act에 비해 규제 강도는 다소 낮다.

과학기술정보통신부가 운영하는 ‘AI 안전성 확보 의무 가이드라인 테스크포스(TF)’는 이르면 이달 말 AI 기본법 가이드라인을 공개하겠다고 밝혔다. TF는 ▲AI 안정성 확보 의무 ▲AI 투명성 확보 의무 ▲AI 영향 평가 ▲고영향 AI 기준과 예시 ▲고영향 AI 사업자 책무 총 5개 부문으로 구성됐다. 또한 과학기술정보통신부는 이달부터 AI 기본법 입법예고 등 행정입법 절차에 착수하고, 오는 하반기 세부 규정을 담은 시행령을 공포한다는 계획이다.

[표 1] AI 기본법 주요 내용 (출처: 국회 과학기술정보방송통신위원회)

 

AI 혁신, ‘신뢰성 확보’ 관건

이렇듯 급속도로 변화하는 글로벌 AI 산업 동향에 발맞춰 국내외 기업, 공공기관의 AI 기술 신뢰성 검증 수요도 빠르게 증가하고 있다. 시장조사업체 포춘 비즈니스 인사이트의 조사에 따르면 AI 신뢰성 평가 솔루션 시장은 2024년 약 8억 6,700만 달러(한화 약 1조 2,200억 원)에서 2032년 38억 2,400만 달러(약 5조 3,600억 원) 규모로 성장할 전망이다.

이 기간 연평균 성장률은 약 20.9%에 달한다. AI 신뢰성 확보는 글로벌 비즈니스 전략의 핵심 요소다. AI Act는 EU 시장에 출시되거나 사용되는 모든 AI 시스템을 대상으로 적용된다. 따라서 EU에서 AI 기반 헬스케어 서비스, 자율주행 기술, 스마트팩토리 솔루션과 같은 AI 제품 및 서비스를 제공하려면 AI Act의 요구사항 준수는 필수 조건이다.

선제적으로 제정된 AI Act는 글로벌 표준화 흐름의 시작점으로 OECD, G7 등 국제 규범을 비롯해 국내의 AI 기본법에도 영향을 미치고 있다. 또한 향후 미국이나 일본 등의 국가도 이를 참고해 유사한 법률을 제정할 가능성이 높다. 따라서 내부 시스템과 프로세스를 사전에 정비해 AI 신뢰성을 빠르게 확보한다면 시장에서 유리한 고지를 선점할 수 있다.

대표적인 AI 기술 신뢰성 확보 방안으로는 ISO/IEC 42001(인공지능경영시스템) 인증 획득이 꼽힌다. ISO/IEC 42001은 인공지능경영시스템에 대한 최초의 국제 표준으로 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 2023년 12월 정식 발간했다.

ISO/IEC 42001은 AI 시스템의 전 생애주기(개발·제공·사용)에 걸친 리스크 관리를 위한 경영 시스템 요구 사항을 충족하였는지 확인하는 인증 과정을 거치게 되며, 요구 사항을 모두 충족해야 부여된다.

국내 기업, 공공기관의 경우 인증 기관을 통해 ISO/IEC 42001 인증을 획득할 수 있다. 한국표준협회가 대표적이다. 한국표준협회는2023년 6월 국내 최초로 ISO/IEC 42001 인증을 선제 도입해 삼성전자, LG전자, 카카오뱅크, 삼성SDS 등 AX 선도 기업에 인증을 수여했다.

그동안의 경험과 전문성을 바탕으로 지난해 7월부터 9월까지 이어진 산업통상자원부 국가기술표준원 산하 한국인정지원센터(KAB)의 평가를 완료하여 ISO/IEC 42001 인증 기관 공식 인정을 받은 바 있다. 그리고 지난해 9월 30일 한국인정지원센터의 ISO/IEC 42001 시범 인정 제도 내에서 AI 기업 ‘인텔리빅스’에게 1호 인증을 수여했다. 지난 4월 22일에는 국세청이 한국표준협회를 통해 ISO/IEC 42001 인증을 획득했다.

인증은 예비·문서·현장 등 3단계 심사를 거쳐 약 5개월 만에 완료됐다. 국세청은 AI 시스템의 설계부터 개발·운영·폐기까지 전 과정에서 납세자 정보 과잉 수집을 방지하고, 알고리즘이 공정하게 작동하는지, 서비스 종료 후 데이터가 즉시 삭제되는지 등을 철저히 관리하고 있다고 설명했다.

최근 논란이 된 AI 오남용 사례와 민감정보 유출 등을 방지하기 위해 자체적인 안전관리 체계도 강화했다. 국세청은 향후 해당 체계를 바탕으로 ‘AI 탈세 적발 시스템’ 등 국세행정 전반에 AI 기술을 확대 적용할 방침이다.

지난 4월 문동민 한국표준협회 회장이 강민수 국세청장(오른쪽)에게 ‘ISO/IEC 42001 인증서’를 수여하고 있다.

 

세계 최초 AI 품질인증 ‘AI+’

이와 함께 2020년 한국표준협회가 와이즈스톤과 공동 개발한 세계 최초 인공지능 품질 인증 제도인 ‘AI+(에이아이플러스)’ 취득도 빠르게 늘고 있다. AI 시스템의 성능, 정확성, 안전성, 신뢰성 등 종합적인 품질을 평가한다.

ISO/IEC 42001, 25059, 25023 등 국제 표준을 기반으로 시험 및 심사를 진행하며, 지금까지 84개의 인증서를 발급, ‘AI+’를 획득했다. 특히 AI 기본법 하위법령으로 고영향 AI에 대한 신뢰성과 안전성 의무화 등이 명시되는 경우 AI+는 이를 이행하고 입증할 수 있는 실질적 수단으로 더욱 주목받을 전망이다[표 2].

이에 따라 AI 제품을 개발하고 서비스하려는 기업과 기관들은 점차 AI+ 인증 획득을 필수 과정으로 인식하고 있다.

[표 2] AI+ 인증 효과 (출처: 한국표준협회)

AI+ 인증의 가장 큰 차별점은 제품·서비스의 품질 및 성능 시험과 AI 개발·운영 프로세스 심사를 통합한 인증 체계를 갖추고 있다는 점이다. 현재 국내 인증 제도의 대부분은 AI 성능 시험이나 소프트웨어 품질 검증에 초점이 맞춰져 있으며, 해외 인증의 경우 주로 개발 및 관리 프로세스 평가 중심으로 구성되어 있다.

AI+ 인증은 기존 국내외 인증의 한계를 극복하고, AI 성능·품질 시험과 개발·운영 프로세스 인증을 모두 적용하는 종합 심사 체계를 갖추고 있다. 설계 초기부터 제품 출시 후까지 철저한 품질 검증 프로세스를 거쳐 AI 기술의 신뢰성과 안전성을 보장하며, 이를 통해 소비자는 신뢰할 수 있는 제품과 서비스를 선택할 수 있다. 또한 글로벌 AI 규제 요구 사항 대응 방안으로도 주목받고 있다. ISO/IEC 42001과 같은 국제 표준을 반영해 기업이 사전에 규제 요구사항을 충족할 수 있도록 지원하기 때문이다.

AI+ 인증 획득 기업은 이를 통해 글로벌 시장진출 시 별도 추가 검증 부담을 줄이고, 수출장벽을 낮출 수 있다. LG전자는 AI+ 인증을 획득한 대표 기업 중 한 곳이다.

LG전자는 지난 1월 21일 인공지능으로 오염원을 감지하는 ‘AI 공기질 센서’를 처음 탑재한 ‘퓨리케어 오브제 컬렉션 AI+ 360˚ 공기청정기’를 출시하며 AI+ 인증을 획득했다고 밝혔다. 국내에서 공기질 센서로 AI+ 인증을 받은 것은 LG전자가 최초다.

인천공항공사는 지난해 11월 8일 공기업 최초로 AI+ 인증을 취득했다. 인천공항공사는 지난해 3월 ‘디지털 대전환’을 선포한 이후 공항 운영, 직원 업무 프로세스 혁신 등을 위해 AI 기술 도입을 확대했다. 대표적인 서비스는 ‘인천공항 스마트 AI 솔루션’이다.

해당 서비스는 고객이 홈페이지에 접수한 요청과 질의를 AI가 담당 부서별로 자동 분류하고, 데이터 기반의 적절한 답변을 자동 생성해 추천하는 플랫폼이다. 한국표준협회는 향후 글로벌 규제 동향과 시장의 구체적인 요구를 반영해 AI+ 인증 평가 기준을 세분화할 예정이다. 특히 AI 윤리, 데이터 보호, 알고리즘 공정성 등 국제 시장에서 요구되는 핵심 요소들을 평가 기준에 구체적으로 포함한다는 계획이다.

 

신동민 기자 sdm@mediastreet.co.kr

진주영 기자 jjy@mediastreet.co.kr

본 글은 미디어스트리트의 품질경영 2025년 6월호에서 발췌되었습니다.