AI 애플리케이션 개발이 봇물을 타면서 윤리적 요구사항 정의 및 문제 대처 기준이 없어 다양한 부작용이 보고되는 추세다. AI 성능 및 지속 가능성 기준, 안전 및 보안, 데이터 개인 정보 보호 및 법적 요구 사항 등 가이드라인이 필요하다는 목소리가 커지는 이유다.
시장의 우려에 독일 시험인증기관 TUV SUD(티유브이 슈드)와 국제전기전자기술 표준협회(IEEE Standards Association, IEEE SA)가 팔을 걷어올렸다. 양사는 책임감 있고 안전한 고품질 인공지능(AI) 애플리케이션 개발 지원을 위해 AI 품질 인증 협력에 나선다.
AI의 모든 측면을 다루는 표준, 교육 및 인증 프로그램 개발 협력이 포함된다. IEEE SA에서 발표한 세계 최초의 AI 윤리 표준(AI ethics standard)을 통합한 티유브이슈드의 서비스는 고객이 고품질 AI 애플리케이션을 개발할 수 있도록 맞춤 지원한다.
AI(인공 지능) 기능을 갖춘 애플리케이션은 민감한 영역(sensitive areas)을 포함하여 역동적으로 발전하고 점점 더 널리 보급되고 있다. 그러나 많은 기업은 애플리케이션 개발을 하면서 규제(regulatory approaches)를 정확히 파악하는 것에 어려움을 겪고 있다.
오는 2025년 발효될 것으로 예상되는 유럽 연합(EU)의 인공지능법(EU AI Act)은 AI 애플리케이션에 대한 포괄적이고 광범위한 규제를 보장하는 것을 목표로 하며, 데이터 프라이버시, 안전 및 보안, 성능 및 지속 가능성과 같은 분야에서 다양한 요구 사항을 다룰 것으로 예상된다. 법안은 EU에서 사용되는 AI 애플리케이션을 규제하여 품질 및 윤리 기준을 준수하도록 할 것으로 보인다.
따라서 AI 개발 관련 규제가 늘어나고 있는 상황을 감안할 때, 스타트업과 기성 기업들 모두 설계관련 규정 준수(컴플라이언스, Compliance by Design)를 참고하여 AI 애플리케이션 개발의 초기 단계부터 규정을 준수해 문제 해결에 나서야 한다.
양사의 협력으로 제정될 표준 및 서비스는 이를 지원하기 위해 마련됐다. IEEE SA는 IEEE 7000(AI 설계 시 윤리적 문제 대처에 관한 모델 프로세스) 시리즈 형식을 기반으로 국제 표준을 제정하며, 인증을 위한 프레임워크인 CertifAIEdTM를 만들어 제공한다.
기업은 표준을 기반으로 하는 지침 및 교육을 실행할 수 있으며, 시장 요구사항에 가장 부합하는 AI 애플리케이션을 개발할 수 있다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
