KB국민은행(은행장 이환주)이 디지털 금융 혁신을 선도하고, 신뢰할 수 있는 인공지능(Artificial Intelligence, 이하 AI) 기술 활용을 위해 AI 거버넌스를 수립했다고 밝혔다.
AI 거버넌스란 AI 서비스의 신뢰성과 투명성을 확보하고, 윤리적·법적 책임을 이행하기 위한 관리 체계를 의미한다. KB국민은행은 AI 활용이 증가하면서 발생할 수 있는 리스크를 효과적으로 관리하기 위해 2022년부터 자체적인 AI 거버넌스 수립을 준비해왔다.
KB국민은행의 AI 거버넌스는 ▲AI 윤리기준 및 조직문화 ▲위험평가 프레임워크 ▲생애주기별 위험관리정책 ▲금융소비자 보호 등 4가지 핵심 요소로 구성된다. 이를 통해 AI 기술이 활용되는 모든 과정에서 신뢰성과 투명성을 확보하는 것을 목표로 삼았다.
■ AI 윤리기준 및 조직문화
‘AI 윤리기준’은 안전하고 신뢰할 수 있는 AI 도입 및 활용을 위해 모든 임직원이 준수해야 할 기본 원칙이다. 이에 따라 KB국민은행은 정기적인 AI 윤리 교육을 실시하고, AI 개발자에게는 별도의 개발 가이드 교육을 제공하여 윤리적 기준과 책임의 중요성을 강조할 계획이다.
■ 위험평가 프레임워크
위험평가 프레임워크는 AI 서비스가 가진 잠재적 위험을 사전에 식별하고 관리하는 체계다. AI 서비스의 위험 등급을 ▲허용불가 ▲고위험 ▲중위험 ▲저위험 등 4단계로 분류하며, 높은 위험 등급으로 분류된 AI 서비스에는 보다 강화된 관리 방안을 적용한다. 특히, ‘허용불가’ 등급에 해당하는 서비스는 기본권 침해 또는 금융시장 건전성을 저해할 가능성이 높아 도입이 불가능하다.
■ 생애주기별 위험관리정책
KB국민은행은 AI 서비스의 기획 단계부터 사후관리까지 전 생애주기를 반영한 위험관리 프로세스를 구축했다. AI 서비스의 모든 단계에서 ▲위험요소 검토 ▲데이터 신뢰성 및 편향 점검 ▲모델 성능·공정성 평가 ▲정기 모니터링 및 개선 등을 수행하여, 안전하고 윤리적인 AI 서비스 구현을 목표로 하고 있다.
■ 금융소비자 보호
AI 서비스 도입에 따른 금융소비자 보호 조치도 강화된다. AI 활용 사실 고지, 거부 권리 보장, 설명 의무, 민원 및 피해 구제 절차 마련 등의 내용이 AI 거버넌스에 포함됐다. KB국민은행은 이를 기반으로 금융소비자의 권리 보호에 앞장설 계획이다.
◆ AI윤리위원회 설치…최고 의사결정 기구 운영
KB국민은행은 AI 거버넌스의 원칙을 뒷받침하기 위해 최고 의사결정 기구인 ‘AI윤리위원회’를 신설했다.
AI윤리위원회는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 AI의 윤리적 활용을 위한 전략 수립 및 의사결정 역할을 수행할 예정이다.
KB국민은행 관계자는 “AI 거버넌스는 지속가능한 AI 기술 도입과 금융소비자 보호를 중심으로 수립됐다”며 “이를 통해 금융 혁신을 선도하는 AI 활용 모범 사례를 만들어가겠다”고 밝혔다.