카카오의 경우 AI Safety 위해 알고리즘 윤리헌장, 기술윤리 거버넌스, AI Alliance 가입 등 다방면 노력

[보안뉴스 김경애 기자] 바야흐로 AI 시대다. 어느덧 AI 기술이 각 산업 분야에 적용되면서 제품과 서비스, 고객 및 구매자, 운영 및 프로세스, 파트너 및 생태계, 인력 등 비즈니스 운영에 미치는 영향이 커지고 있다. 기업에서도 AI 보안 위협과 리스크를 사전에 차단하고자 AI 안전(Safety)에 심혈을 기울이고 있다.

▲최근 AI 얼라이언스에 가입한 카카오[이미지=카카오홈페이지]

카카오의 경우 AI Safety를 위해 △알고리즘 윤리헌장 △기술윤리 거버넌스 △AI 서비스 검토 프로세스 △AI Alliance 참여 등의 노력을 기울이고 있다.

카카오 김경훈 AI Safety 리더는 ‘Gen AI Korea 2024 생성형 AI 레드팀 챌린지’ 행사 콘퍼런스에서 ‘알고리즘 윤리헌장’에 대해 “2018년 국내 기업 최초로 알고리즘 윤리헌장을 제정한 이후 지속적인 개선을 하고 있다”며 “윤리헌장은 카카오 알고리즘의 기본원칙, 차별에 대한 경계, 학습 데이터 운영, 알고리즘의 독립성, 알고리즘에 대한 설명, 기술의 포용성, 아동과 청소년에 대한 보호, 프라이버시 보호 등을 담고 있다”고 밝혔다.

카카오 알고리즘 윤리헌장의 기본원칙은 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 수행하며, 이를 통해 인류의 편익과 행복을 추구하는 것이다. 윤리헌장에 담긴 주요 내용들은 다음과 같다.

– ‘차별에 대한 경계’는 알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계하는 것이다.

– ‘학습 데이터 운영’은 알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거해 수집, 분석, 활용하는 것이다.

– ‘알고리즘의 독립성’은 알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리하는 것이다.

– ‘알고리즘에 대한 설명’은 이용자의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명하는 것이다.

– ‘기술의 포용성’은 알고리즘 기반의 기술과 서비스가 우리 사회 전반을 포용할 수 있도록 노력하는 것이다.

– ‘아동과 청소년에 대한 보호’는 아동과 청소년이 부적절한 정보와 위험에 노출되지 않도록 알고리즘 개발 및 서비스 디자인 단계부터 주의하는 것이다.

– ‘프라이버시 보호’는 알고리즘을 활용한 서비스와 기술의 설계와 운영 등의 전 과정에서 이용자의 프라이버시 보호에 소홀함이 없도록 노력을 다하는 것을 의미한다. .

▲카카오 김경훈 AI Safety 리더[사진=보안뉴스]

다음으로 카카오는 ‘기술윤리 거버넌스’에 심혈을 기울이고 있다. 각 계열사의 기술 리더가 참여해 카카오 생태계 내 기술의 건강성을 체계적으로 관리 및 고도화하고 있다는 것. 김경훈 AI Safety 리더는 “카카오, 카카오게임즈, 카카오모빌리티, 카카오뱅크, 카카오브레인, 카카오엔터프라이즈, 카카오엔터테인먼트, 카카오페이 총 8개 회사의 최고기술책임자가 각 계열사를 대표해 참석해서 알고리즘 윤리헌장 준수 여부, 위험성 점검, 알고리즘 투명성 강화 등을 위해 집중 논의하고 각 계열사별로 업무를 수행하고 있다”고 밝혔다.

이어 ‘AI 서비스 검토 프로세스’를 운영하고 있다. 이는 AI 서비스 기획 및 개발 과정에서 발생 가능한 전사 공통의 정책적 이슈를 선제적으로 발굴하고, 대응방안을 모색하기 위해서다.

다음으로 카카오는 ‘AI Alliance’에 지난 4월 4일 가입했다. 글로벌 스탠다드에 부합하는 안전하고 책임감 있는 AI 개발을 위해 한국 최초로 가입했다는 점에서 주목을 받았다.

김경훈 AI Safety 리더는 “AI 얼라이언스는 글로벌 오픈소스 AI 진영의 선두주자인 메타(Meta)와 IBM이 이끌고 50여개가 넘는 유수의 글로벌 AI 기업, 학계, 연구기관이 참여한 연합으로, 카카오는 Safe, Secure, Trusted Working Group에 참여해 글로벌 기준에서 협력하고 검증 방법을 개발 및 도입하고 있다”고 말했다.
[김경애 기자([email protected])]