본문 바로가기

Money

인간적 · 윤리적 AI, 어디까지 가능할까

김명희 기자 mayhee@donga.com

입력 2022.11.30 10:45:11

엔씨소프트는 ESG 리포트를 통해 AI 윤리 가이드라인인 ‘NC AI 윤리 프레임워크)’를 공개했다. 사진은 엔씨소프트 판교 R&D센터 전경. [사진제공 엔씨소프트]

엔씨소프트는 ESG 리포트를 통해 AI 윤리 가이드라인인 ‘NC AI 윤리 프레임워크)’를 공개했다. 사진은 엔씨소프트 판교 R&D센터 전경. [사진제공 엔씨소프트]

세계적인 우주 물리학자 스티븐 호킹은 2015년 “100년 안에 인공지능(AI)가 인류를 지배할 것”이라고 경고한 바 있다. AI가 의료, 군사 등 기술 분야는 물론 예술과 엔터테인먼트 등 창작의 영역으로까지 진화하고 있는 가운데 이러한 기술을 안전하게 사용할 수 있는 윤리 기준을 만들고 남용을 막는 시스템 구축의 필요성도 높아지고 있다. AI 기술의 발전으로 대두되는 사회적, 윤리적 요구에 발맞춰 올바른 AI 윤리 정립을 위해 엔씨소프트(이하 엔씨(NC))가 앞장서고 있다. AI 윤리를 위한 기술 뿐 아니라 도서 출간으로 AI 윤리 인식 확산에 기여하고, AI 윤리 가이드라인을 수립해 개발자들 역시 윤리적 책임을 깊이 인식하고 연구 단계부터 적용하고 있다.

엔씨소프트, 게임 채팅에서 비윤리·혐오 발언 인식하고 제어

11월 공시한 분기보고서에 따르면, 엔씨(NC)는 다양한 AI 윤리 기술을 게임과 AI 기술 개발에 적용하고 있다. 리니지W, 리니지2M 등 주요 게임의 채팅에 ‘스팸 필터링 기술’을 적용해 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하고 있다.

여러 국가의 이용자들이 함께 한 곳에서 플레이하는 게임의 특성상 국가간 비하 표현을 방지하는 기술도 반영하고 있다. 채팅 시 AI 번역 엔진에서 국가 간의 분쟁 요소가 될 수 있는 표현을 식별하고, 중립적인 표현으로 번역될 수 있도록 제어하는 기술이다.

또, AI가 욕설, 편견, 비하 등의 비윤리적인 표현을 학습하지 못하게 하거나 생성할 수 없도록 제어하는 기술을 비롯해 개인정보 비식별화, 국가간 비하 표현 방지, 비윤리•혐오 발화 인식 기술 등을 AI 연구개발에 적용하고 있다.

세계적 석학들과 ‘AI 윤리’ 인식을 논하는 대담 도서
‘가장 인간적인 미래’ 출간

세계적인 석학들과 AI 윤리에 대한 대담을 담은 도서 ‘가장 인간적인 미래’ 표지. [사진제공 엔씨소프트]

세계적인 석학들과 AI 윤리에 대한 대담을 담은 도서 ‘가장 인간적인 미래’ 표지. [사진제공 엔씨소프트]

윤송이 CSO(최고전략책임자)가 세계적 석학과 나눈 대담 시리즈 ‘AI Framework’ 콘텐츠를 엮어낸 도서 ‘가장 인간적인 미래’를 출간하면서 AI 윤리 인식 확산에 기여하고 있다.



이 도서는 엔씨(NC)가 공식 블로그와 유튜브를 통해 공개한 ‘AI Framework’ 시리즈를 엮어냈다. ‘AI Framework’는 엔씨(NC)가 ESG 경영 핵심 가치 중 하나인 ‘디지털 책임 – AI 윤리’를 위해 진행한 연중 기획 프로젝트다. 2021년 4월부터 1년간 공식 유튜브와 블로그를 통해 발행된 AI 대담 콘텐츠로, 170만 회가 넘는 누적 조회 수를 기록했다. 하버드대학교, 스탠포드대학교, 매사추세츠공과대학(MIT) 등의 세계적 석학 5인이 참여했다.

엔씨(NC)는 외부와의 공동연구, 연구 후원 등의 활동에 참여하고 있다. NC문화재단을 통해 2020년부터 MIT(‘NC Ethics of Technology Fund’)와 스탠포드대학교(‘NC Fellows Fund’) 등 AI 윤리 커리큘럼 개발을 후원하고 있다.

엔씨(NC)는 ESG 리포트를 통해 AI 윤리 원칙이자 가이드라인인 ‘NC AI Ethics Framework(NC AI 윤리 프레임워크)’를 공개하기도 했다. AI 기술이 ‘인간 중심의 AI’로 지속 성장할 수 있도록 ‘데이터 보호’, ‘편향되지 않는’, ‘투명성’ 등을 세 가지 핵심가치로 선정해 AI 개발과 운영 전반에 반영하고 있다.

엔씨(NC)는 데이터를 활용하는 과정에서 사용자의 프라이버시나 개인정보를 원천적으로 보호한다. AI 학습에 필요한 데이터들은 남기고 개인정보는 비식별화 하는 정책과 처리 시스템을 구축해 적용하는 것이 핵심이다.

또, 편향되지 않은 AI를 개발함으로써 AI에 기반한 서비스가 특정인에게 불리하게 작용하거나 소외시키지 않도록 하고 있다. ‘비윤리적 표현 데이터 사전’을 구축해 필터링하고, 무례한 발화를 제어하는 시스템을 적용 및 테스트하면서 여러 번 검증하는 체계를 갖추고 있다.

AI 기술의 투명성 공개에도 힘쓰고 있다. AI가 ‘이해할 수 없는 불안한 존재’라는 인식을 줄이고, AI의 의사 결정 과정과 결과에 대한 설명할 수 있어야 한다는 취지로, 엔씨(NC)는 2021년 10개 이상의 AI 연구 논문과 오픈소스 코드를 공개하기도 했다.

엔씨(NC) 관계자는 “AI 기술개발 과정에서 사용자의 데이터를 보호하고, 사회적으로 편향되지 않도록 주의하며, 해석 가능한 AI를 지향한다”며, “AI 기술이 편향되거나 악용되지 않도록 윤리적 책임을 연구개발 단계부터 실천하고 있다”이라고 말했다




여성동아 2022년 12월 708호
좋아요