| 중국, 감정 교류형 AI 서비스 규제 시작 | ||
|
||
|
□ 중국은 감정교류형 AI 서비스 확산에 대응하여, 국가인터넷정보판공실 등 5개 부처가 ‘AI 인간형 상호작용 서비스 관리 방법’을 발표하고, 안전·윤리·데이터 보호를 포함한 관리체계 구축 추진(26.4.11)
* ‘인간형 상호작용 AI’는 인간의 말투·성격·사고방식을 모방해 이용자와 지속적으로 감정 교류를 수행하는 서비스
○ (배경) AI 서비스가 정보 제공을 넘어 감정 교류·지속적 상호작용 영역으로 확장되면서, 이용자 보호와 사회적 리스크 관리 필요성 확대
- 고령자 돌봄, 심리 상담, 공공 서비스 등 활용 수요가 증가하는 한편, 과의존, 미성년자 보호, 개인정보 유출, AI를 인간으로 오인하는 문제 등 부작용 동시 발생
- 텍스트·음성·영상 기반 감정형 서비스 확산에 따라 심리적 영향, 데이터 안전, 이용자 의존성 등 새로운 위험 요인이 부각
- 이에 따라 기존 데이터·알고리즘 중심 규제에서 감정 교류형 AI 서비스까지 관리 범위를 확대
 ○ (내용) 본 제도는 특정 기술이 아닌 ‘감정 교류형 서비스’라는 활용 시나리오를 규제 대상으로 설정한 최초의 세분화 규제로 총 4장 32조로 구성됨
- 감정 교류형 AI 서비스에 대해 금지 행위, 사업자 책임 등을 포함한 전주기 관리 기준을 제시
 ○ (글로벌 비교) 주요국은 감정형 AI 서비스에 대해 별도의 단일 법률보다는 기존 AI·데이터·소비자 보호 체계 내에서 분산 규제하는 방식이 일반적
 <참고자료>
(26.04.10, 国家互联网信息办公室) 人工智能拟人化互动服务管理暂行办法
(26.04.14, 网信中国) 专家解读｜人工智能拟人化互动服务的制度指引
(26.04.10, 湖南省人民政府) 《人工智能拟人化互动服务管理暂行办法》答记者问
작성자: 정리 연구원(miouly@kostec.re.kr)
|
SEARCH
- 정책동향
- 이슈리포트
- 통계DB
- 통계DB