청소년에게 콘텐츠 추천 알고리즘 적용 금지... 미국 전역에서 알고리즘 제한 법안 통과
최근 표현의 자유에 대해 진보적 성향이 강하다고 평가되는 미국 뉴욕주 의회에서 소셜미디어 상의 청소년에게 추천 알고리즘 서비스를 금지하는 법안이 통과됐다. FaceBook, Youtube, TikTok, Instagram 등의 소셜미디어의 추천 알고리즘이 청소년에게 콘텐츠 중독을 일으키고 청소년의 정신세계를 파괴한다고 본 것이다.
뉴욕주뿐만 아니라 아동과 청소년을 보호한다는 명분 아래 소셜미디어 제한법은 미국 전역에서 관심을 받고 있는 주제이다.
그러나 미국 소셜미디어 업계는 해당 법안이 표현과 언론의 자유를 보장하는 헌법을 위반한다며 반발하고 있다. 또한, 의회가 소셜미디어의 사용자의 나이 인증을 어떻게 할지 등 민감한 부분에 대해 구체적으로 어떻게 대처해야 하는지 어느 누구도 명확하게 설명하지 않고 있다며 반박하고 있다.
EU의 AI 관련 규제 동향: 글로벌 AI 규제의 선두
유럽에서는 올해 3월 인공지능을 규제하기 위해 전 세계 최초로 'EU AI 법'이 통과 됐고 올해 하반기부터 시행될 예정이라고 한다.
이에 대해 간략히 소개하자면, AI시스템의 위험도를 4단계로 나누어 차등 규제하는 방법이다.
크게 구분해보면 AI 시스템을 허용할 수 없는 등급과 부분적으로 허용되는 등급으로 나눌 수 있는데,
허용할 수 없는 위험 등급(Unacceptable Risk)같은 경우,
- 사람이나 특정 취약 집단에 대한 인지 행동 조작
- 사회적 행동, 지위, 특성을 기반으로 사람들을 분류하는 사회점수평가
- 안면 데이터 베이스
- 민감정보(인종,정치,종교 등)을 이용한 생체 인식 분류 시스템
등등의 분야에서는 AI 시스템 사용이 원칙적으로 금지시 된다.
그외 분야에서는 AI 시스템을 부분적 허용(High Risk)이 가능하지만 시장 출시 이전에 엄격한 위험 평가와 지속적인 모니터링 관리 의무가 기업에게 부과된다.
세계적으로 AI 규제에 대한 법적 근거들이 마련이 되면서 우리나라에서도 최근 Tech 기업들의 AI 시스템을 점검하는 사례들이 증가하고 있으며 이에 따라 사업을 하기 전 전반적으로 AI 서비스에 대해 점검이 필요한 시기라고 생각한다.
마지막으로
지금까지 AI는 개인 정보 수집, 사용, 공개와 관련된 범위 내에서 각국의 개인정보 보호 법령의 적용을 받아왔다. 그러나 AI 기술 발전 과정에서 예측하지 못한 사회적, 경제적, 윤리적 리스크 발생 가능성이 증가함에 따라 AI 신뢰성과 안정성을 제고하기 위한 각국의 입법 시도가 활발해지는 추세이다.
그러나 이러한 주목과 관심에 비해 그 실상은 아직 의문점이 꽤 많다고 생각한다. 해외 각국 규제의 공통점을 추려보면 AI 산업 생태계 참여자들에게 명확한 가이드라인 없이 그들에게 전반적인 책임만을 강조하고, AI 위험성을 주기적으로 모니터링하도록 함으로 식별된 위험에 대한 적절한 조치를 취하려는 태도를 보인다는 것이다.
또한 관련 사회문제를 해결하기 위해 AI 시스템 간 인과관계가 성립이 되는지, AI 시스템을 규제한다고 해도 그것이 정말 철저하게 지켜질까에 대한 의문이 든다.
개인적인 경험으로는 최근 한국 일부 학교에서 아동 청소년을 대상으로 AI 컨텐츠 시청을 제한하는 프로그램이 있다는 것을 들었다. 그런데 청소년들은 그런 규제의 사각지대를 발견함으로 컨텐츠를 시청하는 방법을 터득했고 결국 학교 프로그램의 취지는 물거품이 됐다. 이러한 점에서 명확한 기준이 없는 AI 규제가 의미가 있을지는 지켜봐야 할 것 같다.
AI에 대한 규제가 필요없다는 것이 아니다. 무조건적으로 AI에 대한 규제는 필요하다고 생각한다. 다만 현재 세계적으로 적용되는 규제가 실제 사회적 또는 윤리적 문제를 해결하기에 걸맞는 효과적인 방법이 확실하냐에 대한 판단에 의구심을 가지고 있을 뿐이다.
보여주기 식의 접근보다는 문제의 본질적인 부분을 탐색하고 해결해야하지 않을까?