정부, AI 알고리즘 기본원칙 만든다
내년 5월 중에 최종 가이드라인 발표
카카오·네이버, 알고리즘 조작 의혹
"정부 개입은 오해살 수 있어" 우려
내년 5월 중에 최종 가이드라인 발표
카카오·네이버, 알고리즘 조작 의혹
"정부 개입은 오해살 수 있어" 우려
# 넌 나만 바라봐
<앵커>
[플러스 PICK] 시간입니다.
이지효 기자, 첫 번째 키워드부터 바로 볼까요?
<기자>
네. 첫 번째 키워드는 `넌 나만 바라봐`로 잡았습니다.
정부가 포털이나 유튜브에 쓰이는 알고리즘과 관련한 가이드라인을 만들겠다고 발표했는데,
이게 정부가 할 수 있는 부분인가에 대한 논란이 일어서 키워드를 이렇게 잡았습니다.
<앵커>
그 배경이 `넌 나만 바라봐`다, 포털의 알고리즘이 나만 바라본다는 건가요?
<기자>
네. 바로 확증편향 얘기입니다.
확증편향은 자신과 신념이 일치하는 생각이나 글만 선택적으로 찾고,
반대되는 정보는 배척하는 인지적인 편향을 말합니다.
쉽게 말해서 포털이나 유튜브 등이 이용자가 좋아할 만한 콘텐츠만 주고 있다는 건데,
이렇게 제공되는 알고리즘이 시민들의 편향성을 강화하고 상식을 왜곡한다는 겁니다.
실제로 유튜브의 추천 알고리즘이 확증편향을 부추기게 설계됐다는 지적도 나오는데요.
유튜브에서 알고리즘 개발 엔지니어로 일했던 기욤 샬로는,
넷플릭스 다큐멘터리 `소셜 딜레마`에서 "추천 알고리즘은 사람들을 정치적·이념적으로 극단화시키고,
체류 시간을 늘리는 데 효과적"이라고 폭로한 바 있습니다.
<앵커>
좋게 말하면 듣고 싶은 콘텐츠를 제공하는 거지만,
여론조작이라는 범죄를 저지를 수도 있는 거 아닙니까?
<기자>
네. 맞습니다.
대표적인 것이 `카카오 들어오라고 하세요` 사건이었습니다.
윤영찬 더불어민주당 의원은 지난 9월 국회본회의장에서 주호영 국민의힘 원내대표의 교섭단체 대표연설을 듣던 중에,
자신의 보좌진에게 "주호영 연설은 바로 메인에 반영되네요",
"카카오 너무하군요. 들어오라고 하세요"라는 문자메시지를 보낸 것으로 알려졌습니다.
이 메시지는 언론사 카메라에 포착되면서 논란이 됐는데,
이게 여론을 조작할 수 있다는 증거라는 겁니다.
윤 의원은 네이버 부사장을 지냈고, 포털을 담당하는 국회 과학기술정보방송통신위 소속입니다.
네이버도 지난 10월 공정거래위원회로부터 267억원의 과징금 처분을 받은 바 있습니다.
네이버가 쇼핑·동영상 서비스에 자사의 제품이나 콘텐츠가 우선 노출되도록
검색 알고리즘을 바꿨다는 게 이유입니다.
<앵커>
플랫폼에서 알고리즘을 조작했다면 큰일 아닙니까?
<기자>
네. 이들 업체는 모두 사람이 개입하지 않고,
AI 알고리즘이 편집하기 때문에 문제가 없다는 반응입니디.
그렇다면 인공지능이 배열하면 괜찮을지 궁금해집니다.
정보통신정책연구원(KISDI)은 `EU의 알고리즘 규제 이슈와 정책적 시사점` 보고서에서
"알고리즘을 구축하는 단계에서 개발자의 성향과 판단, 사회적 풍토, 외적인 압력이 개입되기 때문에,
알고리즘은 편향적일 수밖에 없다"고 전했습니다.
다시 말해서 사람이 편견을 갖는 이상, 알고리즘도 편향을 가질 수밖에 없다는 의미입니다.
2016년 인공지능을 활용한 온라인 국제미인대회에서,
프로필 사진을 심사하는 프로그램이 백인을 제외한 후보자들을 떨어뜨린 일이 있고요.
구글의 온라인 광고가 여성보다 남성에게,
보다 높은 임금의 직업 광고를 추천한다는 연구결과도 있습니다.
더욱이 이들 플랫폼은 그 알고리즘의 기준에 대해서는 철저히 비밀에 부치고 있죠.
<앵커>
정부가 개입하면 달라질 수 있는 건가요?
<기자>
주무부처는 방송통신위원회입니다.
방통위는 우선 학계·법조계·연구기관 등 해당 분야의 전문가를 모아 협의회를 발족합니다.
협의회는 국내 AI 알고리즘의 활용 사례, 해외 관련 법 제도 등을 분석해,
가이드라인의 초안을 마련한다는 계획입니다.
초안을 토대로 정책 간담회와 공청회를 열어 내년 5월에 최종안을 발표합니다.
<앵커>
정부가 개입한다면 논란이 될 수 있지 않을까요?
<기자>
네. 이에 방통위 측은 "포털·영상 플랫폼 등 기업이 자율적으로 준수하는 형태로 강제성은 없을 것"이다고 밝히기도 했습니다.
하지만 부정적인 인식도 있습니다.
김연학 서강대학교 기술경영대학원 교수는 `정부가 개입하는 것은 바람직하지 않다`는 입장을 밝혔는데요.
그 이유에 대해 "알고리즘으로 규제하는 것은 창작의 자유, 경쟁력 있는 콘텐츠를 저해할 수 있다"며
"무엇보다 알고리즘은 오해를 살 수 있다"고 말했습니다.
그는 "진보 정권이니 보수 쪽에 규제를 가하는 게 아니냐는 오해를 살 수 있고, 그 반대도 마찬가지다"고 덧붙였습니다.
<앵커>
[플러스 PICK] 시간입니다.
이지효 기자, 첫 번째 키워드부터 바로 볼까요?
<기자>
네. 첫 번째 키워드는 `넌 나만 바라봐`로 잡았습니다.
정부가 포털이나 유튜브에 쓰이는 알고리즘과 관련한 가이드라인을 만들겠다고 발표했는데,
이게 정부가 할 수 있는 부분인가에 대한 논란이 일어서 키워드를 이렇게 잡았습니다.
<앵커>
그 배경이 `넌 나만 바라봐`다, 포털의 알고리즘이 나만 바라본다는 건가요?
<기자>
네. 바로 확증편향 얘기입니다.
확증편향은 자신과 신념이 일치하는 생각이나 글만 선택적으로 찾고,
반대되는 정보는 배척하는 인지적인 편향을 말합니다.
쉽게 말해서 포털이나 유튜브 등이 이용자가 좋아할 만한 콘텐츠만 주고 있다는 건데,
이렇게 제공되는 알고리즘이 시민들의 편향성을 강화하고 상식을 왜곡한다는 겁니다.
실제로 유튜브의 추천 알고리즘이 확증편향을 부추기게 설계됐다는 지적도 나오는데요.
유튜브에서 알고리즘 개발 엔지니어로 일했던 기욤 샬로는,
넷플릭스 다큐멘터리 `소셜 딜레마`에서 "추천 알고리즘은 사람들을 정치적·이념적으로 극단화시키고,
체류 시간을 늘리는 데 효과적"이라고 폭로한 바 있습니다.
<앵커>
좋게 말하면 듣고 싶은 콘텐츠를 제공하는 거지만,
여론조작이라는 범죄를 저지를 수도 있는 거 아닙니까?
<기자>
네. 맞습니다.
대표적인 것이 `카카오 들어오라고 하세요` 사건이었습니다.
윤영찬 더불어민주당 의원은 지난 9월 국회본회의장에서 주호영 국민의힘 원내대표의 교섭단체 대표연설을 듣던 중에,
자신의 보좌진에게 "주호영 연설은 바로 메인에 반영되네요",
"카카오 너무하군요. 들어오라고 하세요"라는 문자메시지를 보낸 것으로 알려졌습니다.
이 메시지는 언론사 카메라에 포착되면서 논란이 됐는데,
이게 여론을 조작할 수 있다는 증거라는 겁니다.
윤 의원은 네이버 부사장을 지냈고, 포털을 담당하는 국회 과학기술정보방송통신위 소속입니다.
네이버도 지난 10월 공정거래위원회로부터 267억원의 과징금 처분을 받은 바 있습니다.
네이버가 쇼핑·동영상 서비스에 자사의 제품이나 콘텐츠가 우선 노출되도록
검색 알고리즘을 바꿨다는 게 이유입니다.
<앵커>
플랫폼에서 알고리즘을 조작했다면 큰일 아닙니까?
<기자>
네. 이들 업체는 모두 사람이 개입하지 않고,
AI 알고리즘이 편집하기 때문에 문제가 없다는 반응입니디.
그렇다면 인공지능이 배열하면 괜찮을지 궁금해집니다.
정보통신정책연구원(KISDI)은 `EU의 알고리즘 규제 이슈와 정책적 시사점` 보고서에서
"알고리즘을 구축하는 단계에서 개발자의 성향과 판단, 사회적 풍토, 외적인 압력이 개입되기 때문에,
알고리즘은 편향적일 수밖에 없다"고 전했습니다.
다시 말해서 사람이 편견을 갖는 이상, 알고리즘도 편향을 가질 수밖에 없다는 의미입니다.
2016년 인공지능을 활용한 온라인 국제미인대회에서,
프로필 사진을 심사하는 프로그램이 백인을 제외한 후보자들을 떨어뜨린 일이 있고요.
구글의 온라인 광고가 여성보다 남성에게,
보다 높은 임금의 직업 광고를 추천한다는 연구결과도 있습니다.
더욱이 이들 플랫폼은 그 알고리즘의 기준에 대해서는 철저히 비밀에 부치고 있죠.
<앵커>
정부가 개입하면 달라질 수 있는 건가요?
<기자>
주무부처는 방송통신위원회입니다.
방통위는 우선 학계·법조계·연구기관 등 해당 분야의 전문가를 모아 협의회를 발족합니다.
협의회는 국내 AI 알고리즘의 활용 사례, 해외 관련 법 제도 등을 분석해,
가이드라인의 초안을 마련한다는 계획입니다.
초안을 토대로 정책 간담회와 공청회를 열어 내년 5월에 최종안을 발표합니다.
<앵커>
정부가 개입한다면 논란이 될 수 있지 않을까요?
<기자>
네. 이에 방통위 측은 "포털·영상 플랫폼 등 기업이 자율적으로 준수하는 형태로 강제성은 없을 것"이다고 밝히기도 했습니다.
하지만 부정적인 인식도 있습니다.
김연학 서강대학교 기술경영대학원 교수는 `정부가 개입하는 것은 바람직하지 않다`는 입장을 밝혔는데요.
그 이유에 대해 "알고리즘으로 규제하는 것은 창작의 자유, 경쟁력 있는 콘텐츠를 저해할 수 있다"며
"무엇보다 알고리즘은 오해를 살 수 있다"고 말했습니다.
그는 "진보 정권이니 보수 쪽에 규제를 가하는 게 아니냐는 오해를 살 수 있고, 그 반대도 마찬가지다"고 덧붙였습니다.
관련뉴스
