![[장영한] 투자 북클럽 1기](https://img.wowtv.co.kr/MainManage_DAYADD/134255436888937226.png)
AI 기본법에 허점 보완 필요
조인철 의원 AI 표시 의무 대표 발의
이용자 포함 표시 의무 대상 확대 추진
<앵커>
온라인 숏폼에서 이런 영상 한 번쯤 보셨을텐데요. AI로 만든 가짜 의사 출연 허위·과대 광고 영상입니다.
인공지능(AI) 생성물에 표시 의무를 담은 AI 기본법이 올 초에 시행됐지만, 실효성을 높이기 위한 보완 입법 필요성은 지속적으로 제기되고 있습니다.
오늘 [세상에 이런 법이] 두 번째 주제로, AI 표시 의무화 입법을 다뤄봅니다.
<기자>
AI로 만든 가짜 현수막을 두고 진위 공방이 벌어지는가 하면, 해외 유력 시사 주간지 표지 모델을 가장한 울산의 한 구청장 예비후보는 선관위에 고발 당해 사퇴했습니다.
AI가 일상화된 가운데 치러진 이번 지방선거에서 벌어진 일들입니다.
2022년 대선을 계기로 공직선거법상 AI 규제 조항이 신설되면서 처벌 근거가 만들었지만 근절되지 못 했습니다.
더 큰 문제는 일상 속 AI 생성 콘텐츠로 인한 혼란입니다.
동영상 플랫폼에서 흔히 볼 수 있는 건강식품 홍보 영상입니다. 영상을 만든 업체는 AI로 만든 가짜 의사를 내세워 81억 원의 부당한 매출을 올린 혐의로 검찰에 넘겨졌습니다.
이렇듯 생성형 AI를 악용한 허위 콘텐츠 증가로 국내 딥페이크 범죄도 계속 증가하는 추세입니다.
[박영경/서울 용산구: 일단 너무 헷갈리게 현실과 모호하게 만드는 경우가 너무 많아서 특히 어르신분들도 헷갈리시고…]
[권준욱/서울 서대문구: AI가 직접 하는지 아니면 도움을 좀 받았는지 또 처음에 아이디어 차원에서 좀 AI를 활용했는지 그런 것들이 각각 구분하기가 좀 어려웠습니다. (AI 활용 여부를) 표시하는 것이 필요할 것 같습니다.]
AI 기본법은 4년에 걸친 국회 논의 끝에 지난해 1월 제정됐고, 올해 초 세계 최초로 시행됐습니다.
AI 생성물임을 표시해야하는 의무를 법제화했지만 그 대상을 챗GPT의 오픈AI와 같은 생성형 AI 사업자에 한정하면서 허점도 드러나고 있습니다.
AI 표시 워터마크를 지우는 사례가 목격되고, 해외에서 제작된 가짜영상들도 국내에 버젓이 돌아다니고 있는 것이 현실입니다.
유튜브와 인스타그램 같은 SNS 유통단계에서 AI 표시 의무화를 더 정교하게 가다듬어야 할 필요성이 생겼습니다.
[조인철/더불어민주당 의원: AI 기본법에는 AI 사업자에 대한 규정이 되어 있습니다. 워터마크, AI 영상입니다라는 표시를 할 수 있도록 해놓은 게 사업자한테만 의미를 주는 거거든요. 그게 문제가 된다고 하면 실제로는 어떻게 확산되느냐 그게 가장 크거든요.]
지난 1월 발의된 정보통신망법 개정안은 사업자 뿐만 아니라 유튜브 같은 플랫폼과 생성물을 올리는 게시자, 이를 소비하는 이용자에게까지 의무를 부여합니다.
AI 가짜 생성물에 대한 피해가 플랫폼 유통 단계에서 주로 발생한다는 점에서 주체별 의무를 구체화한 게 가장 큰 특징입니다.
[조인철/더불어민주당 의원: 플랫폼 사업자도 AI 생성물들인지 아닌지를 유지 관리해라, 제대로 관리해라라는 의무를 부과했고 이용자들이 AI 생성물인데도 불구하고, 워터마크를 지워버린다든지 이용자들도 이런 것을 금지시켜 놓은 겁니다.]
기술 발전 속도를 법이 쫓아가기 벅차보이기도 합니다. 시행 반년도 채 되지 않았지만 AI 기본법 개정 움직임도 이어지고 있습니다.
[김명주/서울여대 정보보호학과 교수: (AI 기술 발전으로) 이거 부작용도 있네, 이거 심지어 사회적인 문제가 되겠네라고 해서 그거에 대한 목소리가 갈수록 더 커질 것 같아요. 그런 면에서는 이용자 측면에서 우려하고 있는 부분들을 법으로 막으려고 하는 부분들은 당연한 요구라는 생각을 합니다.]
단순 표시 의무만으로는 충분히 이용자를 보호하지 못 할 거라는 주장도 나옵니다. 또 과도한 규제가 AI를 활용한 창작의 자유를 해칠 것이라는 부정적인 시각도 있습니다.
그럼에도 가짜와 진짜를 쉽게 구분할 수 있어야 한다는데는 이견이 없습니다.
[김명주/서울여대 정보보호학과 교수: 전혀 반대의 시각인데, 진짜 자기가 글로 썼거나 자기가 찍은 사진이나 자기가 편집한 영상이면…밑에다가 'not by AI'라는 걸 씁니다. 'AI로 만드는 게 아님'이라고 하는 것은 적극적으로 자기의 주장과 어떤 자기의 입장을 표명한 거잖아요. 오히려 그게 훨씬 더 강력하지 않을까.]
미국은 캘리포니아, 뉴욕 등 주요 10여 개주에서 선거용 딥페이크 광고 표시 의무제를 시행 중이고, 중국에서도 AI 생산과 유통, 이용 과정을 세분화해 표시 의무를 규율화 했습니다.
AI 생성물 최대 유통 채널인 유튜브는 최근 자동 식별 기능을 도입해 AI 생성물을 표시하는 기능을 추가했습니다.
AI 법제화의 선두에 나서고 있는 우리나라가 어떤 기준을 만들어나가느냐가 전세계의 표준이 될 수도 있습니다.
한국경제TV 정재홍입니다.
온라인 숏폼에서 이런 영상 한 번쯤 보셨을텐데요. AI로 만든 가짜 의사 출연 허위·과대 광고 영상입니다.
인공지능(AI) 생성물에 표시 의무를 담은 AI 기본법이 올 초에 시행됐지만, 실효성을 높이기 위한 보완 입법 필요성은 지속적으로 제기되고 있습니다.
오늘 [세상에 이런 법이] 두 번째 주제로, AI 표시 의무화 입법을 다뤄봅니다.
<기자>
AI로 만든 가짜 현수막을 두고 진위 공방이 벌어지는가 하면, 해외 유력 시사 주간지 표지 모델을 가장한 울산의 한 구청장 예비후보는 선관위에 고발 당해 사퇴했습니다.
AI가 일상화된 가운데 치러진 이번 지방선거에서 벌어진 일들입니다.
2022년 대선을 계기로 공직선거법상 AI 규제 조항이 신설되면서 처벌 근거가 만들었지만 근절되지 못 했습니다.
더 큰 문제는 일상 속 AI 생성 콘텐츠로 인한 혼란입니다.
동영상 플랫폼에서 흔히 볼 수 있는 건강식품 홍보 영상입니다. 영상을 만든 업체는 AI로 만든 가짜 의사를 내세워 81억 원의 부당한 매출을 올린 혐의로 검찰에 넘겨졌습니다.
이렇듯 생성형 AI를 악용한 허위 콘텐츠 증가로 국내 딥페이크 범죄도 계속 증가하는 추세입니다.
[박영경/서울 용산구: 일단 너무 헷갈리게 현실과 모호하게 만드는 경우가 너무 많아서 특히 어르신분들도 헷갈리시고…]
[권준욱/서울 서대문구: AI가 직접 하는지 아니면 도움을 좀 받았는지 또 처음에 아이디어 차원에서 좀 AI를 활용했는지 그런 것들이 각각 구분하기가 좀 어려웠습니다. (AI 활용 여부를) 표시하는 것이 필요할 것 같습니다.]
AI 기본법은 4년에 걸친 국회 논의 끝에 지난해 1월 제정됐고, 올해 초 세계 최초로 시행됐습니다.
AI 생성물임을 표시해야하는 의무를 법제화했지만 그 대상을 챗GPT의 오픈AI와 같은 생성형 AI 사업자에 한정하면서 허점도 드러나고 있습니다.
AI 표시 워터마크를 지우는 사례가 목격되고, 해외에서 제작된 가짜영상들도 국내에 버젓이 돌아다니고 있는 것이 현실입니다.
유튜브와 인스타그램 같은 SNS 유통단계에서 AI 표시 의무화를 더 정교하게 가다듬어야 할 필요성이 생겼습니다.
[조인철/더불어민주당 의원: AI 기본법에는 AI 사업자에 대한 규정이 되어 있습니다. 워터마크, AI 영상입니다라는 표시를 할 수 있도록 해놓은 게 사업자한테만 의미를 주는 거거든요. 그게 문제가 된다고 하면 실제로는 어떻게 확산되느냐 그게 가장 크거든요.]
지난 1월 발의된 정보통신망법 개정안은 사업자 뿐만 아니라 유튜브 같은 플랫폼과 생성물을 올리는 게시자, 이를 소비하는 이용자에게까지 의무를 부여합니다.
AI 가짜 생성물에 대한 피해가 플랫폼 유통 단계에서 주로 발생한다는 점에서 주체별 의무를 구체화한 게 가장 큰 특징입니다.
[조인철/더불어민주당 의원: 플랫폼 사업자도 AI 생성물들인지 아닌지를 유지 관리해라, 제대로 관리해라라는 의무를 부과했고 이용자들이 AI 생성물인데도 불구하고, 워터마크를 지워버린다든지 이용자들도 이런 것을 금지시켜 놓은 겁니다.]
기술 발전 속도를 법이 쫓아가기 벅차보이기도 합니다. 시행 반년도 채 되지 않았지만 AI 기본법 개정 움직임도 이어지고 있습니다.
[김명주/서울여대 정보보호학과 교수: (AI 기술 발전으로) 이거 부작용도 있네, 이거 심지어 사회적인 문제가 되겠네라고 해서 그거에 대한 목소리가 갈수록 더 커질 것 같아요. 그런 면에서는 이용자 측면에서 우려하고 있는 부분들을 법으로 막으려고 하는 부분들은 당연한 요구라는 생각을 합니다.]
단순 표시 의무만으로는 충분히 이용자를 보호하지 못 할 거라는 주장도 나옵니다. 또 과도한 규제가 AI를 활용한 창작의 자유를 해칠 것이라는 부정적인 시각도 있습니다.
그럼에도 가짜와 진짜를 쉽게 구분할 수 있어야 한다는데는 이견이 없습니다.
[김명주/서울여대 정보보호학과 교수: 전혀 반대의 시각인데, 진짜 자기가 글로 썼거나 자기가 찍은 사진이나 자기가 편집한 영상이면…밑에다가 'not by AI'라는 걸 씁니다. 'AI로 만드는 게 아님'이라고 하는 것은 적극적으로 자기의 주장과 어떤 자기의 입장을 표명한 거잖아요. 오히려 그게 훨씬 더 강력하지 않을까.]
미국은 캘리포니아, 뉴욕 등 주요 10여 개주에서 선거용 딥페이크 광고 표시 의무제를 시행 중이고, 중국에서도 AI 생산과 유통, 이용 과정을 세분화해 표시 의무를 규율화 했습니다.
AI 생성물 최대 유통 채널인 유튜브는 최근 자동 식별 기능을 도입해 AI 생성물을 표시하는 기능을 추가했습니다.
AI 법제화의 선두에 나서고 있는 우리나라가 어떤 기준을 만들어나가느냐가 전세계의 표준이 될 수도 있습니다.
한국경제TV 정재홍입니다.
관련뉴스
