美 의회 첫 AI 청문회…챗GPT 창시자 "규제·국제기준 필요"
상원, AI 규제 본격 논의…가짜정보·中 위협 한 목소리 경고
개회사 대신 AI가 작성한 연설문을 의원 목소리 학습한 AI가 대독
샘 올트먼 "정부, AI모델 출시 때 허가·시험조건 고려할 수 있어"
(워싱턴=연합뉴스) 김경희 특파원 = "우리는 기술이 규제를 능가할 때 허위 정보의 확산, 사회적 불평등의 심화로 어떤 일이 발생하는지 너무나 자주 보아 왔다."
대화형 인공지능(AI) 챗GPT 출시 이후 전세계에서 AI가 몰고올 미래에 대한 기대와 우려가 교체하는 가운데 미국 의회가 16일(현지시간) 처음으로 AI 청문회를 개최했다.
이날 청문회에선 AI 열풍에 불을 붙인 챗GPT의 창시자 샘 올트먼 오픈AI 최고경영자(CEO)가 증인으로 출석해 AI에 대한 소견을 밝히고 의원들의 질의에 답변했다.
민주당 소속 리처드 블루먼솔 소위 위원장은 회의 시작과 함께 개회사를 듣겠다더니 입을 닫았다.
그런데도 스피커에선 블루먼솔 위원장의 목소리를 빼닮은 음성을 통해 이 같은 내용의 연설이 흘러나왔다.
자신의 목소리로 진행된 것 같은 연설이 끝나자 블루먼솔 위원장은 "만약 여러분이 집에서 듣고 계신다면, 이 목소리와 발언이 나라고 생각할 수 있다"며 목소리의 주인공이 자신이 아님을 밝혔다.
이어 "오디오는 내 연설을 학습한 AI 음성 복제 소프트웨어였고, 발언문은 챗GPT에 '내가 이 청문회에서 어떤 연설을 할 것 같으냐'고 물었을 때 나온 결과"라고 설명했다.
그는 AI가 작성해 AI가 읽은 연설에 대해 이처럼 소개하며 AI의 위험성도 지적했다.
그는 "초기 흉물스러운 핸드폰 시대를 기억한다면 우리가 정말로 새로운 시대의 언저리에 있다는 것을 자각할 수 있을 것"이라며 "내 목소리가 재미있을 수 있지만, 만약 이것이 우크라이나 침공이나 블라디미르 푸틴을 옹호하는 내용이라면 어땠을지 공포스럽다"고 강조했다.
그는 "AI는 희망적인 동시에 정보의 무기화, 불평등의 조장, 목소리 복제 사기 등 잠재적 해악도 품고 있다"며 "가장 끔찍한 것은 이 같은 새로운 산업 혁명으로 수백만 일자리가 사라질 수 있다는 것"이라고 지적했다.
의원들은 이날 청문회에서 AI의 잠재적 위험을 지적하며 적절한 규제 필요성을 강조했다.
특히 별도의 규제 기구 설립에 대해선 초당적으로 무게를 실었다. 중국 등 경쟁국이 AI를 악용할 경우 발생할 해악에도 우려를 표했다.
민주당 에이미 클로버샤 의원은 "내 지역구 미네소타 블루밍턴에서 투표를 하려면 어디로 가야 하느냐고 챗GPT에 물었더니, 지금은 투표 기간이 아닌데도 주소를 제시하며 허위 정보를 제공했다"며 "내년 대선과 경선을 앞두고 이 같은 잘못된 정보에 대한 대응이 시급하다"고 우려했다.
민주당 크리스 쿤스 의원은 "AI가 잘못된 정보를 전달하고 여론과 선거 결과에 영향을 미칠 수 있다. 의회는 이제까지 소셜미디어에 대한 규제에 실패해 왔다"며 "AI가 민주주의의 가치에 대한 믿음을 훼손할 가능성이 걱정스럽다"고 밝혔다.
그는 "중국은 현재 개발 중인 AI를 통해 중국 공산당의 핵심 가치를 강화할 것이라고 주장한다"며 "개방된 시장과 민주주의를 강화하기 위해 어떻게 AI를 촉진할지 우려한다"고 덧붙였다.
공화당 조시 홀리 의원 역시 "우리는 인류 역사상 가장 중요한 기술 혁신의 하나를 목도하고 있다"며 중국을 비롯한 적국의 AI 위협을 거론, "미국의 자유와 국민을 위해 어떻게 이 기술을 통제할 수 있는지 고민해야 한다"고 말했다.
같은 당 린지 그레이엄 의원도 AI 기업 허가를 관장하는 별도의 정부 기구 필요성을 강조하며 "그것이 AI 기업들이 옳은 일을 하도록 인센티브를 제공할 것"이라고 강조했다.
올트먼 CEO는 "오픈AI는 AI가 우리 삶의 거의 모든 측면을 개선할 것이란 믿음으로 설립됐지만 동시에 심각한 위험도 존재한다"며 "강력한 모델로서 위험을 완화하기 위해 정부 규제 개입이 중요하다고 생각한다"고 밝혔다.
그는 "가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력"이라며 "책임 문제에 있어 어떤 체계를 설정할지는 매우 중요한 문제"라고 강조했다.
그러면서 그는 "미국 정부는 AI 모델을 개발하고 출시하는 데 있어 일정 역량 이상의 허가와 시험 조건을 고려할 수 있다"고 제시했다.
그는 "나라면 일정 규모 이상 활동에 대해 허가권을 가진 새로운 기관을 설립하고, 위험 요소에 대한 평가 기준을 만들겠다"며 "독립적 전문가로 구성된 별도의 감사도 필요하다"고 말했다.
그는 또 "우리는 글로벌한 무언가가 필요하다"며 "순진하게 들릴 수 있지만 국제원자력기구(IAEA)와 같은 선례가 있다. 미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 비현실적으로 들리지만 실제 가능하고 전 세계에 큰 도움이 될 것"이라고 지적했다.
개리 마커스 뉴욕대 교수는 "미국에서 AI 문제에 대응하기 위해 부처 수준의 별도 기관을 설립할 필요가 있다"며 "정보의 양이 많아 전문 지식이 필요하고 많은 협업이 필요하며, AI는 미래의 아주 큰 부분이 될 것이기 때문"이라고 조언했다.
크리스티나 몽고메리 IBM 부회장 겸 최고개인정보보호책임자는 일정한 규제 필요성을 인정하면서도 별도의 기관 신설에는 신중한 입장을 보였다.
미국에서는 양날의 검과 같은 AI에 대한 규제를 놓고는 민주당과 공화당을 아우르는 초당적 합의가 형성된 상황이다.
공화당이 다수당인 하원도 이날 AI코커스가 별도 비공개 모임을 갖고 올트먼 CEO를 초청해 AI 규제 문제를 논의할 예정이다.
백악관은 앞서 오픈AI를 비롯해 구글 등 핵심 기업을 초청해 카멀라 해리스 부통령 주관으로 대책 회의를 개최하기도 했다. 이 행사에는 조 바이든 대통령도 '깜짝' 참석했다.
kyunghee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
상원, AI 규제 본격 논의…가짜정보·中 위협 한 목소리 경고
개회사 대신 AI가 작성한 연설문을 의원 목소리 학습한 AI가 대독
샘 올트먼 "정부, AI모델 출시 때 허가·시험조건 고려할 수 있어"
(워싱턴=연합뉴스) 김경희 특파원 = "우리는 기술이 규제를 능가할 때 허위 정보의 확산, 사회적 불평등의 심화로 어떤 일이 발생하는지 너무나 자주 보아 왔다."
대화형 인공지능(AI) 챗GPT 출시 이후 전세계에서 AI가 몰고올 미래에 대한 기대와 우려가 교체하는 가운데 미국 의회가 16일(현지시간) 처음으로 AI 청문회를 개최했다.
이날 청문회에선 AI 열풍에 불을 붙인 챗GPT의 창시자 샘 올트먼 오픈AI 최고경영자(CEO)가 증인으로 출석해 AI에 대한 소견을 밝히고 의원들의 질의에 답변했다.
민주당 소속 리처드 블루먼솔 소위 위원장은 회의 시작과 함께 개회사를 듣겠다더니 입을 닫았다.
그런데도 스피커에선 블루먼솔 위원장의 목소리를 빼닮은 음성을 통해 이 같은 내용의 연설이 흘러나왔다.
자신의 목소리로 진행된 것 같은 연설이 끝나자 블루먼솔 위원장은 "만약 여러분이 집에서 듣고 계신다면, 이 목소리와 발언이 나라고 생각할 수 있다"며 목소리의 주인공이 자신이 아님을 밝혔다.
이어 "오디오는 내 연설을 학습한 AI 음성 복제 소프트웨어였고, 발언문은 챗GPT에 '내가 이 청문회에서 어떤 연설을 할 것 같으냐'고 물었을 때 나온 결과"라고 설명했다.
그는 AI가 작성해 AI가 읽은 연설에 대해 이처럼 소개하며 AI의 위험성도 지적했다.
그는 "초기 흉물스러운 핸드폰 시대를 기억한다면 우리가 정말로 새로운 시대의 언저리에 있다는 것을 자각할 수 있을 것"이라며 "내 목소리가 재미있을 수 있지만, 만약 이것이 우크라이나 침공이나 블라디미르 푸틴을 옹호하는 내용이라면 어땠을지 공포스럽다"고 강조했다.
그는 "AI는 희망적인 동시에 정보의 무기화, 불평등의 조장, 목소리 복제 사기 등 잠재적 해악도 품고 있다"며 "가장 끔찍한 것은 이 같은 새로운 산업 혁명으로 수백만 일자리가 사라질 수 있다는 것"이라고 지적했다.
의원들은 이날 청문회에서 AI의 잠재적 위험을 지적하며 적절한 규제 필요성을 강조했다.
특히 별도의 규제 기구 설립에 대해선 초당적으로 무게를 실었다. 중국 등 경쟁국이 AI를 악용할 경우 발생할 해악에도 우려를 표했다.
민주당 에이미 클로버샤 의원은 "내 지역구 미네소타 블루밍턴에서 투표를 하려면 어디로 가야 하느냐고 챗GPT에 물었더니, 지금은 투표 기간이 아닌데도 주소를 제시하며 허위 정보를 제공했다"며 "내년 대선과 경선을 앞두고 이 같은 잘못된 정보에 대한 대응이 시급하다"고 우려했다.
민주당 크리스 쿤스 의원은 "AI가 잘못된 정보를 전달하고 여론과 선거 결과에 영향을 미칠 수 있다. 의회는 이제까지 소셜미디어에 대한 규제에 실패해 왔다"며 "AI가 민주주의의 가치에 대한 믿음을 훼손할 가능성이 걱정스럽다"고 밝혔다.
그는 "중국은 현재 개발 중인 AI를 통해 중국 공산당의 핵심 가치를 강화할 것이라고 주장한다"며 "개방된 시장과 민주주의를 강화하기 위해 어떻게 AI를 촉진할지 우려한다"고 덧붙였다.
공화당 조시 홀리 의원 역시 "우리는 인류 역사상 가장 중요한 기술 혁신의 하나를 목도하고 있다"며 중국을 비롯한 적국의 AI 위협을 거론, "미국의 자유와 국민을 위해 어떻게 이 기술을 통제할 수 있는지 고민해야 한다"고 말했다.
같은 당 린지 그레이엄 의원도 AI 기업 허가를 관장하는 별도의 정부 기구 필요성을 강조하며 "그것이 AI 기업들이 옳은 일을 하도록 인센티브를 제공할 것"이라고 강조했다.
올트먼 CEO는 "오픈AI는 AI가 우리 삶의 거의 모든 측면을 개선할 것이란 믿음으로 설립됐지만 동시에 심각한 위험도 존재한다"며 "강력한 모델로서 위험을 완화하기 위해 정부 규제 개입이 중요하다고 생각한다"고 밝혔다.
그는 "가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력"이라며 "책임 문제에 있어 어떤 체계를 설정할지는 매우 중요한 문제"라고 강조했다.
그러면서 그는 "미국 정부는 AI 모델을 개발하고 출시하는 데 있어 일정 역량 이상의 허가와 시험 조건을 고려할 수 있다"고 제시했다.
그는 "나라면 일정 규모 이상 활동에 대해 허가권을 가진 새로운 기관을 설립하고, 위험 요소에 대한 평가 기준을 만들겠다"며 "독립적 전문가로 구성된 별도의 감사도 필요하다"고 말했다.
그는 또 "우리는 글로벌한 무언가가 필요하다"며 "순진하게 들릴 수 있지만 국제원자력기구(IAEA)와 같은 선례가 있다. 미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 비현실적으로 들리지만 실제 가능하고 전 세계에 큰 도움이 될 것"이라고 지적했다.
개리 마커스 뉴욕대 교수는 "미국에서 AI 문제에 대응하기 위해 부처 수준의 별도 기관을 설립할 필요가 있다"며 "정보의 양이 많아 전문 지식이 필요하고 많은 협업이 필요하며, AI는 미래의 아주 큰 부분이 될 것이기 때문"이라고 조언했다.
크리스티나 몽고메리 IBM 부회장 겸 최고개인정보보호책임자는 일정한 규제 필요성을 인정하면서도 별도의 기관 신설에는 신중한 입장을 보였다.
미국에서는 양날의 검과 같은 AI에 대한 규제를 놓고는 민주당과 공화당을 아우르는 초당적 합의가 형성된 상황이다.
공화당이 다수당인 하원도 이날 AI코커스가 별도 비공개 모임을 갖고 올트먼 CEO를 초청해 AI 규제 문제를 논의할 예정이다.
백악관은 앞서 오픈AI를 비롯해 구글 등 핵심 기업을 초청해 카멀라 해리스 부통령 주관으로 대책 회의를 개최하기도 했다. 이 행사에는 조 바이든 대통령도 '깜짝' 참석했다.
kyunghee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
