굿모닝작전
‘인공지능(AI)이 창의성은 어떻게 탄생하는 것일까’
‘AI도 정치색을 띠는가’
생성형 AI가 개인의 일상과 기업 활동 깊숙이 들어온 가운데 AI의 창의성과 윤리의식, 정치색 등에 대한 고민이 커지고 있다. 같은 입력값을 넣고도 더 창의적인 결과를 얻을 수 있는지, 인간과 같은 엄격한 윤리적 기준을 가지고 답을 내놓을 수 있는 지 등에 대한 질문이 많아지는 시점이다.
LG와 미국 뉴욕의 구겐하임 미술관은 ‘LG 구겐하임 아트 & 테크 파트너십’을 통해 기술을 활용한 예술 분야를 지원하며 새로운 경험을 제시하고 있다. 24일(현지시간) 미국 뉴욕주 스토니브룩 주대학에서 열린 스테파니 딘킨스 스토니브룩대 교수와 이문태 LG AI 연구원 초지능 랩장의 대담도 이같은 맥락에서 기획된 행사다. 이날 딘킨스 교수와 이 랩장은 ‘계산, 직관, 그리고 가능성의 경계들’ 주제로 AI의 창의성과 윤리성, 정치색 등과 관련해 심도있는 대화를 나눴다.
“AI의 비결정성이 창의성의 시작”
이문태 랩장은 이 자리에서 “AI 시스템은 같은 입력에도 매번 다른 결과를 낸다. 이 비결정성은 불안정함처럼 보이지만, 사실은 창의성의 본질이다”고 강조했다. 비결정성이란 AI에 같은 입력값을 넣어도 AI가 매번 다른 결과를 내는 성질을 뜻한다. 즉, AI의 예측 불가능한 반응이야말로 새로운 아이디어를 낳는 원천이라는 것이다. 이문태 랩장은 “정확한 답보다 새로운 변이를 만들어내는 능력이 진짜 창의성의 핵심”이라고 덧붙였다.이문태 랩장은 또 “AI는 두 이미지나 개념을 잇는 ‘인터폴레이션’을 통해 새로운 결과를 만들어낸다. 하지만 진짜 창의성은 그 너머, ‘엑스트라폴레이션’에서 나온다”고 설명했다. 인터폴레이션은 AI가 이미 알고 있는 것들 사이를 자연스럽게 이어주는 방식이다. 예를 들어, ‘모나리자’와 ‘테일러 스위프트’의 그림을 섞어 새로운 얼굴을 만드는 것과 비슷하다. 기존 자료 안에서 새로운 조합을 시도하는 것이다. 엑스트라폴레이션은 AI가 배운 범위를 넘어 전혀 다른 결과를 상상하는 것이다. 예를 들어, 단순히 그림을 바꾸는 데 그치지 않고, 완전히 새로운 세계를 만들어내는 창의적 도약을 뜻한다.
이 랩장은 현재의 AI는 대부분 학습된 데이터 안에서 작동하지만, 인간이 새로운 시도를 설계하거나 예기치 못한 질문을 던질 때 창의적 발상을 내놓는다고 덧붙였다.
“AI는 사회 구조와 편견 반영”
딘킨스 교수는 AI와 관련해 철학자 자크 데리다의 개념인 ‘유령론’을 인용했다. 그는 AI가 사용하는 데이터가 과거의 사회 구조와 편견을 그대로 반영하고 있다고 지적했다.딘킨스 교수는 “AI 채용 프로그램이 여성 이력서를 감점하거나, 신용평가 모델이 특정 지역 우편번호를 기준으로 인종을 구분하는 사례는 우연이 아니라 구조적인 문제”라고 강조했다. AI의 학습 데이터가 과거의 불평등을 그대로 담고 있다면, 그 결과 역시 “기술 속의 유령”이 되어 되풀이된다는 의미다.
자크 데리다의 유령론이란 과거의 흔적이나 억압이 현재에 ‘유령처럼’ 되살아나는 현상을 뜻한다. AI의 데이터는 문서, 사진, 언어 등 인간 사회의 기록에서 만들어진다고 봤다. 딘킨스 교수는 그 안에는 인종차별, 성차별, 식민주의적 시각 등 과거의 폭력과 편견이 담겨 있다고 본 것이다.
딘킨스 교수는 AI 윤리에 대한 대안으로 ‘프리즘적 이성’을 제시했다. 그는 “계몽주의의 이성은 명확함을 위해 배제를 택했지만, 프리즘적 이성은 다양성과 모호함, 감정, 관계를 받아들인다”고 설명했다.
인간 중심의 AI 윤리가 단일한 기준에 머물러서는 안 되며, 다양한 관점과 감정, 맥락을 함께 고려하는 사고방식이 필요하다고 설명했다. 즉, ‘프리즘적 이성’은 정답 하나만 찾는 합리성이 아니라, 여러 관점이 공존할 수 있다는 사실을 인정하는 새로운 형태의 사고법이라는 논리다.
딘킨스 교수는 AI와 협업하는 과정에서 자신이 프롬프트, 즉 ‘AI에 주는 구체적인 요청 문장’을 세밀하게 조정했다고 설명했다. 그는 “흑인 가족의 이미지를 입력해도 다섯 단계 후엔 백인 가족이 나온다”며 “그걸 바꾸려면 예술가가 직접 개입하고 설계해야 한다”고 강조했다.
AI가 처음에는 흑인 가족의 이미지를 만들라는 지시받아도 반복적으로 이미지를 수정하거나 재생성할수록 결과가 점점 백인 가족의 모습으로 결과값을 바꾸는 현상이다. 이는 AI가 학습한 이미지 데이터의 대부분이 서구 중심, 백인 중심으로 구성되어 있기 때문이라는 게 딘킨스 교수의 주장이다. 즉, AI는 스스로 인종적 다양성을 인식하지 못하고, 데이터 안에 더 많이 포함된 인물상을 ‘기본값’으로 판단해 재현한다는 설명이다.
딘킨스 교수는 “이러한 편향을 바꾸려면 예술가가 단순히 명령을 주는 수준을 넘어, 프롬프트를 조정하고 세부 조건을 직접 설계해야 한다”며 “AI를 그대로 쓰는 것이 아니라, 예술가가 데이터와 시스템의 편향에 저항하고 윤리적으로 개입하는 행위 자체가 창의적 책임”이라고 강조했다.
한편 LG와 구겐하임은 매년 ‘LG 구겐하임 어워드’를 통해 기술을 활용해 창의성의 새로운 영역을 연 예술가를 선정해 상금과 트로피를 수여하고 있는데, 딘킨스 교수는 2023년 이 상의 첫 번째 수상자다. 그는 AI가 습득하는 정보가 사회적 약자에 대한 차별, 편견을 유발할 수 있다는 메시지를 전하며 디지털 시대의 공정과 평등의 중요성을 강조해 온 아티스트다.
이번 행사는 딘킨스 교수와 LG 구겐하임 뉴욕 아트 & 테크 큐레이터인 노암 시걸박사가 함께 기획했다.
뉴욕=박신영 특파원 nyusos@hankyung.com
관련뉴스
