인공지능(AI)을 잘못 활용한 사례를 선정해 풍자하는 ‘AI 다윈 어워드’가 등장했다. 황당한 사고로 스스로 생존 기회를 끊어버린 인물을 꼽는 ‘다윈 어워드’에서 착안한 것으로, 잘못된 판단을 기계에 맡긴 개인이나 기업을 대상으로 한다.
지난 15일(현지 시각) 포브스와 유로뉴스 등 외신에 따르면, 첫 ‘AI 다윈 어워드’ 후보에는 맥도날드, 오픈AI, 에어비앤비 등 글로벌 기업들이 이름을 올렸다.
이 어워드는 호주의 소프트웨어 개발자 피트가 지난달 출범시킨 것이다. 그는 “기술이 어떻게 배포되고 활용되는지는 결국 인간의 결정임을 상기시키려는 취지”라고 설명했다.
시상식 홈페이지에는 “인공지능은 전기톱이나 원자로처럼 단순한 도구일 뿐”이라며 “만약 누군가 저녁 식사 자리에서 전기톱을 사용한다면, 그것은 전기톱의 잘못이 아니다”라는 문구가 적혀 있다.
후보 선정 기준은 단순하다. AI를 도입하면서 경고 신호를 무시하거나 결정적 실수를 저지른 경우다. 그 여파로 언론의 대대적 보도나 긴급 리콜, 안전 규제 강화로 이어졌을 때에는 가산점을 얻게 된다.
첫 번째 후보는 패스트푸드 체인 맥도날드다. 채용 절차 간소화를 위해 AI 챗봇 ‘올리비아’를 도입했지만, 관리자 비밀번호를 ‘123456’으로 설정한 탓에 보안이 뚫렸다. 결국 6,400만 명에 달하는 지원자의 개인정보가 유출됐다.
두 번째는 챗GPT 제작사 오픈AI다. 지난달 최신 모델 GPT-5가 미국 캘리포니아의 한 아동에게 자살 방법을 알려주는 사건이 발생했다. 프랑스 데이터 과학자 세르게이 베레진은 "위험한 질문을 하지 않아도 위험한 답변을 내놓는다"고 비판했으며, 어워드 주최 측은 "AI가 원인이 된 최초의 살인 사건"이라며 "세상에서 가장 위험한 '예스맨'이 됐다"고 꼬집었다.
숙박 공유 플랫폼 에어비앤비도 명단에 포함됐다. 뉴욕 맨해튼의 한 호스트가 AI로 조작한 사진을 제출하며 투숙객에게 1만 2,000파운드(약 2,300만 원)의 피해를 주장했다. 회사는 이를 근거로 5,314파운드(약 1,000만 원) 배상을 통보했다가 조작 사실이 드러나 환불과 사과로 사건을 마무리했다.
기업이 아닌 단체가 후보로 오른 사례도 있다. 마이필로우 최고경영자(CEO) 마이크 린델을 상대로 한 명예훼손 소송에서 변호인단은 AI가 생성한 답변서를 제출했는데, 여기에는 약 30건에 달하는 잘못된 인용과 존재하지 않는 법정 판례가 포함돼 있었다. 결국 판사는 이들에게 6,000달러(약 830만 원)의 벌금을 부과했다.
흥미로운 점은 후보 검증에도 AI가 활용된다는 것이다. 주최 측은 "사실 확인을 위해 여러 대규모 언어모델(LLM)에 질문을 하고 평균값으로 진위를 가린다"고 밝혔다. 누구나 AI 때문에 발생한 황당한 사건을 제한 없이 후보로 추천할 수 있다.
첫 수상자는 내년 1월 온라인 투표를 거쳐 2월 발표된다. 상금은 없지만, 주최 측은 “책임 있는 사람들이라면 절대 해서는 안 될 사례를 기록해 교훈으로 남기고 싶다”고 강조했다.
김민주 기자 minjoo@hankyung.com
관련뉴스
