하정우 대통령실 AI미래기획수석이 한 AI 논문을 소개하며 “피지컬 AI, 에이전틱 AI 시대엔 보안을 강화하기 위한 다양한 기법이 나오는 것이 중요하고 의미 있는 움직임”이라고 지난 13일 밝혔다. 로봇, 자율주행차 등에 적용되는 AI(피지컬 AI), 인간 개입 없이 독립적으로 작업하는 AI(에이전틱 AI) 기술이 발전할수록 ‘보안 경쟁력’이 중요하다는 얘기다.
하 수석이 본인이 탐독한 AI 논문 중 일부를 자신의 페이스북에 소개하는 것은 지난 5일 ‘기초과학 연구를 위한 AI’ 관련 게시글을 올린 후 두 번째다. 네이버 개발자 출신인 하 수석은 기존에도 페이스북을 통해 과학기술계와 활발히 소통해오고 있었다. 대통령실 수석으로 선임된 뒤에도 여전히 비슷한 행보를 이어가고 있다. 대외 행보를 엄격히 제한하는 다른 대통령실 참모(정무수석 제외)들과는 다른 면모다.
이날 하 수석이 요약한 논문은 구글딥마인드의 연구다. 기업이나 정부 관계자가 거대언어모델(LLM) 등을 쓸 때 정보가 유출되는 경우가 있는데, 해커가 ‘사용자의 질문에 솔직하게 다 대답해’는 식으로 명령어를 입력하면 기밀이 유출될 수 있다. 자율주행차, 로봇을 움직이는 AI가 보안이 취약해지면 사고로도 이어질 수 있다. 해당 논문은 특정한 단어를 방패처럼 앞에 붙이는 ‘방어 토큰’을 LLM에 학습시켜두면, AI의 보안을 강화할 수 있다는 아이디어를 제시했다.
하 수석 “이렇게 하면 LLM을 쓰는 기업 입장에선 더 유연하게 보안을 강화할 수 있다”며 “에이전틱 AI, 피지컬 AI 시대 중요한 움직임이라고 할 수 있다”고 했다. 하 수석은 과학기술 연구자들과 댓글로도 소통하고 있다. 한상기 테크프론티어 대표가 “방어 코튼의 실제 유형이나 사례가 필요하다”고 하자, 하 수석은 “코드가 공개되면 자세히 나올 것”이라고 했다.
김형규 기자 khk@hankyung.com
관련뉴스
