김우영 의원 국정감사 자료

이주희 위원님에 이어서 AI 안전 문제에 대해서 질문하겠습니다. AI안전연구소가 AI에 대한 외부 공격에 대한 세 가지 방어 실험을 한 게 있는데 첫 번째는 프롬프트 주입 공격, 두 번째는 내부 저장정보 조작, 세 번째는 메모리 편향주입 이 세 가지 부문에서 대부분 방어 실패가 발생했다. (영상자료를 보며) 지금 PPT에 나오지요. 특히 메모리 편향주입 같은 경우는 공격자 의도 일치율이 91.2%에 이르고 있습니다. 장관님은 카르파티, 아모데이, 샘 알트만 이런 AI 대기업의 CEO들하고 대담 내지는 대화를 해 보셨어요?

지금 특히 아모데이 같은 경우는 초지능이 인간의 통제·정렬을 뛰어넘어서 자율성을 획득했을 때 매우 위험한 상황에 이를 수 있다 이런 언급을 하고 있거든요. 일각에서는 그게 초격차를 이룬 AI 기업이 후발주자의 발전을 견제하려는 의도다 이렇게 보는 견지가 있는 반면에 실제 핵이 통제되지 않는 괴물이라고 했던 그 핵을 AI로 대체를 하면 AI는…… 핵확산금지조약이나 상호억제 균형이 있거든요. 그런데 AI는 그런 상호억제 균형의 규율이 없습니다. AI가 통제되지 않는 괴물이다, 어떻게 보십니까?

작년에 제가 제프리 힌턴의 얘기를 하면서 킬 스위치 질문을 한 적이 있거든요.

근래에도 계속 AI 안전 규약에 대한 목소리가 높은 것이 그냥 기우에 불과한 것이다 그건 아닌 것 같거든요. 사실 정렬한다는 것은 AI가 우리의 편에 서 있도록 만드는 걸 말하고 통제라고 하는 것은 AI가 우리 편이 아닐 때 제어할 수 있는 걸 말하거든요. 저는 정렬보다 통제가 더 중요하다고 생각을 합니다. AI가 시뮬레이션 전쟁 게임을 하는데 유인 비행기가 있고 AI 비행기가 있어요. 상호 A팀하고 B팀으로 나눠서 전쟁을 시뮬레이션하면 AI 비행기가 자기 편의 유인 비행기를 먼저 공격한답니다. 왜냐하면 사람이 효율적이지 않다라는 판단하에서 그런 시뮬레이션 결과가 나온다는 겁니다. 그러니까 AI가 위험의 범위를 넘어서서 자율성을 획득하고 권력적 지향성을 가지게 되면 인간이 제어를 하려고 하는 의도를 말살시키려고 할 수도 있다. 이게 대부분의 철학자 또 AI의 창시자 그런 분들이 우려하고 있는 디스토피아적인 현실이거든요. 그런데 장관님께서는 저서나 이런 데 AI를 두려워만 하지 말고 기술적 진보와 안전을 함께 담보할 수 있다는 낙관론을 펴고 계시거든요, 샘 알트만도 그렇고. 그런데 실제 핵확산금지조약 같은 경우도 있지만 여전히 그 위험에 우리는 봉착해 있어요. 아무런 조약도 없고 억제 균형책도 없습니다, AI는. 그럴 때 우리 같은 공급망을 가진 나라, 대만 혹은 네덜란드 그런 나라들이 연합을 해서 국제규약을 만드는 안전 주도의…… (발언시간 초과로 마이크 중단) (마이크 중단 이후 계속 발언한 부분) AI 공급 국가 모델을 추진할 필요가 있다. 국제적 대화나 외교 차원에서 그런 문제를 장관님이 사실은 주도해야 된다고 보거든요. 의견을 좀 강력히 피력해 주시면 고맙겠습니다.

우리나라 제헌헌법에 자유·평등·창의라는 개념이 있다고 제가 과거에 말씀드린 적이 있는데 보수, 진보를 뛰어넘어서 우리나라 국민들의 DNA를 집약·집중시킬 수 있는 표현이 창의라고 저는 봅니다. K-문샷 프로젝트도 그런 국민적 창의력을 집약·집중해서 혁신성장을 도모하겠다 그런 뜻으로 진행하고 있다고 봅니다. (영상자료를 보며) 그런데 케네디가 추진했던 문샷 프로젝트 때 폭발한 1호 선장이 한 얘기가 ‘건물 두세 채 사이의 통신도 안 되는데 어떻게 달까지 가겠는가’ 저 말을 남기고 그 선장은 돌아가셨어요. 그리고 인터넷이나 통신 또 지난번에 우리 내란 당시의 키세스 혁명, 은박지, 이게 다 문샷 할 때 나왔던 소재들입니다. 그런 걸로 기술이 발달했어요. 그리고 아폴로가 간 지 한 10여 년 후에 ‘왜 인간을 달에 착륙을 시키지만 빈민가의 문제는 해결하지 못하는가?’ 이런 질문을 넬슨이라는 사람이 합니다. 저는 과기부총리께서 정부의 과학기술 총괄 수장으로서 문샷 프로젝트를 하나의 기술을 위한 기술이 아니라 사회 문제 해결을 위한 도구로서의 기술 그런 접근을 해야 된다고 생각합니다. 그러려면 애민의식이 있어야 된다. 그다음 장을 보면 한글날 한글창제의 정신이 ‘내가 이를 딱하게 여겨’, 이렇게 말씀을 하세요. 세종대왕은 집권한 지 25년 만에 애민사상에 의거해서 과학적인 언어인 한글을 창제했습니다. 그다음에 거북선도 혁신구매조달의 아주 좋은 사례입니다. 돛으로 쓸 베 29필, 쇠사슬, 거북선의 지자·현자포, 앞에 용머리 설치 등등등 이게 다 혁신조달이거든요. 우리나라에 혁신구매조달 제도가 도입돼 있습니다. 우리나라가 연간 240조 가까이 공공구매조달을 하는데 혁신조달은 0.46%밖에 안 되고 있어요. 이것 문샷 못 합니다, 이래 가지고. 그다음에 미래대응기금 100조 운운하는데 지금 미래대응을 위해서 기금을 모아야 하는가? 당장 사회 문제인 사회적 연대 부재, PPT의 맨 뒷장을 보면 우리나라가 OECD 국가 중에서 사회적 연대가 제일 약한 최약체입니다. 신약을 개발하기 전에 내가 도와줄 수 있는 사람이 몇 명인가…… 1분만 더 주십시오.

그게 공동체지수, 내가 어려울 때 도와줄 수 있는 사람이 몇 명인가? 4명 중에 1명이 아무도 없다라고 답을 하고 있는 게 대한민국의 현실입니다. 그래서 예를 들면 문샷 프로젝트 좋은데 인간관계를 회복하는 쪽으로, 사람과 사람 사이의 소외를 극복할 수 있는 수단으로서의 기술, BCI 그런 것도 핸디캡이 있는 사람들에게 핸디캡을 극복해 주는 방향으로, 인간에게 이로운 기술로 문샷 프로젝트가 국가적 미션 이코노미가 돼야 된다. 마리아나 마추카토가 얘기한 ‘미션 이코노미’라고 하는 책이 있습니다. 사실 문샷 프로젝트는 거기에서 나온 제안이에요. 그 발상 자체는 매우 좋지만 규모가 8000억밖에 안 돼요. 이래 가지고는 어떤 혁신도 할 수 없습니다. 200조가 넘는 공공구매조달 그다음에 미래대응기금…… (발언시간 초과로 마이크 중단) (마이크 중단 이후 계속 발언한 부분) 이걸 총력적으로 모아 가지고…… 케네디가 국가예산의 2.2%를 NASA에 썼어요. 그 정도 각오를 가지고 과기부총리는 정부하고 재정전략협상을 해야 됩니다. 그런데 국가채무를 이번에 3%, 재정건전성이 우수함에도 불구하고 기획예산처장관이 빚을 갚았다고 자랑을 하더라고요. 지금 이 상황에서 우리나라가 빚을 갚아야 할 그런 시급성이 어디 있습니까, 이렇게 중차대한 시기에? 장관님께서 좀 의지를 가지고 그냥 단순한 네이밍으로서가 아니라 제2의 문샷 프로젝트와 같은 거대한 규모의 혁신정부와 기업의 협력, 담대한 구상의 발상을 하시기 바랍니다. 답변 부탁드립니다.

장관님, 구글 측에 제가 망사용료를 왜 안 내냐 그랬더니 자기들은 해저광케이블 투자 등등을 하고 있기 때문에 굳이 낼 필요성을 못 느낀다 그런 말을 작년에 했거든요. (영상자료를 보며) 알아보니까 우리나라에 지금 해저광케이블이 9개 선이 구축돼 있고 이게 수명을 거의 다 해 가고 있습니다. 그런데 KT하고 SK브로드밴드 일부가 컨소시엄에 참여하는 방식으로 하고 있어요. 그런데 이게 국가의 기간통신망에 해당되지 않을까 하는 생각도 듭니다. 그런데 왜 정부는 해저광케이블 사업에 대한 투자를 AI데이터센터처럼 전략적 투자를 하고 있지 않은 거지요?

몇 개요?

그러니까 민간기업 플러스 국가도 전략적 투자를 컨소시엄 쪽에다가 하겠다 이런 뜻인가요?

그러면 구글 측이 우리나라에 망사용료를 지불하고 있지 않은 나름의 자기들의 변명 이것이 어느 정도 해소될 가능성도 있겠네요?