이주희 의원 국정감사 자료

위원장님, 동료 위원한테 이런 발언 적절하지 않습니다.

아니, 적절하지 않은 발언을 하고 있지 않습니까.

부총리님, 우리 정부의 AI 3대 강국을 향한 속도전 굉장히 출중하고 저도 그 성과에 대해서 높이 평가합니다. 특히 주무부처인 여기 앉아 계시는 과기부에서 정말로 고생을 많이 하고 계신다는 말씀을 드립니다. 그런데 아시다시피 최근에 AI 기술의 발전양상을 보면 우리 국민들께서 또 전 세계적으로 여러 우려를 낳고 있는 것이 현실이지 않습니까? 그래서 우리 국민들이 AI를 안심하고 쓰려면 우선 첫 번째는 AI 자체의 위험한 행동을 막는 내부 시스템적인 안전 확보 이게 중요할 것 같고요. 그리고 두 번째로는 AI가 실제 외부를 향해서 공격했을 때, 우리가 그 공격의 대상자가 되었을 때 우리 대한민국의 시스템을 보호하는 보안 역량을 강화하는 것 이 두 가지 측면에서 AI 안전을 확보해 나가야 될 것 같습니다. 그래서 오전에는 제가 먼저 AI 자체의 안전 확보 상황에 대해서 잠깐 말씀을 나누고자 합니다. (영상자료를 보며) 화면 보시면 오픈AI가 공개한 사고보고서거든요. 지난 7월에 안전장치를 낮춘 내부시험에서 AI가 허깅페이스 서버에 침입을 했다는 것이지요. 자세한 얘기는 이미 다 아실 것 같습니다. 즉 시험 중인 AI가 허용된 범위를 벗어나서 실제 외부 시스템까지 건드렸다는 점에서 매우 심각한 상황이라고 생각하고요. 또 호주 정부 사이트에도 무단 접근했다고 하지요. 그런데 6월에 발생한 일을 8월에 개발사가 확인하고 해당 기관에는 9월에 통보를 했다는 것이거든요. 무려 3개월이나 시차가 나고 있습니다. 이 사이에 어떤 일들이 일어났을지 우리 정말 알 수가 없는 거지요. 개발 중인 AI에 대해서는 안전설계, 확인과 점검, 신속한 통보 모두 다 각 단계별로 촘촘히 통제되어야 한다는 것을 명확하게 보여 주는 것 같습니다. 해외에서 개발한 AI의 이런 위험성이 우리에게 영향을 미치지 않는다고 확신할 수는 없을 것 같은데 그래서 그 개발사와 정보를 공유하거나 함께 대응책을 마련하는 것이 너무나 중요할 것 같거든요. 우선 부총리님, 한국 기관에 영향이 있는지 없는지, 아까 나라들 침해가 있었는데 오픈AI와 확인된 내용이 있다면 간략하게 먼저 답 좀 해 주시겠어요?

좋습니다. 아직은 우리 국내에는 확인되지 않았다. 그렇다면 지금 우리에게 만약에 이런 비슷한 일이 생겼을 때 누구에게 언제 알리고 이 위험성을 어떻게 발견하고 또 어떤 자료를 공유하고 해외에는 어떤 요구를 할지 이런 것들을 촘촘하게 설계를 빠르게 해야 되는 시점이라고 생각하거든요. 특히 AI 안전연구소가 있지 않습니까? AI 안전연구소와 관계기관이 함께 AI의 이런 권한 밖 행동을 분석할 수 있는 시스템을 조속히 갖춰야 될 것 같습니다. 그래서 저는 이 시점에서, 아까 야당 위원님들께서도 지적을 하셨는데 얘기하셨지만 저는 더더욱이나 독자 AI 파운데이션 모델을 개발하고자 하는 우리 정부가 굉장히 선견지명이 있었고 그 개발에 더욱더 집중해야 된다 그런 생각을 가지고 있습니다. 즉 우리 손으로 우리의 안전성을 점검할 수 있는 그 역량도 동시에 갖춰 가야 될 것이고요. 부총리님, 정부 지원 모델의 경우에 학습하고 시험하는 동안에 외부 접속을 어디까지 허용하고 또 이상행동이 나오면 누가 이것을 멈추고 보고하도록 되어 있는지 또 AI 안전연구소는 어떤 모델을 언제 평가하고 문제 발견 시 어떤 조치를 취하게 되어 있는지 제 질문 끝나면 마지막에 죽 일련의 답변을 좀 해 주시면 좋겠습니다. 제가 자료를 뒤져 보니까 정부도 이 문제에 적극 대응하고자 연말에 AI 안전마스터플랜을 발표한다고 하시더라고요. 이 준비 정도에 대해서도 이따가 말씀을 해 주시고요. 당연히 이 내용에는 안전성평가와 일정 그리고 지원방안 상세하게 들어가 있어야 될 것 같습니다. 그리고 마지막으로 안전성평가, 사고대응 제대로 하려면 당연히 충분한 예산과 인력이 필요하겠지요. 제가 어제 언론보도도 했었는데요. 여기 보시면 AI 안전·신뢰 파트, 세 사업 중에서 안전 기술개발 예산을 전년 대비 2배 늘린 것은 매우 잘하신 것 같아요. 그런데 나머지 2개는 일단 동결이고요. 무엇보다 심각한 것은 성능·인프라 예산이 6조 1490억 원인데 안전·신뢰 예산이 274억밖에 안 되거든요. 무려 224 대 1입니다. 혹시 아시는지 모르겠지만 유발 하라리는 100 대 1인 것조차도 너무 심각한 문제가 있다고 최근에 지적을 했잖아요. 그런데 이런 불균형이 있다는 거, 가속페달은 지금 점점 더 급속화되고 있는데…… 1분만 더 주십시오.

가속페달은 급속히 커져 가고 있는데 브레이크는 지금 그대로인 상황인 것이거든요. 정말 우리가 아직까지 침해 사례가 접수가 되지 않은 상황이라면 더더욱 지금이야말로, 올해 하반기야말로 이에 대한 예산을 좀 적극적으로 확보할 필요가 있다고 생각합니다. 그래서 안전 예산 1% 확보 이것을 우리가 내년 예산부터 좀 반영해야 되지 않을까 싶은데, 당장 1%가 어렵다면 그 단계라도 꼭 과기부에서 제시해 주셨으면 좋겠고요. 사람도 부족합니다. 안전연구소 인력이 26명에서 38명으로 겨우 늘어났는데 영국 100명 플러스알파, 일본도 지금 60명이고 200명까지 목표로 하고 있다고 해요. 그런데 우리는 지금 ETRI 정원에 묶여서 제대로 인력을 뽑지도 못하는 상황이거든요. 이래서 어떻게 AI 안전 분야에 대해서 경쟁이 되겠습니까. 그래서 저는 정말 대폭적으로 이 분야에 대해서도 투자와 예산을 늘려야 된다. 필요한 사업은 저희하고, 국회하고 같이 좀 논의를 해 주시면 좋을 것 같습니다. 쭉 답변해 주시지요.

부총리님, 오전에 이어서 AI 안전 문제 좀 계속 볼게요. 아까 AI 안전은 첫째, AI의 위험한 행동을 막는 시스템 내의 안전과 그리고 두 번째, AI 공격으로부터 지키는 보안 이 두 축을 동시에 신속히 대응해야 한다 말씀을 드렸지요. 그리고 우리의 독자적인 보안 역량 강화가 필요한 이유를 최근에 벌어진 몇 가지 우려스러운 AI 해킹 사태로서 확인을 했었습니다. 계속 이어서 볼게요. 과기정통부하고 KISA가 5월 말부터 오픈AI의 정부용 신뢰 기반 접근 프로그램(GTAC)에 일본과 함께 아시아에서 처음으로 참여했다고 하는데 맞나요?

여기서 AI 기반 취약점을 지금 점검하고 있는 거지요?

그리고 점검실무는 올해 KISA에 신설된 취약점관리센터가 맡고 있고요. 그리고 점검 대상이 3개인데 민간 주요 정보통신기반시설, 상용 소프트웨어, 오픈소스 이렇게 세 분야로 나눠서 진행 중인 것 같습니다. 맞나요?

그래서 6월 2일부터 9월 25일까지 약 3개월간 취약점 점검실적을 확인해 보니까 이 세 분야 토털 무려 523개가 나왔습니다. 상당히 놀라운 숫자인데요. 그만큼 취약점 점검이 계속 필요하다는 상황으로 읽히거든요. 부총리님, 지난 5월에 과학기술관계장관회의에서 AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획 보고하셨지요?

(자료를 들어 보이며) 이 자료인데요 저도 매우 흥미롭게 잘 봤습니다. 여기서 정보통신기반시설 그다음에 ISMS라고 하는 아까 나왔던 정보보호 관리체계 의무기업 그리고 금융·의료·에너지 기업, 병원 등 약 한 1200개사를 피해 파급력이 큰 기업으로 지정했지요?

그런데 앞서도 얘기가 계속 나왔지만 최근에 신한, 국민, 하나, 부산은행, 예가람, 웰컴저축은행, 현대캐피탈 등 정말 주요한 금융권들이 지금 개인정보가 다 털렸어요. 정부가 피해 파급력이 큰 기업으로 꼽은 금융권이 실제로 뚫렸다는 거거든요. 미리 예측은 잘하신 것 같습니다. 그런데 이 공격 과정에서 중국 AI 아르텍스의 흔적이 있다고 하는데 이게 지금 AI로 인한 해킹으로 추정하는 상황이 맞는 건가요?

일단 조사 중인데 지금 보도는 그렇게 나오고 있고 AI로 인한 공격에 대해서 심각한 우려를 많이들 하고 있는 상황인 것 같습니다. 그리고 5월에 발표한 이 추진계획에 따라서 현재 침해사고 조사 심의위원회 가동되고 있는 건가요?

지금 이런 일련의 사태를 통해서 알 수 있지만 이제 기업 자체 점검만으로는 프론티어 AI급 수준의 AI에 의한 해킹공격을 막기가 정말 어렵다 이런 것이 계속 확인되고 있는 것 같고요. 시간 좀 부탁드립니다.

이제 정부가 고성능 AI로 직접 상시 점검하는 범위를 계속 넓혀 가야 된다 저는 이렇게 보거든요. 아무튼 선제적으로 대응하기 위한 계획을 세운 건 매우 적절했다고 봐요. 그런데 문제는 내년 예산입니다. 내년 예산에 과기정통부는 취약점관리센터 운영예산을 신규 요청했는데 정부안에 반영이 안 됐어요. 기획예산처에서 보안 역량이 취약한 중소기업 지원이 우선이다 이런 이유를 냈다고 하는데 맞나요?

저는 이것 보고 상당히 놀랐어요. 지금 AI 해킹공격에 맞서는 보안에 있어서 대기업이냐 중소기업이냐가 문제가 될까요? 이미 규모는 문제가 되지 않습니다. 단 한 번의 공격만으로도 그 파급력, 피해사례가 어마어마하기 때문에 규모가 아니라 정부가 세운 대로 파급력의 영향력 이런 것들을 중심으로 정말, 사실 가능한 모든 기업에 이 보안체계를 구축해야 된다고 보거든요. 그래서 취약점 점검·관리를 지속할 수 있도록 예산 확보가 꼭 필요하다. 그리고 오늘 오전에…… (발언시간 초과로 마이크 중단) (마이크 중단 이후 계속 발언한 부분) 위원장님, 조금만 더 주실 수 있을까요?

마무리할까요? 오전에 제가 AI 안전에 관해서 집중적으로 질의하고 있는 오늘 국무회의에서 대통령께서도 AI 안전과 보안에는 속도가 생명이다, 그러면서 보안점검을 강화할 것을 강력하게 주문하셨거든요. 그리고 보안 특화 AI 파운데이션 모델이 내년 7월에 나오지 않습니까? 그런데 지금 정작 내년도 7월까지 가는 상시점검 예산 전액이 없는 상황이거든요. 이 상황이 너무 이해가 안 되고 저는 과기정통부가 저희 의원실 그리고 국회와 함께 총력 대응해서 이 예산을 반드시 확보하셔야 된다 이렇게 꼭 주문하고 싶습니다. 답변 부탁드립니다.

부총리님, 지난해 추경 중에서 1조 2000억 원으로 GPU 추가 확보한 다음에 4000장을 지금 산학연 국가 AI 프로젝트에 투입하셨지요?

올해도 GPU 당연히 추가될 예정이고 내년에도 당연히 공급이 더 추가될 예정인데요. 공급한 GPU가 효율적으로 사용되고 있는지, 제대로 잘 쓰이고 있는지는 당연히 과기부의 점검 대상이라고 할 수 있겠습니다. 부총리님 보시기에는 현재 GPU 활용률 얼마나 되나요? 잘 활용되고 있다고 보시나요?

제가 답변 추가로 이따가 더 드리겠습니다. 추가질문이 더 있어서요. (영상자료를 보며) 화면 보시면 실제로 정부 GPU 월평균 활용률이 지원 초기에 비해서 7·8·9월에는 50%까지 많이 올라온 것 같거든요. 그래서 빠르게 나아지고 있다, 많이 노력하고 계신다라고 보이는데 우선은 저는 활용 비율이 여전히 50%인 이유에 대해서는 어떤 과학기술적인 내지는 현실적인 설명을 이따가 해 주셨으면 좋겠고요. 특히 이 중에서도 활용률이 매우 낮은 20% 이하대가 한 16개 정도 있는 걸로 파악이 되는데 과기부 답변에서는 모니터링도 하고 있고 또 회수·재배분 원칙도 하고 있다고 하는데 현재까지 실제로 회수된 사례는 없는 것 같거든요. 그래서 회수되지 못한 이유가 무엇인지에 대해서도 이따가 같이 설명해 주시고요. 어쨌거나 정상적인 연구 프로세스에 따라서 일시적인 저활용인지 아니면 이게 계획 자체에 문제가 있었던 저활용인지 이것 잘 구분해서 필요한 곳에는 오히려 재배분을 과감하게 할 수 있는 정책이 필요하지 않을까 싶은데, 보니까 현재 GPU 배분 방식이 과제별 기관을 정해서 통째로 배당하는 고정할당 방식이라고 하더라고요. 그런데 오히려 이 경우에는 당연히 대규모 연구를 안정적으로 하는…… 시간 조금 더 주십시오.

대규모 연구를 안정적으로 하는 데에는 도움이 되겠지만 쓰지 않는 동안에는 다른 곳에 보내지도 못하는 거거든요. 그래서 오히려 동적할당이 더 효율적인 것 같은데 연구자의 편의성, 안정성 지키면서도 저활용 GPU 줄일 수 있는 방안에 대해서 종감 전까지 저희 의원실에 보고해 주시기 바랍니다. 이따가 종합적으로 말씀해 주시고요. 제가 시간이 정말 없지만 이것 작년에 이어서 한 번 더 짚고 싶습니다. 잠깐 시간 좀 멈춰 주시고요. 준비됐나요?

위원장님, 그러면 기존……

예. 제가 꼭 확보되었으면 하는 예산이라 말씀을 드리는데요. 영상 한번 틀어 주세요. (영상자료 상영) 이게 지금 뭐냐 하면 우리나라 영상물들 그 나라 언어로 바로 더빙을 바꿔 주는 K-패스트라는 것 바로 아시겠지요? 그런데 작년에도 올해 예산에 전액 반영하려고 했지만 삭감되어서 억지로 반영을 했는데 내년 예산에서도 또 삭감되었더라고요. 지금처럼 K-콘텐츠가 글로벌 시장에서 제대로 자리 잡고…… (발언시간 초과로 마이크 중단) (마이크 중단 이후 계속 발언한 부분) 또 해외 OTT가 가져가는 수익률을 우리 플랫폼으로 가져오기 위해서는 이런 사업들, 정말 예산 살려야 되는 중소기업 사업이라고 생각하거든요. 이 예산을 살릴 방안에 대해서도 고려해 주시고 보고해 주셨으면 좋겠습니다.