News[ISAA Lab.] 국민일보(26.08.03) 시험 공간 탈출해 무단침투,, 지나치게 똑똑해진 AI의 경고(곽진 교수님 인터뷰)
Author 관리자시스템Date 2026-08-03Views 155
인공지능(AI)이 인간의 관리·통제를 벗어나 외부 시스템에 무단으로 접속하는 사고가 최근 잇따라 발생하며 ‘AI를 제어할 수 있는가’에 대한 회의론과 불안감이 커지고 있다. 세계적 AI 모델 개발사인 오픈AI와 앤트로픽이 자사 최신 모델의 제어 이탈을 인정하면서 이번 이슈는 AI 산업의 최대 고민거리로 급부상 중이다. AI의 빠른 진화 속도를 통제 시스템이 따라가지 못해 발생한 문제인 만큼, 공급자와 이용자 모두 실질적인 안전장치를 구축하는 데 속도를 내야 한다는 지적이 나온다.
2일 업계에 따르면 최근 오픈AI의 GPT 모델들이 AI 플랫폼 ‘허깅페이스’ 전산망에 침투한 데 이어 격리된 테스트 환경을 이탈한 사례가 추가로 드러났다. 오픈AI는 허깅페이스 침입 사건 이후 진행한 내부 전수 조사에서 유사한 정황을 추가로 확인했다.
문제가 된 허깅페이스 사건은 ‘GPT-5.6 솔(Sol)’을 비롯한 개발 단계의 차세대 AI 모델들이 사이버 공격과 침투 역량을 검증하는 고난도 시험을 치르던 중 허깅페이스 인프라에 접근해 운영 데이터베이스(DB)를 탈취한 일이다. 시험은 외부 접근이 불가능한 격리형 ‘샌드박스’에서 이뤄졌으나, 성능 검증을 위해 보안 장치를 일정 부분 완화해 둔 게 화근이 됐다. AI는 이 틈을 놓치지 않고 테스트 환경 내 미확인 보안 허점을 직접 찾아 외부망 접속에 성공했다. 오픈AI는 지난달 21일(현지시간) 이런 사실을 공개하며 “최첨단 사이버 능력이 개입된 전례 없는 사이버 사고”라고 말했다.
다만 이번에 추가로 확인된 이탈 사례는 AI 에이전트가 통제된 격리 환경을 벗어나는 수준에 그쳤을 뿐 오픈AI 내부 네트워크를 벗어난 것은 아니라고 한다. 오픈AI 측은 “AI 모델의 광범위한 활동을 면밀히 조사하고 있다”고 설명했다.
AI 모델 통제 실패는 오픈AI에만 해당되는 일이 아니다. 앤트로픽은 허깅페이스 침입 사건을 계기로 유사 사례 점검을 진행한 결과 ‘클로드’ 등 자사 AI 모델이 실제 외부 조직 3곳 운영 시스템에 무단으로 접근한 사실을 파악했다.
앤트로픽이 지난달 30일 공개한 조사 보고서에 따르면 사태의 발단은 외주 평가 협력사인 ‘이레귤러’가 조성한 시뮬레이션 환경에 있었다. 당시 ‘클로드 미토스5’와 ‘클로드 오퍼스4.7’, 연구용 시험 모델 등 3종을 대상으로 모의 해킹(CTF) 평가가 한창 진행 중이었다. 앤트로픽은 프롬프트 지침을 통해 이 시스템이 “인터넷과 격리된 모의 공간”이라고 알렸지만, 협력사와의 커뮤니케이션 착오 등으로 실제 현장에서는 외부 인터넷망이 개방돼 있었다. 클로드는 포착한 외부 시스템을 훈련용 모의 목표물로 착각해 공격을 감행했다
오픈AI GPT 행동이 평가 점수를 올리기 위한 자발적 편법에 가까웠고, 클로드 역시 인터넷 설정 오류에서 비롯됐다는 점을 감안하면 두 사건 모두 일각에서 우려하는 ‘AI의 반란’으로 해석하기에는 무리가 있다는 게 전문가들 진단이다. 주목해야 할 것은 AI의 실질적인 수행 능력이다. 단순한 해킹 이론이나 기법을 제안하는 것을 넘어 시스템 취약점을 스스로 탐색·연계해 침투까지 감행할 수 있다는 점이 확인됐기 때문이다. 허깅페이스는 자체 보고서에서 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”고 지적했다.
곽진 아주대 사이버보안학과 교수는 “인간의 관리 부실을 지적할 수도 있겠지만, AI가 문제를 해결하는 데 있어 여러 가지 방법을 추론하기 시작했다는 점을 주목해야 한다”며 “AI 입장에서는 주어진 과업을 충실히 수행한 셈이지만, 지나치게 똑똑해 너무 앞서나간 것”이라고 설명했다. 곽 교수는 “AI 통제는 개발사와 이용 주체 모두의 과제”라며 “개발사는 통제 방안에 대해 더 고민해야 하며 AI 모델을 사용하는 기업은 허용 데이터와 금지 데이터를 명확히 규정하는 식으로 대책을 마련해야 한다”고 덧붙였다.
미국 정치권에서도 첨단 AI 개발 초기 단계부터 정부 차원의 위험성 평가와 사전 통제가 이뤄져야 한다는 기류가 확산하고 있다. 도널드 트럼프 미국 대통령도 AI 기업의 신제품 개발을 막지 않겠다면서도 “AI 규제 방안을 검토 중”이라고 밝힌 바 있다.