좋다고 무턱대고 사용했다간 “한순간에 털린다”…AI 우려 속 해답 찾는 기업들

AI가 일상이 된 시대, 보안 위협도 증가
개인정보 유출·해킹 우려 속
보안 시장도 ‘급 성장’

“요즘 AI 없으면 업무가 안 되는데, 해킹당하면 어떡하지?”

AI가 다양한 산업에 빠르게 적용되면서 보안 문제도 중요한 이슈로 떠오르고 있다.

특히 AI를 비밀번호 관리자처럼 활용하거나, 민감한 정보를 아무런 의심 없이 입력하는 사례가 늘어나면서 보안 위협에 대한 경고가 잇따르고 있다.

최근에는 AI 챗봇이 사용자의 대화를 학습하는 과정에서 개인정보가 유출될 가능성이 있다는 지적도 제기됐다.

지난해 한 글로벌 IT 기업의 내부 테스트 과정에서 AI 모델이 사용자 입력 데이터를 의도치 않게 저장하고, 이후 다른 사용자에게 유사한 정보를 제공하는 사례가 발생해 논란이 되기도 했다.

이처럼 AI를 악용한 보안 사고가 증가할 가능성이 커지면서, 국내 보안업계도 대응을 강화하고 있다.

AI 보안 솔루션에 대한 기업들의 문의가 급증하고 있으며, 관련 기술 개발도 활발하게 진행되고 있다.

보안 기업 지니언스의 엔드포인트 위협 탐지·대응(EDR) 제품에 대한 문의는 지난해 같은 기간 대비 30% 증가했다.

EDR은 네트워크에 연결된 단말 장치에서 발생하는 보안 위협을 AI가 빠르게 탐지하고 대응하는 기술로, 기존 보안 시스템보다 실시간 탐지와 대응 속도가 빠르다.

또한 AI 보안 솔루션을 제공하는 ‘시큐어링 포 AI(Securing for AI)’ 기술에 대한 관심도 높아지고 있다.

이 기술은 AI 학습 데이터를 조작해 예측 모델을 왜곡하는 ‘데이터 포이즈닝(오염)’을 방지하는 역할을 한다.

AI 보안 기술 개발이 활발해지면서 관련 특허 출원도 급증하고 있다.

특허청에 따르면, 2012년 주요국 특허청(IP5, 한국·미국·중국·유럽연합·일본)에 출원된 AI 보안 기술 특허는 37건에 불과했지만, 2021년에는 1,492건으로 증가했다.

AI가 보안 위협의 대상이 되는 시대

전문가들은 AI 기술이 보안 위협의 대상이 되는 현상이 앞으로 더욱 심화될 것으로 전망한다.

과거에는 보안 기술이 AI를 활용하는 ‘AI 포 시큐리티(AI for Security)’가 주된 흐름이었지만, 이제는 AI 자체를 보호하는 ‘시큐어링 포 AI’가 중요한 과제가 되고 있다.

AI가 금융, 의료, 제조업 등 다양한 산업에 적용되면서 기업들의 보안 전략도 AI 중심으로 재편되고 있다.

글로벌 시장조사기관 가트너는 2025년까지 전체 기업의 70% 이상이 AI 보안 기술을 도입할 것으로 전망했다.

보안업계 관계자는 “기업들은 기존 보안 체계에 AI 기반 방어 기술을 필수적으로 적용해야 할 것”이라고 밝혔다.