AI 해킹은 우리 사회에 다양한 방식으로 위협을 가하고 있습니다. AI 기술이 발전하면서 우리의 삶은 더욱 편리해졌지만, 이를 악용한 해킹 사례도 빠르게 증가하고 있는데요. 특히, 기업이 해킹을 당할 경우 막대한 경제적 손실로 이어질 수 있습니다. 이러한 위협에 대응하려면 기존의 보안 시스템을 강화하는 것이 아니라 능동적인 보안 시스템 구축이 필수적입니다.

오늘은 AI 해킹과 생성형 AI의 문제점을 살펴보고, 이를 예방할 수 있는 사이버 보안 솔루션과 보안 컨설팅 방안을 소개하겠습니다.

‍

‍

◼︎ AI 해킹이란?

1) 정의 및 등장 배경

출처: Unsplash

AI 해킹은 인공지능 기술의 발전과 함께 등장한 새로운 형태의 사이버 공격입니다. 기존 해킹이 시스템의 취약점을 악용해 정보를 탈취하거나 시스템을 마비시키는 데 집중했다면, AI 해킹은 생성형 AI의 취약점을 공략해 인공지능 자체를 공격하거나 AI의 의사 결정 과정을 조작하여 원하는 결과를 유도하는 방식으로 진화했습니다.

이제는 누구나 손쉽게 AI 기반 서비스를 활용할 수 있는 시대가 되었지만, 그만큼 AI 기반 해킹과 같은 생성형 AI 문제점으로 인한 보안 위협도 커지고 있습니다. 이러한 위협에 대응하려면 기존 보안 체계를 넘어선 정교한 대책이 필수적입니다.

‍

2025 보안 위협 전망 보고서, 2025 5대 사이버 위협 전망 2부

‍

2) 중소기업을 노리는 AI 해킹

최근 5년간 발생한 사이버 공격 피해의 83%가 중소기업에 집중된 것으로 나타났습니다. 과학기술정보통신부 자료에 따르면, 2019년부터 2023년까지 신고된 전체 사이버 침해 사고 4,080건 중 82.5%에 해당하는 3,364건이 중소기업에서 발생했습니다. 특히, 사이버 침해 사고 신고 건수는 2019년 418건에서 2023년 1,277건으로 3배 이상 3배 이상 점진적으로 증가하는 추세를 보이며 중소기업의 사이버 보안 취약성이 더욱 부각되고 있습니다.

대기업과 달리 중소기업은 예산과 인력 부족으로 보안 컨설팅 등과 같은 IT 보안에 충분한 투자를 하기 어려운 경우가 많습니다. 또한, 사이버 공격에 대한 인식 부족과 정보 보안 전문 인력의 부재로 인해 더욱 취약한 환경에 놓여 있으며, 이로 인해 딥페이크 피싱이나 AI 해킹과 같은 최신 보안 위협의 주요 표적이 되고 있습니다.

‍

‍

◼︎ 실제 AI 해킹 사례

1) 홍콩 딥페이크, 342억원 금융사고 발생

출처: 연합뉴스

2024년 1월, 홍콩의 한 금융회사에서 딥페이크 피싱으로 한화로 약 342억 원 상당의 돈이 사라지는 사건이 발생했습니다. 홍콩 지부 직원은 영국 본사의 CFO로부터 거액 송금을 지시받았으나 처음에는 피싱을 의심했습니다. 그러나 이후 동료들과 함께한 화상 회의에서도 같은 지시가 반복되자 의심을 접고 송금을 진행했습니다. 하지만 이는 사기였으며, 사기범들은 CFO를 비롯한 모든 참석자의 얼굴과 목소리를 딥페이크 기술로 조작해 직원을 속인 것으로 밝혀졌습니다.

‍

2) 푸틴 대통령 딥페이크 방송 해킹 사건

출처: Hanna Liubakova 트위터 캡처

2024년, 러시아 국경 지역에서 푸틴 대통령의 계엄령 선포 연설이 방송되는 딥페이크 피싱 사건이 발생했습니다. 해커들은 생성 AI 기반 딥페이크 기술을 활용해 푸틴 대통령의 얼굴과 목소리를 합성한 영상을 제작한 뒤, TV 채널을 해킹해 이를 방영한 것으로 밝혀졌습니다.

크렘린궁은 즉시 해당 방송이 해킹에 의해 조작된 것이라고 발표하며 진화에 나섰고, 결국 이번 사건은 조작된 방송임이 공식적으로 확인되며 마무리되었는데요. 해당 사건은 국가 안보에까지 영향을 미치는 생성형 AI 문제점을 보여주는 대표적인 사례로, 각국의 보안 대책 강화 필요성이 더욱 커지고 있습니다.

‍

3) 다크웹에 등장한 인공지능 기반 피싱 도구 'FraudGPT’

출처: 넷앤리치블로그

최근 보안 외신 SC미디어에 따르면 다크웹에서 인공지능 기반 피싱 도구인 ‘FraudGPT’가 등장했습니다. 이는 이전에 등장한 WormGPT의 개발자가 만든 것으로 추정되며, AI 챗봇 기술을 활용해 BEC 공격을 자동화할 수 있도록 설계되었습니다.

BEC 공격이란 공격자가 기업 임직원을 사칭해 송금을 유도하는 사기 수법입니다. FraudGPT는 이를 더욱 정교하고 빠르게 실행할 수 있도록 돕는 도구로, 기업의 보안 위협을 더욱 심각하게 만들고 있는데요. 현재까지는 직접적인 피해 사례가 제한적이지만, 피싱 도구로서 사용되는 생성형 AI 문제점이 점차 드러나고 있으며, 기술의 발전과 확산에 따라 이러한 위협도 더욱 증가할 것으로 예상됩니다.

‍

‍

◼︎ AI 해킹에 대한 방어 전략 4가지

1) 보안 정책 수립하기

출처: Freepik

해킹을 효과적으로 예방하려면 체계적인 사이버 보안 정책 수립이 필수적입니다. 먼저, AI 시스템의 중요도, 데이터 민감성, 예상되는 위협 수준 등을 고려하여 적절한 보안 목표를 설정해야 합니다. 그다음, AI 시스템과 관련된 위험 요소를 식별하고 평가한 뒤, 이를 바탕으로 보안 정책을 개발해야 합니다.

특히, AI 보안 정책은 한 번 수립하는 것으로 끝나는 것이 아니라 지속적으로 개선되어야 하는데요. 인공지능 기술이 빠르게 발전함에 따라 새로운 형태의 AI 해킹 기법도 등장하고 있기 때문입니다. 따라서 주기적으로 보안 정책을 검토하고 업데이트하여 최신 위협에 효과적으로 대응할 수 있도록 대비하는 것이 중요합니다.

‍

2) 안전한 다운로드 경로 이용하기

출처: Unsplash

AI 모델과 데이터는 다양한 출처에서 제공되지만, 모든 다운로드 경로가 안전한 것은 아니기 때문에 보안 위협에 노출될 수 있습니다. 따라서 신뢰할 수 있는 공식 경로를 이용하는 것이 중요한데요. 출처가 불분명한 웹사이트나 공유 폴더에서 데이터를 다운로드하면 악성코드 감염 위험이 높아질 수 있으므로 주의해야 합니다.

이를 예방하려면 공식 기관, 검증된 플랫폼, 기업의 공식 웹사이트 등을 통해 AI 모델과 데이터를 확보하고, 다운로드한 파일은 보안 소프트웨어를 이용해 검사하는 등 추가적인 안전 조치를 적용하는 것이 중요합니다.

‍

3) 딥페이크 탐지 도구 활용하기

출처: istock

딥페이크를 이용한 금융 사기부터 AI 기반 시스템을 마비시키는 공격까지, 최근 다양한 사이버 범죄 사례가 지속적으로 보고되고 있는데요. 특히, 딥페이크 기술이 정교해지면서 기업을 대상으로 한 AI 해킹이 늘어나고 있으며, 이는 보안 위협을 더욱 심화시키고 있습니다.

이에 따라 기업은 딥페이크 피싱 영상이나 음성을 탐지하고 차단할 수 있는 전문 도구를 적극적으로 활용하고 생성형 AI의 보안 취약점과 딥페이크 피싱의 위험성에 대한 경각심을 가져야 합니다. 또한, 의심스러운 콘텐츠에 대해 신중하게 판단하는 보안 의식을 강화하는 것이 중요합니다.

‍

4) AI 기반 보안 솔루션 도입하기

출처: Freepik

날이 갈수록 사이버 공격이 더욱 지능화되면서, 기존 보안 시스템만으로는 대응에 한계가 있습니다. 해커들은 인공지능 기술을 활용해 보안 취약점을 분석하고 정교한 해킹 기법을 개발하고 있기 때문인데요.

이를 예방하려면 정기적인 보안 컨설팅과 AI 기반의 보안 솔루션 도입이 필수적입니다. AI 기반 보안 솔루션은 실시간 위협 탐지, 자동 대응, 이상 징후 분석 등 다양한 기능을 제공하여 기존 보안 시스템의 한계를 보완하고 보다 효과적인 보안 환경을 구축할 수 있습니다.

‍

‍■ LLM Application 취약점 진단 가이드 - 바로가기

‍

‍

AI 기술을 활용한 사이버 공격, AI로 대응하자!

SK쉴더스의 AI 기반 맞춤형 정보보안 솔루션은 고도화되는 AI 해킹 위협에 맞서 효과적인 방어 체계를 구축할 수 있도록 다양한 기능을 제공합니다. 실시간 원격 취약점 진단 서비스를 통해 정보 시스템 자산의 취약점을 신속하게 파악하고, 전문 진단 인력의 원격 관리를 지원하여 보다 효율적인 사이버 보안 관리를 제공합니다. 또한, 해킹 사고 발생 시에는 감염 원인과 경로를 추적하고, 단계별 대책을 제시하여 근본적인 해결 방안을 마련함으로써 재발 방지에 기여하고 있습니다.

‍

✅ 맞춤형 구독 서비스

초기 투자비용 부담 없이 개인정보 보호, 네트워크 보안, 데이터 자산 유출 방지 등 원하는 서비스만 선택하여 구독할 수 있습니다.

✅ 전문 컨설턴트 지원

사내 보안 담당자가 부재한 중소기업을 위해, 컨설턴트가 상담부터 구축 및 유지관리까지 보안 컨설팅의 전 과정을 함께합니다.

✅ 국내 최다 정보보안 서비스

PC부터 서버, 네트워크까지 모든 정보 자산을 대상으로, 합리적인 가격에 전문적인 보안 강화를 제공합니다.

✅ 간편한 관리

사이버가드 플랫폼을 통해 기술 지원 요청, 위협 정보 확인, 서비스 관리 등 모든 과정을 간편하게 조회 및 처리할 수 있습니다.

‍

‍

‍

[콘텐츠 내용 출처]

보안뉴스, 씨큐비스타 “중소기업, 전체 사이버 공격의 83% 차지... 보안 위험 수위 한계 넘어”

연합뉴스, 영화 속 얘기 아냐…금융사 직원, 딥페이크에 속아 340억원 송금

YTN, 러시아, 푸틴 계엄령 선포에 '발칵'…"딥페이크 해킹 영상"

동아일보, “챗GPT, 피싱 메일 작성해줘”…AI 해커가 등장했다

이데일리, 짙어지는 'AI해킹' 위협…"2024년 범죄 AI 활개"

‍