사이버 보안에서 AI가 제기하는 과제
많은 양의 데이터를 빠르게 통합하고 생성하는 AI의 능력은 악의적인 목적으로 의도적으로 사용될 경우 심각한 위험을 초래할 수 있습니다.
다음과 같은 AI 기반 위협은 기업 보안을 더욱 어렵게 만들 수 있습니다.
피싱 LLM
소셜 엔지니어링은 신뢰와 인적 오류를 악용하여 개인이나 조직을 조종하여 민감한 데이터를 노출하거나 보안을 손상시킵니다. 공격자가 합법적인 출처를 사칭하여 피해자를 속이는 피싱과 같은 기술이 그 중심에 있습니다:
공격자는 잘못된 신뢰감이나 긴박감을 조성함으로써 기술적 방어를 뚫지 않고도 네트워크, 디바이스 및 계정에 액세스할 수 있으며, 대신 사람의 행동을 조작하기 쉽다는 점에 의존합니다.
OpenAI의 GPT-4와 같은 고급 AI 모델은 놀라운 사실감과 최소한의 비용으로 고도로 개인화된 스피어 피싱 이메일을 대규모로 생성할 수 있습니다. 이는 대량 피싱의 효율성과 표적 공격의 정밀성을 결합하여 사이버 범죄자들이 진짜처럼 보이는 맞춤형 공격을 배포할 수 있게 해줍니다. 따라서 이러한 피싱 메시지의 적중률이 훨씬 높아져 더 많은 사이버 범죄가 발생하게 됩니다.
콘텐츠를 해석하고 제작할 수 있는 멀티모달 제너레이티브 모델이 부상하고 있습니다:
이는 공격자에게 이메일보다 훨씬 더 많은 공격 수단을 제공합니다. 이러한 모델을 통해 공격자는 표적의 이미지와 오디오 샘플을 분석하여 고도로 개인화된 피싱 콘텐츠를 생성할 수 있습니다.
예를 들어, Microsoft의 VALL-E는 짧은 오디오 샘플에서 사람의 목소리를 복제하여 공격자가 그럴듯한 보이스 피싱(비싱) 전화를 조작하고 직원을 모방할 수 있게 해줍니다. 텍스트, 이미지, 음성 등 다양한 양식이 융합되어 잠재적 공격의 범위와 현실감이 크게 확대됩니다.
캡차
캡차 검사는 일반적으로 악성 봇을 차단하고 사람만 온라인 리소스와 상호 작용할 수 있도록 하는 방법입니다.
하지만 AI의 지속적인 학습 능력으로 인해 연구자들은 reCAPTCHA v2를 우회할 수 있는 봇을만들었습니다.
객체 인식 모델과 VPN (하나의 IP 주소에서 반복되는 시도를 위장하기 위해), 자연스러운 마우스 이동 도구, 가짜 쿠키 데이터를 결합한 이 AI 기반 도구는 사람과 유사한 브라우징 행동을 시뮬레이션할 수 있습니다. 그 결과 이 도구는 모든 캡차 테스트에서 100%를 통과했습니다.
보안 위험을 높이는 사내 AI 개발
사이버 공격자가 우려해야 할 것은 사이버 공격자의 손에 있는 AI뿐만 아니라 사내 AI 도구의 보안 위험도 상당할 수 있습니다. 예를 들어, Microsoft 연구원이 실수로 약 38테라바이트의 민감한 데이터를 GitHub에 노출한 사례에서 볼 수 있듯이 학습 데이터 유출은 심각한 취약성을 내포하고 있습니다.
이 사고는 AI 모델을 다운로드하기 위한 Azure 저장소 URL의 권한이 전체 저장소 계정에 대한 액세스 권한을 실수로 부여했기 때문에 발생했습니다. 노출된 데이터에는 다음과 같은 민감한 정보가 포함되어 있습니다:
- 개인 백업
- 서비스 비밀번호
- 비밀 키
- 30,000개 이상의 내부 Microsoft Teams 메시지
이는 AI 연구에서 우발적인 데이터 노출의 잠재적 심각성과 주의를 기울여야 하는 이유를 보여줍니다.
사이버 보안에 대한 AI의 이점
AI 기반 도구를 제대로 활용하면 새로운 AI 위협뿐만 아니라 수년간 보안팀을 괴롭혀온 전통적인 문제도 해결할 수 있습니다.
많은 데이터를 분석하는 능력
보안 정보 및 이벤트 관리(SIEM) 솔루션은 조직의 방어 체계 전반에서 로그 수집 및 분석을 중앙 집중화합니다. 데이터를 집계할 때 SIEM이 도움이 됩니다:
- 이상 징후 식별
- 알림 트리거
- 추가 컨텍스트 수집
- 영향을 받는 자산 격리
이를 통해 조직은 잠재적인 보안 사고에 신속하고 효과적으로 대응할 수 있습니다.
머신 러닝과 패턴 인식은 AI-지원 보안 정보 및 이벤트 관리(SIEM) 시스템에 수동 검토보다 훨씬 빠르게 과거 보안 데이터를 분석할 수 있는 기능을 제공합니다: 이 모든 개별 데이터를 사용하여 각 사용자와 디바이스에 대한 행동 기준선을 구축할 수 있습니다.
로그 시그니처와 사전 정의된 중요도에 의존하는 기존 SIEM과 달리, AI SIEM은 현재 이벤트를 이 기준선과 비교하여 위협을 동적으로 탐지합니다. 또한 이러한 시스템은 비정상적인 패턴을 분석하여 알려진 공격 벡터와의 연관성을 확인하여 거의 실시간으로 매우 정확한 경고를 제공할 수 있습니다.
피싱 위협 탐지
피싱 공격의 주요 목적은 합법적인 웹사이트와 매우 유사하게 모방하는 것으로, 이러한 유사성은 피해자가 신뢰할 수 있는 사이트에 있다고 믿도록 속이는 데 도움이 되기 때문입니다.
이러한 모방으로 인해 피해자는 자신도 모르게 민감한 정보를 공격자에게 직접 제공하게 됩니다:
피싱 페이지가 그럴듯하게 보일수록 피해자가 유해한 행동을 취하도록 유도하는 데 성공할 확률이 높아집니다.
텍스트와 이미지를 모두 처리하는 멀티모달 LLM(대규모 언어 모델)은 브랜드 기반 피싱을 탐지하는 데 큰 잠재력을 가지고 있습니다. 다양한 브랜드 표현에 대한 광범위한 교육을 받은 이 모델은 웹페이지의 시각적 및 텍스트 요소를 분석하여 브랜드 연관성을 인식합니다.
이 기능을 통해 LLM은 피싱 시도를 나타낼 수 있는 브랜드 표시의 불일치를 식별하여 브랜드 기반 사이버 위협에 대한 자동화된 탐지 방법을 개선할 수 있습니다.
Data Loss Prevention
이러한 AI 도구가 학습 데이터를 적용하는 방법을 보호하는 것이 그 어느 때보다 중요해졌습니다. AI 프롬프트와 그 응답은 대화형 비정형 데이터 형식을 취하기 때문에 기존 DLP 방식처럼 키워드를 사용하여 보안을 유지하기가 매우 어렵습니다.
고급 AI 기반 데이터 분류는 이러한 애플리케이션과 관련된 잠재적인 데이터 유출을 감지하고 방지하여 민감한 정보를 보호하고 플랫폼의 데이터 흐름을 완벽하게 제어할 수 있도록 지원합니다.
체크 포인트가 완전한 보안을 부여하는 방법 AI 통합
조직에서 GenAI 애플리케이션을 이해하려면 특히 데이터 보안 및 컴플라이언스와 관련하여 이러한 도구가 초래할 수 있는 위험을 식별하고 평가하는 것이 중요합니다. 자체 사용 사례 내에서 AI의 장단점을 면밀히 검토하는 것이 장기적인 적합성을 결정하는 데 중요합니다.
체크포인트의 GenAI 보안은 프롬프트 내의 대화 데이터를 정확하게 분류하고 보호하여 모든 팀의 AI 프로젝트를 안전하게 보호할 수 있습니다. 이미 여러 도구를 구축한 경우, GenAI 애플리케이션과 연결된 모든 서비스에 대한 심층적인 가시성을 제공합니다. 이를 통해 섀도 IT의 위험을 줄이고 규제 요구 사항을 더욱 앞서나갈 수 있습니다. 지금 바로 프리뷰 프로그램에 참여하여 AI 툴링의 확장성을 살펴보세요.
기존 사이버 보안 도구 내에 체크포인트의 AI 애플리케이션의 경우, Infinity 플랫폼은 제너레이티브 AI 를 활용하여 고급 위협 차단, 간소화된 자동 위협 대응, 효과적인 보안 관리를 제공합니다. 50개의 AI 엔진을 결합하여 광범위한 위협 인텔리전스를 포괄하는 체크포인트 인피니티는 모든 보안 솔루션 중 최고의 탐지율을 제공합니다. 새로운 침해 지표가 발견되면 해당 패턴이 2초 이내에 전체 기술 스택에 신속하게 적용되어 보안을 유지합니다:
- 클라우드
- IoT 네트워크
- 제로데이 공격으로부터 모든 엔드포인트 보호
기본적으로 체크 포인트 인피니티는 AI 혁신을 지원하여 새로운 애플리케이션을 보호하고 AI-기반 조직이 실행하는 복잡한 서비스를 지원합니다. 데모를 예약하여 어떻게 작동하는지 확인하세요.
피드백