구글 클라우드와 CSA: 2024년, 최고 경영진이 주도하는 사이버 보안 분야에서 상당한 규모의 AI 도입이 이루어질 것입니다.

보안 인력의 복잡성을 탐구하는 4월 10일 애틀랜타에서 열리는 이벤트에 여러분을 진심으로 초대합니다. 이 모임에서는 보안팀의 영역에서 인공지능(AI)의 잠재력을 살펴보고 그 비전과 장점, 실제 적용 사례를 살펴볼 예정입니다. 참석을 확정하려면 지정된 링크를 방문하여 초대를 요청하세요.

사이버 보안 영역 내 부서에서 인공지능을 운영 프로세스의 일부로 통합하는 것을 거부하는 경향이 있어 최고정보보안책임자(CISO)와 보안팀이 이러한 통합을 막기 위한 조치를 취하는 것을 흔히 ‘부서 거부’ 현상이라고 합니다.

상당수의 사이버 보안 전문가들은 인공지능과 관련된 잠재적 위험성을 인정하면서도 이 기술을 직접 경험한 적이 있으며 자신의 직업에 임박한 위협으로 인식하지 않습니다. 오히려 이들은 인공지능이 업무의 효율성과 효과성을 향상시키는 데 상당한 이점을 제공할 수 있다고 인식하고 있습니다.

인공지능이 사이버 보안에 미치는 영향을 논의할 때 개인이 인공지능에 위협을 느낀다는 인식이 만연한 것 같다고 인공지능을 위한 사이버 보안 연합의 의장직을 맡고 있는 칼렙 시마는 주장합니다. 그에 따르면 최고 정보 보안 책임자(CISO)들은 보편적으로 AI를 엄청난 보안 위협이자 극복할 수 없는 도전으로 간주합니다.

실제로 “AI의 출현은 사이버 보안에 짜릿한 전망과 복잡한 문제를 동시에 제시함으로써 사이버 보안에 혁명을 일으켰습니다.

구현 증가 - 그리고 단절

최근 연구에 따르면, 사이버 보안 전문가의 압도적인 다수가 보안 조치를 강화하기 위해 이미 인공지능을 실험한 것으로 나타났습니다. 또한 전체 조직의 거의 절반(55%)이 올해 안에 AI 기술을 보안 시스템에 통합할 것으로 예상됩니다. 이러한 기술의 가장 일반적인 적용 분야는 규칙 생성, 공격 시뮬레이션, 규정 위반 탐지, 네트워크 모니터링, 오경보 최소화, 비정상적인 패턴 식별 등입니다. 설문조사 참가자의 약 82%가 이러한 의견에 동의했다는 사실에서 알 수 있듯이 고위 경영진이 이러한 이니셔티브를 적극 지지하고 있다는 점이 주목할 만합니다.

Google Cloud/CSA 제공

기존의 통념에 도전하고 있지만, 보안 전문가 중 12%만이 인공지능이 자신의 업무를 완전히 대체할 것이라고 믿고 있습니다. 약 1/3(30%)은 AI가 자신의 전문성을 강화하거나(28%), 일반적으로 자신의 입지를 강화하거나(24%), 업무량의 상당 부분을 대체할 수 있는 수단으로 인식하고 있습니다. 응답자의 과반수(63%)는 AI가 보안 프로토콜을 향상시킬 수 있는 역량을 갖추고 있다고 인식하고 있습니다.

Google Cloud의 최고 정보 보안 책임자(CISO)의 보안 고문인 Anton Chuvakin은 특정 작업의 경우 기계의 구현이 상당한 수준의 만족을 가져올 수 있음을 인정했습니다.

Sima는 이러한 의견에 동의하며 “많은 사람들이 AI가 인간의 역할을 대체하기보다는 강화할 것이라고 믿는 경향이 있다"고 말했습니다.

특히, 최고 경영진은 인공지능 기술에 대해 부하 직원보다 더 잘 알고 있다고 응답한 비율이 52%로 직원 11%에 비해 높았습니다. 또한 최고 경영진의 절반(51%)이 인공지능 구현을 위한 구체적인 활용 사례를 알고 있다고 답한 반면, 직급이 낮은 직원의 14%만이 그러한 이해를 보인 것으로 나타났습니다.

시마는 많은 직원들이 일상 업무에 몰두하느라 교육 세션에 참석하거나 AI에 대해 배울 시간이 충분하지 않다는 사실을 인정합니다. 이는 경영진이 동료, 팟캐스트, 뉴스 매체, 출판물 등 다양한 경로를 통해 AI에 대한 업데이트를 지속적으로 받고 있기 때문입니다.

최고 경영진과 부하 직원 간의 인공지능에 대한 이해와 실행의 격차는 이 혁신을 효과적으로 통합하기 위한 조율되고 일관된 전략의 필요성을 강조합니다.“라고 그는 말했습니다.

사이버 보안에서 실제 사용 중인 인공지능

시마는 사이버 보안에서 인공지능의 주요 적용 분야는 보고 영역에 있다고 강조했습니다. 기존에는 보안팀원들이 여러 기기에서 출력 데이터를 수집하기 위해 상당한 노력과 시간을 투자했습니다. 하지만 AI 기술의 등장으로 이 프로세스가 훨씬 더 신속하고 효과적으로 실행될 수 있게 되었습니다. 또한 AI의 기능은 단순한 보고서 생성을 넘어 정책 평가 및 절차 지침 자동화와 같은 일상적인 작업까지 아우르며 그 영역을 확장하고 있습니다.

위협 탐지, 엔드포인트 탐지 및 대응, 코딩 취약점 식별 및 해결, 수정 조치 실행 등의 사전 예방적 활용도 그 범위 내에 있습니다.

시마는 사이버 보안 분야에서 가장 시급한 문제 중 하나는 정기적으로 생성되는 수많은 경보와 정보의 우선순위를 효과적으로 정하는 것이라고 강조했습니다. 이 분야의 전문가들은 잠재적인 위협을 식별하는 데는 탁월하지만, 어떤 위협이 가장 큰 위험을 초래하는지 판단하는 데 어려움을 겪는 경우가 많습니다.

수많은 방해 요인 속에서 정보의 진위 여부와 우선순위를 파악하는 것은 어려운 일입니다.

인공지능은 발신자의 신원, 수신자, 목적지, 링크된 웹사이트의 평판 등 다양한 요소를 검토하여 피싱 이메일이 도착하면 즉시 식별할 수 있는 기능을 갖추고 있습니다. 이 프로세스는 즉각적으로 이루어지며 각 이메일과 관련된 위협, 연쇄, 커뮤니케이션 기록에 대한 포괄적인 추론을 제공합니다. 이에 비해 인간 분석가가 유사한 정보를 검증하려면 최소 5~10분이 소요된다고 Sima는 말합니다.

문제의 개인은 이메일이 피싱에 해당하는지 여부를 식별하는 것과 관련하여 주목할 만한 수준의 확신이 존재하며, 현재 이 기능이 효과적이고 효율적으로 작동한다고 주장했습니다.

추진력 있는 경영진 - 하지만 한 고비가 남았다

사이버 보안에서 인공지능(AI)의 도입은 기술과 지식 격차를 메우고, 위협 탐지를 가속화하며, 생산성을 높이는 동시에 오류를 최소화하고 잘못된 구성을 완화함으로써 인간의 역량을 강화하는 능력으로 인해 경영진 사이에서 주목을 받고 있습니다. 또한, AI는 보다 신속한 사고 대응을 가능하게 합니다.

그러나 그는 “우리는 여기서 환멸의 저점을 맞을 것"이라고 언급했습니다. 그는 " 하이프 사이클의 정점에 가까워졌다"고 주장했는데, 그 이유는 AI에 많은 시간과 돈이 쏟아지고 기대치가 높지만 사용 사례가 명확하거나 입증되지 않았기 때문입니다.

현재 목표는 실용적인 시나리오를 발굴하고 구현하는 것으로, 연말까지 그 효과를 입증하고 매혹적인 느낌을 줄 수 있을 것으로 기대됩니다.

추바킨은 실제 구체적인 사례가 드러나면 인공지능에 대한 보안 인식이 크게 바뀔 것이라고 주장했습니다.

AI가 낮은 곳에 매달린 열매를 더욱 낮게 만든다

잠재적인 이점에도 불구하고, Google Cloud-CSA 설문조사에서 인공지능(AI)이 보안 방어자와 공격자 모두에게 동등한 효용을 제공할 것으로 보는 응답자는 31%로 상당수에 달했습니다.또한, 추가로 25%는 AI가 악의적인 활동을 하는 사람들에게 더 큰 도움이 될 수 있다고 생각합니다.

시마는 사이버 범죄자들이 공격에 최첨단 기술을 빠르게 도입하고 활용하는 능력으로 인해 상당한 우위를 점하는 경우가 많다고 강조했습니다.

그는 앞서 나온 다른 사람들과 비슷한 방식으로 AI와 클라우드 기술의 발전을 비유하며 “클라우드가 공격자들이 대규모로 작전을 수행할 수 있게 해준 것처럼 AI도 악의적인 공격자들에게 동일한 잠재력을 제시할 수 있다"고 말했습니다.

사이버 범죄자들은 이제 특정 목표에 집중하는 대신 여러 표적을 더욱 정밀하게 공격할 수 있습니다. 인공 지능을 사용하면 접근 방식이 더욱 정교해짐으로써 이러한 능력이 더욱 향상될 것입니다.

실제로 Sima의 관찰에 따르면, 모델이 개인의 LinkedIn 프로필을 악용하여 매우 설득력 있는 피싱 메시지를 조작하는 데 사용할 수 있는 민감한 데이터를 수집할 수 있습니다.

그는 이를 통해 대규모로 맞춤형 경험을 제공함으로써 쉽게 접근할 수 있는 혜택을 얻기 위해 필요한 노력을 줄일 수 있다고 전했습니다.