지난 몇 년간 인공지능(AI)은 우리의 업무와 일상에 깊숙이 들어왔다. 그 변화는 당신에게 어떤 모습으로 다가왔는가. 누군가에게는 업무 생산성을 끌어올리는 도약이었을 수도 있고, 누군가에게는 미처 대비하지 못한 새로운 위험이었을 수도 있다. 같은 기술을 두고도 답은 서 있는 자리에 따라 갈린다. 보안을 책임지는 자리에 있다면 AI의 확산은 마냥 반가운 소식만은 아닐 것이다. 활용할 수 있는 도구가 늘어난 만큼 지켜야 할 보안 전선도 넓어졌고, 공격자 역시 같은 기술을 손에 쥐었기 때문이다.
AI의 확산과 함께 위협의 지형은 조직 안팎에서 달라지고 있다. 외부에서는 딥페이크와 합성 음성 등 AI를 활용한 공격이 정교해지면서 '내가 보고 들은 것은 진짜다'라는 보안의 오랜 전제가 흔들리고 있다. 내부에서는 임직원이 기밀 자료와 고객 정보를 외부 AI에 무심코 입력하는 순간 민감 정보가 통제 밖으로 흘러나갈 수 있다. 조직의 승인 없이 업무에 AI 도구를 사용하는 '섀도 AI' 역시 보이지 않는 유출 경로가 되고 있다.
올해 인공지능기본법이 시행되며 AI 활용에 대한 규율이 구체화되고, 최근 CISO 포럼에서도 국가 AI 안보 위협과 공공 AI 정책이 핵심 의제로 다뤄질 만큼 관심이 커지고 있다.
이러한 AI 활용은 조직 차원에서 관리해야 할 영역으로 바뀌면서 임직원의 입력 한 줄이 조직 전체의 컴플라이언스 리스크로 직결될 수 있는 것이다. 이 두 방향의 위협이 겨냥하는 지점은 결국 사람의 판단과 습관이다. 사람이 가장 약한 고리라면, 가장 효과적인 통제 지점 역시 사람일 수밖에 없다.
우리는 그 해답이 '인식 제고'에 있다고 본다. 지금까지와 같은 방식이어서는 안 된다. 과거의 위협은 정형적이어서 '수상한 첨부파일을 열지 마라'는 지식과 연 1회 집합교육만으로도 어느 정도 방어가 가능했다. 지금의 위협은 단순한 지식 부족의 문제가 아니라 사람의 감각과 판단 자체를 흔든다. AI는 아는 것과 그 순간 올바르게 판단하는 것 사이의 간극을 파고든다.
인식 제고의 목표도 '위험을 아는 것'에서 '그 순간 다르게 행동하는 것'으로 옮겨가야 한다. 변화를 금지만으로 이끌어낼 수는 없다. '하지 마라'를 앞세운 접근은 현실성이 떨어질 뿐 아니라 통제 밖의 비공식적 사용을 부추길 수 있기 때문이다. 캠페인의 목표는 사용을 막는 것이 아니라 위험한 행동을 안전한 습관으로 바꾸고, 이를 조직의 행동 기준으로 만드는 데 있다. AI를 가두는 조직이 아니라 책임 있게 활용하고 체계적으로 관리하는 조직이 되어야 한다.
변화 관리는 대상별 업무 맥락에 맞춰 설계해야 한다. 경영진과 개발자, 일반 임직원이 마주하는 위험이 다른 만큼 메시지도 구분해야 한다. '조심하라'는 추상적 경고 대신 '중요한 결재는 별도 경로로 재확인한다'와 같은 실천 가능한 행동 기준과 허용 범위를 제시해야 한다.
원칙만으로는 변화가 시작되지 않는다. 행동을 바꾸는 힘은 강의실의 지식이 아니라 직접 겪은 경험에서 나온다. 딥페이크를 직접 식별하고 모의훈련으로 위기를 통과해 본 경험은 어떤 강의보다 깊게 각인된다. 훈련에서 한 번 속아본 사람이 실전에서 두 번 확인한다.
목표는 가짜를 가려내는 눈썰미가 아니다. 합성 기술의 속도를 감안하면 식별 능력은 곧 한계에 부딪힌다. 길러야 할 것은 진짜처럼 보여도 절차로 한 번 더 검증하는 습관이다. 보이는 것이 아니라 절차를 믿게 하는 것이다.
캠페인도 일회성 행사에 그치면 힘을 잃는다. 지속되려면 거버넌스와 맞물려야 한다. 정책이 캠페인의 방향을 정하고, 모의훈련 대응률이나 위협 신고율처럼 측정된 지표가 다시 정책으로 환류되는 순환이 필요하다. 이 순환이 자리 잡을 때 인식 제고는 조직이 스스로 위험을 학습하고 보정하는 운영 체계가 된다.
궁극적인 목적은 '신뢰할 수 있는 AI 활용 문화의 정착'이다. 이는 보안 의식이 개인의 각성에만 기대지 않고 조직의 작동 방식으로 자리 잡는 문화를 뜻한다. 누구나 도구를 활용하면서도 위험을 인식하고 검증할 수 있어야 하며, 활용과 보안이 충돌하지 않아야 한다.
기술이 아무리 정교해져도 그 마지막을 지키는 것은 사람이다. AI 시대의 가장 단단한 방어선은 사람에게서 시작된다.
박종수 씨드젠 상무 sgp@seedgen.kr