[김호광 칼럼] 인공지능은 자살이 우려되는 사람을 어떻게 찾고 살릴 수 있을까?

최근 미스코리아 출신의 전도 유망한 청년이 자살을 했다. 자살을 하기 전에 해외 여행을 밝게 다녀오는 등 일상 생활에서 그녀가 자살할 것이라는 것을 예지할 사람은 없었다.

말콤 글래드웰의 저서 '티핑 포인트의 설계자들'에서 보면 티핑 포인트, 임계점에 대한 이야기가 나온다. 특정 집단에서 자살이 증가하기 시작하는 순간에 대한 이야기를 하며 또래 집단에서 영향력이 큰 소위 인플루언서의 자살은 자살을 마치 판데믹처럼 급격하게 증가시키는 경향이 있다는 것이다.

인스타그램과 같은 소셜 네트워크의 발달로 인해 잘 사는 사람들로 보이는 또래 집단의 멋진 인스타그램 사진과 영상을 보고 사회적 압력을 받게 된다. 왜 나는 저렇게 살지 못하는지에 대한 스트레스가 커지는 것이다. 그로 인해 나만 멋진 순간에서 소외되는 기분이 들어 소셜 네트워크로 인한 우울증이 증가하고 있다.

한국의 자살 뉴스 기사의 경우 뉴스 기사 하단에 자살 방지 관련 연락처와 간단한 정보를 넣고 있다. 이런 뉴스 관행은 유명인의 자살로 심리적으로 불안한 팬, 집단에 잠시 멈춤을 제공함으로써 추가적인 비극을 막으려는 노력을 하고 있다.

SNS로 전파되는 자살 티핑 포인트를 막자

인스타그램을 비롯한 SNS의 경우 자살 관련 포스팅이 있더라도 사전에 탐지하여 차단하거나 신고를 하기 복잡하게 되어 있다. 대부분의 콜센터를 비롯한 각종 피드백이 자동화된 시스템으로 되어 있어 위급한 상황에서 인간의 대응과 판단할 최적의 골든 타임을 놓칠 수 밖에 없다. 심지어 자살과 자해를 의미하는 인스타그램 스토리가 올라가더라도 경찰과 병원 등에 상황을 전파하고 연락할 방법이 쉽지 않은 것이 현실이다.

이런 문제점을 방지하기 위해 인공지능의 포스팅 필터링 기술과 인간의 감정을 분석하는 감정 분석 기술이 활용될 수 있다. 이미 사진, 영상 인식 기술은 CCT785V에 적용하여 범용적으로 사용되고 있다. 일부 국가의 경우 범죄자들은 공공 CCTV에서 추적하는데 활용되고 있고, 잠재적 범죄자 혹은 범죄의 징후가 높은 사람을 인공지능의 추론을 통해 모니터링하여 범죄를 낮추는 순기능을 보여주고 있다.

만일 심리적으로 불안한 상태의 영상, 사진의 포스팅이 감지된다면 인공지능은 소통이 빈번한 신뢰 되는 지인에게 심각한 상황을 알리고, 대중들이 포스팅을 보기 전에 SNS 자동적으로 경고를 올리도록 시스템이 개편된다면 자살의 판데믹은 멈출 수 있을 것이다. SNS의 경고를 본 가족, 친구들이 적극 개입할 시간과 기회를 준다면 극단적인 사고를 더 잘 막을 수 있을 것이다.

또한 블록체인을 통해 포스팅에 악의적인 메시지를 빈번하게 올리는 사람들을 제재할 수 있는 근거를 만들고 SNS 내의 집단이 투표하여 개인의 존엄을 훼손하는 사람들을 SNS에서 배제하는 방안도 강구해야 한다. 블록체인에 투표 과정이 투명하게 공개되기 때문에 투명한 검증과 논란을 방지할 수 있을 것이다.

맺으며

메타의 마크 주커버그를 비롯한 페이스북, 인스타그램 경영진은 거의 포스팅을 하지 않고 있다. 페이스북의 창업자 마크 주커버그는 전문 사진가를 고용하여 엄선된 사진을 올리고 있다. 그 수량이 100장도 되지 않는다. 이들이 만든 SNS의 본질이 사람들의 도파민을 과잉 분비하여 현실보다 왜곡된 SNS에 중독되도록 만들기 때문에 메타의 고위직일수록 자사의 플랫폼 사용을 자제한다는 말도 있다.

인스타그램에도 사회적 책임과 역할이 분명이 있어야 한다. 우울증, 자살 우려 등을 포스팅 단계에서 인공지능을 통해 예지될 수 있다. 메타는 라마라는 훌륭한 인공지능 플랫폼을 가지고 있어 의지만 있다면 기술을 적용할 수 있다. 우울증, 자살 우려, 학대, 범죄 등의 중요 문제에 대해서 SNS가 개입하고 사고를 막을 수 있도록 소셜 플랫폼을 개선해야 한다.

우을증과 심리적 문제가 있다면 정신과 의사를 비롯한 전문가의 상담과 주위 친구와 가족에게 상의하고 도파민 과잉을 유도하는 SNS 사용을 중지하는 것도 필요하다.

우리는 행복을 위해 살아가고 친구들과 소통을 위해 SNS를 시작했지만 어느 순간 주객이 전도되어 과도한 도파민에 행복이 매몰되었다. 대형 SNS는 사람을 광고의 콘텐츠로 바라보는 것에서 벗어나 사람이 먼저라는 말, 인간성을 더 가치의 중심으로 둬야 할 때가 되었다.

필자 소개: 김호광 대표는 블록체인 시장에 2017년부터 참여했다. 나이키 'Run the city'의 보안을 담당했으며, 현재 여러 모바일게임과 게임 포털에서 보안과 레거시 시스템에 대한 클라우드 전환에 대한 기술을 지원하고 있다. 최근 관심사는 사회적 해킹과 머신러닝, 클라우드 등이다.