[이상직 변호사의 디지털 창세기](5)실험실을 벗어난 실험과 윤리

디지털시대, 열심히 일하는 사람을 보라. 컴퓨터와 스마트폰을 앞에 두고 자판을 두들긴다. 손가락 관절 고통, 허리 통증, 혈액순환 장애, 거북목, 두통을 호소한다.

원시시대 도구 제작은 그것을 만들어서 사용할 수 있는 환경에 던져 두는 것으로 충분했다. 손도끼는 찍는 부위의 날카로움이 품질이고, 조금만 조심하면 다치지 않고 원하는 일을 할 수 있었다. 도구나 기계는 실험실(또는 연구소)의 독립·폐쇄 공간에서의 실험을 거쳐 공장에서 제품이 돼 시장에 나온다. 실험실은 약품으로 소독되고, 기술 등 엄격한 자격을 갖춘 특수한 의복을 입은 인간만 들어가 실험한다. 실험 기자재에 대한 규제도 엄격하다. 실험실 윤리를 준수하면 외적 간섭을 받지 않고 독립해서 실험할 수 있다. 실험실을 별도로 둠에 따라 실험실 밖의 공동체가 그 위험에서 보호된다. 실험을 거쳐 시장에 나온 도구·기계는 사용에 따라 마모가 생기는 것을 제외하면 인간의 생명·신체 안전에 영향을 미치는 사고는 자주 일어나지 않는다.

디지털시대도 그럴까. 데이터·인공지능(AI)에 기반을 둔 제품과 서비스는 실험실에서 실험되고 공장을 거쳐 시장에 나오는 것만으로 끝이 아니다. 실험실 밖이 더욱 중요하다. 중요한 실험이 실험실을 벗어나 진행된다. 고객에게 제품이나 서비스의 다양한 조작법·사용법을 통한 참여를 요구한다. 제품·서비스를 구성하는 중요한 부분을 고객이 직접 담당하도록 요구한다. AI 챗봇은 고객 참여와 이용 시간이 늘수록 학습능력이 좋아지고 수준 높은 결과물을 제공한다. 소셜미디어는 회원이 제공하는 다양한 콘텐츠에 의해 서비스 성격·범위·규모가 변화, 발전한다. 실험실을 나온 뒤에도 계속 업데이트나 변형이 이뤄진다면 더 이상 실험실에 있던 최초의 그 서비스가 아니다.

컴퓨터, 스마트폰, 냉장고, 자동차 등 전자기기는 어떤가. 전자파가 나온다. 물론 정부가 제시한 인체보호 기준을 충족해야 시장에 나올 수 있다. 그러나 인체보호 기준은 현재에 관한 것이고 미래에도 합당한 기준인지는 알 수 없다. 컴퓨터·스마트폰을 열심히 보면 자라목이나 각종 통증이 생기고, 이동하면서 이용하면 교통사고·충돌·추락 등의 위험이 있다. 물론 그런 위험을 줄이기 위해 업데이트 버전의 다양한 전자기기가 나올 수 있는 계기도 된다. 자동차는 실험실에서 인체 등에 피해가 없도록 완벽해야 시장에 나올 수 있다. 그러나 자율주행차량은 실험실을 나와 고객에게 운행을 맡긴 후에도 끊임없이 성능, 안전 등 실험이 이루어진다.

그렇다. 디지털 시대 과학기술은 상용화 단계를 거친 상태에서 머무르지 않는다. 고객이 제품·서비스를 소비하는 시공간에서도 끊임없이 변화, 발전한다. 실험실 밖을 나와서도 끊임없이 실험이 이루어지기 때문이다. 실험실을 벗어난 실험은 제품·서비스의 품질을 높일 수 있다. 그 반대로 기업·고객 등의 불순한 동기나 오류가 더해지면 인간의 생명·신체 안전과 재산을 뺏을 수 있다. 그래서 윤리와 통제가 중요해진다.

어떻게 해야 할까. 첨단 과학기술이 공동체와 인간에 미치는 영향을 알아내고 폐해를 줄이면서 고도화하려면 실험실을 벗어난 실험이 허용될 수밖에 없다. 그러나 실험실 밖을 나온 실험이 강제적·일방적이거나 고객을 속이는 것이어선 안 된다. 서비스 특성상 고객이 실험에 참여한다고 위험을 감수하거나 공인한 것이 아니다. 실험과 실험실 간 경계가 모호해짐에 따라 제품·서비스 출시 이후 실험에 대한 합리적 통제가 중요해진다. 고객이면서 피실험자가 되는 모순을 해결하기 위해선 과학기술의 민주화가 중요하다. 실험실을 벗어난 실험에 관하여 고객 모두의 동의를 받기는 어렵다. 어떤 요건을 충족해야 위험하지 않고, 어떤 경우에 실험을 중단해야 하는지 기준 정립이 중요하다.

이상직 법무법인 태평양 변호사('혁신과 공존의 신세계 디지털' 저자) sangjik.lee@bkl.co.kr