[사이언스 온고지신]디지털 컴퓨터는 바보인가

오늘날 우리는 컴퓨터를 잠시도 쓰지 않고서는 견딜 수 없게 되었다. 특히 스마트폰 출현으로 컴퓨터가 우리 손 안에 항상 있어 거역할 수 없는 상황에 달했다. 지금 우리가 사용하는 제품 중 전기와 관련된 모든 도구에는 반드시 컴퓨터가 장착돼 있다. 이렇게 곁에 두고 피할 수 없는 도구인 디지털 컴퓨터에 대해 우리는 기본을 소상히 모른다.

[사이언스 온고지신]디지털 컴퓨터는 바보인가

1946년에 출현한 디지털컴퓨터 당시는 이를 사용하려면 관련 교육을 받은 사람만이 제한된 분야의 정보 처리를 위해 전산센터에 가야만 사용이 가능했다. 1970년대 말 PC 출현과 동시에 개발된 컴퓨터망 통신기술과 컨버전스로 디지털 컴퓨터는 급격하게 우리 곁으로 다가와 비전문가는 물론 온 인류에게 정보처리 혁명을 떠맡게 했다. 우리는 이 디지털컴퓨터를 보다 가까이 사랑하기 위해 몇 가지 살펴볼 게 있다.

우리 곁에 있는 디지털 컴퓨터는 크게 봐서 4가지 강점을 갖고 있다. 첫째로 대용량의 데이터를 저장하고 처리할 수 있다. 최근 데이터 저장장치 계량단위로 기가 바이트를 넘어 테라바이트까지 사용한다. 그리고 초당 10억 개 이상의 문자를 저장 처리한다.

둘째로 범용성이다. 학교와 우체국, 전철, 기차역, 스마트 폰, 일반 휴대폰 등 어디서나 같은 논리로 그 사용이 가능하다. 범용성에 컴퓨터통신 기술과 컨버전스해 놀라운 인터넷기술이 나타나서 사용이 가능해졌다. 웹 컴퓨팅이 가능해저 우리나라에서 4000만 개 휴대폰을, 지구상에는 20억이 넘는 인구가 인터넷을 애용하고 있다.

셋째로 처리속도가 엄청 빠르고 그 결과가 정확하다. 초당 10억 번 이상의 덧셈을, 100만 번 이상의 저장과 검색이 가능하고, 계산결과는 100만분의 1이하로 정확하다. 넷째로 반복 작업에 매우 강인하다. 같은 작업을 한없이 명령해도 절대 순종한다. 이 4가지 장점은 인간의 어떤 능력보다 초월하여 엄청난 수행능력을 발휘해 우리가 사용하는 디지털 컴퓨터는 인간이 개발한 역사상 최고의 도구가 되었고 쉽게 사용하고 있다.

그러나 디지털 컴퓨터는 유한성이라는 결정적 약점을 갖고 있다. 모든 데이터를 부울집합 Β {0,1}의 원소로 구성되는 유한 정열에 따른 비트로 나타내는 부동점 수인 이산(discrete)수로 표현해야 한다. 1/3, 1/7, v2와 같은 무한소수는 저장할 수도 검색할 수도 없다. 따라서 1/3+1/7=10/21의 정확한 계산은 실수로는 쉽게 구할 수 있지만 유한 비트만 다루는 이산수에 따른 계산으로는 정확한 답을 못 구한다.

이 문제를 해결하기 위해 여러 방법을 고민해 왔다. 자료를 표현하는 비트의 수를 임시로 2배, 4배로 널리는 방법을 흔히 쓰지만 이것은 컴퓨터에 무리를 주게 된다. 아직까지는 우리 곁에 있는 일반 디지털컴퓨터를 위한 묘한 방법이 없다. 우리 곁에 있는 디지털컴퓨터는 유한성으로 지금은 상당한 바보라 할 수 있다. 정말로 똑똑한 디지털컴퓨터를 사용할 수 있는 날을 기대해 본다. 이것은 하드웨어로는 안 되는 것을 소프트웨어로 해결할 수 있다고 확신하기 때문이다.

김 하 진 한국과학기술정보연구원 ReSEAT 프로그램 전문연구위원

hjkimn@reseat.re.kr