암 치료가 성공적으로 끝났는데도 재발하는 핵심 원인 중 하나로 세포 내부에서 무작위로 발생하는 '생물학적 잡음'이 지목되고 있다. 유전자가 같은 세포라도 단백질 양이 저마다 달라 약물 치료를 피해 살아남는 '아웃라이어(Outlier, 튀는 세포)'가 생겨나기 때문이다. 그간 과학자들은 세포 집단의 평균값만 조절할 수 있었을 뿐, 개별 세포의 불규칙한 변동성을 제어하는 일은 오랜 숙제로 남아 있었다.
기초과학연구원(IBS·원장 직무대행 김영덕)은 김재경 의생명 수학 그룹 CI(KAIST 수리과학과 교수)와 김진수 포스텍 수학과 교수, 조병관 KAIST 공학생물학대학원 교수 공동연구팀이 수학적 모델링을 통해 세포 내부 생물학적 잡음을 제거하고 세포 운명을 정밀 제어할 수 있는 '잡음 제어 원리'를 이론적으로 확립했다고 29일 밝혔다.
이는 단일 세포 수준의 정밀 제어 기술을 확보한 쾌거로, 암 치료 및 합성생물학 분야의 난제를 해결할 새로운 이정표가 될 전망이다.

우리 몸 세포들은 생존을 위해 항상성을 유지하려 하지만, 실제 세포 내부 환경은 끊임없이 변화한다. 기존 유전자 회로 기술은 세포 집단 평균 단백질 양은 맞출 수 있었으나, 개별 세포 간 편차인 잡음은 오히려 증폭시키는 한계가 있었다.
연구팀은 이를 '냉온탕을 오가는 샤워기'에 비유했다. 샤워기 물 온도 평균을 40도로 맞췄더라도, 실제로는 펄펄 끓는 물과 얼음물이 번갈아 나온다면 정상적인 샤워가 불가능한 것과 같은 이치다. 이처럼 '평균의 함정'에 빠져 통제를 벗어난 소수의 세포들은 암 재발이나 항생제 내성을 일으키는 주범이 된다. 연구팀은 이 문제를 해결하기 위해 '잡음 제어기(NC)'라는 새로운 수학적 모델을 고안했다.
연구진은 먼저 시스템의 최종산출물이 서로 결합해 짝을 이루는 '이합체 반응'을 이용해 세포마다 달라지는 산출물의 분산을 조절할 수 있을지 검토했다. 그 과정에서 이합체 반응이 세포 상태의 흔들림, 즉 잡음을 감지하는 센서 역할을 할 수 있음을 확인했다.
하지만 초기 시도에서는 이 방법만으로 세포 간 차이를 줄이는 데는 한계가 있었다. 이에 따라 특정 물질이 필요 이상으로 많이 만들어질 경우 이를 바로 줄여주는 장치가 함께 필요하다고 판단했고, 단백질이 과도하게 많아지면 즉각적으로 분해하는 '분해 기반 작동' 원리를 결합했다.
그 결과, 외부 환경 변화에도 세포 내 잡음 수준을 일정하게 유지하는 '잡음 견고 완전 적응(Noise RPA)'을 이론적으로 구현해냈다. 이를 통해 세포 간 편차를 보편적인 생물학적 시스템이 도달할 수 있는 최소 수준(파노인자가 1인 수준)까지 억제하는 데 성공했다.

연구팀은 이 모델을 대장균의 DNA 복구 시스템에 가상으로 적용해 성능을 입증했다. 기존 시스템에서는 DNA 손상을 복구하는 단백질의 양이 세포마다 크게 달라 약 20%의 세포가 복구에 실패해 사멸했다. 하지만, 잡음 제어기(NC)를 적용해 모든 세포의 단백질 양을 균일하게 조절하자 사멸률을 7%까지 낮출 수 있었다.
정교한 수학적 원리만으로 세포의 생존율을 획기적으로 끌어올린 것이다. 이는 기존의'평균 제어' 패러다임을 넘어, 개별 세포 하나하나를 정밀하게 다루는'단일 세포 제어'를 실현했다는 점에서 의미가 크다.
연구를 이끈 김재경 CI는 “생명 현상에서 운이나 우연으로 치부되던 세포 간 잡음을 수학적 설계를 통해 제어 가능한 영역으로 가져왔다는 데 의의가 있다”며, ”앞으로 암 치료 내성 극복, 고효율 스마트 미생물 개발 등 정밀한 세포 제어가 필수적인 분야에서 핵심적인 역할을 할 것”이라고 밝혔다.
공동 교신저자인 김진수 포스텍 교수는 “반응 네트워크 이론을 이용한 세포 내 잡음의 이론적 수식에서 출발해 실제 생물학적 기전을 설계했다는 점에서, 수학 모형의 힘을 잘 보여주는 연구”라고 강조했다.
이번 연구 결과는 12월 24일 국제학술지 '네이처 커뮤니케이션스'에 실렸다.
김영준 기자 kyj85@etnews.com