[에듀플러스]AI 시대일수록 인간 존엄 더 중요해져…인간 가치 강조한 이화융합학술제 열려

최재천 이화여대 교수가 인간과 자연의 공존에 대해 설명하고 있다.(사진=이화여대)

인공지능(AI)이 인간의 능력을 넘어서는 시대에 인간이 지켜야 할 소명은 무엇인지 인간·환경· AI 대한 주제를 놓고 각 분야 석학들이 한 자리에 모여 머리를 맞댔다.

6일 서울 이화여대 ECC 이삼봉홀에서 열린 '이화융합학술제'는 '인간·환경·AI'를 주제로 인간과 환경, AI를 둘러싼 복합적 문제를 다각도로 조망하고 학문 간 융합과 소통의 방향을 모색하기 위해 마련됐다. AGI(인공일반지능)는 특정 영역에 한정된 현재의 AI를 넘어 인간 수준의 기억력과 판단력, 자율적 행동 능력을 갖춘 범용 인공지능을 뜻한다.

최재천 이화여대 명예교수는 “AI 시대일수록 학문 간 경계를 넘는 융합적 논의가 중요하다”며 “서로 다른 분야를 공부한 사람들이 충분한 토론을 통해 함께 대응해야 하고 지금이 바로 그 시작점이라고 말하며 대학 교육 혁신의 필요성을 언급했다.

그는 “인문·예술·자연과학이 고르게 발달한 대학이 많지 않은데 이화여대는 그 자격 조건이 고르다”며 “AI 시대 인재를 길러내기 위해 대학이 보다 과감하게 새로운 방식의 교육과 훈련에 나서야 한다”고 강조했다.

AI 번역 기술이 발전하더라도 언어와 인문학의 중요성은 오히려 커질 것이라는 시각도 제시했다. 최 교수는 “철학책과 시집을 읽은 사람이 더 수준 높은 질문을 할 수 있고 AI로부터 얻어내는 것도 많다”며 “문학은 AI 시대에 오히려 더 단단해질 것이며 직업의 '직(職)'은 사라질 수 있어도 업(業)은 남는다”고 덧붙였다.

김용해 서강대 아루페 인문사회연구소장은 AI를 인간과 구별하는 핵심 속성으로 자율성과 시간성, 수용성, 그리고 의미를 추구하는 능력을 제시했다. 그는 “AI는 '누군가'가 아니라 규정된 '무엇'에 불과하다”며 “목적의식과 자기동일성, 윤리적 주체성이 없는 도구적 존재”라고 규정했다.

김 소장은 인간의 의식은 과거·현재·미래가 연결된 시간의 흐름 속에서 형성되지만, AI는 확률 계산에 따라 단어를 이어붙이는 방식으로 작동할 뿐 연속된 자아를 갖지 못한다고 설명했다. 또한 인간은 유한한 삶과 고통을 받아들이며 타인과 윤리적 관계를 맺지만, AI에게 고통은 단지 제거해야 할 오류 신호에 불과하다고 진단했다.

그는 “아무런 대가 없이 타인을 위해 헌신하는 능력이야말로 폭주하는 AGI 시대에 인간이 지켜야 할 마지막 보루”라며 “AI가 인간 수준을 넘어서는 판단력과 기억력을 갖추게 될수록 인간 중심의 윤리 기준과 가치 정렬이 더욱 중요해질 것”이라고 강조했다.

그러면서 AI시대를 맞는 인간의 소명으로 △AI가 흉내 낼 수 없는 인간 존엄성에 대한 자각 △타인을 위해 대가 없이 헌신하는 이타적 실천 △인간의 안녕을 중심에 둔 AI 윤리 기준 마련 △AI 시스템이 인간다운 가치에 부합하도록 조율하는 가치 정렬(alignment)을 제시했다.

고학수 서울대 법학전문대학원 교수는 “AI 확산과 함께 나타나는 새로운 사회·윤리적 위험에도 주목해야하는데, 딥페이크 범죄와 개인정보 침해, 시스템 오작동 등 AI의 악의적 활용 가능성은 이미 현실의 문제가 되고 있다”며 “AI 기술이 사회 전반에 깊숙이 들어갈수록 새로운 형태의 위험과 도전 과제가 계속 등장할 것”이라고 말했다.

특히 이용자 눈에 띄지 않는 방식으로 AI 시스템을 왜곡하는 프롬프트 인젝션(prompt injection) 공격 위험성을 언급하며 주의를 당부했다.

고 교수는 “사용자가 인식하지 못하는 사이 시스템이 왜곡되거나 특정 방향으로 유도될 가능성이 존재한다”며 “생화학 공격 등 고위험 분야에서도 AI 악용 가능성을 충분히 고려해야 한다”고 강조했다.

권미현 기자 mhkwon@etnews.com