중국에서 한 농부가 인공지능(AI) 챗봇이 알려준 농약 사용법을 그대로 적용했다가 10만㎡에 달하는 참깨밭을 잃었다.
11일(현지시간) 중국 신민만보에 따르면 안후이성 추저우에 거주하는 67세 농부 A씨는 약 1년 전부터 AI 서비스를 활용해 파종 시기와 비료 사용법 등 농사와 관련한 정보를 얻어왔다.
처음에는 AI가 알려준 내용이 실제 영농에 도움이 되면서 신뢰가 쌓였다. 이후 A씨는 별도의 자료를 찾아보거나 전문가에게 확인하는 과정 없이 챗봇이 알려주는 방식을 그대로 적용했다.
문제가 된 것은 참깨 재배지에 발생한 잡초와 해충이었다. 이를 해결할 방법을 AI에 문의한 A씨는 추천받은 약제를 밭에 살포했다.
하지만 그 과정에서 사용한 '플루페나셋'이 참깨 생육에 악영향을 미칠 수 있다는 사실이 뒤늦게 드러났다.
농업 전문가들은 해당 성분을 참깨 재배지에서 활용하려면 투입량과 살포 방식 등에 각별한 주의가 필요하다고 설명했다. A씨가 이 같은 조건을 제대로 지키지 않으면서 농작물 전체가 손상을 입은 것으로 보고 있다.
A씨는 대만 매체 CTWANT에 농약을 뿌린 다음 날부터 작물의 상태가 급격히 나빠졌다고 전했다. 잡초뿐 아니라 참깨 묘목까지 시들기 시작했으며, 오히려 작물이 잡초보다 먼저 죽었다는 것이다.
해당 AI 애플리케이션에는 대화 화면 위쪽에 생성형 AI의 답변에는 오류가 있을 수 있으므로 별도의 확인이 필요하다는 안내가 표시돼 있었던 것으로 알려졌다.
이번 사례를 계기로 AI가 농업이나 의료처럼 전문성이 요구되는 영역에서 부정확한 정보를 내놓을 가능성에 대한 경고도 커지고 있다. 전문가들은 챗봇의 답변만을 근거로 실제 행동에 옮기기보다 관련 기관의 지침이나 전문가 의견을 함께 확인해야 한다고 강조한다.
AI의 오류가 실제 피해로 이어진 사례는 이번이 처음이 아니다.
지난해에는 60세 남성이 AI가 제시한 잘못된 정보를 믿고 식단에서 일반 소금을 없애는 대신 브로마이드 나트륨을 섭취했다가 브롬 중독으로 치료받은 일이 알려졌다.
당시 의학 학술지 '내과학 연보'에 게재된 사례 보고서는 AI가 사실과 다른 과학 정보를 제시할 수 있고, 사용자가 이를 제대로 검증하지 않을 경우 예방할 수 있었던 건강상의 문제가 발생할 수 있다고 지적했다.
AI 서비스 기업들은 이후 의료 분야 질문에 대한 안전장치를 강화하고 답변 품질을 개선하고 있지만, 챗봇의 정보가 의료적 판단이나 진단·치료를 대신할 수 없다는 점을 지속적으로 고지하고 있다.
이원지 기자 news21g@etnews.com
