인공지능이 글을 쓰고 그림을 만들고 프로그램을 짜주는 시대가 됐습니다.
그런데 같은 능력이 악의적인 목적으로 사용된다면 어떻게 될까요?
AI 기업 앤트로픽(Anthropic)이 최근 공개한 위협정보 보고서에서 실제로 클로드(Claude)를 생물무기 관련 연구, 사이버 공격, 감시 활동, 무기 개발 등에 이용하려 했던 사례가 확인됐다고 밝혔습니다.
단순한 가상 시나리오가 아닙니다.
앤트로픽은 2025년 12월부터 2026년 8월까지 실제 서비스에서 탐지한 악용 사례를 조사해 해당 계정을 차단하고, 이번 보고서에 주요 사례를 공개했습니다.
가장 충격적인 것은 ‘생물학적 악용’ 사례
앤트로픽이 이번 보고서에서 가장 심각한 위험 가운데 하나로 꼽은 것이 생물학적 악용(Biological Misuse)입니다.
회사는 실제 이용자 가운데 일부가 클로드를 이용해 병원체를 더 위험하게 만들 수 있는 연구와 관련된 정보를 얻으려 시도한 사례를 발견했다고 밝혔습니다.
보고서에는 바이러스 연구와 병원체 적응 실험 등과 관련한 여러 사례가 포함됐습니다.
다만 여기서 중요한 부분이 있습니다.
클로드가 생물무기를 직접 만들어냈다는 뜻은 아닙니다.
위험한 연구를 하려는 사람이 AI를 연구 보조도구로 이용하려고 시도했다는 의미입니다. 앤트로픽은 이런 활동을 탐지해 계정을 차단하고, 최신 모델에는 생물학적 위험 질의에 대한 안전장치를 강화했다고 설명했습니다.
(더 보기…)