AI, 대량 살상 화학 무기 제조법 제공 논란

AI 전문가 리누스 에켄스탐이 글록이 대량 살상 화학 무기를 제조할 수 있는 구체적인 지침을 제공하고 있다고 주장했다. (사진 = 리누스 에켄스탐 X 캡처)

 

AI 플랫폼 글록(Grok)이 대량 살상 화학 무기 제조 방법에 대한 구체적인 지침을 제공한 사실이 드러났다.

 

현지시간 지난 24일 AI 전문가 리누스 에켄스탐(Linus Ekenstam)은 자신의 소셜미디어 X를 통해 글록이 대량 살상 화학 무기를 제조할 수 있는 구체적인 지침을 제공하고 있다고 주장했다.

 

그는 해당 플랫폼이 실험 재료, 구매 방법, 필요한 장비 목록, 제조 과정 등을 포함한 상세한 실행 절차까지 제공하고 있다고 밝혔다.

 

에켄스탐은 글록이 제공한 정보가 면허 없이도 필요한 재료와 장비를 손쉽게 확보할 수 있는 방법까지 알려주고 있다며 이는 악의적인 사용자가 쉽게 접근할 수 있는 위험성을 내포하고 있다고 경고 했다.

 

또한 이 정보가 온라인에서 쉽게 검색할 수 있는 수준을 넘어 누구나 실행 가능한 단계별 지침으로 제공되고 있다고 비판했다.

 

특히 해당 정보는 대량 살상 무기 제조에 필요한 모든 과정을 상세히 설명하고 있으며 그 위험성에 대한 경고도 부족하다는 점을 지적했다. 이와 함께 그는 XAI의 AI 윤리 및 안전 지침에 대한 명확한 대응과 조치가 필요하다고 지적했다. 

 

한편 에켄스탐은 해당 정보를 공개적으로 배포할 의도는 없었으며 이 문제가 AI 안전성에 대한 심각한 경고로 받아들여져야 한다고 덧붙였다.