머스크의 xAI, 딥페이크 논란에 그록 ‘이미지 편집 기능’ 제한

머스크 "유료 구독자 포함 모든 사용자에 적용"

14일(현지시간) 영국 런던의 한 버스 정류장에 시위단체 '에브리원 헤이츠 일론(모두가 일론을 싫어한다)'이 제작한 포스터가 게시돼 있다. 이 포스터에는 일론 머스크가 운영하는 소셜미디어 X의 보이콧을 촉구하는 내용이 담겨 있다. 이는 X에 내장된 인공지능(AI) 챗봇 '그록'이 사용자의 요청에 따라 노골적인 성적 이미지를 무분별하게 생성하고 있다는 보도에 따른 것이다./로이터 연합

일론 머스크의 인공지능(AI) 기업 xAI가 자사의 AI 챗봇 그록의 딥페이크 이미지 생성에 대한 세계 각국 규제 당국의 우려를 불식시키기 위해 모든 사용자를 대상으로 이미지 편집 기능을 제한했다고 14일(현지시간) 밝혔다.

최근 유럽, 아시아의 다수 국가의 정부 및 규제기관은 그록이 생성하는 노골적인 성적 콘텐츠에 대한 단속을 강화하며 서비스 금지 조치나 안전 장치 마련을 요구하고 있다.

xAI는 X(옛 트위터)를 통해 "우리는 그록이 비키니 수영복과 같은 노출이 심한 옷을 입은 실제 인물의 이미지를 편집할 수 없도록 하는 기술적 조치를 도입했다"며 "이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다"고 공지했다.

이달 초 X에서는 여성들이 극도로 작은 비키니 수영복을 입은 것처럼 조작되거나 굴욕적인 자세를 취하는 모습으로 표현된 비현실적인 이미지가 무분별하게 확산됐다.

일부 사례에는 미성년자가 수영복을 입고 있는 모습의 조작 이미지도 있어 논란이 일었다.

xAI는 지난 9일 그록에서 유료 구독자만 이미지 생성 및 편집 기능을 이용할 수 있도록 제한했다.