“생성형 AI 위험 사례 제보하세요”…방미통위, 전문 창구 플랫폼 개설

방미통위, 생성형 AI 이용자 참여 제보 플랫폼 운영
인공지능 역기능 신속 파악, 사업자 자율 개선 유도

방송미디어통신위원회와 한국정보통신진흥협회(KAIT)가 운영하는 '생성형 AI 이용자 참여 플랫폼'. /방미통위

정부가 챗GPT 등 생성형 인공지능(AI)를 이용하다가 경험하는 폭력, 성범죄, 명예훼손, 저작권 침해 등 다양한 위험 사례를 제보할 수 있는 전문 창구를 운영한다.

방송미디어통신위원회(방미통위)와 한국정보통신진흥협회는 31일부터 '생성형 인공지능 이용자 참여 플랫폼'을 개설·운영한다고 밝혔다. 방송통신이용자정보포털에서도 접속 가능하다.

이는 국민 누구나 생성형 AI 서비스 이용 과정에서 겪는 위험성과 불편 사항을 제보하고, 관련 정보를 사업자·이용자와 공유할 수 있는 전문 플랫폼이다. 생성형 AI의 역기능을 신속히 파악해 사업자의 자율적 개선을 유도할 목적이다. 최근 생성형 AI 서비스의 급속한 확산과 함께 다양한 위험이 발생한다는 문제 인식이 반영됐으며, 국민 누구나 제보하고 관련 정보를 사업자·이용자와 공유할 수 있다.

이 플랫폼은 제보뿐만 아니라 위험성 관련 통계 등 분석자료를 주기적으로 제공하고, 유형별 생성형 AI 서비스 이용 방법과 특성에 대한 안내 기능으로 구성됐다.

방미통위는 앞서 지난 2월부터 전문가 연구반을 운영해 플랫폼 구성과 제보 절차, 인공지능 위험성 분류 등을 논의했다. 지난 7월과 지난달 두차례에 걸친 사업자 간담회에서 관련 제보가 사업자 서비스 개선으로 이어지도록 각계 의견을 수렴했다.

향후 방미통위는 플랫폼에서 수집된 제보를 통해 AI 서비스 위험성을 분석하고 제도 개선 등 정책에 반영할 계획이다.