최근 온라인에서 인공지능(AI)으로 생성된 콘텐츠의 무분별한 확산에 대한 우려의 목소리가 커지고 있습니다. 유튜브(YouTube), 인스타그램(Instagram), 틱톡(TikTok) 등 주요 소셜 미디어 플랫폼들이 AI 생성 콘텐츠를 구별하기 위한 자동 라벨링 등의 도입을 확대하고 있지만, 정작 이용자들이 이러한 콘텐츠를 의도적으로 걸러낼 수 있는 기능은 부족하다는 비판이 제기되고 있습니다.
플랫폼, AI 콘텐츠 식별 노력 강화
지난 1년여간 여러 플랫폼에서는 AI가 만든 이미지, 영상, 음악 등을 인간 창작물의 콘텐츠와 구분하기 위한 기술적 노력을 기울여 왔습니다. 이는 AI 기술의 발전과 함께 급증하는 AI 생성 콘텐츠 속에서 정보의 진위를 판별하고, 창작자의 권리를 보호하려는 취지에서 비롯되었습니다.
'필터링' 기능 부재, 이용자 불편 초래
하지만 이러한 식별 노력만으로는 이용자들이 원치 않는 AI 생성 콘텐츠, 이른바 'AI 슬롭(AI slop)'으로 불리는 저품질 또는 무분별하게 생성된 콘텐츠에 노출되는 것을 근본적으로 막기 어렵다는 지적이 나옵니다. 현재로서는 AI 생성 콘텐츠임을 인지하더라도 이용자가 이를 자신의 피드에서 능동적으로 제외하거나 필터링할 수 있는 실질적인 수단이 부재한 상황입니다. 이러한 이용자 선택권의 부재는 온라인 콘텐츠 소비 경험을 저해한다는 비판을 받고 있습니다.
이용자 선택권 확대 요구 거세져
전문가들은 플랫폼들이 콘텐츠 식별을 넘어, 이용자가 직접 AI 콘텐츠 노출 여부를 선택할 수 있는 필터링 기능을 제공해야 한다고 주장합니다. 이는 이용자 경험을 개선하고, 온라인상의 정보 생태계를 더욱 건강하게 만드는 데 기여할 것으로 보입니다. 현재의 자동 라벨링 시스템만으로는 이러한 문제를 해결하기에 역부족이라는 의견이 지배적입니다.
