Instagram에서 자체 생성 아동 성적 학대 자료 판매를 방지하기 위한 새로운 Facebook 태스크 포스팀
소개
페이스북의 모회사인 메타(Meta)는 미성년자가 공개적으로 운영하는 것으로 보이는 대규모 계정 네트워크가 스탠포드 인터넷 관측소(Stanford Internet Observatory)의 보고에 따라 인스타그램에서 자체적으로 생성한 아동 성학대 콘텐츠 판매를 근절하기 위한 새로운 이니셔티브를 발표했습니다. 판매를 위해 이러한 유형의 자료를 광고했습니다.
아동 성적 학대 자료 판매를 촉진하는 Instagram의 역할
이 보고서는 자체 생성 아동 성적 학대 자료의 구매자와 판매자가 Instagram의 다이렉트 메시지 기능을 통해 연결된 것으로 나타났습니다. 또한 Instagram의 추천 알고리즘은 이 불법 자료의 광고를 더욱 효과적으로 만들었습니다. 연구원에 따르면 “Instagram은 구매자와 판매자의 특정 커뮤니티를 위한 핵심 검색 메커니즘 역할을 합니다.”
팬데믹 기간 동안 친밀한 이미지 남용 사례 증가
전문가들은 대유행으로 친밀한 이미지 남용 또는 “리벤지 포르노”가 어떻게 급격히 증가했는지 강조했습니다. 결과적으로 기술 회사, 포르노 사이트 및 시민 사회는 중재 도구를 강화했습니다.
온라인 아동 착취 근절을 위한 Meta의 노력
태스크포스를 발표한 것 외에도 메타는 2020년에서 2022년 사이에 27개의 악성 네트워크를 해체했으며 1월에 아동 안전 정책을 위반한 계정 49만개 이상을 비활성화했다고 밝혔다. Meta 대변인 Andy Stone은 “아동 착취는 끔찍한 범죄”라고 회사의 입장을 강조했습니다. 이 보고서는 또한 인스타그램이 아동 성적인 이미지의 확산과 판매를 촉진하는 데 중심적인 역할을 했지만 다른 기술 플랫폼도 역할을 했다고 밝혔습니다. 예를 들어, 스스로 생성한 아동 성적 학대 자료를 홍보하는 계정은 플랫폼이 더 공격적으로 삭제하는 것처럼 보였지만 트위터에서도 널리 퍼졌습니다.
Telegram 및 Discord의 그룹 링크 광고
이 보고서는 Instagram 계정 중 일부가 Telegram 및 Discord의 그룹에 대한 링크를 광고했으며 그 중 일부는 개인 판매자가 관리하는 것으로 나타났습니다.
결론
Meta의 새로운 이니셔티브는 스스로 생성한 아동 성적 학대 자료의 판매를 근절하고 아동을 온라인 착취로부터 보호하기 위한 중요한 단계입니다. 그러나 모든 사용자에게 안전한 온라인 공간을 보장하기 위해서는 아직 해야 할 일이 많습니다.