TikTok вводит маркировку ИИ-контента

TikTok объявила о планах начать маркировать изображения и видео, загруженные на платформу и созданные с помощью искусственного интеллекта. Для этого будет использоваться цифровой водяной знак, известный как Content Credentials. Такой шаг компании обусловлен опасениями, что контент, созданный ИИ, может быть использован для вмешательства в предстоящие выборы в США.

Ранее TikTok присоединилась к группе из 20 технологических компаний, подписавших соглашение о борьбе с подобным контентом. На данный момент платформа уже маркирует контент, созданный с помощью собственных инструментов ИИ, однако новая маркировка будет применяться к видео и изображениям, созданным сторонними инструментами.

По словам руководителя отдела операций, доверия и безопасности TikTok Адама Прессера, компания также имеет политику, запрещающую реалистичный, немаркированный контент ИИ. Такой контент будет удаляться как нарушающий правила сообщества.

Технология Content Credentials была инициирована Коалицией за происхождение и подлинность контента, соучредителями которой являются Adobe, Microsoft и другие компании. Она уже была принята создателем ChatGPT OpenAI.

YouTube, Google, Meta (владелец Instagram и Facebook) также заявили о планах использовать эту технологию маркировки. Для эффективной работы системы производители генеративных инструментов ИИ и платформы для распространения контента должны согласиться использовать отраслевой стандарт.

TikTok, принадлежащий китайской ByteDance и имеющий 170 миллионов пользователей в США, недавно столкнулся с требованием продать приложение или enfrentar запрет. ByteDance оспорила этот закон в суде, утверждая, что он нарушает Первую поправку.