Это может быть интересно. Опять ИИ.

В США произошло событие, которое ещё пару лет назад казалось чем-то из области теории заговора или страшилок для индустрии. Федеральные власти возбудили первое крупное уголовное дело, напрямую связанное с генеративной музыкой, накруткой стримов и мошенничеством на стриминговых платформах.

В центре истории — продюсер из Северной Каролины Майкл Смит. По версии следствия, он на протяжении нескольких лет выстроил промышленную схему по производству и монетизации «музыки», которая не была предназначена для прослушивания людьми вообще.

Он использовал нейросети для генерации сотен тысяч треков. Не десятков, не сотен, а именно сотен тысяч. После этого он загружал их на стриминговые сервисы под вымышленными артистами с случайными именами. Эти «артисты» не существовали, у них не было аудитории, истории или карьеры. Была только задача — участвовать в распределении денег внутри стриминговых систем.

Дальше в дело вступала вторая часть схемы. Смит использовал ботов и фальшивые аккаунты, которые круглосуточно воспроизводили эти треки. Причём сделано это было не в лоб. Вместо того чтобы накручивать один «хит», он распределял прослушивания по огромному каталогу, чтобы каждый отдельный трек выглядел статистически не слишком подозрительно. В сумме эта сеть генерировала сотни тысяч прослушиваний в день.

Именно на этом месте становится понятно, почему это дело так важно. Стриминговая экономика платит не за музыку, а за количество воспроизведений. И если у тебя есть машина, которая может бесконечно производить контент и бесконечно же его воспроизводить, ты фактически подключаешься к денежному насосу.

По версии прокуратуры, за несколько лет Смит таким образом получил более десяти миллионов долларов роялти. Эти деньги были выплачены системой так же, как они выплачиваются настоящим музыкантам. Разница лишь в том, что в данном случае никакой аудитории, никакого слушателя и никакой культурной ценности за этим не стояло.

Обвинения, которые ему предъявлены, вполне серьёзные. Мошенничество с использованием электронных средств, сговор с целью мошенничества и отмывание денег. По совокупности статей речь может идти о десятках лет тюрьмы.

Важно понимать, что это первый случай, когда государство напрямую признаёт и формализует новую реальность. Генеративные системы и автоматизация производства контента в связке с экономикой стриминга создают принципиально новый класс уязвимостей.

Раньше, чтобы накручивать стримы, нужно было хотя бы иметь музыку. Теперь музыка не нужна. Достаточно иметь генератор и скрипт.

Отдельно показательно, что, по данным следствия, даже при всех системах защиты значительная часть этой схемы работала годами. Это говорит не только о находчивости конкретного человека, но и о том, насколько сама модель стриминга уязвима к такому типу эксплуатации.

Эта история важна ещё и потому, что она впервые переводит разговоры про «ИИ зальёт всё мусором» из уровня абстрактных страхов в уровень уголовной хроники. Тут невольно возникает уже вопрос о том, как устроена защита цифровых платформ и кто именно её может взломать.

По сути, мы увидели первый публично вскрытый пример того, как стриминговая модель может быть использована не для распространения музыки, а для автоматизированного извлечения денег.

И это почти наверняка не последний такой кейс. Скорее всего, это просто первый, который стал достаточно большим, чтобы в него пришлось вмешаться государству.

Проблема ИИ в музыке сегодня — это вопрос «настоящего» и «ненастоящего» искусства. Мы на таких примерах четко видим, как легко система начинает работать против самой себя, когда в неё встраивают бесконечные генераторы контента.