Spotify решил сделать шаг к прозрачности и пометить все треки, созданные ИИ, тегом AI Persona. Это решение обрадовало многих пользователей, ведь теперь они смогут легче ориентироваться в мире музыки, где искусственный интеллект становится неотъемлемой частью процесса создания. Как пользователь Spotify, я тоже рад, что теперь можно будет точно знать, кто или что стоит за звуком.
Недавно я задумался о том, как помечать сгенерированную информацию, особенно в текстах. В отличие от картинок и видео, где вотермарки можно разместить визуально, с текстом всё не так просто. Один из способов — это использование скрытых символов Unicode, но они легко раскрываются при копировании. Более интересный подход заключается в статистических сигналах, где в процессе генерации текста используется рандомный seed с секретным ключом. Это позволяет выделить определенные группы токенов, что в будущем поможет определить, был ли текст сгенерирован конкретной нейросетью.
Хотя этот метод может быть уязвим для рерайта, он все равно представляет собой интересный подход к идентификации сгенерированного контента. Например, Google активно работает над технологией SynthID, которая реализует подобные идеи, но с более сложной архитектурой. В любом случае, такие шаги в сторону автоматизации и идентификации контента открывают новые горизонты для разработчиков и пользователей.
