В сети вирусятся песни, изображения и видеоролики, сгенерированные или преобразованные с помощью искусственного интеллекта. Понять, что реалистичный на первый взгляд контент на самом деле является фейком, крайне сложно. Эксперт Казанского федерального университета рассказал, как вычислить «подделку».
«ИИ не придумывает контент из воздуха. Он учится на примерах. К слову, в аудио (голосе, звуке или песне) он опирается на закономерности из данных: как звучат фонемы, интонации, тембр, как устроены ритм, гармония и стиль, структуры песен. Видео – это множество кадров, движение и логика сцены. Большинство современных генераторов делают так: сначала строят сцену, затем шаг за шагом "дотачивают" картинку, отдельно удерживая персонажа, камеру, движение, стиль», – ввел в курс дела заведующий кафедрой цифровой аналитики и технологий искусственного интеллекта Института информационных технологий и интеллектуальных систем КФУ Александр Тощев.
По мнению эксперта, реалистичность ИИ-контента зиждется на трех китах – статистике, «нестерильной» реальности и постобработке визуала или аудио.
«Реальность не стерильна. Есть шум, компрессия, зерно, дыхание, щелчки. Хорошие модели это имитируют», – пояснил завкафедрой.
В последнее время участились случаи мошеннических схем со сгенерированными ИИ документами, фейковыми аудио и видео якобы от близких с просьбой перевести деньги. В созданные искусственным интеллектом ролики, которые уже заполонили сеть, верит не только старшее поколение, но и молодые люди, дети. Увидеть грань между виртуальным и реальным становится все сложнее.
Тощев поделился лайфхаками, которые помогут отличить визуал, созданный нейросетью, от настоящего. Для начала нужно определить источник: сообщение из официального источника, например СМИ, или было переслано вам в мессенджере? Чтобы убедиться в достоверности, можно сравнить контент в разных источниках. Реальные события почти всегда оставляют «следы», подчеркнул эксперт.
«Мимика может не совпадать с эмоцией и выглядеть неестественно. Классика – пальцы живут своей жизнью. Предметы плывут. Тень может падать не в ту сторону, в отражении не та геометрия, блики искажаются, – говорит преподаватель ИТИС. – В голосовых фейках часто странное дыхание, нечеловеческая интонация, неестественное произношение согласных».
Несмотря на растущую популярность ИИ-фотосессий, сгенерированных песен и клипов, дизайна, А. Тощев убежден, что нейросети не вытеснят людей с рынка творческих профессий, но зададут новые правила игры. ИИ, вероятно, оставит за собой шаблонные задачи – создание стоковых изображений, фоновых треков и простых рекламных роликов.
«Что останется за человеком и вырастет в цене? Вкус, контекст, личность автора, харизма, ответственность – юридическая, этическая и репутационная. Формула на ближайшие годы: не ИИ заменит людей, а люди, владеющие искусственным интеллектом, заменят людей, не владеющих им», – резюмировал заведующий кафедрой.
