«Надеюсь, метеорит скоро ударит по Земле»: разработчики игр о преследованиях за генеративный ИИ и важности визуальной грамотности

Почему разработчиков обвиняют в использовании ИИ?

Ситуация с генеративным искусственным интеллектом (genAI) напоминает классическую «охоту на ведьм»: разработчики вынуждены оправдываться, даже когда они категорически против использования таких технологий. Примеры abound: создатели Sandustry, 2D-симулятора фабрики от студии Hooded Horse, и авторы только что анонсированного Humankind 2 от Amplitude, которые срочно заверили игроков, что их трейлеры — это живые съёмки.

Путаница усугубляется тем, что стиль генеративного ИИ не фиксирован. Он зависит от данных, на которых обучена модель, и быстро меняется вместе с появлением новых инструментов. Кроме того, сторонники технологий часто размывают понятия, используя пугающие формулировки ради привлечения инвестиций. Однако часть ответственности лежит и на обычных пользователях, привыкших использовать ярлык «AI slop» (отходы ИИ) для объяснения любых визуальных аномалий.

В последние недели редактор Рок Пейпер Шотган Эдвин Эванс-Тирвелл беседовал с разработчиками, которых необоснованно обвиняли в использовании генеративного ИИ. Это было одновременно весело и грустно. Сложность распознавания сгенерированных изображений на первый взгляд стала политическим и социальным приоритетом, выходящим далеко за рамки видеоигр — фейки используются для манипуляций и фанатизма.

Опыт Failbetter Games: от «ног» до «рук»

Hannah Flynn, директор по коммуникациям Fallbetter Games (авторов Fallen London и Sunless Skies), привыкла к критике в интернете. Её работа заключается в том, чтобы выводить игры на новый уровень внимания, что всегда имеет две стороны медали. Если видео широко распространяется или происходит крупный анонс, их сразу спрашивают: «Вы используете генеративный ИИ?»

На сайте Fallbetter есть заявление о полном отказе от генеративного ИИ в своих играх. Однако некоторые комментарии отражают genuine concern (подлинную обеспокоенность) сообщества, которое читало это заявление и опасается, что студия нарушила его случайно или намеренно. Hannah Flynn говорит: «Я не возражаю против личного заверения нашему сообществу; мы получаем удовольствие от своего ремесла, и никто здесь не заинтересован в том, чтобы переключиться на роль «менеджера ИИ».

Более тревожным является то, что социальные сети заполнены людьми, которые даже не интересуются играми или студией. Они просто проезжают мимо, оставляя комментарии о подозрительности контента.

New Blood Interactive: «Посмотрите на комментарии»

Исполнительный директор New Blood Interactive, David Oshry, также столкнулся с обвинениями в использовании генеративного ИИ. Речь шла о предстоящей игре Tenebris Somnia — хорроре, сочетающем пиксель-арт сверху вниз с живыми съёмками. Чтобы закрыть слухи, что их контент «выплюнул чат-бот», студия сняла видео из закулисья, показывающее создание реквизита.

Когда Эдвин спросил David Oshry, было ли это превентивной мерой или реакцией на конкретные обвинения, тот ответил: «ПОСМОТРИТЕ НА КОММЕНТАРИИ И РЕШИТЕ САМИ».

По словам Oshry, обвинения стали появляться практически непрерывно при публикации видео в социальных сетях, особенно в Instagram. Это раздражает, учитывая его открытое неприятие технологий вроде DLSS 5 от Nvidia. Он заметил, что это началось очень недавно: год назад люди просто говорили «Вау, как круто!». Oshry считает, что платформы с коротким видео, такие как Instagram и TikTok, действительно «сломали мозги» людям.

Тем не менее, он спокоен относительно шума. Обратная связь даже пошла на пользу: количество желаемых вложений (wishlists) выросло на 15 тысяч за последнюю неделю. Однако это утомительно. Большая часть комментариев исходит от случайных людей, а преданные фанаты приходят на защиту. Oshry говорит: «Мы бы предпочли создавать крутой контент О ИГРЕ, а не доказывать, что это НЕ ОТХОДЫ ИИ. Так есть дело.

Когда искусство слишком хорошо для правды

Даже когда обвинения необоснованны, некоторые студии предпочитают изменить своё искусство, чтобы избежать simmering mistrust (кипящего недоверия). Пример — Abandoned Sheep, разработчики игры Schrodinger's Cat Burglar. Одна из ключевых картин, показанная справа, неоднократно называлась генеративной.

Студийный директор и бывший разработчик Sony Cambridge Martin Binfield рассказывает: «Эта часть была нарисована вручную местным художником Tom Williams (как и текущая ключевая картинка) и создана в середине 2022 года — задолго до того, как генеративный ИИ смог создавать работы такого уровня».

Тем не менее, Abandoned Sheep решили заменить искусство, а не спорить с подозрениями. После четырёх лет картина нуждалась в обновлении. Martin Binfield комментирует: «Честно говоря, я не обижусь на тех, кто проявляет бдительность. Мы как студия никогда и в будущем не будем использовать генеративный ИИ, и я как геймер тоже ненавижу идею того, что он может быть в игре, которую хочу играть. Комментарии «AI art? No sale» (Искусство ИИ? Не продам) имеют добрые намерения.

Почему люди ошибаются?

Все перечисленные игры и произведения искусства выглядят очень по-разному, и легко поднять руки вверх и сказать, что в обвинениях нет логики. David Oshry с характерной силой говорит: «Я честно говоря не имею понятия. Я думаю, люди могут действительно забыть или быть слишком молодыми, чтобы знать о практических монстрах-макияже и VFX, и думать, что всё либо CGI в стиле Marvel, либо ИИ сейчас??? Это сбивает с толку. Потому что как кто-то, кто видит много AI slop в интернете каждый день, Tenebris Somnia определённо не имеет «того» вида. Или, по крайней мере, мы так думали!»

Hannah Flynn более оптимистична. Она предполагает, что «художественный стиль» Fallbetter может считаться сгенерированным, как и их склонность к «абберантным» телам, напоминающим оторванные конечности и узловатые пропорции более старого вида фотореализма. Она говорит: «Часто замечается, что изображения ИИ обучаются на классических стилях, что возвращается против вас, когда вы используете классический стиль для создания вручную.

Кроме того, Martin Binfield отмечает, что ключевая картинка была названа «unnaturally polished» (неестественно отполированной). Он предполагает, что аэрографические эффекты и отражения в глазах кошки стали причиной. Это похоже на проклятие успеха: искусство Tom Williams было супер-отполированным и высокого качества, и предполагается, что генеративный ИИ «украл» высочайшее качество для своего алгоритмического мусорного ведра.

Martin Binfield также отмечает, что многие комментарии были не вопросом («Это ИИ?»), а декларацией («Не продаю, пока вы не избавитесь от ИИ»). Он приписывает это общему интернет-комментарийному высокомерию. В следующий раз он намерен рисовать ключевую картинку воском левой рукой, чтобы было явно видно, что она создана человеком.

Визуальная грамотность и научный подход

Обсуждая с разработчиками, как их работы были неправильно истолкованы, автор статьи думал о собственной визуальной грамотности. Он был неловко пойман в недавней статье об ASCII-хорроре The Carcass. Искать ресурсы для повышения осведомлённости.

Одним из лучших является академический опрос, созданный иллюстратором настольных игр и книг Janna Sophia Koppenwallner. Пользователь должен отсортировать «сlop» (отходы) из коллекции обложек книг, архивной фотографии, снимков из новостных трансляций и более абстрактного «fine art».

Janna Sophia Koppenwallner пишет магистерскую диссертацию о точности обнаружения ИИ человеком. Она говорит: «До выбора темы я немного исследовал человеческое обнаружение ИИ и нашел несколько исследований, утверждающих, что оно не лучше случайного угадывания».

Она подчеркивает, что её анализ данных ещё не был рецензирован коллегами, и требуется больше исследований. Тем не менее, её предварительные выводы интересны. Данные показывают среднюю точность обнаружения 74%. Люди, завершившие короткий модуль обучения, на самом деле чуть хуже справились с задачей.

Janna Sophia Koppenwallner отмечает, что люди становились слишком подозрительными и перекалиброванными, ошибочно идентифицируя реальные фото и искусство как сгенерированные ИИ. Это описывает её опыт: она зафиксировала больше ложных срабатываний, чем пропущенных.

Она также отмечает, что художники, которых необоснованно обвиняют в использовании генеративного ИИ, часто имеют популярные стили, которые выглядят очень чисто, высоко проработаны и отполированы. Генеративный ИИ relies on immense datasets (опирается на огромные датасеты). Чем больше данных у модели, тем «лучше» выход. Большинство моделей всё ещё не воспроизводят нишевые художественные стили, так как просто недостаточно данных для них.

Старые методы обработки шума vs генеративный ИИ

Ещё один слой сложности возникает при обсуждении более старых инструментов машинного обучения, которые немного перекрывают то, что сейчас известно как генеративный ИИ.

Abdou Bouam, фрилансер-художник, чья работа включает 3D-сцены и рекламные рендеры, вспоминает случай, когда клиент questioned some images (задал вопросы к некоторым изображениям), указывая на размытые и нечёткие участки. Клиент спросил, были ли они сгенерированы или отредактированы с помощью ИИ.

Эти пятна были созданы старыми методами удаления шума (denoising). Abdou Bouam объясняет: «Изображение начинает быть очень шумным, затем, по мере добавления и усреднения большего количества сэмплов, оно сходится к конечному результату, который физически точен».

Единственный способ получить изображение без шума — рендерить его бесконечно долго, что явно нецелесообразно. Поэтому лучше рендерить до тех пор, пока шум не станет настолько низким, что его можно удалить с минимальными потерями качества.

Сложность заключается в том, что пятна от удаления шума могут напоминать симптомы генеративного ИИ: детали теряются, размываются и смазываются артефактами, которые просто кажутся «генеративными».

Другая сложность заключается в том, что некоторые инструменты удаления шума, такие как Nvidia Optix (выпущенный в 2018 году и используемый во многих играх с raytracing или DLSS), попадают под зонтик «машинного обучения». Но они предшествуют «генеративному ИИ» в том виде, в котором мы его понимаем сейчас.

Abdou Bouam аргументирует, что у них нет «тех же этических проблем». Вместо того чтобы полагаться на доступ к публичным данным, полученным без согласия, модели создаются с использованием архивов специально отрендеренных изображений. Это не обучается на украденной и нелегальной работе.

Эти «старые» денойзеры работают локально, а не через дата-центры, и экономят энергию, значительно сокращая время создания приемлемого рендера. Он также считает, что они не представляют потери художественного контроля. Это всё ещё его искусство.

Заключение: развивайте визуальную грамотность

Надеюсь, все эти инсайты и размышления предлагают некоторую навигацию в мире, где генеративный ИИ внедряется во все профессии и увлечения. Однако автор осознает, что любые выводы из этой статьи могут скоро устареть.

Технологии продолжают меняться. Инструменты генеративного ИИ сегодня демонстрируют меньше unearthly mutations (неземных мутаций), которые характеризовали первые итерации Midjourney и ChatGPT. Janna Sophia Koppenwallner говорит в заключение: «Чистое визуальное обнаружение становится всё сложнее и сложнее, и я думаю, что большинство подсказок сейчас находятся в контексте изображения (что я вижу, почему я это вижу, может ли быть правдой, что я получу полностью проработанную картину за два дня за $200 и т.д.).

Это одно дело — осознавать и защищать себя, но я бы был очень, очень осторожен, чтобы выносить кому-то суждение о использовании ИИ, основываясь на догадке.