Комментарии 49
Если у подделки есть дефекты, которые можно конкретно описать словами, средний индивидуум распознает такую легко и естественным образом, потому что люди имеют (за редким исключением) механизмы узнавания других людей, которые значительно эффективнее сравнения по формальному описанию.
Это если активно пытаться понять реально ли видео. Однако если что-то делать в спешке, слушать запись на фоне, смотреть его на небольшом экране смартфона, то можно просто не обратить внимание на детали которые выдадут поддельность видео.
Ваш аргумент лишён смысла в этом контексте, потому что я говорил о том, что один способ определения подделки (естественный) более эффективен, чем другой (поиск визуальных дефектов по описанию). А вы говорите, что если вообще не обращать внимания на видео, можно не заметить, что оно поддельное. Да, можно что угодно не заметить, но это не может быть ни возражением, ни дополнением к сказанному мной.
Достаточно пожать все до VGA разрешения картинки, как это водится в видеозаписях почти везде. Артефакты сжатия "перебьют" почти все артефакты дипфейка, и будет не совсем ясно - то ли запись плохая, то ли дипфейк.
Напомню, что чат-бот, который смог обмануть большинство людей, прикидывался ребенком, кхм, с некоторыми особенностями развития.
Если дефекты нельзя заметить естественным образом, их нельзя заметить и анализируя видео визуально по формальному списку. Я не утверждал, что люди в состоянии видеть дефекты, которые вообще нельзя увидеть, потому что они, например, ниже уровня дефектов сжатия видео.
Если мой старый друг будет прикидываться человеком с некоторыми особенностями развития, я думаю, я что-то заподозрю...
потому что люди имеют (за редким исключением) механизмы узнавания других людейЭти механизмы очень не точные. У меня у матери очень хорошая зрительная память на лица, но при этом она «купилась» на фотографию человека очень похожего на меня, почти двойника, которую я случайно нашел в сети и отправил ей.
Но очень многие не могли их определить. Поэтому людская способность выловить дипфейк мне кажется сильно переоцененной.
В моём комментарии выше речь шла о визуальном распознавании. Люди очень долго эволюционировали, чтобы узнавать лица, видеть тонкие различия в выражениях и так далее. Феномен uncanny valley - прямой результат этого, например.
Как обычно - им хочется, чтобы только "правильные" люди имели к ней доступ и чтобы обманывать этой технологией можно было только "неправильных" людей. "Друзьям - всё, врагам - закон", вот это вот всё. А тут кто угодно подделывает кого угодно - конечно, кому такое понравится… Вот и ищут способы если не загнать джинна обратно в бутылку, то хотя бы научиться его контролировать.
Думаю в итоге дело идёт к тому чтобы никакие видео и аудио (и другие которые научатся подделывать) материалы не являлись доказательством каких-либо действий (преступных и не очень). Придется доказывать что эти доказательства являются доказательством, а не являются подделкой, хз может их электронной подписью будут подписывать или как-нибудь блокчейн использовать.
Вообще любая биометрия, которая может быть считана с индивидуума без его согласия и ведома - средство аутентификации с пониженной надёжностью относительно того, что не может быть снято скрытно и без ведома. Потому что единственным препятствием для копирования становится сложность/цена. Плюс, не забываем о невозможности добровольной инвалидации биометрии и возможности случайной (для некоторых случаев) в результате травмы, например.
Сходил недавно в сбер и отписался от использования биометрии. Посмотрю пока на это всё со стороны.
Возможно потому, что российским банкам биометрия нужна не для идентификации, а с единственной целью внесения ее в общероссийскую базу.
программы клонирования голоса развиваются угрожающе быстро.
А ведь нас ещё в Союзе учили:
одного отпечатка голоса мало, нужен ещё shared secret!
Следующий шаг — дипфейк содержания и смысла. Ну тут — уж за что боролись, на то и напоролись. Если у бублика откусить и правую часть и левую, то пользоваться оставшейся частью по своему назначению станет только удобнее.
Следующий шаг — дипфейк содержания и смысла.Так это предыдущий же, всякими GPT-3 вроде бы уже налюбовались.
Скоро будем верифицировать своего босса методом профессора Плейшнера:
— Отто просил передать, что вчера вечером ждал вашего звонка.
— Странно, я был дома, но, видимо, он перепутал номер.
Ну почему же не сулят?
Фильм, в котором можно самому выбрать актеров или, что проще, перевод оригинальны голосом актера. Даже от порно с выбранным образом "звезды" большинство бы не отказались (-;хоть и будут утверждать обратное;-)
Просто надо признать, что видео, где человек похожий на ген. прокурора отдыхает в обществе дам похожих на ... Ну в общем не работает такое видео. Да и, в те времена оно тоже работало тогда и только тогда, когда кому-то это было нужно.
Так, весь прикол в том, что через несколько лет какой-нибудь сферический Жириновский в вакууме сможет всё спихнуть на дипфейк при публикации видео в бане в компании молодых мальчиков.
И что? Вы гомофоб? Политиков надо судить по их политическим взглядам, а не по личной жизни! Вот не было бы мальчиков, вы бы пошли за ЛДПР голосовать?
Надо понимать, что компромат работает тогда и только тогда когда кому то надо и проплачивают шумиху в сети. Вон в одной стране поставщик лоли политикам повесился в камере и тишина. Престарелый криптоанархист попытался шум поднять и тоже самоубился в камере. И тишина... В общем то мне параллельно. Если в одной стране можно с 21, а в другой с 14 и кто то решил сделать на этом гешефт, то это их личное дело. И как максимум дело их избирателей. Но вот когда они начинают убивать - это как то не весело.
Поэтому я за то, чтобы политиков не судить по фото из бани. А только за поступки.
На самом деле политиков (да и иных публичных личностей) судят не по поступкам, а по взаимосвязи их высказываний и заявлений с их поступками. Если человек на словах яростно борется с уничтожением человеком окружающей природной среды и в то же время расстреливает лосей в заповеднике, это вызывает общественное неприятие. Ибо политик созданием законов (или иных правил поведения) принуждает окружающих поступать определённым образом, но сам так поступать не намерен.
Лицемерие - довольно серьезный проступок для политика, но явно не основной, а тем более - единственный вид нежелательного поведения, на которое обращают внимание люди. Как минимум, ложь сама по себе покрывает больше негативных ситуаций, включая лицемерие.
судят не по поступкам, а по взаимосвязи их высказываний и заявлений с их поступками.
Увы, не судят (в юридическом аспекте). Законотворческие инициативы о наказании за невыполнение предвыборных обещаний не проходят дальше первого чтения :).
Никогда не доверял какой-либо информации независимо от репутации/авторитета источника/субъекта. Дипфейки просто обращают внимание на то что мы существуем в окружении иллюзий и приближают то время когда идеализм перестанет быть самым популярным мировоззрением.
Дипфейк идеально подойдет для новостей на ТВ как иллюстрация события.
Например, можно воссоздать (эскизно, но все-таки) сцену любого происшествия
Не вижу какой-то явной угрозы при условии адекватной реакции общества - по факту дипфейки ставят под удар биометрические технологии аунтификации (в том числе аналоговые "вроде знакомый голос начальника в телефоне, значит надо делать то, что он говорит"). Классические технологии аунтификации по паролям, смарткартам, ЭЦП и прочим подобным штукам дипфейки вообще никак не затрагивают. Просто придётся признать, что биометрия для критических вещей (а не неуловимых Джо) - не может быть достаточным средством аунтификации, максимум дополнительным фактором.
В целом во многих развитых странах и так на биометрию на государственном уровне не полагаются. Системы распознания лиц в Европе сильно ограничены (из-за GPDR), в США зарегулированы на уровне отдельных штатов. Системы "оплата взглядом" в Европе вообще не слышал, чтобы внедрялись, в США внедряются опять же как частная инициатива отдельных компаний (то есть от сворачивания программы глобальных последствий не будет). Тот же пограничный контроль в ЕС для граждан ЕС - биометрия только второй фактор, без физической id-карты (на которой есть всякая криптография) тебя через границу не пустят автоматически.
По факту массово внедряют биометрию как основной фактор для идентификации граждан и умных платежей только Китай да Россия. Ну, им, возможно, придётся свернуть инициативу, либо сильно закрутить гайки в области разработки и использования ПО (но это уже будет шаг назад во всех сферах развития, чтобы спасти одну не особо значительнуюс сферу). Гражданам по возможности стоит избегать использования биоматрической идентификации при наличии выбора (в России он пока есть, в Китае не знаю).
Что касается сотрудников фирм, готовых перевести большие деньги по звонку с незнакомого номера просто потому что голос показался знакомым - это во все времена кажется чем-то неправильным, просто потому что бывают люди с похожими голосами, не все люди одинаково хорошо умеют голоса различать и т. д. Дипфейки ничего нового тут опять же не открыли. Идентификация без секрета, просто по принципу "ну вроде выглядит/звучит похоже" by design обречена на провал и годиться только для того, чтобы правильного ребёнка в детсаду забрать - просто потому что вряд ли неправильный ребёнок будет специально мимикрировать под правильного, слишком экзотическая атака (если только речь не о сыне миллиардера, но, мне кажется, они не ходят в обычные детские сады). Но когда очевидна финансовая угроза, атака перестаёт быть экзотической.
Мне кажется, все эти "достижения" (распознавание лиц, фокусы с нейросетями) однажды будут запрещены международной конвенцией так же, как запрещены сейчас химическое оружие, кассетные боеприпасы и экспансивные пули. Когда-то это все тоже было достижением инженерии и вызывало восторг в определенных кругах. Вопрос, понадобится ли для этого глобальный катаклизм.
Пожалуй видеодоказательства потеряли силу ещё в 1997 после выхода фильма "Титаник". Правда тогда это было дорого и доступно далеко не всем. Но ведь до сих пор публикуют какие-то аудио "прослушки", которые кем-то принимаются как доказательства...
Это как с огнестрельным оружием, убивает не оружие - убивает человек, оружие это инструмент и только человек принимает решение использовать оружие для защиты или для нападения.
Здесь тоже самое. Технология хорошая, вот только в мире негодяев и подлецов многовато. В 90-е было стало модно зарабатывать много не задумываясь о том что такое хорошо и что такое плохо. Сейчас с 90-ми мало что изменилось, во всем мире культ денег, а не чести и справедливости, просто инструменты изменились. Негодяи (мошенники, политики и т.п.) разного пошиба достигают цель любыми способами наплевав на все, в т.ч. на свою же репутацию. Поэтому, что бы любой инструмент не стал оружием, например, вымогательства или фейковых политических новостей, то людей надо воспитывать с самого детства. Дети не рождаются плохими, а становятся такими с возрастом и отсутствием правильного воспитания.
Пелевин в конце 90-х как в воду смотрел.
Почему дипфейки в будущем не сулят ничего хорошего