Исследователи из лаборатории SAND при Чикагском университете разработали инструментарий Fawkes с реализацией метода искажения фотографий, препятствующего их использованию для обучения систем распознавания лиц. В изображение вносятся пиксельные изменения, которые незаметны при просмотре людьми, но приводят к формированию некорректных моделей при использовании для тренировки систем машинного обучения. Код инструментария написан на языке Python и опубликован под лицензией BSD. Сборки подготовлены для Linux, macOS и Windows...Подробнее: https://www.opennet.me/opennews/art.shtml?num=53414
Ну будут обучать эти ваши нейросетки на картинках и с этими помехами, а не только на "чистых". Через какое-то время вернёмся к исходному состоянию вещей.
Не вернёмся.
> для API распознавания Microsoft Azure, Amazon Rekognition и Face++Вырезал фотки, запустил ImageDupeless, он разобрал фотки на пары :) Ха-ха-ха, я сломал гомношпиёнский чикагский недософт!
Что, Олег Тарлапан, ученым настолько плохо платят, что они пиарят свою проприетарь даже на опенсорс-сайтах?
Обычно их перед подачей нейросетке и так обрабатывают, делают меньше и убирают лишнюю информацию. Тут вопрос в том, чтобы конкретный метод конвертации загадить, но всё это легко чинится.
> Не вернёмся.Правильно, начнется новый раунд страдания фигней. А вот энергию потраченную на это уже и правда не вернуть.
Нейросетки настолько flawed-by-design - что можно практически до бесконечности вносить разные паттерны помех, и это будет ломать детектирование. Либо (если есть доступ в весовым коэффициентам) - то можно вообще подобрать паттерн, который будет приводить к ложному детектированию в одном человеке другого.
Не больше, чем естественные нейросети людей. Несколько лет назад были продемонстрированы adversarial examples, сгенерированные обратным распространением на ИНС, но обманывающе ЕНС.
"нейросети людей" имеют мало общего с "нейросетями машины". Машинные сети суть обычные математические модели, которые подгоняются под нужный результат.
А мозги - это магия, невыразимая математическими моделями. Так?
Именно так.
> Именно так."Прогуливайте школу - и ваша жизнь будет наполнена магией и чудесами".
Поступите в нормальную школу -- и научитесь уже замечать занятные "совпадения", а не списывать всё подряд на "а, показалось".
> Поступите в нормальную школу --Been there, done that.
> и научитесь уже замечать занятные "совпадения",
Опять же - я в этом сильно выше среднего. Просто наблюдение.
> а не списывать всё подряд на "а, показалось".
В моем характере - расследовать все "непонятки". Я не люблю unexplained. Это прерогатива вас и прочих школолольников.
> "нейросети людей" имеют мало общего с "нейросетями машины". Машинные сети суть обычные
> математические моделиМодели чего? Нейронов?! :) А виртуальные машины, тогда, модели компьютеров... и, в общем то, работают.
> которые подгоняются под нужный результат.
Не подгоняются. А обучаются, путем тыкания носом, по типу котенка. А тут идея в том чтобы в процессе обучения подогнать пару раз вместо лотка горшок с цветами безпалева. Ну а дальше кое-кто с удивлением обнаруживает что ему зассали все цветы.
>Не больше, чем естественные нейросети людей.One pixel attack for fooling deep neural networks https://arxiv.org/abs/1710.08864
Для любого человека там будет просто битый пиксель (который еще и найти будет не так просто), а для машины будет ппц
Какие погроммисты - такие и алгоритмы. В ImageDupeless никаких проблем нет - находит пары отлично и не ломается.
Олег, хватит пиарить свою поделку. Все уже поняли, что там нет никаких НС.
> Не больше, чем естественные нейросети людей.Больше, учитывая то, что люди до сих пор не научились использовать их потенциал.
Не так просто - объём свёртки вырастет настолько, что производительность будет ниже плинтуса.
Будут, но это что-то по типу вечной проблемы "броня" - "снаряд", поэтому не так страшно.
> Будут, но это что-то по типу вечной проблемы "броня" - "снаряд", поэтому
> не так страшно.Нууу... обычному смертному так и обычной пистолетной пули достаточно. Хоть, конечно, и можно себе забахать годный бронежилет, если задаться такой целью.
Там засада в том, что если научить и ту и другую считать одинаковой, то в одинаковые добавятся и еще куча других, вплоть до бегемотов. А если начать отличать их, то рано или поздно нейросеть найдет закономерность, что главное это процент голубого неба.
Так естественный интеллект примерно такэже учат
Новость не читай, сразу комментируй. Там сказано, что обработанная таким образом фоточка "отравляет" обученную сеть и даже если потом добавить необработанную, на 80% падает распознавание. Тпк что фоточки с помехами, наоборот, будут выкидывать.
Обученную на чистых фотках. Будут, значит, учить на всяких разных фотках.
Можешь сразу лечь под киберфашистов.
> Можешь сразу лечь под киберфашистов.Это примерно так чтоли?! https://s0.rbk.ru/v6_top_pics/resized/590xH/media/img/6/60/7...
> Ну будут обучать эти ваши нейросетки на картинках и с этими помехами, а не только на "чистых". Через какое-то время вернёмся к исходному состоянию вещей.Не, ты не подсекаешь. Будет генератор картинок, сбивающих с толку нейросетку, будет возможность изучать как так случается, почему нейросетка сбивается, и кто-нибудь разберётся и научится делать нейросетки нечувствительные к этим помехам. То есть мы вернёмся к, как бы, исходному состоянию вещей, но не совсем: нейросетки будут лучше, возможно они не только с этими помехами будут справляться, но и с какими-нибудь другими. А может это исследование приведёт к каким-нибудь более крутым изменениям.
Даже и не знаю что сказать, мой телефон увидел что это лица https://prnt.sc/tn235jНаверное тут имеется ввиду другое распознавание ?
имеется ввиду соотношения предоставленного лица с конкретной личностью
Эта техника искажает фотографии таким образом, что не возможно определить одному ли человеку принадлежат фотографии.
Как частность, нельзя по фотке идентифицировать человека, если в базе фотографий будут находиться искаженные фотографии.
Что интересно, наличие в базе нормальных, не искаженных фотографий не помогает идентификации.
Попробуйте несколько раз исказить)
Видимо, техника ломается на фотографии фотографии отображенной на экране монитора.
В следующих версиях сисетмы распознавания лиц будет исопльзоваться последовательность мониторов/камер. Это и называется многослойный персептрон
Здесь имеется ввиду, что если бы нейросетка вашего телефона была обучена на модифицированных лицах, то она увидела бы сейчас (на обеих фото) _другого_ человека.
Речь идёт про аналз файлов, если программе распознания подсунуть два файла с одной рожей то она не найдет там сходства.
Твой телефон не увидел что это лица - 10 из 12 дофига.
О, а вот это хороший проект.
Бип-буп, не расслабляйся, мешок с костями, мы все равно поработим органические формы жизни.
Мешки с костями хитрые, они сделают искусственный интеллект для борьбы с искусственным интеллектом, сцуки.
> Мешки с костями хитрые, они сделают искусственный интеллект для борьбы с искусственным
> интеллектом, сцуки.Походу кто-то Терминатора все же смотрел...
Как интересно
В реализации этой технологии для широкого круга пользователей просто-таки напрашивается запись телеметрии в те самые "пиксельные изменения". И пользователь спокоен, и товарищ майор сразу получает готовую стеганограмму без всей этой вашей возни с нейросетями.
Годнота
Там какая-то дама закоммитила одну строку комментария в код. Через неделю во всех новостях: "Женщина создала систему, которая перевернет мир"
#metoo?
> #metoo?Миту - это если ты некрасивый и её по попе погладил.
За что заминусили Анонима? Ведь почти правду сказал. Строчек не одна, а 4 (одна пустая и три относятся к комментарию), но суть то не меняется
Если программа покажет изменения, то потом карандашем нарисовать эти несколько "веснушек" и можно ходить так и фоткаться
> нарисовать эти несколько "веснушек"Ну, успехов тебе - https://i.imgur.com/8GsyyTG.png
закон Мерфи против конспирологов.
только я начал готовится к решению вопроса о двойниках пересидента РФ (есть ли они и сколько их всего) через Azure, как трах-бах - ломающая новость.
За вами уже выехали.
> За вами уже выехали.https://i0.kym-cdn.com/entries/icons/facebook/000/001/461/Go...
нужно сразу в ПО фотоаппаратов и смартфонов встраивать.
Зачем? Удобно же когда при фотографировании у тебя фокус на лице автоматом
Похоже многие комментаторы не понимают смысла написанного.Фокус и так будет на лице.
В телефоне и фотоаппарате нет нейросетей.
И даже если и будет, она покажет и лицо и фокус на нем.Смысл написанного:
1. две копии одной и той же фотографии человека (лица)
2. одну из копий обрабатываем Fawkes
3. нейросеть "говорит" что это фотографии разных людей.При этом нейросеть "понимает" где у человека на фотографии лицо, руки и т.д.
> нейросеть "говорит" что это фотографии разных людей.ImageDupeless легко говорит, что все пары - это одно и то же. Может потому, что её писали не в M$/Амаз/Мордокниге?
>> нейросеть "говорит" что это фотографии разных людей.
> ImageDupeless легко говорит, что все пары - это одно и то же.И распознает, кто там на фотографии, независимо от цвета одежды, ракурса, расположения камеры и фона? 🙄
> Может потому, что её писали не в M$/Амаз/Мордокниге?Может потому, что аноним ни черта не понял?
Где ты видишь на приведённых парах - распознавание?! Берут оригинал, накладывают шум... Выкладывают обе фотки в сеть... Тупые сети говорят, что фотки разные. А ImageDupeless чётко находит пары.
> Где ты видишь на приведённых парах - распознавание?!Какие именно буквы в "использованию для обучения систем распознавания лиц и идентификации пользователей"
> We propose Fawkes, a system designed to help protect the pri-
> vacy of a user against unauthorized facial recognition models
> trained by a third-party tracker on the user’s images. Fawkes
> achieves this by adding subtle perturbations (“cloaks”) to the
> user’s images before sharing them. Facial recognition mod-
> els trained on cloaked images will have a distorted view of
> the user in the “feature space,” i.e. the model’s internal un-
> derstanding of what makes the user unique. Thus the models
> cannot recognize real (uncloaked) images of the user, and in-
> stead, misclassify them as someone elseтебе не понятны?
Цель тренировки такой сети не сравнение пар, а распознавание лица на фотках без идентификатора.
> Выкладывают обе фотки в сеть... Тупые сети говорят, что фотки разные. А ImageDupeless чётко находит пары.С этого момента поподробнее -- в какой именно альтернативно-анонимной реальности такое пишут? o_O
>> Более того, даже если в будущем оригинальные, необработанные утилитой, фотографии будут использованы в модели, при обучении которой уже применялись искажённые варианты фотографий, уровень сбоев при распознавании сохраняется и составляет не менее 80%.
>>
https://dropmefiles.com/lR8z7
Господи, ты достал уже со своим шлаком
> В телефоне и фотоаппарате нет нейросетей.Не хотел бы вас огорчать, но в как минимум фотоаппарате - есть. (точнее, конечно, уже готовая обученная модель, а не сама сеть ее создавшая)
C начала 2000х как минимум.
Используется не только и не столько для угадава рож (хотя это тоже оно), сколько для коррекции экспозиции - поэтому результаты могут быть, гхм, гхм, неожиданными.
Не знаю, используется ли такая же технология в телефонах, или там "и так сойдет".> И даже если и будет, она покажет и лицо и фокус на нем.
Неочевидно, увы.
Может решить что это жопа.
Для определения границы лица нейросети не нужны.
они нужны определить, что в кадре именно лицо, а не батарея отопления.
>Используется не только и не столько для угадава рож (хотя это тоже оно), сколько для коррекции экспозиции - поэтому результаты могут быть, гхм, гхм, неожиданными.Это ты про маркетинговый буллщит Никона, что мол они экспозамер обучали на реальных фотках? Брехня скорее всего. Приходилось его в работе видеть... По ходу хороший экспозамер сделать они так и не осилили, вот офигительными историями и обмазали.
> Это ты про маркетинговый буллщит Никона, что мол они экспозамер обучали на реальных фотках?это у всех так - еще с тех самых пор. Плохие идеи копипастятся очень быстро. Сам понимаешь, не на фотках, а на свертках - что совсем другой мех, потому что примешивается человеческий фактор.
Э... собственно, и ничего нового в этом не было. Гибридные лабные станки для дешевой фотопечати тоже использовали модели. Только там процессор был порезвее и памяти побольше, поэтому они _обучались_ на реальном потоке. Что тоже совсем не мешало иногда изрыгнуть такое, что глаза на лоб вылезали.
А в том никоне (как и во всех последующих, по инерции) модель была гвоздем прибита, там процессор уровня 8088.> Приходилось его в работе видеть...
дык, а ты чего хотел? Оно именно так и работало, как т*пой распознающий алгоритм без обратной связи и будет. Любая нестандартная ситуация - результат фееричен, "угадай что я тут угадаю вместо того что на самом деле". Показываешь ему воду - он решает что это снег (хороший вариант, кстати - легко угадать).
> По ходу хороший экспозамер сделать они так и не осилили
хороший они осилили за двадцать лет до того - только им пользоваться уметь надо было. А рыночек требовал кнопку "снять шадевр". Причем эта кнопка первой появилась именно в верхних моделях, где вообще-то был встроенный спот, напрочь исключающий ошибки.
Не совсем так.
Изменённую фото нужно сначала "скормить" нейросети в процессе обучения. _После_ этого, отравленная сеть будет делать ошибки при распознавании _других_ фото этого же человека. Собстенно, это краткий пересказ статьи.
Слишком много ресурсов потребляет для фотоаппарата (и даже смартфона) при искажении фотографий.
Сначала детект лица, затем несколько проходов искажения (в зависимости от указанной сложности от low до high).
> нужно сразу в ПО фотоаппаратов и смартфонов встраивать.Там немного другое встраивают - всякие подписи, скрытые данные, геотеги, ... в общем все для того чтобы вы залетели по максимуму. Для вашего же блага, разумеется.
весьма интересная штука!
бледнокожую азиатку в примерах заметно покарёжило
азиатов распознавать бесполезно, они все на одно лицо.
Одно лицо, одна партия, одна воля!
Это потому, что они передают паспорта по наследству. И фоткаются на новый паспорт - один азиат сразу за всю толпу, чтобы нагрузку на фотоцентры не создавать.
У меня другой вопрос: а сжатие и прочие обработки, которые произодятся на стороне соц.сетей и прочих сервисов не убивают эффект от добавления этих пикселей?
Бинго! Оказывается, жопег уже вносит кучу изменений в младшие биты пикселей, ломая всю ховношпиёнотехнику нафик. Кто-то серьёзно думает, что нормальные распознавалки ломаются на дёрганье младших битов?! А если их отбросить и засмусить перед распознаванием?
Да, ломаются, потому что JPEG и прочие шумы случайные и непредвзятые к конкретным особеннотям лица, так что нейронкис ними в каких-то пределах справляются.
Шум, который добавляют авторы, не такой - он вызывает у сети когнитивный диссонанс, потому что он влияет на те младшие биты, что важны именно для того, чтобы отличать одно лицо от другого.
Если младшие биты отбросить - нейронка не будет определять лица так же хорошо, при этом будет подвержена той же атаке уже с двумя младшими битами.Нейронки вообще на рандомных джипегах выдают тонны ложноположительных и ложноотрицательных срабатываний при хоть сколько-нибудь значительном количестве лиц.
Теперь надо подумать как нарисовать такой паттерн на своем таблище IRL, желательно ультрафиолетово-инфракрасным или хотя-бы малозаметно-импульсным, дабы двуногие не замечали особого подвоха, а кгрвавая гэпня и прочие светочи демократии откушали г по полной :)
А что мешает прогонять фотки через какой-нить фильтр, блур какой-нить перед обработкой?
Прочитай техотчет и исходные коды, там всё подробно и понятно написано
Я в этом некомпетентен, поэтому чтение исходников мне ничем не поможет.
Сделал разность между фотками, получил шум в 2-3 младших бита... На этом могут сломаться только гомнораспознавалки на точное соответствие пикселей как по значению, так и по местоположению. Вырезал фотки, запустил ImageDupeless, он по дефолту разобрал фотки на пары :)
>ImageDupelessВы разницу между "похожие картинки" и "одно и то-же лицо" не ощущаете?
Он, как и остальные местные критиканы, похоже не понимает что одно и то же лицо нейросети ищут на _разных_ картинках - и именно этому данный прожект пытается помешать.
> одно и то же лицо нейросети ищут на _разных_ картинкахТы где в примерах увидел _разные_ картинки?! Разные - это наложение шума?! Ну писсец, а если ещё и ракурс другой дать?
Примеры в новости просто показывают тебе, что фото не различимы на глаз («пиксельные изменения, которые незаметны при просмотре людьми»). Но при этой неразличимости для пользователя, они будут мешать нейросетям учиться.
Ты вообще написанное не читаешь?
Тупейшие сети вообще ничего не ощущают, говорят, что идентичные картинки не сходятся, хотя даже старый ImageDupeless решает эту задачу на отлично!
это dupeless не ощущает разницы, а если ключевая разница будет в шумах?
> Тупейшие сети вообще ничего не ощущаютДа, комментаторы опеннета это какой-то новый уровень глупости.
Вот так ImageDupeless может? https://dropmefiles.com/lR8z7
> так и по местоположению. Вырезал фотки, запустил ImageDupeless, он по дефолту
> разобрал фотки на пары :)Ну так попробуй им рожи распознавать на тему кто где, тогда и поймешь в чем прикол :)
Из отчета следует что профотошжопленная фотка потеряет незаметные пиксельные искажения. Соответственно поиск фотожопленных фоток среди профотожопленных фоток при обучении на профотоожпленных фотках даст нужных результат. Ресурсов правда съест побольше.
Такая клоака... Свою-то живую морду не исказишь.
Да и обучать эти системы не по вашим фотографиям будут.
> Свою-то живую морду не исказишь.А вот, кстати, не факт. Подрисовать что-то по мелочи несложно, обмануть какой-то мелочью НС — как высняется, тоже. Ждём-с дальнейших исследований.
Ну да. Можно еще маску в детском мире купить и носить.
нужны алгоритмы, теоретически кости черепа не сместишь, но сложных систем без исключений, ошибок, недоработок не бывает, главное это не вызвать статического фидбека, чтобы потом не искать уязвимости в системах обнаружения перевоплощённого духа.
> We are looking into adding small markers into the cloak as a way to help users identify cloaked photos
>Tensorflow implementation of the face detection / alignment algorithmТо есть Виола-Джонс уже не в моде?
лет 5 как не в моде
Calling home detected:
https://github.com/Shawn-Shan/fawkes/blob/master/fawkes/prot...
get_file("mtcnn.p.gz", "http://sandlab.cs.uchicago.edu/fawkes/files/mtcnn.p.gz", cache_dir=model_dir,
cache_subdir='')По HTTP. Это дерьмо должно быть в GIT LFS в репозитории.
>https://github.com/Shawn-Shan/fawkes/blob/master/fawkes/util...Причём в get_file какая-то самопальная загрузка, вместо стандартных и отлаженных requests/urllib3/hyper . Причём код - какой-то говнокод. Используются устаревшие и deprecated нечитаемые подходы и API. Еще и MD5 используется. Тьфу, чтобы привести это в нормальное состояние, большую часть придётся переписать.
> Calling home detected:kokoй ужос!
> Причём в get_file какая-то самопальная загрузка
вместо скачать полтора гигабайта стремных модулей хз каких васянов? Да, немодный чувак, немолодежный, я сразу заметил. Наверное, помнит npm leftpad.
> Это дерьмо должно быть в GIT LFS в репозитории.
кому и зачем оно должно? Это бинарная модель. Ты в ней ничего понять и ничего с ней сделать не смог бы в любом случае.
> большую часть придётся переписать.
ну вот пока хипстерки переписывают одно и то же для согласия с модными pep'ами - чувак запилил вместо этого интересную штуку, может даже кому-то окажущуюся полезной.
>кому и зачем оно должно?Чтобы качать с нейтрального гитхаба, а не с сайта проекта по HTTP, где если NSA в модель говна напихает, или сам институт, и разным людям раздаст разные модели, то никто и не заметит. Не говоря уже о раскрытии IP и факта скачки этой модели институту, провайдерам и сормам.
>Это бинарная модель. Ты в ней ничего понять и ничего с ней сделать не смог бы в любом случае.
Бинарные модели - это сериализованные графы. Можно пройтись по графу и проверить, какие узлы там используются. Бинарная модель - это не чёрный ящик.
> Чтобы качать с нейтрального гитхаба, а не с сайта проекта по HTTP,
> где если NSA в модель говна напихает, или сам институт, и
> разным людям раздаст разные модели, то никто и не заметит. Не
> говоря уже о раскрытии IP и факта скачки этой модели институту,
> провайдерам и сормам.Ну да, конечно, Майкрософт скупивший гитхаб анбшникам не подмахнет... :D
> Бинарные модели - это сериализованные графы. Можно пройтись по графу и проверить,
> какие узлы там используются. Бинарная модель - это не чёрный ящик.Вы умеете конструировать состояние нейросеток осмысленно, без обучения? oO
Хех, а комментарий про распространение таким образом троянов некто mc удалил. Если до этого всё можно было списать на глупость разработчика, то теперь уже закрадываются сурьёзные подозрения.
Продолжайте наблюдение. Ждём ещё отчёта об уважении разработчиком гендерного и расового разнообразия и использования инклюзивной терминологии.
> Calling home detected:Ну так хомяки мечтающие о серебряной пуле именно ее и получают. Правда, зачастую как раз себе в лоб.
у меня подозрение, что эти искажения легко лечатся сжатием картинки, например jpeg, и возвращением к исходному качеству.
Не годится при распознавании по соотношению точек лица.
Введут закон штрафующий за искажение лиц
> Введут закон штрафующий за искажение лицИ как докажешь, что оно было или не было искажено?
Разве что действительно создатели заморочатся добавлением "невидимых" пикселей, типа как в принтерах.
А это не им надо что-то доказывать суду, а тебе. В административных делах действует презумпция виновности. Даже если там будет презумпция невиновности, доказательство уровня "эксперт выступил в суде и под присягой сказал, что картинка преднамеренно искажена" проканает.
> В административных делах действует презумпция виновности.Новое слово в юриспруденции!
КоАП РФ Статья 1.5. Презумпция невиновности
1. Лицо подлежит административной ответственности только за те административные правонарушения, в отношении которых установлена его вина.2. Лицо, в отношении которого ведется производство по делу об административном правонарушении, считается невиновным, пока его вина не будет доказана в порядке, предусмотренном настоящим Кодексом, и установлена вступившим в законную силу постановлением судьи, органа, должностного лица, рассмотревших дело.
3. Лицо, привлекаемое к административной ответственности, не обязано доказывать свою невиновность, за исключением случаев, предусмотренных примечанием к настоящей статье.
4. Неустранимые сомнения в виновности лица, привлекаемого к административной ответственности, толкуются в пользу этого лица.
Примечание. Положение части 3 настоящей статьи не распространяется на административные правонарушения, предусмотренные главой 12 настоящего Кодекса, и административные правонарушения в области благоустройства территории, предусмотренные законами субъектов Российской Федерации, совершенные с использованием транспортных средств либо собственником, владельцем земельного участка либо другого объекта недвижимости, в случае фиксации этих административных правонарушений работающими в автоматическом режиме специальными техническими средствами, имеющими функции фото- и киносъемки, видеозаписи, или средствами фото- и киносъемки, видеозаписи.
>> В административных делах действует презумпция виновности.
>Статья 1.5. Презумпция невиновностиТы бы читал что тебе пишут перед тем как цитировать сборник сказок. Ты бы ещё Библию процитировал бы, юрист. Там много чего понаписано, но на практике слишком часто "нет оснований не доверять показаниям/выводам представителя/члена и т.п."
Ну, блин, при должной принципиальности можно и до ЕСПЧ попинаться же. А вот у этих сборник сказок все же иногда еще и работает на практике уже. Выпишут компенсацию раз в 20 больше штрафа, и порядок.
Обыкновенно, я никогда ничего не доказываю. Доказывают там, в Веселой Башне. Для этого я содержу опытных, хорошо оплачиваемых специалистов.Вам, может быть, неизвестно, но существует целая наука о добывании доказательств.
полнота корреляции может быть достигнута и при низких реальных значениях коэффициента корреляции, или доказательства невиновности тоже релевантны?
Не умничай. Умников в Веселой башне особенно любят. Тянутся к культуре мозолистой рукой с инструментом!
Это же фейковая утилита. Да, есть такая технология искажения фото, но она не так работает и не применима сдесь.
Здесь, здание, здоровье...
> Здесь, здание, здоровье...Увы, у некоторых и с естественной то нейросеткой не зададось, куда им таким еще и искуственные надувать.
Естественно, что это фейк. ImageDupeless прекрасно разобрал все фотки на пары, его таким тупым алгоритмом не обманешь.
Предположим у вас есть миллион фотографий и среди них есть Джон Смит, которого нейросеть считает Памелой Андерсен. Как с помощью вашей супер утилиты найти Джона Смита?
Дак это только твоя гомносетка так считает, а нормальный софт сразу показывает, что Джон Смит и Джон Смит с шумом - это одно и то же лицо, а не ошибочное Помело Андерсена.
Но в реальности у тебя нет фотки без шума. Только Джон Смит. Как в этой ситуации определить без "гомносетки"?
> у тебя нет фотки без шумаЁпт, а что тебе в статье показывают? Две фотки, одна - оригинал, другая - испорченная. И обе закатывают в сеть, которая думает, что они - разные.
Вы бы хоть потратили минутку, чтобы понять, что есть классификация в нейронках
Ты хоть бы на минутку взглянул на картинки статьи. Где там классификация? Только пары одинаковых фоток.
> Дак это только твоя гомносетка так считает, а нормальный софт сразу показывает,
> что Джон Смит и Джон Смит с шумом - это одно
> и то же лицо, а не ошибочное Помело Андерсена.В реальности у тебя есть миллион разных фот, или картинка с камеры, где не факт что подписано что это Джон или Памела. Ну вот и попробуй дуполовкой это отклассифицировать. Она тебе и сложит в одну кучу Джона, Памелу и еще пару миллионов каких-то хренсгары, на том основании что пейзаж сзади, видите ли, похож...
Главное - чтоб без зондостеганографии...
Вся метрика и ПД записываются в фотку при обработке.А то мучся распознавания, а так все фотки стандартно подписаны.
Вот этот момент со скрытым внедрением в фотки телеметрии меня напрягают ( я не про EXIF)
> А то мучся распознавания, а так все фотки стандартно подписаны.Ну так прикольно будет поменять фото, а потом ... какие-нибудь геотеги или серийник камеры в метаданных оставить. Если что, так даже какой-то американский антивирусник, который в общем то не дурак, попался разок. Всего то дал интервью журналюге на ифон, а тот и запиши геолокацию в фоту :)
> Обработка фотографий предложенной утилитой перед публикацией в социальных сетях и других публичных площадках позволяет защитить пользователя от использования данных фотографий в качестве источника для обучения систем распознавания лиц.Не надо публиковать фотографии себя в соц сетях. Сфоткай и запость природу...
> Предложенный алгоритм предоставляет защиту от 95% попыток распознавания лиц
Точно не надо публиковать свои фотки в соцсетях. А ходить на улице в маске, типа от коронавируса, чтобы мобила прохожего не сфоткала.
> будущем ожидается появление систем машинного обучения нового поколения, лишённых рассматриваемого недостатка,
100% не надо публиковать свои фото в соцсетях, а видео звонки только по p2p технологии и с end2end шифрованием.
> Не надо публиковать фотографии себя в соц сетях.угу, я тебя сам сфоткаю, а то чо как хипстерок какой.
И помечу, кстати.
> А ходить на улице в маске, типа от коронавируса
не поможет. Разьве что в полном противогазе (советском резиновом, а не модном с прозрачным визором!)
Капюшон на голову, очки от солнца, маску от "коронавируса" и все алгоритмы распознавания лиц отсосут.Суки научились детектить по походке, росту, ... Так что иногда прихрамывать то на одну ногу, то на другую, то на обе, то стройно ходить то сотулясь, то размахивать одной рукой, то другой, то не махать.
Менять стили одежды...
Все выше сказанное применить к подруге, жене, детям.
есть на районе такой капюшон, то в шортах, то при галстуке, надо быть как все (старо)
Теперь понятно кто такие зомби. Это оказывается люди обманывающие алгоритмы распознавания.
>Все выше сказанное применить к подруге, жене, детям.Санитары будут вызваны с вероятностью 1.
> Все выше сказанное применить к подруге, жене, детям.Зачем? Пусть с удовольствием детектит рандомных рож рядом с ними до упада :)
> угу, я тебя сам сфоткаю, а то чо как хипстерок какой.А у меня вот нет м...ков и раздолбаев среди друзей. Поэтому со мной ты так сделать не сможешь, "друх" :)
> а видео звонки только по p2p технологии и с end2end шифрованием.Ага, и смотреть эти фотки в Windows 10 :D
Использовать только безопасные системы. Никакого вантуза.
Примеры - в студию пожалуйста! С доказательствами надёжности и безопасноти, разумеется.
https://mirror.yandex.ru/mirrors/ftp.linux.kiev.ua/Linux/CD/.../
А толку то от p2p шифрования и end2end, если п.о.с закрытым исходным кодом???
Используй для этого ПО с открытым исходным кодом.
враньё про то что искажения незаметны, ещё как заметны! добавляет бугру на носу, мешки под глазами и нездоровый алко-румянец
а теперь сделаем финт ушами: перед нейросеткой отбросим 3 младших бита пикселей :) в которых записан шум.
Зачем?
Просто оригинал подай.
ты, похоже, не понял, как они изображение портят... и как это убрать, чтобы и оригинал, и испорченное фото стали идентичными, а, следовательно, одинаковыми для сетки.
> ты, похоже, не понял, как они изображение портят... и как это убрать,
> чтобы и оригинал, и испорченное фото стали идентичными, а, следовательно, одинаковыми для сетки.А ты похоже не понял в чем подстава. После этого одинаковым для такой нейросетки обученной на таких данных будет довольно много кого и чего. Распознавание получится один черт заглюченым и потому намного менее полезным на практике. Оно и так то не 100% точное, а если оно допустим будет каждого десятого перед камерой считать за тебя - ну так это ж офигенно вообще :)
С тремя отброшеными битами сетка тебя без всяких искажений распознавать будет через раз в лучшем случае. Они и так то работают не ахти на хоть сколько-нибудь значимом количестве лиц, давая кучу ложноположительных и ложноотрицательных результатов. А сетка, отличающая тебя от трёх с половиной соседей никому не нужна.
Ну а что, убедить атакующего самого испортить себе данные - это тоже вариант :)
> добавляет бугру на носу, мешки под глазами и нездоровый алко-румянеца нахрена тогда весь этот траходром с какими-то питоновыми модулями? Я утром с похмелья сразу так выгляжу - и чо, это я, оказывается, от системы распознавания лиц спрятался? Пойду налью еще двестиписят тогда.
Раз уж речь зашла про распознавание. Помогите распознать название прикольной песни или хотя бы какой-нибудь текст для поиска. Я расслышал только "by my side". audiotag.info не справился.
http://s000.tinyupload.com/index.php?file_id=084418571486380...
Эта песня играла на радио Energy в 90-х в Германии.
> Раз уж речь зашла про распознавание. Помогите распознать название прикольной песни или
> хотя бы какой-нибудь текст для поиска. Я расслышал только "by my
> side". audiotag.info не справился.
> http://s000.tinyupload.com/index.php?file_id=084418571486380...Не узнать автора "Riddle" и "bla-bla"?
Ай-яй-яй *неодобрительно качает головой* 😞
Gigi D'Agostino, La Passion
> Gigi D'Agostino, La PassionСпасибо тебе, добрый человек. А я уж и не надеялся.
А в виде мази нет?
Без инета не работает... подозрительно ;)
дак троянов неоткуда скачивать...
Он без файла модели не работает. Можешь вручную скачать и положить, если прям такой недоверчивый.
Я бы предпочел иметь фломик с невидимыми чернилами, что бы лицо снятое на камеру вызывало у роботов ступор. Ну или, что мелочиться, шампунь с неуловимым эффектом анизотропии (не путать с мизантропией) и поляризации.
Что бы у них все линзы из глазниц вытекли.
> шампуньСпроси в хим- или автомагазине H2SO4
Хрень какая то, попробовал эту прогу на фото натравить... "изменения, которые незаметны при просмотре людьми" ага фига се не заметно, другое лицо делает. Пробовал опции mid и high
Кто там реакламировал ImageDupeless?Так вот это гавно. 1) где исходники? 2) оно только под вянду 3) нафига он нужен этот ImageDupeless если есть куча открытых аналогов. Так что иди в пень со своим ImageDupeless. Никто у тебя его покупать не будет.
Да он вообще не понял ничего.
Дубликаты фото ищутся примитивными алгоритмами типа уменьшили картинки до 16х16, уменьшили цвета до 2 и посчитали, сколько процентов совпало. Если больше 99% - дубль.А в статье речь про надуривание сверточных сетей, которые находят одного человека на разных фото, не на одинаковых.
> сетей, которые находят одного человека на разных фото, не на одинаковых.Буратино, ты статью хоть читал? Ну хотя бы картинку - видел? Где там разные фото?! Одна и та же фотка дважды: оригинал и зашумлённая. Где ракурсы?
Вообще-то он тебе правильно написал. То что ты не увидел отличие на фото это и была суть. Как у них получилось - другой вопрос. Но в этом и была суть.Давай ты напишешь свёрточную сеть (если в начале что-то не понятно это нормально, можем вместе проект завести), научишь её узнавать человека и после этого поговорим.
Речь про узнавать, а не находить похожее.
Ещё и заглохло в 2005-ом году.
Как на лицо себе эти пиксели нанести? Распечатать плёнку и приложить к лицу, раскатать утюгом как обычно?
Все яро рассуждают о том, что фотку можно изгадить. А как анон получит доступ к базам этих самых фоток, которые задействованы в системе распознования, для того, чтобы её изгадить и подсунуть обратно?!
Он максимум может фломастером разрисовать свою рожу. А уж оригиналы того, с чем работает система не его епархия.
Как только их берут на работу, они же начинают не менее яро реализовывать самый худший цифровой концлагерь.
Одно дело на форуме болтать, и другое дело денежка на счёте.
> Одно дело на форуме болтать, и другое дело денежка на счёте.Кому как, кому как. Денежку можно получить и без службы гестаповцам, если мозги есть.
не работает
EOFError: Compressed file ended before the end-of-stream marker was reached
Читай: "не удалось скачать и установить трояна".
> не работает
> EOFError: Compressed file ended before the end-of-stream marker was reachedВо ты ламер, у тебя файл обкоцаный.
Нихрена я не работаю.
Яндекс как распознавал, так и распознаёт
Сие поделие работает только с такими недосетками, как M$/Амаз/и Ко. Глупо думать, что другие алгоритмы идентичны оным.
Для многих комментирующих.
1. Ребят ваш мозг это нейросеть нейросетей, так что да блин математикой там коэффициенты не выявишь.
2. Честно имхо я бы эти псевдошумы усложняющие жисть, просто бы грохнул по возможности сжатием с потерей данных, провел контрольную проверку визуальной состяаляющей исходной и полученной фотки и использовал в анализе сжатую фотку. Муторнее но тем не менее будет действовать.
>Для многих комментирующих. 1. Ребят ваш мозг это нейросеть нейросетейДля отдельных комментирующих. Сравнивать мозг с имеющимися сейчас сетками бессмысленно. К тому, что делает мозг нынешние сетки не приближаются даже близко. Например обучение по 1 образцу. Или полная иммунность к описанному в новости. И никто даже мыслей не имеет какими методами к возможностям мозга приблизиться. Ну т.е. кроме - добавим еще слоев, но больше то современное железо уже тоже не тянет.
Сети, использующиеся для распознавания лиц имеют в миллиарды раз меньше параметров, чем человеческий мозг (если считать синапс за один параметр). GPT-3, у которой 175 миллиардов параметров, что по грубой оценке минимум в 20000 раз меньше чем в человеческом мозгу, демонстрирует способность к обучению на нескольких примерах. См. например https://arxiv.org/abs/2005.14165Так что "добавить ещё слоёв", не такая уж и глупая стратегия.
Насчёт "полной имунности" к искажениям фотографий. Сети достигают большей точности распознавания, используя незаметные человеческому глазу подробности. Более-менее надёжно идентифицировать человека как одного из миллиона кандидатов сможет разве что какой-нибудь уникум. Сети с этим справляются. Поэтому неудивительно, что в картинку можно внести изменения, незаметные человеку, но заметные сети. То есть задача - не просто сделать сеть, идентифицирующую лица как человек (точность будет недостаточной), а сделать сеть игнорирующую искажения (не встречающиеся в необработанных изображениях) так же как это делает человек и при этом имеющую большую точность идентификации. Нужно не догнать человека, а перегнать по всем параметрам.
> Так что "добавить ещё слоёв", не такая уж и глупая стратегия.Я думаю что при просто достаточном пуше грубой силой и количеством - оно постепенно самособерется во вполне работоспособное подобие мозга. Примерно так как живые клетки это и сделали. А кто сказал что некую синтетическую версию этого процесса принципиально невозможно прогнать?
А так на поугарать на возможности именно _современного_ железа, от фирм которые более-менее на острие _state of art_ а не "импортозамещают":
https://en.wikichip.org/wiki/neural_processor
https://en.wikichip.org/wiki/tesla_(car_company)/fsd_chip> Насчёт "полной имунности" к искажениям фотографий. Сети достигают большей точности распознавания,
...и тем не менее, что-то мне подсказывает, что "борьба терминаторов" это некая штука без однозначного исхода. То-есть всегда можно натренировать вон ту нейросетку, которая залошит вон те нейросетки. В ответ можно натренировать другую нейросетку, которая на эти трюки не купится. Но можно натренировать еще нейросетку, которая и такую сможет облапошить.
мозгу нужны регулярная тренировка, расслабление, мотивация такой деятельности, воспринимать будет фас видовой этногруппы в стандартной вертикальной ориентации, машине даже актуализация выборки не особо нужна (по мере сокращения вариативности коренного населения), разве что по мутациям и патологическим изменениям.
> К тому, что делает мозг нынешние сетки не приближаются даже близко.Как бы это тебе сказать?
1) Самые топовые суперкомпьютеры уже в принципе сопоставимы.
2) Можешь посмотреть что такое IBM brain chip. И это весьма винтажный дизайн.
3) Мало? Ну позырь на тесловский проц последнего поколения и WTF is NPU. У него довольно прикольная производительность - в довольно странноватых юнитах. Конечно это не мегамозг - но таки уже дизайн чипа радикально перепаханый под многократно более эффективную и многочисленную эмуляцию нейронов. Сие вероятно втыкает даже самым жирным GPU оптом, а зная темпы эволюции кремния я могу себе представить что будет дальше.> мозга приблизиться. Ну т.е. кроме - добавим еще слоев, но больше
> то современное железо уже тоже не тянет.Поэтому несколько фирм радикально перепахали железо. Уже. Так что один мелкий чипак задвинет пачку топовых GPU. А потому что наполовину ASIC под задачу - эмуляцию нейронов. Это ж тебе не родина слонов, где прилепить баянное армовское ядро к какой-то периферии - уже за счастье, а какой-то камлатель чуть не молится на 8-лапый чипак биоса...
> использовал в анализе сжатую фоткуИ сетка такая будет распознавать лица чуть лучше, чем никак.
она сейчас вообще не распознаёт - ты статью хоть читал? невидимый макияж - и трындец. а если ещё и губы накрасить?
