Microsoft создала ПО для борьбы с детской порнографией

[ALEX(XX)]

Компания Microsoft анонсировала новое программное обеспечение под названием PhotoDNA, которое позволит некоммерческим организациям, правоохранительным органам и Интернет-провайдерам успешно бороться с распространением детской порнографии в глобальной сети.

В приложении используется методика под названием «устойчивое к помехам хэширование» (robust hashing), которая позволяет с высокой точностью идентифицировать обрезанные, отредактированные или модифицированные иным способом фотоснимки.

Программное обеспечение PhotoDNA не может самостоятельно отличить безобидный детский снимок от порнографического. Вместо этого приложение сканирует снимок, идентифицирует его цифровые «отпечатки пальцев» и сравнивает исходное изображение с сотнями тысяч известных порнографических фотоизображений и видеороликов, хранимых в базе данных. Эксперты уверены, что инновационный инструмент существенно облегчит их работу, ведь многие снимки встречаются в сети на протяжении нескольких лет, перемещаясь с сайта на сайт.

В ходе испытаний решение PhotoDNA продемонстрировало исключительную производительность, тратя на обработку одного изображения не более пяти миллисекунд. По словам организаторов тестирования, точность идентификации цифровых снимков составляет примерно 98%, а число ложных срабатываний ограничивается одним случаем на миллиард.

Распространяться новое программное обеспечение будет совершенно бесплатно.

securitylab.ru

[ScratchyClaws]

с сотнями тысяч известных порнографических фотоизображений и видеороликов, хранимых в базе данных.

многие маньяки хотели бы, наверное, получить доступ к этой базе

если подумать, то программа будет больше нацеленна на отслеживание украденных у них же картинок))

[UriF]

Тупой вопрос - как отличить обычное порно от детского? И еще существуют порно-комиксы с детской тематикой (3D). Может ли программа отличить эти photoshop/poser выверты от реального фото/видео? Скорее всего, поиск может идти по базе данных, а не анализ изобржения?

[ScratchyClaws]

приложение сканирует снимок, идентифицирует его цифровые «отпечатки пальцев» и сравнивает исходное изображение с сотнями тысяч известных порнографических фотоизображений и видеороликов

только что сфотанное оно не отличит...

[borka]

Программное обеспечение PhotoDNA не может самостоятельно отличить безобидный детский снимок от порнографического. Вместо этого приложение сканирует снимок, идентифицирует его цифровые «отпечатки пальцев» и сравнивает исходное изображение с сотнями тысяч известных порнографических фотоизображений и видеороликов, хранимых в базе данных. Эксперты уверены, что инновационный инструмент существенно облегчит их работу, ведь многие снимки встречаются в сети на протяжении нескольких лет, перемещаясь с сайта на сайт.

Интересно, а они уже запаслись терабайтами внешней памяти для хранения "сотен тысяч известных порнографических фотоизображений и видеороликов" ?

[craftix]

Ну сотня тысяч это не так уж и много места займет - пусть в среднем одна картинка займет 2 мегабайта, тогда сотня тысяч снимков займет 200Гб. Тесть даже двухтеррабайтного винчестера хватит. Вот только как эта программа умудряется обрабатывать такой объем за 5мс. Тут уж нужно будет эти снимки в оперативку вводить, а 2Тб оперативки это уже не хухры мухры. Возможно база будет храниться на сервере МС, а прога только отсылать данные по изображению на него. Сейчас же все через облачные технологии стараются делать.

[Зайцев Олег]

Сравнить на самом деле не очень сложно ... я когда-то пробовал сделать такую штуку, эдакий "порноклассификатор", чтобы он детектировал и рубил порнуху на подлете к сети (или вычислял порнушников и автоматом отключал их). Не вышло ... точнее вышло - как у MS, отчетливое распознание известных семплов. Ничего сложного в этом нет на самом деле, и терабайты не нужны - банальная персоналка справится. Суть идей проста:
1. Нормализуем картинку. Нормализация предполагает приведение ее к некому стандартному размеру, числу цветов, типу.
2. Подвергаем ее анализу. например, можно определить вхождения определенного типа "телесных" цветов и т.п. В результате я от картинки прихожу к числу (а точнее, числом отделаться сложно - к набору чисел, битовым маскам, своеобразной "формуле" ...), идентифицирующем данную картину. Это по сути аналог хеша для файла, только если хеш позволяет сравнивать "влоб", то правильно построенная "формула" позволит оценивать похожесть
3. Получив эти числа/"формулу" их несложно внести в базу данных любого типа, в обучную таблицу ... Операцию повторяем для всей порно-коллекции, обучая систему. Базу потом индексируем для ускорения поиска. Сотни тысяч строк в таблице "потянет" даже MS Access
4. Встретив файл, нуждающийся в классификации, выполняем для него операции 1-2, получаем "формулу картинки" и обычным SQL запросом делаем проверку, причем если картинка характеризуется набором хешей, некоей "формулой", то можно вести поиск на совпадение или задать некий "критерий уверенности", скажем похожесть более 90%. Данная операция по индексированной базе будет идти милисекунды на обычной персоналке, и памяти понадобится 30-60 мб, не более того.
Вот в принципе и все ... примерно так-же отпечатки пальцев сравнивают - не сравнивают картинки друг с другом, строят "формулу отпечатка" и далее идет индексный поиск (в данном случае не выжно, что на картинке - идея сводится к созданию описывавающей картинку формулы и поиску). Но такая система обладает одним значимым минусом - она умеет узнавать только то, что внесено в базу... или что-то очень на нее похожее. И не может распознать новое изображение, потому практическая ценность ее невелика. Я ставил опыты в опознании новых изображений методами нечеткой логики и нейросетями. Получились определенные успехи, но уровень фолсов был весьма внушительный для практического применения

[priv8v]

Имхо, порнография это более видеоформат, чем фото. Из видео берется кадр какой-то и анализируется?
Эротика в данном контексте входит в порнографию? Почему речь именно о детской? Потому что ее намного меньше чем обычной и ее проще в таком случае загнать в базу?))

[ScratchyClaws]

Олег, а ведь бывает система распознавания лиц в фотоаппаратах? Ещё распознавание улыбок...
Может можно так же распознавать другие части тела?

[Зайцев Олег]

Олег, а ведь бывает система распознавания лиц в фотоаппаратах? Ещё распознавание улыбок...
Может можно так же распознавать другие части тела?

Ага - видел я один кадр с такого фотоаппарата - человек в турпоездке снимал какой-то храм, а на прямой между храмом и аппаратом какая-то туристка в красных шортах нагнулась шнурок завязать - тут-же сработал механизм распознания лица и детектирования улыбки, и аппарат сдела снимок - "портрет зада туристки на красиво размытом фоне какого-то непонятного здания" (в чем логика создателей алгоритма - загадка, скорее всего типовой пример простейших алгоритмов выделения контуров). С порнухой аналогично - когда я писал свой детектор, это была первая идея, которая пришла мне в голову - то беда в том, что если детектировать голую натуру, снятую в определенном диапазоне расстояний и в определенной позе, то проблем особых нет - можно сделать такое распознание, есть куча алгоритмов сравнения фото с заданными шаблонами. Но если речь идет о произвольном заранее неизвестном кадре - то все на несколько порядков сложнее, детектировать можно конечно - но уровень фолсов будет огромным - или качество детекта невероятно низким (мы не знаем, какая часть тела попадет в кадр, под каким углом, сколько будет вигурантов на фото ...) Пример - я проверял свои алгоритмы на легитимных фото, и например анализируется портрет деятеля, алгоритм тут-же дает более 80%

Добавлено через 6 минут

Имхо, порнография это более видеоформат, чем фото. Из видео берется кадр какой-то и анализируется?
Эротика в данном контексте входит в порнографию? Почему речь именно о детской? Потому что ее намного меньше чем обычной и ее проще в таком случае загнать в базу?))

Скорее всего потому, что это модное направление и на борьбу с ним выделены денежки Хотя более вероятно и другое соображение - с другой стороны за обычную порнографию закрыть фигуранта сложно, так как грань между эротикой и порно зачастую призрачная и спорная ... а вот за детское порно статьи закона сработают куда четче, так как там отмазка "... а это была эротика ..." не пройдет с гарантией, и соответственно виновников можно с гарантией отправить на снегоуборочные работы - что несомненно правильно.

[maXmo]

она умеет узнавать только то, что внесено в базу

Борцы с порнографией они такие, будут качать, смотреть и вбивать, качать и смотреть, качать и ещё качать. И обмениваться коллекциями.