343 0

Poisoning and Image-Scaling Attacks on Neural Networks

Title
Poisoning and Image-Scaling Attacks on Neural Networks
Author
이스마이러브루스탐
Alternative Author(s)
Rustam Ismailov
Advisor(s)
Yeonjoon Lee
Issue Date
2022. 8
Publisher
한양대학교
Degree
Master
Abstract
As machine learning becomes widely used for automated decisions, an area which is often overlooked is the integrity of the data being used to train the datasets used by the machine learning algorithms. This is called the poisoning attack, where the intruder injects false training data to corrupt the learning model itself. In this paper, we study the susceptibility of scene detection-based ML video classifiers to poisoning and image-scaling attacks on neural nets for the first time. Our approach builds on a recent class of attacks, specifically focusing on challenging "clean label" attacks where attackers do not control the sample labeling process, and on attacks against image scaling. First, we show that just poisoning keyframe(s) is enough to control the video classifier behavior when transfer learning is used. For full end-to-end training, we impose image-scaling attacks that enable manipulating online video keyframes such that they change their content when scaled to a specific resolution. Furthermore, we consider real-time video attacks by employing image-scaling attacks on advanced content aware fast-cut detection of each shot.|기계 학습이 자동화된 의사 결정에 널리 사용되면서 종종 간과되는 영역은 기계 학습 알고리즘에서 사용하는 데이터 세트를 훈련하는 데 사용되는 데이터의 무결성입니다. 침입자가 잘못된 학습 데이터를 주입하여 학습 모델 자체를 손상시키는 것을 포이즈닝 공격이라고 합니다. 이 논문에서 우리는 처음으로 신경망에 대한 중독 및 이미지 스케일링 공격에 대한 장면 감지 기반 ML 비디오 분류기의 취약성을 연구합니다. 우리의 접근 방식은 최근 공격 유형을 기반으로 하며, 특히 공격자가 샘플 레이블 지정 프로세스를 제어하지 않는 도전적인 "클린 레이블" 공격과 이미지 스케일링에 대한 공격에 중점을 둡니다. 먼저, 전이 학습이 사용될 때 키프레임을 포이즈닝하는 것만으로도 비디오 분류기 동작을 제어하기에 충분하다는 것을 보여줍니다. 완전한 종단 간 교육을 위해 온라인 비디오 키프레임을 조작하여 특정 해상도로 크기를 조정할 때 콘텐츠를 변경하도록 하는 이미지 크기 조정 공격을 적용합니다. 또한 각 샷의 고급 콘텐츠 인식 빠른 컷 감지에 이미지 스케일링 공격을 사용하여 실시간 비디오 공격을 고려합니다.
URI
http://hanyang.dcollection.net/common/orgView/200000626714https://repository.hanyang.ac.kr/handle/20.500.11754/174232
Appears in Collections:
GRADUATE SCHOOL[S](대학원) > COMPUTER SCIENCE & ENGINEERING(컴퓨터공학과) > Theses (Master)
Files in This Item:
There are no files associated with this item.
Export
RIS (EndNote)
XLS (Excel)
XML


qrcode

Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.

BROWSE