AI나 머신러닝의 이미지 인식에 있어서 이미지 속에 인간이 감지할 수 없는 노이즈나 작은 변화를 주어 AI 알고리즘의 특성을 악용하여 잘못된 판단을 유도하는 공격은?
1
Membership inference 공격
오답 이유멤버십 추론 공격은 특정 데이터가 모델의 학습 집합에 포함됐는지를 출력 확률이나 응답 차이로 추정한다.
2
Adversarial 공격
정답 근거적대적 공격은 입력 이미지에 의도적인 미세 교란을 더해 모델의 분류 경계를 넘기므로 지문의 상황에 해당한다.
3
Poisoning 공격
오답 이유포이즈닝 공격은 모델 학습 전에 악성 표본이나 라벨을 학습 데이터에 섞어 학습 과정 자체를 왜곡한다.
4
Model inversion 공격
오답 이유모델 인버전 공격은 모델의 응답을 이용해 학습 데이터가 가진 민감한 특징이나 대표 입력을 역으로 복원하려 한다.
정답·상세해설
정답 2번
적대적 예제 공격은 정상 입력에 사람이 알아채기 어려운 작은 변형을 가해 학습된 모델이 잘못 분류하도록 유도한다. 학습 데이터의 포함 여부를 추론하는 멤버십 추론, 학습 데이터를 오염시키는 포이즈닝, 모델 출력에서 입력 특성을 복원하는 모델 인버전과 공격 시점·목적이 다르다.