4월 DA/ML 블로그 포스팅 #282
Merged
4월 DA/ML 블로그 포스팅 #282
Conversation
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
hjm507
previously approved these changes
May 3, 2023
hjm507
left a comment
hjm507
left a comment
There was a problem hiding this comment.
보안 쪽은 생각해보지 못한 주제라 흥미롭네요...! 공격은 오히려 손실을 최대화 시키는 쪽으로 학습시킨다는 발상이 재밌으면서 무섭네요. 적대적 방어 관련해서도 나중에 더 써주시면 좋을 것 같습니다!
|
|
||
| 2016년 마이크로소프트의 챗봇 ‘테이(Tay)’가 16시간 만에 전격 중단되었습니다. 일부 유저들이 악의를 가지고 혐오 표현들을 학습시켜 챗봇이 각종 인종, 성차별적인 발언을 쏟아내도록 만들었기 때문입니다. 딥러닝이 발전하면서, 이와 같이 모델의 보안을 위협하는 문제는 지속되왔고, 그 위험성은 커지고 있습니다. | ||
|
|
||
| 위의 예시에서처럼, 기존의 해킹 방법과는 다르게, 머신러닝 알고리즘이 내제하고 있는 취약점을 이용한 방법이 바로 적대적 공격입니다. 즉, 적대적인 공격은 미세하게 변경된 입력 데이터인 적대적 예제를 활용해 신경망의 정확도를 떨어뜨리는 행위입니다. |
beautifulchoi
left a comment
beautifulchoi
left a comment
There was a problem hiding this comment.
흥미로운 주제에 대해서 간결하게 잘 써주셔서 재미있게 읽었습니다. 글 작성하시느라 수고하셨습니다 : )
| title: "FSGM을 이용하여 적대적 공격 살펴보기" | ||
| authors: [00HS] | ||
| tags: ["적대적 공격", "FSGM"] | ||
| image: 포스트 커버 이미지 |
| 적대적 공격은 신경망 내부 정보 보유 여부에 따라 두 가지로 나뉩니다. white-box 공격은 신경망 내부 정보를 아는 상태로 수행하는 공격으로, 이 때문에 더욱 효과적인 공격을 수행할 수 있습니다. Black-box 공격은 반대로 신경망 내부 정보를 모르는 상태로 수행하는 공격으로, 실제 상황에서 신경망은 이 유형의 공격을 당할 확률이 높습니다. | ||
|
|
||
| ## FSGM | ||
| 대표적인 적대적 공격인 FSGM에 대해 코드를 통해 살펴보도록 하겠습니다. |
|
|
||
| ## FSGM | ||
| 대표적인 적대적 공격인 FSGM에 대해 코드를 통해 살펴보도록 하겠습니다. | ||
| FSGM은 공격 목표를 정할 수 없는 non-targeted 방식이자, 대상 모델의 정보가 필요한 화이트박스 방식입니다. |
There was a problem hiding this comment.
위에서 영어로 white box라고 썼어서, 여기서도 white box라고 쓰는 것이 좋을 것 같습니다
hoqn
added
✅ 리뷰 완료
hoqn
requested changes
May 19, 2023
| title: "FSGM을 이용하여 적대적 공격 살펴보기" | ||
| authors: [00HS] | ||
| tags: ["적대적 공격", "FSGM"] | ||
| image:  |
There was a problem hiding this comment.
프론트매터의 image에는 경로만 입력해주셔야 렌더링이 됩니다..!
Suggested change
| image:  | |
| image: ../assets/images/post-Adversarial Attack/deeplearning.jpg |
beautifulchoi
approved these changes
May 21, 2023
yurishin929
approved these changes
May 28, 2023
hjm507
approved these changes
Jun 2, 2023
SSUHYUNKIM
added
💯 최종 완료
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
6 participants
Add this suggestion to a batch that can be applied as a single commit.
This suggestion is invalid because no changes were made to the code.
Suggestions cannot be applied while the pull request is closed.
Suggestions cannot be applied while viewing a subset of changes.
Only one suggestion per line can be applied in a batch.
Add this suggestion to a batch that can be applied as a single commit.
Applying suggestions on deleted lines is not supported.
You must change the existing code in this line in order to create a valid suggestion.
Outdated suggestions cannot be applied.
This suggestion has been applied or marked resolved.
Suggestions cannot be applied from pending reviews.
Suggestions cannot be applied on multi-line comments.
Suggestions cannot be applied while the pull request is queued to merge.
Suggestion cannot be applied right now. Please check back later.
깃허브를 많이 안써봐서 잘 실행되는지 모르겠네요!
확인 부탁드립니다!