나이트셰이드란? - 인공지능 vs 예술가, 예술가의 권리를 지키기 위한 진흙탕 싸움 (AI에게 일자리를 위협받는 디자이너, 예술가의 살 길?)

AI 인사이트/최신 AI 트렌드 리뷰

나이트셰이드란? - 인공지능 vs 예술가, 예술가의 권리를 지키기 위한 진흙탕 싸움 (AI에게 일자리를 위협받는 디자이너, 예술가의 살 길?)

AI 동키 2023. 11. 13. 15:52

최근 AI의 발전이 예술가들의 창작권을 위협하고 있다는 목소리가 높아지고 있습니다. 이에 대항하여 등장한 대규모 AI 이미지 학습 모델에 도전장을 내민 나이트셰이드의 등장이 예술가들에게 어떤 변화를 가져다줄까요?
본 글에서는 AI의 새로운 도전자 '나이트셰이드'가 무엇이며, 이것이 예술계의 권리와 AI 기술의 미래에 어떤 영향을 끼칠지에 대해 심층적으로 분석해보겠습니다.

AI와 예술가의 대립

대형 AI 모델들의 부상과 함께, AI가 예술의 영역에 발을 들여놓으며, 예술가들과 기술 기업 간의 긴장은 계속해서 고조되고 있습니다. 텍스트를 이미지로 변환하는 AI 모델들은 많은 이들에게 창작의 즐거움을 제공하지만, 예술가들은 자신의 작품이 AI 모델 학습에 무단으로 사용되는 것에 대해 점점 더 큰 불만을 품고 있습니다. 점점 더 자신들의 권리 침해에 목소리를 높이고 있죠.

나이트셰이드: 예술가를 위한 새로운 방어막

AI 모델의 학습 데이터로부터 예술가의 작품을 보호하기 위한 나이트셰이드는 픽셀을 조작하여 AI가 잘못된 데이터를 학습하도록 만드는 도구입니다. 이는 예술가들이 기술 기업에 맞서 스스로를 방어할 수 있는 수단을 제공합니다.

예술가들의 분노의 핵심은 자신들의 작품이 출처를 알 수 없게 대량으로 학습 데이터에 포함되어 사용되고 있다는 점입니다. 이에 대한 대응으로 '오염된 이미지' (Poisoned Image)라는 개념이 등장했습니다.
나이트셰이드를 사용하여 AI가 실제와 다르게 해석할 수밖에 없는 이미지를 만들어내는 것인데, 이는 대규모의 이미지를 학습하는 과정에서 AI가 잘못된 정보를 학습함으로써 최종적으로 생성하는 결과물에 심각한 오류를 일으키게 합니다.
이러한 이미지들은 사람의 눈에는 정상적으로 보이지만, AI에 의한 이미지 인식과정에서는 큰 혼란을 야기하여, 예술가들이 자신의 저작권을 스스로 방어할 수 있는 새로운 길을 제시하고 있습니다.
이 기술은 AI에 의한 저작권 침해에 대한 예술계의 유효한 대응책으로 주목받고 있으며, 무분별한 데이터 스크래핑에 대한 경종을 울리는 중요한 사례로 자리잡고 있습니다.

- 예술가들의 행동: DeviantArt와 Art Station과 같은 플랫폼에서의 시위, 저작권 소송 제기 등을 통해 이들은 자신들의 권리를 주장하고 있습니다.

- 기술 기업의 힘 : Ben Zhao 교수는 기술 기업과 예술가 사이에 존재하는 힘의 불균형을 지적합니다. 기술 기업은 상대적으로 자유롭게 예술가의 작품을 이용할 수 있는 반면, 예술가들은 이에 대한 충분한 대응 수단이 없습니다.

힘의 균형을 위한 싸움

개방적 접근성과 저작권의 충돌: 예술가들은 자신들의 작품이 오픈 소스 데이터 세트에 포함되는 것에 대해 분노를 표출하고, 그들의 권리를 존중받고자 합니다.

- 기술기업의 대응: OpenAI와 Stability AI는 예술가의 작품을 학습 데이터에서 제외할 수 있는 옵션을 제공하겠다고 약속했지만, 이 약속을 실제로 지키는 메커니즘이 부재합니다.

나이트셰이드의 파급 효과

나이트셰이드에 의해 '오염된' 이미지들이 AI 모델에 포함될 경우, 모델은 현격히 잘못된 출력을 할 가능성이 큽니다. 이러한 도구의 개발은 예술가들에게 기술 기업에 대한 일종의 항의 방법을 제공하며, AI 기술 발전에 중요한 영향을 미칠 수 있습니다.

나이트셰이드의 등장은 과연 예술가들을 보호하는 수단이 될까요? 기술의 발달을 막는 문제가 될까요? AI 기술의 발달로 놀라운 예술작품을 생성해내는 기술은 예술 세계에 새로운 도전과 기회를 동시에 가져왔습니다. 나이트셰이드의 개발은 예술가의 권리를 보호하려는 중요한 시도로, 기술과 예술의 조화로운 공존을 위한 논의에 새로운 지평을 열 것입니다. 이는 예술과 기술 사이의 상호 존중과 이해를 바탕으로 하는 건강한 생태계 조성을 위한 기회로 작용할 수 있습니다.
AI의 발전은 멈출 수 없지만, 그 과정에서 발생하는 윤리적 문제와 저작권 이슈에 대해 우리 모두가 관심을 가지고 적극적인 논의를 해야 할 시점입니다. 이러한 대화와 노력이 기술과 예술의 지속 가능한 미래를 위한 토대를 마련할 것입니다. 기술 기업들은 이에 대해 어떤 솔루션을 제시할지, 앞으로 갈 길이 멀어보이지만 반드시 풀어야할 숙제입니다.

이 글은 MIT Technology Review 내용을 참고하여 작성하였습니다.
원글 : https://www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/

다른 글도 읽어보시기 바랍니다.
2023.11.13 - OpenAI 샘 알트만의 반격..! 일론머스크와 대결 구도?

OpenAI 샘 알트만의 반격..! 일론머스크와 대결 구도?

샘 알트만은 ChatGPT로 생성형 AI 시대의 신호탄을 올린 OpenAI의 설립자이자 대표이사 입니다. 최근 일론머스크의 xAI 에서 대화형 AI Grok을 발표했었는데요, 여기에서 일론은 자신의 대화형 AI인 Grok

lapina.tistory.com

이제 인공지능이 PPT도 자동으로 다~작성해준답니다_Gamma App

오늘은 PowerPoint를 위협하는 PPT를 자동으로 생성해주는 놀라운 AI에 대해 자세히 살펴보려고 합니다. 개인적으로 너무 강력해서 깜짝 놀랐습니다. 함께 알아보시죠. PowerPoint는 전 세계에서 약 10

lapina.tistory.com

AI로 유튜브 제목 및 스크립트 자동 생성하는 방법(feat. Langchain, OpenAI, Streamlit)

안녕하세요! 오늘은 Langchain, Streamlit 그리고 OpenAI API를 활용하여 유튜브 제목과 스크립트를 자동으로 생성하는 웹 페이지를 만들어 볼 것입니다. 복잡해 보일 수 있지만, 한 단계씩 차근차근 해

lapina.tistory.com

저작자표시