시작페이지로 l 즐겨찾기 l RSS l 편집 2024.09.11 [07:50]
전체기사
독일 예술가 마티아스 베프(Mathias Vef)와 디자이너 베네딕트 그로스(Benedikt Groß)는 동의 여부와 관계없이 피사체의 옷을 즉시 벗기는 "딥페이크 카메라"를 만들기 위해 협력했다. NUCA라고 불리는 이 카메라는 AI를 사용하여 몇 초 만에 옷을 입은 거의 모든 사람의 누드 사진을 생성하는 소비자 크기의 장치이다. 물론, 컴팩트 카메라 형태의 명백한 개인 정보 침해이다. 그러나 베프와 그로스는 생성형 AI가 현실 그 자체를 어떻게 부식시키고 있는지, 도발적인 판매 홍보로 포장된 두드러진 요점이라는 훨씬 더 광범위한 메시지를 전달하기 위해 스턴트를 사용하고 있다고 패스트 컴퍼니(Fast Company)는 보도했다.
"NUCA는 이미 신체 숭배와 아름다움에 대한 AI의 편견에 대한 두려움부터 자연스러운 인간의 아름다움과 형태를 기념하는 것에 대한 열정에 이르기까지 다양한 반응을 불러일으켰다." "이 프로젝트는 AI의 잠재력에 대한 중요한 논의를 촉발하고 동의, 알고리즘 공정성 및 AI 생성 이미지의 사회적 영향을 강조합니다."
현재 형태의 NUCA 카메라는 3D 설계 및 프린팅 부품으로 만든 15온스 컴팩트 카메라이다. 내장된 스마트폰은 이미지를 캡처하여 Stable Diffusion 엔진으로 보낸다. AI 모델은 AI가 생성한 완전한 나체에 실제 피사체의 얼굴을 추가한다. "처리 시간은 10초로 매우 짧습니다"라고 Vef는 Fast Company에 말했다. "과제 중 하나는 이미지 생성 시간을 줄이는 것이었습니다. 우리는 대부분 공개적으로 사용 가능한 도구를 사용했지만, 이를 매우 효율적인 방식으로 결합하여 작동하는 장치에 넣는 것은 이전에는 시도되지 않은 작업이었습니다."
실제로 누군가의 사생활을 침해하려는 것은 Vef와 Groß의 의도가 아니다. 이 시점에서 NUCA는 주로 예술적 표현을 위해 설계된 작업 프로토타입에 지나지 않는다. 두 사람은 올 여름 베를린에서 열리는 전시회에서 프로토타입을 선보일 계획이다. 현재 형태의 NUCA 카메라는 3D 설계 및 프린팅 부품으로 만든 15온스 컴팩트 카메라이다. 내장된 스마트폰은 이미지를 캡처하여 Stable Diffusion 엔진으로 보낸다. AI 모델은 AI가 생성한 완전한 나체에 실제 피사체의 얼굴을 추가한다.
"처리 시간은 10초로 매우 짧습니다"라고 Vef는 Fast Company에 말했다. "과제 중 하나는 이미지 생성 시간을 줄이는 것이었습니다. 우리는 대부분 공개적으로 사용 가능한 도구를 사용했지만, 이를 매우 효율적인 방식으로 결합하여 작동하는 장치에 넣는 것은 이전에는 시도되지 않은 작업이었습니다."
실제로 누군가의 사생활을 침해하려는 것은 Vef와 Groß의 의도가 아니다. 이 시점에서 NUCA는 주로 예술적 표현을 위해 설계된 작업 프로토타입에 지나지 않는다. 두 사람은 올 여름 베를린에서 열리는 전시회에서 프로토타입을 선보일 계획이다.
사람들을 완전히 발가벗겨주는 카메라? 슈퍼맨의 X-Ray Vision에 대해 환상을 가져본 적이 있나요? NUCA는 (많은 소년들의) 어린 시절 꿈을 현실로 만들어 프라이버시와 노출에 대한 우리의 인식에 도전합니다. 프로젝트는 실현되는 "꿈"이 무엇을 의미하는지 탐구하고 이 새로운 시나리오를 여러분과 함께 탐색하기를 원합니다. NUCA 장치는 다른 딥페이크와 달리 생성자와 주체를 물리적으로 연결하고 결과를 즉시 보여줍니다. 이는 인터넷 딥페이크에 내재된 익명성을 제거하고 이러한 악몽 같은 추세와 장난기를 대조합니다. 이 추측적인(매우 그럴듯하지만) 시나리오를 현실화하기 위해 NUCA는 일반적인 기술 스타트업의 방식으로 구성되어 비공개 베타 캠페인을 통해 사용자를 찾으려고 노력합니다.
NUCA는 투기적 소비자 제품이며 "야생"에서 통제되지 않은 상태로 사용할 수 없습니다. 생성된 이미지는 명시적인 동의 없이는 어떤 방식으로도 사용되지 않습니다. 미성년자의 안전을 보장하기 위해 이 프로젝트는 성인 전용입니다.
NUCA는 이미 신체 숭배와 미용 마니아에 대한 AI의 편견에 대한 두려움부터 자연스러운 인간의 아름다움과 형태를 찬양하는 열광에 이르기까지 다양한 반응을 불러일으켰습니다. 이 프로젝트는 AI 생성 이미지의 동의, 알고리즘 공정성 및 사회적 영향을 강조하면서 AI의 잠재력에 대한 중요한 토론을 촉발합니다. Emanuel Maiberg와 Samantha Cole이 말했듯이, 우리는 "인터넷 인프라의 모든 틈에서 새어나오는 합의되지 않은 성적 이미지의 폭발적인 증가"에 직면해야 합니다. 사용자가 단어로 설명할 수 있는 모든 성적 이미지를 즉시 생성하기 위해 복사되고 리믹스되는 메모리입니다.” [ 원천 ]
현재 NUCA 프로토타입은 3D 프린팅된 카메라(19.5 × 6 × 1.5 cm, 430g)입니다. 이 장치에는 37mm 광각 렌즈와 인체공학적 그립이 장착되어 있습니다. 뷰파인더는 입력 이미지를 표시하고 실시간으로 포즈 감지와 같은 일부 입력 매개변수를 표시하도록 구성할 수 있습니다. 트리거를 누르면 카메라는 사진을 찍는 사람의 자연스러운 누드 표현을 생성합니다. 생성 이미지 프로세스의 입력은 사진, 사람의 포즈(추정 골격) 및 사람 얼굴의 랜드마크입니다. 입력 사진은 성별, 나이, 민족, 표현, 머리카락, 안경, 체형 등에 대한 45개 식별자에 대한 사용자 정의 분류기에 의해 분석되고 있습니다. 그런 다음 이러한 평가는 텍스트 메시지에 대한 프롬프트를 공식화하여 기본 이미지를 생성하는 데 사용됩니다. -이미지 AI(안정적 확산). 기본 이미지는 이 프롬프트를 충족하는 누드 인물의 일반적인 추정입니다. 마지막 단계에서는 누드 초상화의 최종 개발 과정에서 인물의 얼굴과 포즈를 고려하여 이미지를 개별화합니다.