이전에는 기술 오용의 위험 때문에 사용자가 이 기능을 사용할 수 없었지만, 폭력적인 장면뿐만 아니라 성적 또는 정치적인 내용이 포함된 이미지를 제거하는 필터 작업을 개선한 후 OpenAI는 이것을 만들기로 결정했습니다. 공개적으로 사용 가능한 도구 - 적어도 엘리트 서클에 들어간 사람들은 DALL-E 신경망과 함께 작업하도록 승인되었습니다.
새로운 기능을 통해 사용자는 다양한 방식으로 이미지를 편집할 수 있습니다. 예를 들어, 어떤 사람의 사진을 업로드하고 얼굴 특징, 의복 또는 헤어스타일을 변경할 수 있습니다. 의심할 여지 없이 이 도구는 예술가, 사진 작가 및 기타 창의적인 직업 대표자들 사이에서 인기를 끌 것입니다.
"보안 개선 덕분에 DALL-E는 이제 딥페이크의 잠재적 위험을 최소화하면서 이러한 매력적이고 중요한 기능을 지원할 준비가 되었습니다."라고 OpenAI 경영진이 고객에게 보낸 편지에서 읽습니다.
이 결정은 기술의 잠재적인 오용에 대해 AI 제작자와 사용자 간에 진행 중인 논의의 일부였습니다. DALL-E는 구두 요청에 따라 이미지를 생성하는 강력한 신경망인 비영리 조직 OpenAI의 제품임을 상기하십시오. 베타 테스트 모드입니다.
지금까지는 다소 조심스러운 접근을 해왔으나 최근에는 이러한 문제에 그다지 세심하지 않은 경쟁자들이 OpenAI를 우회하고 사용자를 밀렵하기 시작했습니다. 따라서 Stable Diffusion을 사용하면 이미 유명인의 사실적인 가짜 이미지를 만들 수 있다고 Verge는 말합니다.
이제 OpenAI는 DALL-E에 필터를 구현하여 법률 및 품위 규칙을 위반하지 않고 사진 및 비디오에서 얼굴 편집 기능을 사용할 수 있습니다. 프로그램의 이용약관은 사람들의 동의 없이 이미지를 업로드하는 것을 금지하고 있지만, 현재의 접근 모델에서 이 계약 조항을 실제로 시행하는 것은 거의 불가능합니다. 그러나 완벽한 필터는 없으며 묘사된 사람의 동의 없이 직접 음란물보다 더 미묘한 형태의 학대가 많이 있습니다.
인공 지능 DALLE-2는 텍스트 설명에서 사실적인 이미지를 생성하지만, 인공 지능과 유사한 신경망이 그 결과를 정확히 달성하는 방법은 대부분 알려지지 않았습니다. 여름 초, OpenAI 개발자들은 흥미로운 주장을 펼쳤습니다. 즉, 그들의 모델이 묘사된 물체에 대해 이야기하기 위해 고유한 비밀 언어를 발명했다는 것입니다.
2022-09-22 16:45:40
작가: Vitalii Babkin