Open AI는 음성을 복사할 수 있는 새로운 AI 모델에 대해 걱정

Open AI는 사람들이 자신의 음성을 복사할 수 있는 새로운 AI 모델에 대해 걱정하고 있다는 것을 알고 있습니다
Open AI는 AI가 만든 음성 도구 사용의 위험성을 인식하고 있다고 밝혔습니다.
이 AI 회사는 아직 완전히 출시되지 않은 "음성 엔진" 도구에 대한 세부 정보를 공개했습니다.
이 회사는 보안 단계를 나열했으며 모델이 널리 출시될지 여부는 확인하지 않았습니다.
OpenAI는 AI가 생성한 음성 도구가 비즈니스가 될 수 있다는 것을 알고 있습니다.

새로운 합성 음성 도구의 초기 테스트 단계 결과를 공유하는 블로그 게시물에서 인공지능 회사는 특히 선거 연도에 사람의 목소리를 복제하기 위해 AI를 사용하는 것에 대한 우려를 해결했습니다.

OpenAI가 2022년 말 처음 개발했다고 밝힌 '보이스 엔진' 도구는 실제 사람 목소리의 15초 분량의 오디오 클립을 사용해 그 목소리의 아주 사실적인 인간 sounding 복제품을 만듭니다.

그리고 사용자는 그 목소리가 다른 언어로도 무엇이든 말하게 할 수 있습니다.
이 도구는 아직 대중에게 제공되지 않으며, OpenAI는 여전히 "이 기술을 대규모로 구현할지 여부와 방법"을 고려하고 있다고 밝혔습니다

"우리는 사람들의 목소리를 닮은 연설을 만드는 것이 심각한 위험을 가지고 있다는 것을 인식하고 있으며, 이는 선거의 해에 특히 가장 중요합니다."라고 OpenAI는 블로그 게시물에 썼습니다. "우리는 정부, 미디어, 엔터테인먼트, 교육, 시민 사회 및 그 너머의 미국 및 국제 파트너들과 협력하여 우리가 구축하는 동안 그들의 피드백을 통합하고 있는지 확인하고 있습니다."

OpenAI는 현재 이 도구를 사용하여 ChatGPT의 "큰 소리로 읽기" 기능과 회사의 텍스트 speech API를 지원하고 있다.

작년 말, OpenAI는 아이들의 교육 자료, 언어 번역 및 의료 음성 복구와 같은 것들을 위해 보이스 엔진을 테스트하기 위해 "신뢰할 수 있는 파트너들의 소규모 그룹"으로 묘사된 도구를 외부로 확장하기 시작했다고 회사는 게시물에서 밝혔습니다.

OpenAI는 파트너 조직들이 보이스 엔진을 사용하려면 모든 개인의 동의를 얻고 청취자에게 음성이 인공지능에 의해 생성된다는 사실을 알리는 등 엄격한 정책을 따라야 한다고 강조했습니다.

"우리는 합성 음성 오용의 가능성 때문에 더 광범위한 공개에 신중하고 정보에 입각한 접근을 하고 있습니다."라고 회사는 썼습니다. "우리는 합성 음성의 책임 있는 배치와 사회가 이러한 새로운 능력에 어떻게 적응할 수 있는지에 대한 대화를 시작하기를 희망합니다."

이 회사는 이 도구를 일반 대중에게 공개할지는 아직 확실하지 않다고 말했지만, 정책 입안자들과 개발자들에게 자사가 개발 중인 기술의 위험한 오용을 방지하기 위한 조치를 취하도록 촉구했습니다.

예를 들어, OpenAI는 정치인이나 유명인과 같은 저명한 목소리의 비동의적 복제를 방지하기 위해 "금지 음성 목록"을 제정할 것을 제안했습니다.

이 회사는 또한 은행이 음성 기반 보안 인증 사용을 중단하고 연구원들이 음성이 진짜인지 가짜인지 추적하는 기술을 개발할 것을 권장했습니다.