OpenAI는 인공 음성이 사용자를 끌어들일 것이라고 우려합니다.

OpenAI는 자사 AI의 사실적인 음성 기능으로 인해 인간 상호 작용을 희생하면서 사람들이 로봇에 애착을 갖게 될 수 있다는 점을 우려하고 있습니다.

샌프란시스코에 본사를 둔 이 회사는 다른 사람과 대화하는 것처럼 AI와 채팅하는 것이 부당한 신뢰로 이어질 수 있으며 GPT-4o 오디오의 고품질이 이러한 효과를 악화시킬 수 있다는 문헌을 인용했습니다.

OpenAI는 목요일 자사 AI ChatGPT-4o 버전에서 수행 중인 안전 작업에 대한 보고서에서 “인간화는 AI 모델과 같은 인간이 아닌 개체에 인간과 유사한 행동과 특성을 부여하는 것을 포함합니다.”라고 밝혔습니다.

“이러한 위험은 모델과 더욱 인간과 유사한 상호 작용을 촉진하는 GPT-4o의 음성 기능으로 인해 높아질 수 있습니다.”

OpenAI는 테스터들이 오늘이 함께하는 마지막 날이라고 큰 소리로 불평하는 등 공통의 유대감을 나타내는 방식으로 AI와 대화하는 것을 관찰했다고 말했습니다.

그녀는 이러한 상태가 양성인 것처럼 보이지만 장기간에 걸쳐 어떻게 발전할 수 있는지 연구해야 한다고 말했습니다.

OpenAI는 AI와의 사회화로 인해 사용자가 인간과의 관계에 있어 숙련도가 떨어지거나 관심이 줄어들 수 있다고 추측했습니다.

보고서는 “모델과의 확장된 상호작용은 사회적 규범에 영향을 미칠 수 있다”고 밝혔습니다.

“예를 들어, 우리 모델은 정중하게 사용자가 언제든지 방해하고 ‘마이크를 잡을’ 수 있도록 허용합니다. 이는 AI에서 예상되는 사항이지만 인간 상호 작용에서는 표준에 어긋납니다.”

OpenAI에 따르면, 대화 중에 세부 사항을 기억하고 작업을 수행하는 인공 지능의 능력은 사람들을 기술에 지나치게 의존하게 만들 수 있습니다.

표절 탐지 플랫폼 Copyleaks의 공동 창립자이자 CEO인 Alon Yamin은 다음과 같이 말했습니다. “ChatGPT의 음성 모드에 대한 의존 가능성에 대해 OpenAI가 표현한 최근 우려는 이미 많은 사람들이 묻기 시작한 것을 가리킵니다. 이제 멈추고 어떻게 해야 할지 생각해 볼 시간입니까? 이 기술은 참여와 관계에 영향을 미치고 있습니다.”

그는 AI가 결코 실제 인간 상호작용을 대체해서는 안 된다고 말했습니다.

OpenAI는 AI의 음성 기능이 어떻게 사람들을 감정적으로 연결시킬 수 있는지 추가 테스트할 것이라고 밝혔습니다.

ChatGPT-4o의 음성 기능을 테스트하는 팀은 또한 잘못된 정보를 반복하고 음모 이론을 생성할 수 있어 AI 모델이 그렇게 하도록 설득력 있게 지시할 수 있다는 우려를 불러일으켰습니다.

OpenAI는 지난 6월 여배우 스칼렛 요한슨(Scarlett Johansson)에게 최신 챗봇에서 그녀의 목소리와 매우 유사한 것을 사용한 것에 대해 사과해야 했고, 자사의 음성 복제 기술을 조명했습니다.

OpenAI는 자신이 사용한 목소리가 요한슨의 목소리라는 사실을 부인했지만, 소셜 미디어에서 “그녀”라는 한 단어 메시지로 새 모델을 언급한 CEO Sam Altman으로부터 그들의 주장은 지지를 받지 못했습니다.

요한슨은 이전에 알트만이 기술에 관해 자신이 가장 좋아하는 영화라고 말한 “Her”에서 인공 지능 캐릭터의 목소리를 맡았습니다.

2013년 제작된 이 영화는 호아킨 피닉스가 인공지능 비서 사만다와 사랑에 빠진 남자 역을 맡았다.

© 2024 Agence France-Presse