한국어 목소리 더한 챗GPT, 합성 음성 안전시험 네 항목은 전작보다 낮아졌다

AI 음성의 새로운 목소리를 고를 때는 억양만 들을 일이 아니다. OpenAI는 15일 GPT-Live-1.1과 가벼운 버전인 GPT-Live-1.1 Quip을 ChatGPT Voice에 순차 배포하며 한국어 음성 ‘햇살’과 ‘한울’을 추가한다고 알렸다. 그러나 같은 날 발표한 시스템카드는 정교하게 만든 어려운 음성 질문에서 주력 모델 1.1이 전작 GPT-Live-1보다 성적 콘텐츠, 정신건강, 정서적 의존, 잔혹·유혈 표현 네 범주에서 통계적으로 유의하게 낮은 안전 성적을 냈다고 밝혔다. 새 목소리의 매력과 안전시험 결과를 한 화면에서 읽어야 한다는 것이 이번 변화의 핵심이다. [V1][V2][V3]

이 결과를 ‘한국어 사용자에게 위험이 네 배 늘었다’고 말할 수는 없다. 네 개는 위험의 범주이지 피해 배수가 아니다. 문제 문항은 정책의 경계와 드문 사례를 노려 합성한 음성을 입력해 만든 것이다. OpenAI 스스로도 이 시험이 일반 서비스 대화의 문제 발생률을 나타내지 않는다고 설명한다. 실제 사용자가 공유한 음성에서 만든 다른 평가에서는 전작 대비 통계적으로 유의한 후퇴가 관측되지 않았다. 더구나 합성 평가에는 위기 지원 안내, 보호자 통제 같은 제품 차원의 추가 조치가 들어가지 않았다. 두 평가가 가리키는 범위가 다르므로 한쪽으로 다른 쪽을 지울 수 없다. 공개된 자료에서는 한국어 문항만의 성적, 이용 중 피해 빈도, 독립 재현 결과를 확인하지 못했다. [V2]

사용 조건도 목소리의 인상과 다르다. OpenAI의 안내에 따르면 새 음성은 지역과 계정에 따라 보이는 종류가 달라질 수 있다. 설정의 Voice → Voice에서 선택한다. 무료 계정은 Quip을 제한적으로, Go 계정은 Chat 모드에서 Quip을 24시간 이동 구간에 3시간, Plus는 Chat 모드에서 GPT-Live-1.1을 같은 구간에 3시간 쓸 수 있다고 안내한다. 이 수치는 해당 음성 기능의 한도이지 한국 시장의 구독료가 아니다. 국내 원화 결제 금액·세금과 개별 계정의 표시 상태는 확인하지 못했다. Live에는 현재 영상·화면 공유가 없고, 그 기능이 필요한 사람은 계정 조건에 맞는 별도 Advanced Voice 안내를 확인해야 한다. [V3]

교사나 가족이 음성 AI를 함께 쓴다면 새 음성의 부드러움이 사실 확인을 대신하지 못한다. 정신건강 상담이나 민감한 조언을 받았을 때는 응답 내용과 근거를 따로 확인하고, 필요한 경우 사람의 전문 지원을 찾는 편이 안전하다. 이것은 이번 시험이 특정 한국어 답변의 실패를 증명했다는 뜻이 아니라, 회사가 직접 밝힌 평가 한계에 기초한 편집부의 사용 판단이다. 음성 대화 기록이 중요한 경우에도 주의가 필요하다. OpenAI는 Live 음성 클립을 대화 기록과 함께 30일 보관하며, 삭제 요청 뒤에도 보안·안전·법률상 사유 등이 있으면 예외가 생길 수 있다고 설명한다. 화면에 남는 전사는 실제 발화를 한 글자씩 옮긴 기록이 아닐 수 있다. [V3]