Meta가 Muse의 전화 테스트를 롤백했으며, 일부 통화는 실제 사람이 수행했습니다

404 미디어와 로이터가 입수한 내부 소식에 따르면, 메타는 뮤즈 "전화를 대신 걸어주는" 테스트를 확대한 후 일부 전화가 실제로는 사람에 의해 이루어졌다고 보도되었습니다. 뮤즈는 작업을 콜센터의 실제 계약자에게 전달할 수 있으며, 그들이 사용자 대신 전화를 걸고 요청을 완료합니다. 일부 테스트 참가자는 전화가 끝날 때까지 사람이 개입했음을 알지 못했습니다.

메타는 이 방법을 채택한 주된 이유는 성공률을 높이기 위해서입니다. 회사 내부 테스트에 따르면, 사람이 개입한 후 전화 작업의 성공률은 95%에서 98%에 이를 수 있으며, 이는 순수 AI보다 높습니다. 일부 상인은 상대방이 AI라는 말을 듣고 바로 전화를 끊기도 하며, 커뮤니티에서도 테스트 참가자들이 뮤즈가 자신이 AI 비서라고 밝힌 후 전화를 끊었다고 전했습니다.

사람의 개입은 개인 정보 문제를 초래합니다. 사용자는 원래 정보가 AI에게만 전달된다고 생각했지만, 실제로는 외주 직원이 볼 수 있습니다. 메타 내부에서도 계약자에게 개인 정보 교육을 제공하는 것이 진정한 안전 메커니즘과 같지 않다는 의문이 제기되었습니다. 메타의 한 책임자는 이후 테스트 참가자에게 사람이 개입할 것이라고 미리 알리지 않은 것은 실수였다고 인정하며, 이 기능을 롤백했다고 밝혔습니다. 메타는 전화 기능이 여전히 테스트 중이며, 앞으로 안전, 개인 정보 및 명확한 고지가 이루어진 후에야 공식 출시될 것이라고 전했습니다.