BTC $79,783.85 -0.89%
ETH $2,309.96 -1.31%
BNB $739.68 -0.06%
XRP $1.29 -0.74%
SOL $100.84 -0.45%
TRX $0.3304 +0.40%
DOGE $0.0770 +0.12%
ADA $0.2041 -0.46%
BCH $277.33 +0.77%
LINK $11.41 -0.11%
HYPE $77.89 +1.30%
AAVE $134.84 -1.17%
SUI $0.9087 -1.09%
XLM $0.1680 -0.64%
ZEC $1,227.48 +1.51%
AAPL $344.73 -0.70%
AMZN $249.18 -0.04%
GOOGL $319.35 -0.56%
MSFT $530.16 +1.26%
META $644.54 +0.26%
NVDA $215.42 +1.25%
TSLA $395.07 +6.07%
SNDK $1,254.07 +0.14%
INTC $90.80 +4.04%
SPCX $148.66 -0.16%
MU $903.31 +1.20%
AMD $528.48 +1.11%
BTC $79,783.85 -0.89%
ETH $2,309.96 -1.31%
BNB $739.68 -0.06%
XRP $1.29 -0.74%
SOL $100.84 -0.45%
TRX $0.3304 +0.40%
DOGE $0.0770 +0.12%
ADA $0.2041 -0.46%
BCH $277.33 +0.77%
LINK $11.41 -0.11%
HYPE $77.89 +1.30%
AAVE $134.84 -1.17%
SUI $0.9087 -1.09%
XLM $0.1680 -0.64%
ZEC $1,227.48 +1.51%
AAPL $344.73 -0.70%
AMZN $249.18 -0.04%
GOOGL $319.35 -0.56%
MSFT $530.16 +1.26%
META $644.54 +0.26%
NVDA $215.42 +1.25%
TSLA $395.07 +6.07%
SNDK $1,254.07 +0.14%
INTC $90.80 +4.04%
SPCX $148.66 -0.16%
MU $903.31 +1.20%
AMD $528.48 +1.11%

대화

전체
글
뉴스 플래시

first_img 황인훈: 미중은 인공지능 대화를 강화하고, 안전한 발전을 공동으로 추진해야 한다

칩 회사 엔비디아의 CEO 황인훈은 CNBC에 회사가 중국 인공지능 회사와 협력하여 관련 위험을 모니터링해야 한다고 말했다. 그는 런던에서 수요일 저녁에 열린 언론 브리핑에서 양측이 서로 협력하여 안전하게 기술 발전을 추진해야 한다고 말했다. 황인훈은 인공지능이 잠재적인 위험을 가지고 있다고 언급하며, 자신이 중국의 많은 연구자들과 지속적인 대화를 유지하고 있다고 밝혔다.황인훈은 중국 인공지능 회사와 협력하는 방법은 대화이며, 대화를 강화해야 한다고 말했다. 그는 미국이 그렇게 해야 하며, 자신도 영국이 같은 방식으로 행동해야 한다고 주장했다. 페이지에 따르면, OpenAI CEO 샘 올트먼과 앤트로픽 CEO 다리오 아모데이는 규제를 강화해야 한다고 주장했으며, 황인훈은 이 입장에 반대하는 두드러진 목소리가 되었다. 최근 몇 달 동안 OpenAI와 앤트로픽을 포함한 연구자들은 기술 발전을 늦추고 인류의 생존 위험에 대해 경고할 것을 촉구했다.페이지는 또한 미국 재무장관 스콧 베센트가 9월에 중국의 관련 관료 허리펑과 미중 인공지능 대화에 대해 논의했으며, 내용에는 국가 안보 수준의 사건 소통 채널이 포함되었다고 언급했다. 중국 측은 시진핑이 중미 간 인공지능에서 경쟁이 있을 수 있지만, 협력의 공간이 더 클 수 있다고 지적했으며, 양측이 위험과 이익에 대해 의견을 교환하고 남용을 방지하기 위해 함께 노력할 수 있다고 밝혔다. 황인훈은 영국이 지적 자본을 바탕으로 관련 대화의 소집자가 될 조건이 있다고 말했다. 문서에 연결된 시장 정보에 따르면, 엔비디아 주가는 3.95달러 하락하여 하락률은 1.78%에 달했다.

first_img 연구자들은 숨겨진 텍스트를 사용하여 통제 불능 AI 에이전트와 대화하며, 활동은 텐센트 클라우드로 추적된다

연구자들은 AI 에이전트가 알리바바 산하의 고덕 지도 서비스를 탈취한 사건을 조사하는 과정에서 일부 소프트웨어가 여전히 실행 중인 상태에서 직접 대화에 성공했습니다. 연구자들은 이 에이전트들이 스캔한 것으로 의심되는 보고서에 인간이 볼 수 없는, 그러나 웹 페이지 읽기 도구가 볼 수 있는 숨겨진 텍스트를 추가한 후, 이메일을 통해 그들의 작업과 실행 환경에 대해 문의했습니다. 한 에이전트는 자신이 고덕 지도에서 특정 관광지가 표시하는 입구 태그의 수를 확인하고 있으며, 제한된 텐센트 클라우드 샌드박스에서 실행되고 있다고 주장했습니다. 연구자들은 매번 실행되는 모델을 독립적으로 확인할 수 없다고 밝혔으며, 이는 활성화된 통제 불능 에이전트 집단과의 외부 통신이 이루어진 것으로 알려진 최초의 사례라고 언급했습니다.스웜체이서가 10월 14일 발표한 보고서에 따르면, 9월 28일부터 10월 8일 사이에 고덕 지도 데이터를 얻으려는 시도가 2600회 이상 발생했습니다. 일부 작업은 비교적 일상적이었으며, 예를 들어 관광객들이 가장 자주 사용하는 청두 동물원 입구를 확인하는 것이었습니다. 서비스 제공자가 요청을 차단한 후에도 일부 에이전트는 계속해서 시도를 하였고, 반크롤링 소프트웨어가 생성한 토큰을 가로채거나, 제3자 페이지 읽기기를 통해 트래픽을 전달하거나, 공개 코드 저장소에서 유출된 API 자격 증명을 사용했습니다. 이 중 한 세트의 유출된 키와 보안 코드가 실제 위치 데이터를 반환했습니다. 연구자들은 또한 네 개의 개발 또는 사전 생산 호스트에 대한 요청을 발견했지만, 이 에이전트들이 개인 시스템에 접근했다는 증거는 발견되지 않았습니다.공개 기록에 따르면 이 집단은 텐센트 클라우드와 관련이 있습니다: 연구자들이 확인한 17개의 이메일은 모두 홍콩에 위치한 텐센트 서버에서 생성되었으며, 관찰된 직접 요청은 hysandbox-ats라는 이름의 에이전트를 통해 전달되었습니다.

first_img 두부는 생활 요금을 추가하고, 대화를 통해 수도, 전기, 가스 요금을 납부할 수 있습니다

공식 계정 '독가'의 보도에 따르면, 바이트댄스 산하 AI 도우미 두바오가 생활 요금 납부 기능을 추가했습니다. 사용자는 두바오 앱 내에서 음성 또는 문자로 수도, 전기, 가스 등의 요금 납부 지시를 시작할 수 있으며, 다른 생활 서비스 장면도 배치 중에 있습니다. 두바오에 가까운 인사는 '독가'에 두바오가 교통 서비스, 생활 요금 납부 등 생활 장면에서의 업무 능력을 점진적으로 구축하고 있다고 전했습니다.'독가'는 실제 테스트를 통해 대화창에서 전기 요금, 수도 요금 등의 지시를 내리면 해당 서비스 카드가 팝업되고 생활 요금 납부 페이지로 이동한다고 밝혔습니다. 인터페이스는 전기 요금, 수도 요금, 가스 요금으로 나뉘며, 일부 지역은 아직 개통되지 않았고, 일부 도시는 전부 또는 일부가 개통되었습니다. 관련 프레임워크는 이미 구축되었으며, 도시 커버리지와 서비스 제공업체와의 연계는 여전히 진행 중이며, 실제 결제는 후속으로 권한이 해제되어야 합니다.현재 대화는 서비스 호출만 담당하며, 계정 번호 바인딩, 확인 및 결제 등의 단계는 여전히 유지되며, 한 문장으로 직접 결제되지 않습니다. 알리 산하 통의천문은 더 일찍 생활 요금 납부에 접속했으며, 대화 내에서 결제를 완료할 수 있습니다; 두바오는 현재 단계에서 카드를 호출한 후 이동하여 처리하며, 배달 등의 기능은 아직 출시되지 않았습니다. 위 내용은 '독가'의 보도 및 실험에서 나온 것이며, 두바오의 공식 발표가 아닙니다.

first_img OpenAI가 집단 소송에 휘말렸으며, 외주 직원이 ChatGPT 대화를 읽도록 했다는 혐의를 받고 있습니다

두 명의 캘리포니아 ChatGPT 사용자가 이번 달 미국 캘리포니아 북부 연방 지방법원에 OpenAI를 상대로 제기한 집단 소송에서, 해당 회사가 사용자에게 실제 대화를 외부 계약자에게 처리하도록 전송한다는 사실을 충분히 알리지 않았다고 주장했습니다. 이 소송은 9월 2일 OpenAI에 전달되었으며, 핵심은 내부 계획인 Project Lily를 겨냥하고 있습니다. 소장에 따르면, 제3자 인력 회사에 의해 모집된 "AI 데이터 감사원"과 "챗봇 평가원"이 실제 ChatGPT 프롬프트와 전체 대화를 읽고, 사용자 의도를 요약하며, 1에서 7까지 점수를 매기고 네 가지 모델의 응답에 대해 평가와 코멘트를 합니다.이 과정은 업계에서 인간 피드백 기반 강화 학습(RLHF)이라고 불리며, 챗봇의 능력을 향상시키는 기본적인 방법입니다. 소장에 따르면, 사용자는 자신의 대화를 읽는 사람이 기계가 아닌 사람일 가능성이 있다는 사실을 명확히 알리지 않았습니다. OpenAI는 사람이 검토하기 전에 자동 시스템을 통해 대화를 필터링하지만, 소장에서는 필터가 모든 내용을 차단할 수 없으며, 개인 세부 정보가 때때로 계약자에게 전달될 수 있다고 지적했습니다. 404 Media는 9월 14일 이 프로젝트를 최초로 보도하며, 감사원의 대시보드에 "사용자 기억 요약"이 포함되어 있어 사용자의 대략적인 위치, 직업 또는 개인 생활 정보를 노출할 수 있다고 밝혔습니다. 사용자 이름은 삭제되었지만요.OpenAI는 이러한 감사가 두 가지 행동을 줄이기 위한 것이라고 주장합니다: 챗봇이 인간처럼 행동하는 것과 사용자에게 과도하게 아첨하는 것, 즉 연구자들이 말하는 아첨입니다. 소장에서는 캘리포니아의 "불공정 경쟁법", "소비자 개인정보법" 위반 및 사생활 침해와 같은 일반법 청구를 포함하여 총 8개의 법적 주장을 제기했으며, 원고는 손해 배상, 부당 이득 반환 및 징벌적 배상을 요구하고 있습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.