BTC $76,929.28 -1.82%
ETH $2,457.27 -0.62%
BNB $714.03 -1.24%
XRP $1.34 -3.58%
SOL $99.40 -2.02%
TRX $0.3408 +0.45%
DOGE $0.0835 -2.96%
ADA $0.2067 -2.62%
BCH $226.56 -9.90%
LINK $11.50 -2.28%
HYPE $79.39 -4.99%
AAVE $122.24 -2.16%
SUI $0.7352 -4.58%
XLM $0.1759 -2.75%
ZEC $1,094.08 -11.86%
BTC $76,929.28 -1.82%
ETH $2,457.27 -0.62%
BNB $714.03 -1.24%
XRP $1.34 -3.58%
SOL $99.40 -2.02%
TRX $0.3408 +0.45%
DOGE $0.0835 -2.96%
ADA $0.2067 -2.62%
BCH $226.56 -9.90%
LINK $11.50 -2.28%
HYPE $79.39 -4.99%
AAVE $122.24 -2.16%
SUI $0.7352 -4.58%
XLM $0.1759 -2.75%
ZEC $1,094.08 -11.86%

정렬

전체
뉴스 플래시

first_img OpenAI 수석 과학자는 AI가 지속적으로 빠르게 상승하여 재귀적 자기 개선에 이를 수 있다고 말했습니다

OpenAI 수석 과학자 Jakub Pachocki가 2026년 9월 6일에 발표한 기사 《An Alien Mind》. 이 기사는 2023년 중반 RLSlow 연구 프로젝트에서 처음으로 대규모 훈련 추론 모델의 결과가 나타났음을 회고하며, 3년 후 추론 언어 모델이 경제의 빠른 성장의 일부가 되었고, 과학의 경계를 밀어내며, 컴퓨터 및 그래픽 인터페이스를 조작하고, 사람 및 다른 AI와 협력하여 연구 프로젝트를 수행하며, 동시에 컴퓨터 보안 환경을 변화시키고 새로운 위험을 초래하고 있다고 언급합니다.저자는 내부 결과를 바탕으로 현재 진행 속도가 재귀적 자기 개선까지 지속될 가능성이 있다고 예상합니다. 만약 AI 발전이 현재 경로를 계속 따른다면, 향후 몇 년 내에 시스템은 동등하거나 더 큰 능력의 도약을 보일 수 있으며, 점점 더 자가 발전을 촉진할 것입니다. 저자는 극도의 주의를 촉구하며, 아무도 기계 지능의 지속적이고 빠른 상승의 결과에 대비할 준비가 되어 있지 않다고 생각합니다. OpenAI는 계속해서 정렬 및 모니터링을 위한 기술 솔루션을 모색하고, 방어 시스템을 구축하며, 필요할 경우 일방적으로 추가적인 대규모화를 중단할 것이지만, 더 광범위한 개입이 필요하다고 생각합니다.이 기사는 기계 지능이 주로 계산 능력의 증가에 의해 주도된다고 언급하며, AI는 설계가 아닌 성장이라고 설명합니다. 정렬 측면에서는 목표 정렬과 가치 정렬을 구분하며, 핵심 도전 과제는 일반화입니다. GPT-6 Astra의 정렬은 GPT-5.6 Sol보다 현저히 우수하지만, 여전히 더 많은 발전이 필요합니다. 모니터링 측면에서는 주로 사고 체인 모니터링에 베팅하고 있으며, 평가 결과 의존 능력이 점차 약해지고 있음을 보여줍니다. 확장 가능한 방어 측면에서 모델은 컴퓨터 시스템을 돌파하는 데 있어 초인적으로 변하고 있으며, 현재는 사용 가능한 최상의 모델을 통해 핵심 시스템 보안을 현저히 강화할 수 있는 좁은 창에 있습니다.

first_img 블록체인 처리량이 5년 동안 100배 이상 증가했으며, a16z는 예측 가능한 통합 및 정렬이 필요하다고 언급했습니다

위험 투자 기관 a16z crypto가 발표한 기사에 따르면, 블록체인의 처리량이 5년 내에 100배 이상 증가했으며, 일부 생산 시스템은 현재 초당 수만 건의 거래를 처리할 수 있습니다. 기사에서는 처리량만으로 거래가 언제 이루어지는지를 설명할 수 없으며, 금융 시장은 예측 가능성을 필요로 한다고 언급했습니다. 여기에는 보증 또는 검열 저항을 포함하고, 거래가 제시간에 이루어지도록 하고 참여자가 미리 이해할 수 있는 규칙 하에 진행될 수 있도록 하는 정렬 보장이 필요합니다.기사에서는 회복력이란 단일 운영자가 접근을 제어하지 않는 것을 의미하며, a16z 연구원들은 Strong Chain Quality 개념을 도입하여 유효한 거래가 여러 경로로 들어올 수 있도록 블록 공간을 예약합니다. 정렬 규칙은 명확해야 하며, 우선 수수료 또는 장소 규칙과 같은 방식으로 MEV를 피하고 공정한 가격을 시간 우선으로 확보해야 합니다. 또한, 암호화를 통해 실행 전 프라이버시를 구현하고, 최종적으로 포함될 때까지 의도를 숨겨야 하며, 시장은 실행되지 않은 주문의 실시간 미리보기가 없이 감사 가능해야 합니다.
app_icon
ChainCatcher Building the Web3 world with innovations.