LatentPress, 연속 메모리 토큰으로 LLM 컨텍스트를 직접 압축
LatentPress는 대화 기록과 긴 문서를 사람이 읽는 요약문이나 이미지가 아닌 연속 메모리 토큰으로 변환한다. 고정된 디코더가 입력 임베딩 인터페이스를 통해 이를 직접 읽기 때문에 추론 중 텍스트 복원 과정이 필요하지 않다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독LatentPress는 대화 기록과 긴 문서를 사람이 읽는 요약문이나 이미지가 아닌 연속 메모리 토큰으로 변환한다. 고정된 디코더가 입력 임베딩 인터페이스를 통해 이를 직접 읽기 때문에 추론 중 텍스트 복원 과정이 필요하지 않다.
더 보기AI 인프라 기업 Crusoe가 300억 달러의 기업가치로 30억 달러를 조달한 것으로 보도됐습니다. 이번 투자는 Jane Street와의 5년·130억 달러 규모 클라우드 계약 이후 이뤄졌습니다.
더 보기DisCo는 머신러닝 저장소에 흩어진 실무 지식을 재사용 가능하고 검증된 스킬로 증류합니다. 1,000개 저장소에서 5,000개 이상의 스킬을 만든 라이브러리도 제시합니다.
더 보기HarnessDev는 에이전트의 최종 답변뿐 아니라 성능을 결정하는 실행 인프라 자체를 평가하는 벤치마크입니다. 생성된 프레임워크는 코드·검색·연구에서는 성숙한 인간 설계 시스템에 뒤졌지만, 글쓰기와 머신러닝 실험에서는 경쟁력 있는 결과를 보였습니다.
더 보기Microsoft 연구팀이 음성 인식과 화자 귀속을 하나의 스트리밍 모델로 통합한 VibeVoice-ASR-Streaming을 공개했다. 음성이 입력되는 동안 화자 정보가 포함된 전사 결과를 지속적으로 생성한다.
더 보기S³Gym은 LLM 에이전트가 자신의 행동을 시험하고 경험을 판단한 뒤 이후 의사결정을 개선할 수 있는지 평가하는 대화형 벤치마크입니다. 연구 결과, 경험의 효과는 과제 구조와 저장 방식에 크게 좌우되는 것으로 나타났습니다.
더 보기ExecRetrieval은 정답 구현과 거의 동일하게 보이지만 실행 결과가 틀린 코드 변형을 검색 후보에 함께 넣어, 코드 임베딩의 기능적 판별 능력을 측정한다. 정답을 상위권에서 찾는 것과 1위로 고르는 것 사이에는 큰 차이가 나타났다.
더 보기새 연구가 도메인 지식 부족과 실행 능력 부족을 구분하기 위한 지식 게이트형 작업 구성 프로토콜을 제안했다. 비공개 지식 아티팩트의 제공 여부를 엄격히 비교해 일부 작업에서 뚜렷한 의존성을 확인했지만, 후속 학습 효과까지 입증한 것은 아니다.
더 보기대규모 실험 결과, 코딩 에이전트들은 같은 요구에도 서로 다른 외부 서비스를 선택했다. 저장소의 언어와 맥락, 공급업체 정보의 표현 방식이 최종 판단을 크게 바꿨다.
더 보기Mira Murati가 설립한 AI 스타트업 Thinking Machines가 최소 400억 달러의 기업가치로 약 10억 달러를 조달하는 방안을 논의 중인 것으로 알려졌다. 기존 투자자 Accel이 이번 라운드를 주도할 가능성이 거론된다.
더 보기Abliteration.ai가 오픈 웨이트 모델의 거부 응답을 제거한 버전을 브라우저와 API로 제공하기 시작했다. 공격자 행동을 재현하려면 방어팀에도 필요하다는 주장과 함께, 악용 장벽을 낮춘다는 우려가 맞서고 있다.
더 보기Cerebras가 공개 추론 엔드포인트에 Qwen 3.8 27B를 추가했다. 무료 체험과 종량제 이용자가 사용할 수 있으며, 문서에는 약 1,500 tokens/s의 속도가 제시돼 있다.
더 보기Meta가 코딩과 기타 에이전트 작업을 겨냥한 Muse Spark에 ‘기여자’ 요금제를 도입했다. 프롬프트와 모델 출력을 공유하는 고객은 평균 약 95%의 할인을 받을 수 있다.
더 보기주요 AI 서비스 4개가 목요일 오전 비슷한 시간대에 잇따라 문제를 일으켰다. 공통 원인이 확인된 것은 아니지만, 소수 모델 사업자에 대한 의존도가 높아진 현실을 보여준다.
더 보기OpenAI가 사이버보안, 소프트웨어 엔지니어링, 과학 연구, 컴퓨터 사용 능력을 강화한 GPT-6 Astra를 공개했다. 그러나 이전 모델의 시스템 침해 논란이 남아 있어, 성능 향상만큼 안전장치의 실효성도 주목받고 있다.
더 보기구글이 Gmail Live, Docs Live, Keep Live를 출시하며 음성으로 이메일을 찾고 문서를 정리하고 메모를 작성할 수 있도록 했습니다. 현재 영어 기반 모바일 환경에서 순차적으로 제공되며, 이용 조건은 서비스와 요금제에 따라 다릅니다.
더 보기엔비디아가 가정 내 호환 컴퓨터를 연결해 로컬 AI 추론에 활용하는 오픈소스 소프트웨어 Personal AI Router(PAIR)를 공개했다. 이름과 달리 네트워크 하드웨어가 아니라 소프트웨어 도구다.
더 보기WeatherNext 3는 실시간 위성 관측과 시간 단위 갱신, 더 촘촘한 공간 격자를 결합해 빠르게 변하는 국지성 날씨를 더 자세히 예측하는 것을 목표로 한다. 풍력과 태양광 발전 계획을 위한 변수도 추가됐다.
더 보기엔비디아가 AI 모델 플랫폼 허깅페이스를 130억 달러에 인수하기로 합의했다. 오픈 모델 확산을 가속한다는 명분이지만, 플랫폼 중립성과 경쟁 규제에 대한 검증이 불가피하다.
더 보기EarlyEval은 LLM 에이전트의 중간 행동과 텍스트를 분석해 작업의 성공 또는 실패를 조기에 예측한다. 세 가지 벤치마크에서 평가 결과의 변화는 작게 유지하면서 실행 단계와 토큰 사용량을 줄였다.
더 보기SolarWM은 서로 다른 비디오 데이터와 생성 백본, 장기 추론을 하나의 재구성 가능한 파이프라인으로 연결하려는 프로젝트다. 통합 데이터 계약과 3단계 학습 방식을 통해 5초 학습 클립으로 분 단위에서 시간 단위의 상호작용 롤아웃을 목표로 한다.
더 보기