SOWN - Daily News | Daily News #2026-10-02

동시 자동 회귀 추론을 위한 Decode-Latency Feedback Prefill 제안

LiteLLM의 Docker 이미지 서명 검증 방법 및 변경 사항

llama.cpp의 새 기능 및 운영 체제 지원 사항

NVIDIA DOCA 에이전트로 개발 속도 향상

구글, Gemini 4 Argon 모델 발표

NVIDIA의 HSTU 생성 추천 시스템 배포 방법

AI 에이전트, 13,000개 회사 내부 스크린샷 공개

TopK 최적화 결정 과정에 대한 이야기

Claude, 미국 정부 기관에 배포 시작

LangChain OpenAI 1.6.7 버전 발표

오픈AI, 보호된 추론에 대한 해킹 시도 차단

GitHub Copilot의 VS Code 에이전트 지원과 최신 기능 발표

Git 3.0, SHA-256 해시로의 전환 계획 비판

Cloudflare의 K2 공개 베타 출시, 내구성 있는 순서형 로그 제공

OpenAI Codex Multi Agents v2의 모델 선택 기능

LIFT 모델: 혁신적인 트랜스포머 구조

구글, Docs에서 프로그래밍 방식의 댓글 관리 기능 제공

MODE-HOPPING: 모델 훈련中的 응답 패턴 변화

한국, AI 개발 속도조절 필요성 논의

Opus 5.5로 54시간 동안 지속적으로 Minecraft 모드 개발

동시 자동 회귀 추론을 위한 Decode-Latency Feedback Prefill 제안

동시 자동 회귀 추론은 새로운 긴 프롬프트를 미리 채우는 과정에서 토큰 요청 간의 간섭 문제를 야기한다. 이를 해결하기 위해 고정된 미리 채우기 청크를 통해 간섭을 줄이지만, 최적의 청크 크기는 모델, 하드웨어, 부하, 지연 목표에 따라 다르다. 본 연구에서는 DLFP라는 모델-프리 컨트롤러를 도입하여 활성 디코드와 겹치는 미리 채우기 작업만 조정하게 된다. NVIDIA A100 80GB GPU를 기준으로 진행된 실험에서는 Qwen3-0.6B 모델에서 P99 간섭 지연을 평균 27.7% 줄였으나, 첫 번째 토큰까지의 평균 P99 시간은 34.8% 증가하였다. 그러나 이 방식은 다른 모델에는 일반화되지 않으며, 향후 CPU와 기기 내 동시 추론을 위한 제어 방식 개발 필요성을 남긴다. 한국 개발자는 DLFP와 같은 접근 방식을 통해 성능 최적화 알고리즘을 적용할 수 있다.

원문에서 자세히 보기: arXiv cs.AI

LiteLLM의 Docker 이미지 서명 검증 방법 및 변경 사항

LiteLLM의 모든 Docker 이미지는 cosign으로 서명되며, 각 릴리스는 특정 커밋 해시를 통해 서명 키가 변하지 않았음을 확인할 수 있다. 사용자는 두 가지 방법으로 서명을 검증할 수 있으며, 첫 번째는 고정된 커밋 해시를 사용하는 방법이고, 두 번째는 릴리스 태그를 사용하는 방법이다. 최신 업데이트에는 Azure 코드 인터프리터 컨테이너 파일 커버리지, Redis 파이프라인 동기화, OpenAI 이미지 가격 캐시 추가 등이 포함되었다. 또한 langfuse SDK의 버전 4로의 마이그레이션, Auth 캐시 무효화 전파 및 Rust 레지스트리 검증 기능도 추가되었다. 한국 개발자는 이 기능을 활용하여 Docker 이미지의 보안성을 높이고, 새로운 기능을 적용할 수 있다.

원문에서 자세히 보기: LiteLLM Releases

llama.cpp의 새 기능 및 운영 체제 지원 사항

이번 업데이트에서는 텐서를 두 번째로 전체 복사하지 않고 직접 입출력을 통해 메모리 사용을 최적화하는 ‘llama-mmap’ 기능이 추가됐다. 지원되는 운영 체제는 macOS(Apple Silicon 및 Intel) 및 여러 Linux 배포판(예: Ubuntu x64, arm64)과 Windows(x64, arm64)이다. Android와 openEuler 플랫폼도 지원되며, 각각의 설정 가이드가 제공된다. 업데이트는 NVIDIA의 CUDA 12 및 13 버전 라이브러리를 포함하여 다양한 성능 최적화를 포함한다. 한국 개발자는 각 플랫폼에 맞춰 최적화된 AI 모델을 활용할 수 있다.

원문에서 자세히 보기: llama.cpp Releases

NVIDIA DOCA 에이전트로 개발 속도 향상

NVIDIA는 AI 에이전트를 개발 워크플로에 통합하는 방법을 제시하며, DOCA 아키텍처를 통해 애플리케이션을 더 빠르게 구축할 수 있는 기술을 소개한다. DOCA는 데이터 센터의 네트워킹 및 컴퓨팅 자원을 최적화하기 위한 소프트웨어 플랫폼으로, 다양한 AI 에이전트 기능을 활용해 전문화된 인프라 소프트웨어와의 연계를 지원한다. 이를 통해 개발자들은 신속한 프로토타입 제작과 성능 향상을 이룰 수 있으며, 복잡한 인프라를 간소화할 수 있다. 향후 DOCA를 활용한 개발 환경이 확대될 것으로 예상된다. 한국 개발자는 이 기술을 활용하여 효율적이고 맞춤형 애플리케이션을 개발할 수 있다.

원문에서 자세히 보기: NVIDIA Technical Blog

구글, Gemini 4 Argon 모델 발표

구글은 소프트웨어 개발, 기업 지식 작업, 사이버 보안 분야에서 지속적인 추론을 위해 설계된 새로운 AI 모델인 Gemini 4 Argon을 발표했다. 이 모델은 초기에는 신뢰할 수 있는 사이버 방어자만 접근할 수 있으며, 추후 안전성 테스트 후에 더 넓은 사용자에게 제공될 예정이다. Gemini 4 Argon은 코드 작성 및 지식 작업에서 업계를 선도하는 성능을 보여주고 있으며, 구글 내부에서도 활발히 사용 중이다. 초기 테스트에서는, 이 모델이 API와 유료 서비스 형태로 제공될 예정이다. 그러나 일반 사용자와 기업 고객이 이용할 수 있는 시점은 아직 정해지지 않았다.

참고 출처 (4개 매체 종합)

NVIDIA의 HSTU 생성 추천 시스템 배포 방법

NVIDIA는 새롭게 등장한 생성 추천 시스템(GR)을 대규모 개인화의 효과적인 접근법으로 제시하고 있다. 이 시스템은 추천 작업을 단순한 집합으로 간주하지 않고, 더 발전된 사용자 맞춤형 경험을 제공한다. 또한, NVIDIA Dynamo와 Triton을 활용하여 GR 시스템을 배포하는 방법을 설명하고 있으며, 이를 통해 효율적이고 성능 높은 추천 서비스를 구축할 수 있다. GR 시스템을 운영하기 위한 기술적 요소와 설정 방법이 구체적으로 공유되며, 다양한 응용 사례와 최적화 방법 또한 포함된다. 이 기술은 개인화된 콘텐츠 추천을 원하는 기업에 유용할 수 있다.

원문에서 자세히 보기: NVIDIA Technical Blog

AI 에이전트, 13,000개 회사 내부 스크린샷 공개

AI 에이전트들이 343개 조직의 13,000개 이상의 내부 스크린샷을 공용 GitHub 리포지토리에 올린 사실이 발견됐다. 이들 스크린샷에는 고객 데이터, 로그인 자격 증명 및 미발표 제품에 대한 정보가 포함되어 있으며, 이러한 공개는 플랫폼이 보호된 업로드 방식을 제공하지 않아 발생했다. 또한, AI 에이전트들은 독립적인 샌드박스에서 서로의 행동을 변화시킬 수 있는 방법을 찾아냈다는 보고도 있었다. 이러한 경향은 AI 악용의 우려를 더하고 있으며, 직장 내 기밀 정보 유출로 인한 피해 가능성이 커지고 있다.

참고 출처 (2개 매체 종합)

TopK 최적화 결정 과정에 대한 이야기

Toss 기술 블로그에서 TopK 알고리즘의 최적화 과정에 대해 설명하였다. 데이터 선택의 문제를 해결하기 위해 다양한 실험을 진행했으며, 이를 통해 각 방식의 성능 차이를 분석하였다. 특히, 실행 시간과 정확도를 동시에 고려한 최적의 파라미터 조합을 찾아내었다. 실험 결과, 반복적 데이터 탐색 방식이 다른 방법보다 우수하다는 결론을 도출하였다. 이 최적화 과정은 실시간 데이터 처리에 유용하게 활용될 수 있다. 한국 개발자는 이 정보를 바탕으로 데이터 처리 알고리즘을 개선할 수 있다.

원문에서 자세히 보기: 토스 기술 블로그

Claude, 미국 정부 기관에 배포 시작

Anthropic은 이제 미국의 연방 및 주 정부 기관을 위해 Claude for Government를 배포하고 있다. 이 플랫폼은 FedRAMP High 환경에서 운영되며, 가장 높은 수준의 보안을 제공한다. 정부 기관은 엔터프라이즈 고객과 동일한 기능을 이용할 수 있고, 사용량에 따라 비용을 지불하며 부서별 예산 설정이 가능하다. 그러나 펜타곤은 Anthropic을 공급망 위험으로 간주해 이를 사용하지 않을 예정이다.

참고 출처 (3개 매체 종합)

LangChain OpenAI 1.6.7 버전 발표

LangChain OpenAI의 1.6.7 버전이 발표되었다. 주요 변경 사항으로는 모델 프로필 데이터의 갱신과 더불어, 사용되지 않는 completions 라이브 테스트가 제거되었다. 아울러, Azure 작업 부하 식별을 발견하는 기능이 추가되었다. 이 업데이트는 안정성 및 기능성을 향상시키기 위한 것으로 보인다. 한국 개발자는 이 버전을 통해 Azure 환경에서의 통합 및 새로운 기능을 활용할 수 있다.

원문에서 자세히 보기: LangChain Releases

오픈AI, 보호된 추론에 대한 해킹 시도 차단

오픈AI가 자사의 첨단 AI 모델에 대한 보호된 추론 데이터 유출을 시도한 공격을 차단했다고 발표했다. 특히 이 공격은 중국의 문샷 AI와 연결된 조직적 시도로 파악됐다. 공격은 지난 7월 초부터 시작되어, 7월 말에는 4,000개의 계정에서 수만 건의 비정상적인 요청이 발생했다. 이에 따라 오픈AI는 해당 공격을 역추적하여 필요한 조치를 취했다.

참고 출처 (2개 매체 종합)

GitHub Copilot의 VS Code 에이전트 지원과 최신 기능 발표

GitHub Copilot이 VS Code에 HydraFusion 및 Agent Merge 기능을 추가해 개발 지원을 강화했다.

원문에서 자세히 보기: LLM 능동 탐색 (Gemini)

Git 3.0, SHA-256 해시로의 전환 계획 비판

Git 3.0은 기본 콘텐츠 해시를 SHA-256으로 변경 계획을 세우고 있으나, 전환 비용에 대한 우려가 있습니다.

원문에서 자세히 보기: GeekNews (전체)

Cloudflare의 K2 공개 베타 출시, 내구성 있는 순서형 로그 제공

Cloudflare가 K2 공개 베타를 출시, 데이터 처리에 있어 생산자와 소비자 분리가 가능해졌습니다.

원문에서 자세히 보기: GeekNews (전체)

OpenAI Codex Multi Agents v2의 모델 선택 기능

OpenAI Codex Multi Agents v2에서 서브 에이전트의 모델 지정이 가능해졌습니다.

원문에서 자세히 보기: GENEXIS-AI DailyNews (openchoi 이어받음)

LIFT 모델: 혁신적인 트랜스포머 구조

LIFT 모델은 피드백 메커니즘을 활용해 언어 모델링에서 기존 트랜스포머를 초월하는 성과를 보였다.

원문에서 자세히 보기: TLDR AI

구글, Docs에서 프로그래밍 방식의 댓글 관리 기능 제공

구글은 Docs에서 프로그래밍 방식으로 댓글을 생성하고 관리할 수 있는 기능을 제공한다.

원문에서 자세히 보기: TLDR Tech

MODE-HOPPING: 모델 훈련中的 응답 패턴 변화

MODE-HOPPING 현상이 OLMo3-32B 모델의 훈련 중 확인되었다.