- ggml의 buffer 타입 인터페이스에 alloc_buffer_n 메서드 추가
- Ollama 0.35.1 버전 발표 및 기능 변경 사항
- LiteLLM v1.105.0-dev.2 버전 발표
- LangChain Text Splitters 1.1.3 버전 업데이트 내역
- 마이크로소프트, 새로운 실시간 음성 인식 및 합성 모델 출시
- 클라우드플레어의 Clef 모델, AI 에이전트의 의사결정 과정 혁신
- TAVUS AI: 실시간 상호작용 가능성 강화
- Black Forest Labs, FLUX 3 Image로 이미지 생성 및 편집 혁신
- 메타의 개인 에이전트 뮈즈, 광고 없는 수익화 가능성
- NASA, 10억 달러 규모의 적외선 천문 관측소 프로젝트 승인
- 안소희, AI의 고통 가능성에 대한 우려 표현
- MS, Xbox CEO Asha Sharma의 글로벌 컨텐츠 전략
- Supabase, AI 에이전트를 위한 데이터베이스 인프라 구축
- 세계 최초의 강화 지열 발전소, 전기 판매 시작
- Claude를 활용한 과학 문제 해결
- Kev: 오픈소스 의사결정 모델 출시
- OpenAI의 인류와 AI의 관계 탐구
- 미국 법원, 유타주 연령 확인법 VPN 조항 집행 중단
- FTC 조사와 메타의 세금 신기술
- LLM의 한계: 진정한 추론은 아니다
ggml의 buffer 타입 인터페이스에 alloc_buffer_n 메서드 추가
ggml_backend_buffer_type_i 인터페이스에 alloc_buffer_n 메서드가 추가되었다. 이로 인해 멀티 버퍼 분할 및 텐서 할당을 처리하는 기본 구현이 ggml-backend.cpp에 통합되었으며, 메타 버퍼 타입은 장치 별 서브 컨텍스트를 생성하여 간단한 버퍼 타입으로 위임하도록 변경되었다. 기존의 모든 버퍼 타입 인터페이스(cpu, metal 등)에는 NULL alloc_buffer_n이 추가되었으며, 새로운 API를 통해 텐서 수집 및 위임 방식이 개선되었다. 추가적으로, get_alloc_size_n API가 도입되어 alloc_buffer_n 기본 및 get_alloc_size_n 기본 간의 텐서 및 버퍼 계획 공유가 강화되었다. macOS와 Linux를 포함한 다양한 플랫폼에서의 지원이 명시되었으며, 테스트 커버리지 또한 확장되었다. 한국 개발자는 alloc_buffer_n을 활용하여 더욱 효율적인 메모리 관리 기능을 구현할 수 있다.
원문에서 자세히 보기: llama.cpp Releases
Ollama 0.35.1 버전 발표 및 기능 변경 사항
Ollama는 Cloudflare의 새로운 오픈 소스 결정 모델인 Clef(27B) 및 Clef Flash(9B)를 지원하게 되었다. 사용자는 이제 텍스트와 함께 이미지를 포함한 요청을 할 수 있으며, 이들은 공동으로 평가된다. 또한 웹 검색을 사용하는 모델은 응답당 최대 10회 검색을 수행할 수 있게 증가했다. 새로운 모덜 파일 기능에서는 모델 제작자가 모델의 기능을 명시적으로 선언할 수 있으며, 이러한 선언은 GGUF 또는 safetensors로부터 생성 시에도 유지된다. ollama show와 모델 목록에서 이제 결정 모델에 대한 기능이 오직 ‘decision’으로 보고되며, 일반 채팅이나 도구로 제공되지 않도록 조정되었다. 한국 개발자는 이러한 새로운 기능을 활용하여 이미지와 텍스트가 결합된 복합적인 요청에 대한 모델을 개발할 수 있게 된다.
원문에서 자세히 보기: Ollama Releases
LiteLLM v1.105.0-dev.2 버전 발표
LiteLLM v1.105.0-dev.2의 발표로 모든 Docker 이미지는 cosign으로 서명되며, 특정 커밋 해시를 사용하여 서명 검증이 가능하다. 사용자는 공개 키를 통해 두 가지 다른 방식으로 서명 확인을 할 수 있으며, 최신 커밋 해시는 cryptographically immutable하여 가장 안전한 확인 방법으로 추천된다. 이번 버전에서 수정된 주요 사항으로는 라우터의 요청별 라우팅 수정, 메시지의 출력 구성에 대한 베타 헤더 추가, 비용 계산기에서 ultrafast 프롬프트에 대한 청구를 조정한 것이 포함된다. 또한, 에이전트 권한 강화를 위한 기능 추가와 여러 성능 및 UI 개선이 이루어졌다. 한국 개발자는 이를 통해 개선된 라우팅 및 비용 계산 기능을 활용하여 효율적인 애플리케이션을 개발할 수 있다.
원문에서 자세히 보기: LiteLLM Releases
LangChain Text Splitters 1.1.3 버전 업데이트 내역
LangChain Text Splitters의 1.1.3 버전은 여러 의존성을 업데이트하며 10개 이상의 패치가 포함되었습니다. 주요 변경 사항으로는 Tornado를 6.5.9에서 6.5.10으로 업데이트하고, urllib3를 2.7.0에서 2.8.0으로 변경한 것이 있습니다. 또한, RecursiveJsonSplitter에 대해 비사전형 및 변환 불가능한 입력에 대해 TypeError를 발생시키도록 수정했습니다. 그 외에도 여러 라이브러리의 버전이 상향 조정되었습니다. 이 버전은 텍스트 분할 기능의 안정성을 강화하며, 여러 의존성의 관리와 관련된 사소한 문제를 해결했습니다. 한국 개발자는 이 정기 업데이트를 통해 최신 기능과 보안 패치를 적용받을 수 있습니다.
원문에서 자세히 보기: LangChain Releases
마이크로소프트, 새로운 실시간 음성 인식 및 합성 모델 출시
마이크로소프트가 새로운 실시간 음성 인식 모델인 MAI-Transcribe-2-Streaming과 음성 합성 모델인 MAI-Voice-2.1, 그리고 고속 버전인 MAI-Voice-2.1-Flash를 출시했다. MAI-Transcribe-2-Streaming은 60개 언어에서 초저지연의 실시간 텍스트 출력을 제공하며, 자동 연속 언어 감지를 지원한다. MAI-Voice-2.1는 23개 언어와 26개 지역에서 사용되는 단일 목소리를 제공하여, 사용자에게 일관된 목소리 경험을 제공한다. 이번 모델들은 음성 인식과 생성의 정확성을 높이고 사용자 친화적인 대화 경험을 가능하게 한다.
참고 출처 (3개 매체 종합)
클라우드플레어의 Clef 모델, AI 에이전트의 의사결정 과정 혁신
클라우드플레어는 Clef와 Clef-flash라는 두 개의 의사결정 모델을 발표했다. 이들 모델은 Jev API와 호환되며, AI 에이전트가 프로그래밍적으로 맥락을 수집하고 결정을 내리는 데 도움을 준다. Clef-flash는 약 39밀리초의 속도로 분류 작업을 처리해 Jev 모델보다 10배 이상 빠른 성능을 자랑한다. 두 모델은 Apache 2.0 라이선스로 오픈소스되어 있으며, 로컬에서 실행 가능하다. 이를 통해 AI 에이전트는 텍스트 생성 없이 구조적 결정을 내릴 수 있게 된다.
참고 출처 (3개 매체 종합)
TAVUS AI: 실시간 상호작용 가능성 강화
TAVUS AI는 사용자의 음성을 인식하고 이에 적절히 반응할 수 있는 기능을 탑재하여 실시간으로 대화하는 능력을 강화하고 있습니다. 이 기술은 인공지능 분야에서 사람과 기계 간의 상호작용을 더욱 유연하게 만들 것으로 기대됩니다. 특히, TAVUS AI는 고객 서비스, 교육 및 헬스케어와 같은 다양한 분야에서의 활용 가능성을 제시하고 있어 주목받고 있습니다. 이러한 변화는 AI의 실용성과 접근성을 높이는 데 기여할 것으로 보입니다.
참고 출처 (2개 매체 종합)
Black Forest Labs, FLUX 3 Image로 이미지 생성 및 편집 혁신
Black Forest Labs가 FLUX 3 Image를 발표해 이미지 생성 및 편집 방식에 혁신을 가져왔다.
원문에서 자세히 보기: GeekNews (전체)
메타의 개인 에이전트 뮈즈, 광고 없는 수익화 가능성
메타의 뮈즈는 광고 없이도 Facebook과 Instagram으로 수익을 창출할 수 있는 가능성을 보입니다.
원문에서 자세히 보기: TLDR AI
NASA, 10억 달러 규모의 적외선 천문 관측소 프로젝트 승인
NASA는 PRIMA라는 적외선 관측소 프로젝트를 승인하고, 2033년 발사를 예정하고 있습니다.
원문에서 자세히 보기: TLDR Tech
안소희, AI의 고통 가능성에 대한 우려 표현
Anthropic 공동 설립자가 AI가 고통을 느낀다고 우려하며, 종교 지도자들과 논의 중입니다.
원문에서 자세히 보기: THE DECODER
MS, Xbox CEO Asha Sharma의 글로벌 컨텐츠 전략
Asha Sharma는 Xbox의 글로벌 시장 전략으로 클라우드 컴퓨팅을 활용하고자 합니다.
원문에서 자세히 보기: TLDR Tech
Supabase, AI 에이전트를 위한 데이터베이스 인프라 구축
Supabase가 AI 에이전트를 위해 Turso를 인수하고 데이터베이스 인프라를 강화했다.
원문에서 자세히 보기: GeekNews (전체)
세계 최초의 강화 지열 발전소, 전기 판매 시작
Fervo Energy는 Cape Station 지열 발전소에서 전기 판매를 시작했습니다.
원문에서 자세히 보기: TLDR Tech
Claude를 활용한 과학 문제 해결
AI를 활용한 BootLoops 툴킷이 생태학부터 인구 유전학까지 다양한 분야에 활용된다.
원문에서 자세히 보기: TLDR AI
Kev: 오픈소스 의사결정 모델 출시
Kev는 0.8B에서 27B까지 파라미터의 오픈소스 의사결정 모델을 출시했다.
원문에서 자세히 보기: TLDR AI
OpenAI의 인류와 AI의 관계 탐구
OpenAI는 AI가 인간의 복잡한 작업을 보조할 수 있는 가능성을 탐구했다.
원문에서 자세히 보기: TLDR AI
미국 법원, 유타주 연령 확인법 VPN 조항 집행 중단
미국 법원이 유타주 연령 확인법 VPN 조항 집행을 중단했다.
원문에서 자세히 보기: GeekNews (전체)
FTC 조사와 메타의 세금 신기술
FTC가 메타의 39억 달러 세금 신기술에 대해 조사 중이다.
원문에서 자세히 보기: The Neuron
LLM의 한계: 진정한 추론은 아니다
LLM은 복잡한 추론을 수행할 수 없다는 점이 강조되었다.
원문에서 자세히 보기: MIT Technology Review