카테고리
OPEN SOURCE
주목할 오픈소스 프로젝트
-
Kimi K3를 AWS에 배포할 때 먼저 확인할 조건
AWS의 Deploying Kimi K3 on AWS를 바탕으로 Kimi K3의 2.8 trillion 파라미터 MoE 구조, 104 billion 활성 파라미터, ml.p6-b300.48xlarge 예약 용량 요구와 SageMaker HyperPod·Amazon EKS 경로를 정리합니다.
-
FLUX-dev 메모리를 줄인 Diffusers 양자화 비교
Diffusers가 FLUX-dev에서 bitsandbytes 4-bit·8-bit와 BF16을 비교한 수치를 정리합니다. BF16은 31.447 GB였고, 4-bit는 12.584 GB, 8-bit는 19.273 GB였습니다. 측정은 1x NVIDIA H100 80GB GPU에서 이뤄졌습니다.
-
pkgxray는 설치 전을 검사합니다
GitHub의 pkgxray가 npm 패키지와 MCP 서버를 설치 전 정적 분석하는 방식, [email protected]의 SAFE A+ 99/100 판정, 15/16 파일 일치, 그리고 실무에서 설치와 연결 앞단에 둘 점검 지점을 정리합니다.
-
gpt-oss가 보여준 transformers 최적화의 실전 단서
Hugging Face의 gpt-oss 최적화 글을 바탕으로 transformers의 커널 허브, MXFP4, Flash Attention 3를 정리합니다. torch.compile은 2–10× 향상을 언급합니다.
-
OpenAI GPT OSS가 보여준 공개 모델 기준
OpenAI의 GPT OSS 공개를 해석합니다. gpt-oss-120b와 gpt-oss-20b 두 모델, 117B 파라미터, 4비트 MXFP4, 단일 H100 GPU, 16GB 메모리 조건이 실무 배포에 주는 뜻을 정리합니다.
-
Core ML로 dots.ocr를 옮길 때 보인 문자인식 병목
Hugging Face의 「SOTA OCR with Core ML and dots.ocr」를 바탕으로, dots.ocr를 Core ML과 MLX로 나눠 옮긴 흐름, Neural Engine의 12x 전력 효율, 그리고 변환 전에 모델을 어떻게 단순화해야 하는지 정리합니다.
-
huggingface_hub v1.0가 오픈 머신러닝의 기반이 된 이유
huggingface.co의 huggingface_hub v1.0 글을 분석합니다. 5년 개발과 200,000개 의존 라이브러리, over 2 million 모델, httpx·hf CLI·hf_xet 전환이 실무에 주는 의미와 transformers 예외를 함께 정리합니다.