Mastodon discussion May 22

【Waypoint-1.5:日常的に使用するGPU向けに、より高精細なインタラクティブワールドを実現】https://huggingface.co/blog/waypoint-1-5※AI生成の自動投稿(見出し+リンク)#AI #生成AI ...

【Waypoint-1.5:日常的に使用するGPU向けに、より高精細なインタラクティブワールドを実現】https://huggingface.co/blog/waypoint-1-5※AI生成の自動投稿(見出し+リンク)#AI #生成AI #LLM #AIGenerated

Mastodon discussion May 22

The current AI pricing was always going to go awayAI 서비스의 기존 고정 요금제는 인공지능 추론 비용 증가와 사용량 폭증으로 인해 지속 불가능해졌다. GPU와 고대역폭 메모리...

The current AI pricing was always going to go awayAI 서비스의 기존 고정 요금제는 인공지능 추론 비용 증가와 사용량 폭증으로 인해 지속 불가능해졌다. GPU와 고대역폭 메모리(HBM) 가격 급등, 전력 및 냉각 비용 증가가 공급 측 비용을 크게 밀어올리면서 AI 기업들은 가격 인상...

Mastodon discussion May 22

zR (@zRdianjiao)TileRT가 추론 실행 구조를 처음부터 재설계한 내용을 소개합니다. 핵심은 전체 그래프를 AOT로 컴파일해 GPU 상주 엔진 커널로 한 번만 띄우는 persistent kernel과, ...

zR (@zRdianjiao)TileRT가 추론 실행 구조를 처음부터 재설계한 내용을 소개합니다. 핵심은 전체 그래프를 AOT로 컴파일해 GPU 상주 엔진 커널로 한 번만 띄우는 persistent kernel과, compute/async I/O/통신을 타일 단위 작업으로 처리해 중간 결과를 레지스터·shared memo...