Trend Olan Konular
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico-%10,72
USELESS
USELESS+%0,52
IKUN
IKUN-%2,64
gib
gib+%0,8
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk-%2,01
ALON
ALON+%1,5
LAUNCHCOIN
LAUNCHCOIN-%5,56
GOONC
GOONC-%5,38
KLED
KLED-%4,68
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP-%0,02
Boopa
Boopa+%3,46
PORK
PORK%0,00
header
Nikhil Thorat
Databricks'te MLflow GenAI değerlendirme ve izleme. Lilac AI'nin kurucu ortağı (@databricks tarafından satın alındı). TensorFlow.js ve Know Your Data @ Google Brain'i ortak yarattı
Nikhil Thorat
Nikhil Thorat14 Mar 00:47
🏎️ gemma-webgpu: tamamen tarayıcınızda çalışan, sıfır bağımlılıklı, inanılmaz hızlı bir Gemma 1B. Tam titreme telefonumdan kodlandı. 🔥 M4 Mac'te 136.8 tok/s (transformers.js'den 3.3 kat hızlı) 📱 iPhone 17'de 101 tok/s (270M), 34 tok/s (1B) Sıfırdan inşa ettiklerimiz: • 18 el yazısıyla yazılmış WGSL hesaplama shaderı, birleşmiş ops'a sahip (fusedNormAdd her ileri geçişte 36 GPU göndermesi kaydeder) • GPU'da doğrudan dekuantizasyon Q8_0 — Q4'ten daha kaliteli VE daha hızlı. • Aralık isteği akışı yüklemeleri katman katman ağırlık (~44MB chunk) yükler, GPU'ya yüklemeler yapar, JS belleği hemen boşalır. Pik yığını: 1GB model için bile ~50MB • Bu yayın numarası, 1B'nin iPhone'da çalışmasını sağlayan şeydir. RAM'de tam modeli asla tutmaz. 12KB gzip yaptı. Sıfır bağımlılık yok. NPM Gemma-WebGPU Install
114