GLM-4

Русский ИТ бизнес 👨

21 янв 2026 17:18

.7 Flash вышла. Можно запускать локально. На картинке ее метрики. Она думающая, к слову. Ждем цены на токены у поставщиков... Пишут, что модель будут дешево предлагать, сравнивая с конкурентами.

Русский ИТ бизнес

👍 3

1 768

Комментарии (18)

709864982
2026-01-21 17:59

Вчера запускал
- mtrnkwas
  2026-01-21 18:03
  
  И как?
  - 709864982
    2026-01-21 18:52
    
    hf.co/unsloth/GLM-4.7-Flash-GGUF:Q2_K_XL вот эту запускал на xeon 2680v4 32gb через ollama
    - mtrnkwas
      2026-01-21 18:55
      
      Скорость инференса какая в итоге получилась?
      - 709864982
        2026-01-21 19:00
        
        не очень быстро, а как посмотреть ? точно?
        
        mtrnkwas
        2026-01-21 19:04
        
        Если через Ollama, надо запускать с параметром verbose
    - Sergey_chto_nado
      2026-01-22 08:41
      
      ссылка уже 404
      - 709864982
        2026-01-22 08:43
        
        Через гугл ищется
- Null_Solid
  2026-01-21 18:09
  
  на каком железе запускал? какая скорость получилась?
mike_kozyakov
2026-01-21 18:24

Мне кажется, что китайцы с метриками нас, все же, обманывают:) или что-то недоговаривают…
- mike_kozyakov
  2026-01-21 18:28
  - mike_kozyakov
    2026-01-21 18:29
    
    Я не так как-то смотрю?
- mike_kozyakov
  2026-01-21 18:30
709864982
2026-01-21 19:01
709864982
2026-01-21 19:11

достаточно быстро но глючит
- mtrnkwas
  2026-01-21 19:15
  
  Шустро. Особенно для CPU. А в чем глючная?
  - 709864982
    2026-01-21 19:15
    
    зацикливается часто
mtrnkwas
2026-01-23 13:56

Попробовал вчера. На Beelink Mini PC GTR9 Pro AMD Ryzen AI Max+ 395 CPU 128GB RAM эта модель выдала 47 токенов в секунду. Было бы интересно попробовать версию GLM-4.7-Аir, если они ее выпустят.