Latest updates for 4.6-Битное Квантование

Fresh curated links around 4.6-битное квантование are collected here so marketers can spot useful updates and turn timely ideas into posts faster.

Recent items include:

  • 4.6-битные сети: от теории к практике. Причём здесь HardTanh?
  • Маленькая модель на 0.6B держит квантование лучше, чем «крупная» на 1B: измерил деградацию function-calling на 4 ГБ VRAM
  • От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит

Post angles to try

Share the most useful takeaway for your audience.
Turn one article into a quick practical checklist.
Ask your audience how this shift affects their work.
Turn angles into scheduled posts

Fresh articles and ideas

Recent curated links from global sources. Generate one free draft from any story, then use SocialBu to schedule and refine your content calendar.

habr.com /2 weeks ago

4.6-битные сети: от теории к практике. Причём здесь HardTanh?

Уже прошло два года с тех пор, как мы предложили схему 4.6-битного квантования и рассказали про нее, в том числе и на Хабре: раз и два. Вспомним, что при 4.6-битном квантовании вес...

Read source
habr.com /1 week ago

Маленькая модель на 0.6B держит квантование лучше, чем «крупная» на 1B: измерил деградацию function-calling на 4 ГБ VRAM

Как квантование ломает function-calling у LLM? Собрал бенчмарк QuantCall, протестировав модели на 4 ГБ VRAM. Главный инсайт: устойчивость к квантам зависит не от размера, а от семе...

Read source
habr.com /3 weeks ago

От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит

Почему bfloat16 стал стандартом для обучения нейросетей? Не потому, что он оптимален как число, — а потому что под него десять лет затачивали GPU и TPU. Снимаем этот эффект железа...

Read source
habr.com /1 week ago

Квантование ломает вызов инструментов не так, как показывает BFCL: проверил на MCP-серверах

Как на самом деле квантование ломает вызов инструментов? Собрал бенчмарк QuantMCP, протестировав модели на 4 ГБ VRAM не на синтетике, а на реальных схемах MCP-серверов. Главный инс...

Read source
habr.com /3 weeks ago

Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше

Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути.Май 2024 года. Выходит с...

Read source
medium.com /2 weeks ago

I Quantized a Custom Evolutionary AI to 4-Bits From Scratch. It Got Smarter.

Most quantization papers focus on the same old routine: train a huge transformer using backpropagation, compress it to INT4, and pray the…Continue reading on Medium »

Read source
computerra.ru /2 weeks ago

Qualcomm обещает 54-кратное увеличение пропускной способности в новой памяти для ИИ

Источник: Компьютерра - Журнал о науке и технологиях Qualcomm анонсировала новую архитектуру памяти HBC для ИИ-ускорителей, размещающую вычислительный чип под стеком LPDDR. Решени...

Read source
3dnews.ru /1 month ago

Colt и Ciena успешно испытали «постквантовый» трансатлантический 800-Гбит/с канал

Компании Colt Technology Services и Ciena успешно провели «самую быструю» квантово-защищённую передачу данных через Атлантику. Трафик между Нью-Йорком и Лондоном передавался со ско...

Read source
runet.news /1 month ago

Т1 ВТБ и РЖД защитили искусственный интеллект с помощью квантовых технологий

ИТ-холдинг Т1, банк ВТБ и РЖД впервые применили квантовое распределение ключей шифрования для защиты инфраструктуры машинного обучения. Результаты пилотного проекта «Квантовый крип...

Read source
computerra.ru /1 month ago

Разработана первая в мире квантовая память с произвольным доступом (QRAM)

Источник: Компьютерра - Журнал о науке и технологиях Исследовательская группа из Китая разработала первый в мире образец квантовой памяти с произвольным доступом (QRAM), позволяющ...

Read source
computerra.ru /1 month ago

Квантовый компьютер на ультрахолодных молекулах предложен российскими учеными

Источник: Компьютерра - Журнал о науке и технологиях Группа исследователей из Российского квантового центра, МИСИС, Математического института имени Стеклова и МФТИ опубликовала те...

Read source
habr.com /1 month ago

Я попробовал считать нейросетевой слой в конечном поле Галуа GF(137): 4x по памяти, ARM NEON и честные ограничения

Я проверил маленький нейросетевой слой в арифметике GF(137): не через квантизацию готовой float32-модели, а сразу в байтовом конечнополевом представлении. В лучшем замере получилос...

Read source

Turn fresh research into a full content calendar

Use SocialBu to discover ideas, generate post drafts, and schedule them across your social channels.

Sources covering 4.6-Битное Квантование

3dnews.ru

Recent coverage from public sources
Public source

habr.com

Recent coverage from public sources
Public source

medium.com

Recent coverage from public sources
Public source

runet.news

Recent coverage from public sources
Public source

computerra.ru

Recent coverage from public sources
Public source