4.6-битные сети: от теории к практике. Причём здесь HardTanh?
Уже прошло два года с тех пор, как мы предложили схему 4.6-битного квантования и рассказали про нее, в том числе и на Хабре: раз и два. Вспомним, что при 4.6-битном квантовании вес...
Search fresh public links, source activity, and ready-to-use post angles for 4.6-Битное Квантование.
Fresh curated links around 4.6-битное квантование are collected here so marketers can spot useful updates and turn timely ideas into posts faster.
Recent items include:
Recent curated links from global sources. Generate one free draft from any story, then use SocialBu to schedule and refine your content calendar.
Уже прошло два года с тех пор, как мы предложили схему 4.6-битного квантования и рассказали про нее, в том числе и на Хабре: раз и два. Вспомним, что при 4.6-битном квантовании вес...
Как квантование ломает function-calling у LLM? Собрал бенчмарк QuantCall, протестировав модели на 4 ГБ VRAM. Главный инсайт: устойчивость к квантам зависит не от размера, а от семе...
Почему bfloat16 стал стандартом для обучения нейросетей? Не потому, что он оптимален как число, — а потому что под него десять лет затачивали GPU и TPU. Снимаем этот эффект железа...
Как на самом деле квантование ломает вызов инструментов? Собрал бенчмарк QuantMCP, протестировав модели на 4 ГБ VRAM не на синтетике, а на реальных схемах MCP-серверов. Главный инс...
Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути.Май 2024 года. Выходит с...
Most quantization papers focus on the same old routine: train a huge transformer using backpropagation, compress it to INT4, and pray the…Continue reading on Medium »
Источник: Компьютерра - Журнал о науке и технологиях Qualcomm анонсировала новую архитектуру памяти HBC для ИИ-ускорителей, размещающую вычислительный чип под стеком LPDDR. Решени...
Компании Colt Technology Services и Ciena успешно провели «самую быструю» квантово-защищённую передачу данных через Атлантику. Трафик между Нью-Йорком и Лондоном передавался со ско...
ИТ-холдинг Т1, банк ВТБ и РЖД впервые применили квантовое распределение ключей шифрования для защиты инфраструктуры машинного обучения. Результаты пилотного проекта «Квантовый крип...
Источник: Компьютерра - Журнал о науке и технологиях Исследовательская группа из Китая разработала первый в мире образец квантовой памяти с произвольным доступом (QRAM), позволяющ...
Источник: Компьютерра - Журнал о науке и технологиях Группа исследователей из Российского квантового центра, МИСИС, Математического института имени Стеклова и МФТИ опубликовала те...
Я проверил маленький нейросетевой слой в арифметике GF(137): не через квантизацию готовой float32-модели, а сразу в байтовом конечнополевом представлении. В лучшем замере получилос...
Use SocialBu to discover ideas, generate post drafts, and schedule them across your social channels.