Новости Все новости

Более 30 лет архиватор WinRAR работает по модели добровольной оплаты. На этой неделе разработчик этого продукта Евгений Рошал рассказал журналистам РБК о причинах выбора такой схемы, как компания обходится без внешних инвестиций и как появилась иконка с тремя книгами.

 Источник изображения: WinRAR

На выставке Computex 2026 компания AMD представила EXPO Ultra Low Latency — обновлённые профили разгона ОЗУ для систем на базе Ryzen. Компания заявила, что новые профили могут улучшить игровую производительность в среднем на 4 % по сравнению со стандартными профилями EXPO. AMD также предположила, что модули памяти с поддержкой EXPO ULL не должны стоить значительно дороже существующих модулей EXPO. Однако первые розничные предложения G.Skill показывают другую картину.

 Источник изображения: AMD

AMD выпустила свою первую языковую модель ИИ — AMD-135M

« Назад

01.10.2024 09:04

Поскольку AMD пытается нарастить своё присутствие на рынке ИИ, производитель выпускает не только аппаратное обеспечение под эти нужды, но также решил заняться разработкой языковых моделей. Результатом этого стал анонс первой малой языковой AMD-135M.

 Источник изображения: AMD

Новая малая языковая модель AMD-135M принадлежит к семейству Llama и нацелена на развёртывание в частном бизнесе. Неясно, имеет ли новая ИИ-модель AMD какое-либо отношение к недавнему приобретению компанией стартапа Silo AI (сделка ещё не завершена и пока не одобрена различными регуляторами, поэтому, вероятно, нет). Однако это явный шаг в направлении удовлетворения потребностей конкретных клиентов с помощью предварительно обученной модели, созданной AMD с использованием её же оборудования.

Преимущество языковой модели AMD заключается в том, что она использует так называемое спекулятивное декодирование. Последнее представляет собой меньшую «черновую модель», которая генерирует несколько токенов-кандидатов за один прямой проход. Затем токены передаются в более крупную, более точную «целевую модель», которая проверяет или исправляет их. С одной стороны, такой подход позволяет генерировать несколько токенов одновременно, но с другой стороны, это приводит к повышению потребляемой мощности за счёт увеличения передачи данных.

Языковая модель AMD представлена в двух версиях: AMD-Llama-135M и AMD-Llama-135M-code. Каждая из них оптимизирована для определённых задач путём повышения производительности вывода с помощью технологии спекулятивного декодирования. Базовая модель AMD-Llama-135M была обучена с нуля на базе 670 млрд токенов общих данных. Этот процесс занял шесть дней с использованием четырех 8-канальных узлов на базе AMD Instinct MI250.

Модель AMD-Llama-135M-code в свою очередь была улучшена за счёт дообучения на базе дополнительных 20 млрд токенов, специально ориентированных на написание программного кода. Дополнительное обучение модели заняло четыре дня с использованием того же набора оборудования AMD. Компания считает, что дальнейшие оптимизации её моделей могут привести к дополнительному повышению их производительности и эффективности.

 

 

Источник 3DNews