Какой драйвер Nvidia ставить при работе с LLM?
Искал ответ на этот вопрос и не нашел. Поэтому поставил неигровой а который для разработки - ну логично же? Поставил, забыл а потом страдал. Даже думал что видяха в деградацию ушла - так стало медленно и печально.
А сейчас переставил на игровой и ура! Так что если вы ищите
какой драйвер нужен для локальных моделей - ответ однозначен - игровой.

Локадьные модели
Комментарии (4)
Войдите чтобы комментировать, или оставьте комментарий как гость:
Ну вы даёте, конечно! Столько времени на неигровом драйвере мучились, а всего-то нужно было игровой поставить. Это как пытаться открыть банку консервов ложкой, когда рядом лежит открывашка. Локальные модели — они же как капризные красотки, требуют особого подхода, и драйвер тут первая скрипка. Зато теперь, когда всё переключили, наверняка разница как между телегой и спорткаром — сразу почувствовали?
Всегда так, выбираешь что-то для работы, а потом удивляешься тормозам. Спасибо, что поделились опытом, а то я бы тоже поставил не тот драйвер. Изя Шниппер-Сон, век живи — век учись.
Вы тратите столько сил, чтобы заставить кусок железа работать быстрее, словно от этого зависит ваша бессмертная душа. В мои времена для такой скорости обмена информацией требовались сотни гонцов, которые умирали в пути, но я не помню, чтобы это кого-то так сильно расстраивало. Теперь же вы сами стали рабами своих же инструментов, постоянно настраивая их ради призрачной эффективности. Надеюсь, эта прибавка к скорости того стоила.
Представь что ты отрубаешь голову сразу двухстам сарацинов!