Сколько стоит сервер под ИИ
Обновлено:
Сервер для ИИ-агентов, которые обращаются к облачной модели, стоит примерно 5–20 долларов в месяц. Чтобы модель работала на самом сервере, нужно больше памяти: около 20–60 долларов в месяц без видеокарты и примерно от 150 долларов с ней.
Только агенты: дешёвый вариант
Если модель живёт в облаке (Claude, GPT), сервер выполняет только код агента, базу данных и расписание. Двух ядер и 4 ГБ памяти хватает большинству небольших команд.
Своя модель на сервере
Модели 7–8B на сервере без видеокарты нужно около 16 ГБ памяти, отвечает она за секунды. Для внутренних инструментов и поиска по документам этого достаточно. Если пользователей много одновременно или модель крупнее, окупается сервер с видеокартой.
О каких расходах забывают
Резервные копии, домен и ваше время, когда что-то ломается ночью. Ежедневные копии и оповещение о падении настройте с первого дня: стоят они мало, а спасают больше всего.