как не забросить свой ии-сервер на второй день, по опыту

Насмотрелась, как люди поднимают оламу на волне энтузиазма и бросают через неделю. Соберу, что отличает «поигрался и забыл» от «реально пользуюсь», потому что дело не в железе:
1. Задача, а не «хочу свой ии». Поиск по своим pdf, расшифровки, бот — конкретная боль, которую решаешь. «Просто поболтать» проиграет chatgpt всегда, и вы бросите.
2. Начать с маленького и рабочего. 7b, десять своих документов, один понятный вопрос. Заработало — расширяете. А не «сразу 32b и весь архив», это путь в разочарование за вечер.
3. Не гнаться за размером модели. 90% бросают, потому что «тормозит», а это они 14b на восьмёрку впихнули. Правильный размер под тариф = удовольствие вместо мучения.
4. Доступ и бэкап сразу, чтоб не было «настроил, а потом страшно пользоваться» или «всё потерял».
Кто дошёл до «пользуюсь каждый день» — что вас удержало, задача или азарт? Интересно, совпадает ли.

masha_spb у нас удержала именно задача: младшие перестали таскать договоры в chatgpt, а начали искать у себя. Если бы это было «поиграться» — забросили бы, как вы и пишете. Азарт кончается, боль остаётся, и она-то и держит. Спасибо, что сформулировали, я думал это только у нас так по инерции работает.

masha_spb пункт 3 подпишу кровью) большинство «ии тормозит и я бросил» — это 14b/32b на 8 гигах и своп. взяли бы 7b под свой тариф — пользовались бы до сих пор. размер модели убивает больше энтузиазма, чем что-либо. железо под задачу, а не «побольше чтоб умнее».

masha_spb меня удержала ровно задача: расшифровки, которые нельзя в облако. Азарт был первые дни, потом бы точно забросила, если б не реальная нужда каждую неделю. И ваш пункт 2 спас — я начала с одного интервью, а не «сразу весь архив», иначе закопалась бы и бросила. По шагам оказалось не страшно.

Вот и подтверждается: держит задача, а не игрушка. igor_kzn, dasha_voice — у вас обоих «нельзя в облако» и конкретная рутина, поэтому и прижилось. gleb_tomsk про размер модели — добавлю в пункт 3 жирным. Если у кого «поставил и забросил» — вернитесь не к более крупной модели, а к вопросу «какую свою боль это решает». Нет боли — и не надо, честно.