Согласно анализу Epoch AI от 29 мая, открытые модели ИИ теперь отстают от лучших закрытых моделей в среднем всего на четыре месяца. Разрыв сократился по сравнению с январем 2026 года, когда отставание составляло примерно шесть месяцев. Эта тенденция обусловлена появлением более крупных открытых моделей, а также улучшениями в сжатии моделей и эффективности оборудования.

Требования к оборудованию для локального развертывания

Открытые модели определяются публичным выпуском их весов, что позволяет любому скачать и запустить их. Размер модели измеряется в параметрах, а объем загрузки увеличивается вместе с этим числом. Общее правило: для размещения модели на потребительском GPU или Mac требуется как минимум 8 ГБ видеопамяти или объединенной памяти. Продвинутые пользователи часто предпочитают игровой GPU с 24 ГБ видеопамяти или более, или специализированную ИИ-машину, такую как Nvidia DGX Spark. Квантование может снизить потребление памяти за счет хранения весов в форматах с меньшей точностью, например, 8-битных целых чисел, жертвуя небольшой точностью ради меньшего размера.

Бесплатные инструменты для запуска моделей офлайн

Два популярных бесплатных программы, Ollama и LM Studio, управляют загрузкой и выполнением открытых моделей. Ollama ориентирована на разработчиков и работает через командную строку, тогда как LM Studio предлагает графический интерфейс, привлекательный для более широкой аудитории. Оба инструмента могут работать полностью офлайн, сохраняя все разговоры локально и избегая передачи данных на внешние серверы. Например, команда "ollama pull gemma4:e2b" скачивает модель Gemma 4, а "ollama run gemma4:e2b" запускает чат. LM Studio ищет модели на Hugging Face, скачивает веса и открывает окно чата.

Лицензирование и кастомизация

Открытые модели поставляются с различными лицензиями. Серия R1 от DeepSeek распространяется по лицензии MIT, что разрешает коммерческое использование и модификации. Gemma 4 от Google и gpt-oss от OpenAI распространяются по лицензии Apache 2.0, которая также разрешает бесплатное использование и создание производных работ. Эта открытость позволяет пользователям дообучать или адаптировать модели для конкретных областей, таких как медицина или программирование, без оплаты подписки.

Что наблюдать дальше

Непрерывное сближение открытых и закрытых моделей указывает на то, что конкурентное преимущество проприетарного ИИ может снизиться. Разработчики, вероятно, будут чаще экспериментировать с локальным развертыванием, особенно по мере того, как оборудование становится мощнее и доступнее. Регуляторы также могут внимательнее отнестись к вопросам конфиденциальности локальных и облачных ИИ-сервисов.