Веса модели
Веса модели — те самые миллиарды чисел, которые получились в результате обучения. Это и есть модель: архитектура без весов бесполезна, а веса без неё — просто файл.
Открытые и закрытые веса
Часть разработчиков публикует веса: модель можно скачать, запустить у себя, дообучить и изучить. Другая часть держит их у себя, давая доступ только через API. От этого зависит, кому принадлежат ваши данные и что будет, если поставщик изменит условия.
«Открытые веса» — не то же самое, что открытый исходный код. Обучающие данные и сам процесс обучения почти никогда не публикуются, а лицензии часто ограничивают коммерческое использование. Воспроизвести модель с нуля по одним весам нельзя.
Размер файла весов задаёт требования к железу. Модели поменьше запускаются на обычном ноутбуке, крупные требуют серверных видеокарт — и именно поэтому большинство пользуется API, а не своим сервером.
Что из этого следует
- Свои веса — свои данныеЛокальный запуск означает, что запросы не покидают вашу инфраструктуру. Для чувствительных данных это часто решающий аргумент.
- Закрытая модель может изменитьсяПоставщик обновляет модель на своей стороне, и поведение меняется без вашего участия. Скачанные веса — нет.
- Проверяйте лицензиюДоступность скачивания не равна праву на коммерческое использование. Условия у разных моделей расходятся сильно.