Добавление пользовательских моделей в Ollama

YOUTUBE · 01.12.2025 07:09

Ключевые темы и таймкоды

Создание модели искусственного интеллекта

0:00
  • Автор объясняет, как создать модель искусственного интеллекта, которая будет отвечать только эмодзи.
  • Он использует модель "Hiking Face" и находит эмодзи, а затем создает текст с эмодзи.

Квантование модели

1:37
  • Автор загружает модель с помощью hugging face downloader.
  • Он запускает docker run для создания нового контейнера и выполнения команды "quantize".
  • Модель преобразуется в формат gdf и квантуется до четырех бит.

Создание шаблона и запуск модели

5:42
  • Автор создает файл модели с шаблоном и параметрами.
  • Он запускает модель с помощью команды "create" и получает ответы на вопросы.

Делимся моделью с другими

8:07
  • Автор создает пространство имен и добавляет свой открытый ключ в o llama.
  • Он переименовывает модель и делится ею с другими.