Ollama
Команда разработчиков проекта Ollama для запуска языковых моделей.
- Страна
- США
- Запрещенная организация
- Нет
- Статус страны
- Недружественная страна
Софт
Локальный запуск
Ollama
Программа для загрузки и запуска языковых моделей на своём компьютере.
Ollama добавила локальные модели структурированных решений
Ollama 0.35 получила /v1/systemone для быстрой классификации, маршрутизации запросов и модерации на своём компьютере. API принимает состояние и набор вопросов, а возвращает структурированные решения. Одновременно доступны Nimble 9B от Bespoke Labs и экспериментальные Tev1 4B и 0.8B от Together AI. Локальное выполнение позволяет обрабатывать данные без отправки на внешний сервер.