ИИ внутри контура: стенд для обучения и демонстраций

Языковые модели работают на собственной рабочей станции SoftSimple. На стенде показываем, как ИИ отвечает по документам, не отправляя данные наружу.

Демонстрационный стенд

Это собственная установка компании, а не клиентское внедрение. Показатели скорости и качества зависят от оборудования и модели и приводятся на встрече с условиями измерения.

Задача

Показать, а не рассказать

Руководителям и специалистам по безопасности нужно увидеть, где обрабатываются данные и что умеет модель на локальном оборудовании, прежде чем обсуждать внедрение.

Что сделали

Стенд с API и сценариями

Подобрали оборудование и модели, настроили локальный сервер с API, подготовили учебные сценарии: вопросы по документам, помощь в разработке, проверка ответов. Стенд используется на обучении и в демонстрациях направления «Локальный ИИ».

Результат

Понятный первый шаг к внедрению

Клиент видит работу модели на своих примерах и получает список требований к оборудованию и ограничений среды для пилота в собственном контуре.

Кому подходит

Подходит, если

Данные нельзя передавать во внешние сервисы: договоры, персональные данные, коммерческая тайна
Нужны ответы по документам компании и помощь разработчикам внутри контура
Есть или можно купить сервер с видеокартой

Не подходит, если

Задачи редкие и данные не чувствительные: облачные модели дешевле
Нет человека, который будет сопровождать сервер и обновлять модели
Ожидается качество ответов выше, чем у больших облачных моделей, — локальные модели проигрывают на сложных задачах

Вопросы и ответы

Какое оборудование нужно?

Зависит от модели и числа пользователей. На демонстрации показываем стенд и называем требования под ваши сценарии, а не «в среднем».

Данные точно не уходят наружу?

Модель и API работают на вашем оборудовании в вашей сети; выход в интернет нужен только для загрузки моделей и его можно закрыть.

Можно ли подключить локальную модель к 1С или внутреннему приложению?

Да, через API стенда. Это следующий шаг после пилота: формат «Помощник по данным 1С» или внутреннее приложение.

Что показываете на демонстрации?

Ответы по вашим документам, помощь в разработке, проверку ответов — на ваших примерах, по договорённости.

Как посмотреть

Показ по договорённости

Стенд не опубликован в интернете: модели работают локально. Демонстрацию проводим на встрече или по видеосвязи на ваших примерах.

Запросить показ