Варианты использования Modus ETL

Для ModusETL существуют базовые и продвинутые способы получения, загрузки и обработки данных.

Базовый вариант – использует встроенные в приложение ModusETL механизмы:

  • для сбора данных - стандартный механизм, когда полученные из источника данные сначала размещаются во временных массивах и структурах, а затем сохраняются в базу данных хранилища целиком.
  • для интеграции с 1С-источниками – «Внешнее-соединение» (COM-коннектор).

Продвинутый варинат (более производительный и масштабируемый) предполагает, использование вместе с ModusETL специально разработанных дополнительных модулей:

  • «Агент ETL» (разработан на языке Golang) для многопоточной обработки данных. При работе под OC Linux использование «Агента ETL» обязательно. Возможно использование с одним ETL нескольких агентов, размещенных как-правило на разных серверах, что обеспечивает горизонтальную масштабируемость получения-обработки данных.

  • «Адаптер ETL для 1С» - http-сервис, для получения данных из 1С-приложений. Этот компонент устанавливается в 1С-источники как отдельная подсистема в конфигурацию базы-источника или как расширение конфигурации.

Сравнение и особенности вариантов, а также названия инструкций по установке-настройке дополнительного ПО представлены в Таблица 1.

Таблица 1. Сравнение вариантов получения данных и интеграции с 1С-источниками

Функционал Базовый вариант Продвинутый вариант с дополнительным ПО (Инструкция)
Сбор и обработка данных Стандартные механизмы приложения:
- Получаемые из источников данные сохраняются во временных массивах-и-структурах и, затем записываются в БД хранилища целиком
Агент ETL
Многопоточное получание данных с управлением порциями и очередями.
(+) производительность
(+) масштабируемость
(+) работа под ОС Linux

Modus ETL. Руководство по установке Агента
Коннектор для 1С-источников Внешнее соединение/COM-коннектор:
(-) Ограничение: 1С-источник и ETL должны иметь одинаковые версии 1С-платформы/ СОМ-коннектора
Адаптер ETL для 1С
-http-сервис, встраиваемый в 1С-источник
(+) нативные способы получения данных из 1С

Модус ETL. Руководство по установке и настройке.
[Приложение П1. Инструкция по встраиванию “Адаптера ETL-1С” в 1С базу-источник](../3.5 Инструкция по встраиванию Адаптера ETL-1C в 1С базу-источник/index.md)

Схема компонентов аналитической системы с использованием Агента ETL и Адаптера ETL-1С представлена на Рисунок 1.

Рисунок 1. Схема компонентов аналитической системы

Рисунок 1. Схема компонентов аналитической системы

Подробные инструкции по установке и настройке, а также требования к оборудованию, ПО и ограничения для модулей