Больше чем просто автоматизация выполнения
рутинных задач командой поддержки СУБД Greenplum
Tera Integro Managed Services Tool

Tera Integro Managed Services Tool — это инструмент для администраторов баз данных Greenplum. Он автоматизирует рутинные операции, накапливает данные о состояние СУБД, выполняет анализ данных.


Ваш Администратор занимается Вашей системой, вместо программирования для получения данных о ней, настройки графиков в Excel для визуализации или постоянного просмотра графиков в системах мониторинга.

Автоматизировано собирает
и накапливает исторические данные о кластере
Tera Integro Managed Services Tool собирает
и накапливает историю характеристик СУБД Greenplum для проведения последующего анализа.
Выявляет проблемные ситуации
Накопление данных и их визуальный требуют участие человека. Автоматизированное выявление проблемных ситуаций кардинально снижает необходимость участия человека, требуя его внимание для решения конкретных выявленных проблем.
Визуализирует данные
в удобном виде
Инструмент предоставляет интерактивные графики в WebUI, удобные для работы пользователей.
Помощь в решении проблем СУБД

У любого «живого» кластера Greenplum есть вопросы по оптимизации работы. TI MS Tool помогает локализовать проблемы и их причины ещё до наступления аварий.


Цель: все ресурсы кластера равномерно работают, с достижением целей SLA

Более оптимально настроить распределение ресурсов в Ресурсных группах:

  • Кластер загружен менее чем на половину, но отдельные группы под 100%
  • Группа загружена наполовину – но запросам в ней не хватает ресурсов
  • Группа загружена под 100% - и всё работает крайне медленно
  • Длинная очередь ожидания запросов

Выявить “плохие” таблицы:

  • «Холодные» и «мёртвые» таблицы/партиции
  • «Горячие» большие таблицы, которые не партиционированы и без компрессии
  • Партиционированные таблицы, у которых партиционирование по сути не работает
  • Таблицы с значимым перекосом распределения, вплоть до «вся таблица на одном сегменте»
  • Очень «горячие» большие таблицы – для анализа и оптимизации в первую очередь

Выявить проблемные сегменты:

  • «Горячие» сегменты по утилизации CPU – пока он работает, остальные его ждут
  • Вклад ресурсных групп в перекос утилизации CPU на сегментах
  • Перекосы в работе PXF с внешними хранилищами данных
  • Наличие ошибок в работе PXF, недостаток CPU и/или RAM под объёмы передаваемых данных
Возможности Tera Integro Managed Services Tool
1
Автоматизированое снятие данных с источников и накопление истории
Автоматизированный сбор и накопление информации о работе кластера.
Снятие данных о таблицах и партициях на крупных кластерах в 1 млн атомарных таблиц (включая партиции).
На стороне серверов СУБД не требуется установка каких-либо дополнительных компонентов, за исключением процедуры для получения размеров таблиц.
2
Трансформация данных для WebUI и расчёт аналитики
Данные трансформируются для быстрого использования в WebUI:
  • Часовые и минутные показатели работы
  • Расчёт «температуры» набора данных за сутки
  • Сегменты с перекосом утилизации
Автоматизированно проводится проверка наличия проблемных ситуаций в разрезах по сегментам, ресурсным группам, таблицам
3
Визуализация данных в удобном интерфейсе
Накопленные данные сразу после снятия доступны в графиках в привычном интерфейсе Grafana:
  • По всем ресурсным группам, одной или по группе
  • С фильтрацией по часу(часам), дню(дням) недели или их комбинации
  • Комбинированный вывод графиков для визуального соотнесения показателей
4
Уведомление при выявлении серьёзных ситуаций
Отправка уведомлений в случаях выявления ситуаций, отмеченных как серъёзные.
Доставка уведомлений удобном и распространённом способом - начиная с email и сообщения в Telegram
Накопленные данные показывают историю работы
В СУБД Greenplum есть данные, отражающие текущее состояние. Но нет данных о состоянии в прошлом. Анализ текущего состояния помогает выявить и проанализировать сиюминутные проблемы, но не даёт определить регулярность проявления проблем - и решить их до повторения в будущем.
Ресурсные группынастройки и утилизация ресурсов

  • кол-во запросов – обработанных, обрабатываемых и в очереди ожидания
  • утилизация CPU и RAM на сегмент-серверах и на мастере

Таблицы и партиции — размер данных на диске и «Температура данных»

  • кол-ва сканирований, вставок и удалений строк
  • сегменты с перекосом по кол-ву строк и размеру на диске
  • размер данных на дисках включая индексы – на сегментах и мастере
  • тип таблицы и применяемая компрессия
  • кол-во партиций, пустых сегментов, дата-время последних выполнений VACUUM и ANALYZE и т.п.

Характеристики работы PXFосновные показатели работы и утилизации ресурсов на серверах установки PXF
Графики в Web UI интефрейсе

Типовые графики

По суткам – включая дни до после выбранного
По часу суток (от 0 до 23)
По календарному времени за период

Дашборды и графики

в Grafana

По ресурсным группам:

Утилизация CPU и RAM на мастере

и сегментах

Кол-во запросов – обработанных, обрабатываемых и в очереди


Утилизация CPU и RAM на сегментах

и кластере


Сегменты с перекосом утилизации по CPU

Фильтры
Период времени (обязательно)
Кластер (обязательно)
Ресурсные группы
День недели
Час суток
Очень просто начать пользоваться
1

Распаковать дистрибутив и установить одной командой

ПО поставляется в виде готовых к использованию docker-имиджей и утилит по их запуску: он включает всё, что необходимое для работы TI MS Tool.


Требуется наличие на сервере развёртывания docker и docker-compose

2
Создать пользователя в СУБД Greenplum
Достаточно учётной записи с возможностью подключения к СУБД.
Не требуется прав на чтение каких-либо пользовательских данных!
Достаточно доступа к системным справочникам (который есть у пользователя по умолчанию)
3

Опубликовать лицензию и указать объекты мониторинга

Лицензия представляет их себя JSON файл, который достаточно разместить в заданный каталог инсталляции.

Объекты мониторинга - кластера СУБД, инсталляции PXF - описываются в конфигурационном файле так же в формате JSON

4
Начать пользоваться
MS Tool сразу начинает собирать данные об объектах мониторинга с заданной регулярностью (которую пользователь может переопределить ло необходимости).
Стоимость решения
Стоимость временной/постоянной лицензии и технической поддержки на продукт зависит от количества физических ядер, типа кластера (prod, test) и рассчитывается индивидуально.

Свяжитесь с нами по тел +7 495 780-47-40 или по email info@tintegro.io, и наши специалисты свяжутся с вами в ближайшее время.
© 2024 ООО «Тера Интегро»
ООО «Тера Интегро»

ОГРН 1227700185052
ИНН 7708403641
Адрес юридический: 129 085, Москва, ул. Годовикова, д. 9 стр. 17


Контактные данные

Телефон: +7 495 780-47-40
Email: info@tintegro.io
Адрес офиса: 129 085, Москва, ул. Годовикова, д. 9 стр. 17
ООО «Тера Интегро» внесено в реестр аккредитованных организаций, осуществляющих деятельность в области информационных технологий, дата внесения 14.06.2022 за номером записи 28999