Регистрация Войти
Рейтинг:0
ndtreviv avatar Server

Диспетчер задач Flink на ECS не может подключиться к диспетчеру заданий на EC2

флаг in
ndtreviv

У меня есть экземпляр EC2, который находится в us-east-1b и запускает менеджер заданий flink, который отвечает за координацию работы нескольких диспетчеров задач через RPC и сервер истории.Я вижу из netstat, что менеджер по работе слушает :::6123 для входящих соединений диспетчера задач.

У меня есть группа автоматического масштабирования, которая запускает экземпляр EC2 в той же az, подсети и группе безопасности, что и экземпляр EC2.

Группа безопасности разрешает весь трафик на всех портах из любого источника в группе в любой пункт назначения в группе: Входящие правила Исходящие правила

Я использую этот ASG в качестве поставщика емкости для задач ECS. Затем я пытаюсь запустить задачу в ECS, которая запускает диспетчер задач и использует этот ASG.

Диспетчер задач запускается, но не подключается к диспетчеру заданий:

2021-09-28 13:52:08,651 INFO org.apache.flink.runtime.taskexecutor.TaskExecutor [] — не удалось разрешить адрес ResourceManager akka.tcp://[email protected]. внутренний: 6123/user/rpc/resourcemanager_*, повторная попытка через 10000 мс: не удалось подключиться к конечной точке rpc по адресу akka.tcp://[email protected]:6123/user/ rpc/менеджер_ресурсов_*.

Я подключился по ssh-d к экземпляру, запущенному ASG, и подтвердил, что могу свернуть менеджер заданий на ip-xxx-xx-x-xxx.ec2.internal:8081 - оно работает. Итак, я знаю, что экземпляр диспетчера задач может видеть экземпляр диспетчера заданий.

Обобщить:

  • Диспетчер задач и диспетчер заданий находятся в одном и том же VPC, в одной зоне доступности, в одной подсети и в одной группе безопасности.
  • Группа безопасности разрешает весь входящий трафик из источников в той же группе безопасности.
  • Группы безопасности разрешают весь исходящий трафик в любой пункт назначения.
  • Диспетчер заданий работает на экземпляре EC2, созданном вручную.
  • Диспетчер задач работает на экземпляре EC2, созданном ECS как часть ASG. Диспетчер задач работает в контейнере на ECS
  • Я могу свернуть менеджер заданий из узла диспетчера задач
  • Диспетчер задач и диспетчер заданий взаимодействуют через RPC.
  • Диспетчер задач не разрешает адрес диспетчеру заданий

Почему моя задача не подключается? Я также пробовал общедоступный IP-адрес (v4) и частный IP-адрес (v4).

306
0 + 0
Tim avatar
флаг gp
Tim
Пожалуйста, отредактируйте свой вопрос, чтобы добавить скриншот правил входа/выхода SG, а также описать, что такое диспетчер задач/диспетчер заданий и где они работают. Попробуйте добавить свою группу безопасности в собственное правило для входящего трафика, которое позволяет экземплярам в одной группе взаимодействовать друг с другом. Главное, что нужно понять, это то, что SG — это брандмауэр вокруг каждого сетевого интерфейса, это не традиционная подсеть, где все может взаимодействовать по умолчанию.
0
Ответить
ndtreviv avatar
флаг in
ndtreviv
@ Тим, я предоставил детали, которые вы просили.
0
Ответить
Tim avatar
флаг gp
Tim
Добавьте правило безопасности для исходящего трафика в ту же группу SG. Разрешение 0.0.0.0/0 отличается от разрешения доступа к определенной группе безопасности. Не уверен на 100%, что это решение, но вы не предоставили мне достаточно информации, чтобы быть уверенным. Кроме того, при создании скриншотов SG вы должны включить верхнюю часть, которая показывает идентификатор SG. Ваш первый входящий SG покрывает весь трафик, остальные являются резервными.
0
Ответить
ndtreviv avatar
флаг in
ndtreviv
Я добавил исходящее правило в ту же SG, разрешающее весь трафик. Нет никаких изменений. Я могу пропинговать экземпляр ECS из экземпляра EC2 и наоборот. Я ценю вашу помощь, и я дал вам все, что вы просили до сих пор. Если вам все еще нужна дополнительная информация, я буду рад разместить ее там.
0
Ответить
Рейтинг:1
ndtreviv avatar Server
флаг in
ndtreviv

Сегодня я обнаружил, почему это не работает.

Менеджер заданий был настроен с помощью:

jobmanager.rpc.address: локальный

и поэтому, прослушивая правильный порт rpc, не принимал трафик на любой другой адрес.

Когда я изменил его, чтобы он соответствовал диспетчеру задач:

jobmanager.rpc.address: ip-xxx-xx-x-xxx.ec2.internal

потом диспетчер задач подключился сразу.

0 + 0
флаг Moldova
Admin
Этот вопрос на других языках:

Ответить или комментировать

Большинство людей не понимают, что склонность к познанию нового открывает путь к обучению и улучшает межличностные связи. В исследованиях Элисон, например, хотя люди могли точно вспомнить, сколько вопросов было задано в их разговорах, они не чувствовали интуитивно связи между вопросами и симпатиями. В четырех исследованиях, в которых участники сами участвовали в разговорах или читали стенограммы чужих разговоров, люди, как правило, не осознавали, что задаваемый вопрос повлияет — или повлиял — на уровень дружбы между собеседниками.