Как разделить ресурсы (вычислительные машины) между проектами в облачной платформе google

Я пытаюсь создать прототип, где я могу делиться ресурсами между проектами для выполнения задания в облачной платформе Google.

Мотивация: допустим, есть два проекта: проект A и проект B. Я хочу использовать кластер dataproc, созданный в проекте A, для выполнения задания в проекте B. Проект находится в одной организации на платформе GCP.

Как я могу это сделать?


person Dipin Goyal    schedule 25.10.2018    source источник


Ответы (1)


Есть несколько способов управлять ресурсами в проектах. Вероятно, самый простой способ сделать это:

  1. Создайте учетную запись службы с соответствующими разрешениями для всех ваших проектов.
  2. Настройте соединение Airflow с имеющейся у вас учетной записью службы. созданный.
  3. Вы можете создать рабочие процессы, использующие это соединение, а затем укажите проект при создании кластера Cloud Dataproc.

На ум приходят альтернативные способы сделать это:

  1. Используйте что-то вроде BashOperator или PythonOperator для выполнения команд Cloud SDK.
  2. Используйте оператор HTTP для проверки связи с конечными точками REST служб, которые вы хотите использовать.

Сказав это, первый подход с использованием операторов, вероятно, самый простой на сегодняшний день и будет рекомендованным способом делать то, что вы хотите.

Что касается Dataproc, когда вы создаете задание, оно привязывается только к кластерам в рамках конкретного проекта. Невозможно создать рабочие места в одном проекте против кластеров в другом. Это связано с тем, что такие вещи, как ведение журнала, аудит и другая связанная с заданием семантика, беспорядочны, когда кластеры находятся в другом проекте.

person James    schedule 25.10.2018
comment
Могу ли я совместно использовать реестр контейнеров среди проектов? в случае, если мне нужно иметь конвейер ci / cd, который я бы развернул во многих env, должен ли я иметь проект DEV, QA, PROD или должен ли я иметь ресурсы DEV, QA, PROD в рамках проекта? - person Tiago Medici; 06.10.2020