L'IA générative sur Vertex AI (également appelée genAI ou genAI) vous donne accès aux modèles d'IA générative de Google pour de multiples modalités (texte, code, images, voix). Vous pouvez tester et régler ces grands modèles de langage (LLM), puis les déployer pour les utiliser dans vos applications optimisées par l'IA. Pour en savoir plus, consultez la page Présentation de l'IA générative sur Vertex AI.
Vertex AI dispose de divers modèles de fondation d'IA générative accessibles via une API, y compris les modèles utilisés dans les exemples suivants:
- Gemini Pro est conçu pour gérer les tâches en langage naturel, le chat textuel et de code multitour, ainsi que la génération de code.
- Gemini Pro Vision est compatible avec les requêtes multimodales. Vous pouvez inclure du texte, des images et des vidéos dans vos requêtes et obtenir des réponses textuelles ou de code.
- Pathways Language Model 2 (PaLM 2) pour le texte est affiné pour les tâches linguistiques telles que la classification, la synthèse et l'extraction d'entités.
Chaque modèle est exposé via un point de terminaison d'éditeur spécifique à votre projet Google Cloud. Il n'est donc pas nécessaire de déployer le modèle de fondation, sauf si vous devez le régler pour un cas d'utilisation spécifique. Vous pouvez envoyer une invite au point de terminaison de l'éditeur. Une requête est une requête en langage naturel envoyée à un LLM pour obtenir une réponse.
Ce tutoriel présente les workflows qui génèrent des réponses à partir de modèles Vertex AI en envoyant des requêtes textuelles aux points de terminaison de l'éditeur à l'aide d'un connecteur de workflows ou d'une requête HTTP POST
. Pour en savoir plus, consultez Présentation du connecteur d'API Vertex AI et Envoyer une requête HTTP.
Notez que vous pouvez déployer et exécuter chaque workflow indépendamment les uns des autres.
Objectifs
Dans ce tutoriel, vous allez:
- Activez les API Vertex AI et Workflows, puis attribuez le rôle "Utilisateur Vertex AI" (
roles/aiplatform.user
) à votre compte de service. Ce rôle permet d'accéder à la plupart des fonctionnalités de Vertex AI. Pour en savoir plus sur la configuration de Vertex AI, consultez la page Configurer Vertex AI. - déployer et exécuter un workflow qui invite un modèle Vertex AI (Gemini Pro Vision) à décrire une image accessible au public via Cloud Storage ; Pour en savoir plus, consultez Rendre des données publiques.
- Déployer et exécuter un workflow qui parcourt une liste de pays en parallèle et demande à un modèle Vertex AI (Gemini Pro) de générer et de renvoyer les historiques des pays concernés. L'utilisation de branches parallèles vous permet de réduire la durée totale d'exécution en démarrant simultanément les appels au LLM et en attendant qu'ils soient tous terminés avant de combiner les résultats. Pour en savoir plus, consultez la section Exécuter les étapes du workflow en parallèle.
- Déployez un workflow semblable au précédent. Toutefois, demandez à un modèle Vertex AI (PaLM 2 pour le texte) de générer et de renvoyer les historiques des pays. Pour en savoir plus sur le choix d'un modèle, consultez la section Informations sur le modèle.
- Déployez un workflow capable de résumer un document volumineux. Étant donné qu'il existe une limite à la fenêtre de contexte, qui définit l'ancienneté du modèle pendant l'entraînement (et pour les prévisions), le workflow divise le document en parties plus petites, puis demande à un modèle Vertex AI (Gemini Pro) de résumer chacune d'elles en parallèle. Pour en savoir plus, consultez les sections Invites de synthèse et Horizon de prévision, fenêtre de contexte et fenêtre de prévision.
Coûts
Dans ce document, vous utilisez les composants facturables suivants de Google Cloud :
Obtenez une estimation des coûts en fonction de votre utilisation prévue à l'aide du simulateur de coût.
Une fois que vous avez terminé les tâches décrites dans ce document, vous pouvez éviter de continuer à payer des frais en supprimant les ressources que vous avez créées. Pour en savoir plus, consultez la section Effectuer un nettoyage.
Avant de commencer
Avant d'essayer les exemples de ce tutoriel, assurez-vous d'avoir suivi les étapes suivantes.
Console
- Connectez-vous à votre compte Google Cloud. Si vous débutez sur Google Cloud, créez un compte pour évaluer les performances de nos produits en conditions réelles. Les nouveaux clients bénéficient également de 300 $ de crédits gratuits pour exécuter, tester et déployer des charges de travail.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Vérifiez que la facturation est activée pour votre projet Google Cloud.
-
Activer les API Vertex AI and Workflows.
-
Create a service account:
-
In the Google Cloud console, go to the Create service account page.
Go to Create service account - Select your project.
-
In the Service account name field, enter a name. The Google Cloud console fills in the Service account ID field based on this name.
In the Service account description field, enter a description. For example,
Service account for quickstart
. - Click Create and continue.
-
Grant the Vertex AI > Vertex AI User role to the service account.
To grant the role, find the Select a role list, then select Vertex AI > Vertex AI User.
- Click Continue.
-
Click Done to finish creating the service account.
-
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Vérifiez que la facturation est activée pour votre projet Google Cloud.
-
Activer les API Vertex AI and Workflows.
-
Create a service account:
-
In the Google Cloud console, go to the Create service account page.
Go to Create service account - Select your project.
-
In the Service account name field, enter a name. The Google Cloud console fills in the Service account ID field based on this name.
In the Service account description field, enter a description. For example,
Service account for quickstart
. - Click Create and continue.
-
Grant the Vertex AI > Vertex AI User role to the service account.
To grant the role, find the Select a role list, then select Vertex AI > Vertex AI User.
- Click Continue.
-
Click Done to finish creating the service account.
-
gcloud
- Connectez-vous à votre compte Google Cloud. Si vous débutez sur Google Cloud, créez un compte pour évaluer les performances de nos produits en conditions réelles. Les nouveaux clients bénéficient également de 300 $ de crédits gratuits pour exécuter, tester et déployer des charges de travail.
- Installez Google Cloud CLI.
-
Pour initialiser gcloudCLI, exécutez la commande suivante :
gcloud init
-
Create or select a Google Cloud project.
-
Create a Google Cloud project:
gcloud projects create PROJECT_ID
Replace
PROJECT_ID
with a name for the Google Cloud project you are creating. -
Select the Google Cloud project that you created:
gcloud config set project PROJECT_ID
Replace
PROJECT_ID
with your Google Cloud project name.
-
-
Vérifiez que la facturation est activée pour votre projet Google Cloud.
-
Activer les API Vertex AI and Workflows :
gcloud services enable aiplatform.googleapis.com
workflows.googleapis.com -
Set up authentication:
-
Create the service account:
gcloud iam service-accounts create SERVICE_ACCOUNT_NAME
Replace
SERVICE_ACCOUNT_NAME
with a name for the service account. -
Grant the
roles/aiplatform.user
IAM role to the service account:gcloud projects add-iam-policy-binding PROJECT_ID --member="serviceAccount:SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com" --role=roles/aiplatform.user
Replace the following:
SERVICE_ACCOUNT_NAME
: the name of the service accountPROJECT_ID
: the project ID where you created the service account
-
- Installez Google Cloud CLI.
-
Pour initialiser gcloudCLI, exécutez la commande suivante :
gcloud init
-
Create or select a Google Cloud project.
-
Create a Google Cloud project:
gcloud projects create PROJECT_ID
Replace
PROJECT_ID
with a name for the Google Cloud project you are creating. -
Select the Google Cloud project that you created:
gcloud config set project PROJECT_ID
Replace
PROJECT_ID
with your Google Cloud project name.
-
-
Vérifiez que la facturation est activée pour votre projet Google Cloud.
-
Activer les API Vertex AI and Workflows :
gcloud services enable aiplatform.googleapis.com
workflows.googleapis.com -
Set up authentication:
-
Create the service account:
gcloud iam service-accounts create SERVICE_ACCOUNT_NAME
Replace
SERVICE_ACCOUNT_NAME
with a name for the service account. -
Grant the
roles/aiplatform.user
IAM role to the service account:gcloud projects add-iam-policy-binding PROJECT_ID --member="serviceAccount:SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com" --role=roles/aiplatform.user
Replace the following:
SERVICE_ACCOUNT_NAME
: the name of the service accountPROJECT_ID
: the project ID where you created the service account
-
Déployer un workflow qui décrit une image (Gemini Pro Vision)
Déployez un workflow qui utilise une méthode de connecteur (generateContent
) pour envoyer une requête à un point de terminaison d'éditeur Gemini Pro Vision. Cette méthode permet de générer du contenu à l'aide d'entrées multimodales.
Le workflow fournit une requête textuelle et l'URI d'une image accessible au public dans un bucket Cloud Storage. Vous pouvez afficher l'image et afficher les détails de l'objet dans la console Google Cloud.
Le workflow renvoie une description de l'image à partir de la réponse générée par le modèle.
Pour en savoir plus sur les paramètres du corps de la requête HTTP utilisés lors de l'envoi d'une requête au LLM, ainsi que sur les éléments du corps de la réponse, consultez la documentation de référence de l'API Gemini.
Console
Dans la console Google Cloud, accédez à la page Workflows.
Cliquez sur
Créer.Saisissez un nom pour le nouveau workflow:
describe-image
.Dans la liste Région, sélectionnez us-central1 (Iowa).
Dans le champ Compte de service, sélectionnez le compte de service que vous avez créé précédemment.
Cliquez sur Suivant.
Dans l'éditeur de workflow, saisissez la définition suivante pour votre workflow:
Cliquez sur Déployer.
gcloud
Créez un fichier de code source pour votre workflow:
touch describe-image.yaml
Dans un éditeur de texte, copiez le workflow suivant dans votre fichier de code source:
Déployez le workflow en saisissant la commande suivante :
gcloud workflows deploy describe-image \ --source=describe-image.yaml \ --location=us-central1 \ --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com
Exécuter le workflow
L'exécution d'un workflow exécute la définition actuelle du workflow associé au workflow.
Console
Dans la console Google Cloud, accédez à la page Workflows.
Sur la page Workflows, sélectionnez le workflow describe-image pour accéder à sa page d'informations.
Sur la page Détails du workflow, cliquez sur play_arrow Exécuter.
Dans le champ Entrée, saisissez la commande suivante:
{"image_url":"gs://generativeai-downloads/images/scones.jpg"}
Cliquez à nouveau sur Exécuter.
Affichez les résultats du workflow dans le volet Output (Résultat).
La sortie devrait ressembler à ce qui suit :
{ "image_description": "There are three pink peony flowers on the right side of the picture[]...]There is a white napkin on the table.", "image_url": "gs://generativeai-downloads/images/scones.jpg" }
gcloud
Ouvrez un terminal.
Exécutez le workflow :
gcloud workflows run describe-image \ --data='{"image_url":"gs://generativeai-downloads/images/scones.jpg"}'
Les résultats de l'exécution doivent ressembler à ce qui suit:
Waiting for execution [258b530e-a093-46d7-a4ff-cbf5392273c0] to complete...done. argument: '{"image_url":"gs://generativeai-downloads/images/scones.jpg"}' createTime: '2024-02-09T13:59:32.166409938Z' duration: 4.174708484s endTime: '2024-02-09T13:59:36.341118422Z' name: projects/1051295516635/locations/us-central1/workflows/describe-image/executions/258b530e-a093-46d7-a4ff-cbf5392273c0 result: "{\"image_description\":\"The picture shows a rustic table with a white surface,\ \ on which there are several scones with blueberries, as well as two cups of coffee\ [...] \ on the table. The background of the table is a dark blue color.\",\"image_url\"\ :\"gs://generativeai-downloads/images/scones.jpg\"}" startTime: '2024-02-09T13:59:32.166409938Z' state: SUCCEEDED
Déployer un workflow qui génère des historiques de pays (Gemini Pro)
Déployez un workflow qui parcourt une liste d'entrées parallel et utilise une méthode de connecteur (generateContent
) pour envoyer une requête à un point de terminaison d'éditeur Gemini Pro. Cette méthode permet de générer du contenu à l'aide d'entrées multimodales.
Le workflow renvoie les historiques des pays générés par le modèle, en les combinant sur une carte.
Pour en savoir plus sur les paramètres du corps de la requête HTTP utilisés lors de l'envoi d'une requête au LLM, ainsi que sur les éléments du corps de la réponse, consultez la documentation de référence de l'API Gemini.
Console
Dans la console Google Cloud, accédez à la page Workflows.
Cliquez sur
Créer.Saisissez un nom pour le nouveau workflow:
gemini-pro-country-histories
.Dans la liste Région, sélectionnez us-central1 (Iowa).
Dans le champ Compte de service, sélectionnez le compte de service que vous avez créé précédemment.
Cliquez sur Suivant.
Dans l'éditeur de workflow, saisissez la définition suivante pour votre workflow:
Cliquez sur Déployer.
gcloud
Créez un fichier de code source pour votre workflow:
touch gemini-pro-country-histories.yaml
Dans un éditeur de texte, copiez le workflow suivant dans votre fichier de code source:
Déployez le workflow en saisissant la commande suivante :
gcloud workflows deploy gemini-pro-country-histories \ --source=gemini-pro-country-histories.yaml \ --location=us-central1 \ --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com
Exécuter le workflow
L'exécution d'un workflow exécute la définition actuelle du workflow associé au workflow.
Console
Dans la console Google Cloud, accédez à la page Workflows.
Sur la page Workflows, sélectionnez le workflow gemini-pro-country-histories pour accéder à sa page d'informations.
Sur la page Détails du workflow, cliquez sur play_arrow Exécuter.
Dans le champ Entrée, saisissez la commande suivante:
{"countries":["Argentina", "Bhutan", "Cyprus", "Denmark", "Ethiopia"]}
Cliquez à nouveau sur Exécuter.
Affichez les résultats du workflow dans le volet Output (Résultat).
La sortie devrait ressembler à ce qui suit :
{ "Argentina": "The history of Argentina is a complex and fascinating one, marked by periods of prosperity and decline, political [...] "Bhutan": "The history of Bhutan is a rich and fascinating one, dating back to the 7th century AD. Here is a brief overview: [...] "Cyprus": "The history of Cyprus is a long and complex one, spanning over 10,000 years. The island has been ruled by a succession [...] "Denmark": "1. **Prehistory and Early History (c. 12,000 BC - 800 AD)**\\n - The earliest evidence of human habitation in Denmark [...] "Ethiopia": "The history of Ethiopia is a long and complex one, stretching back to the earliest human civilizations. The country is [...] }
gcloud
Ouvrez un terminal.
Exécutez le workflow :
gcloud workflows run gemini-pro-country-histories \ --data='{"countries":["Argentina", "Bhutan", "Cyprus", "Denmark", "Ethiopia"]}' \ --location=us-central1
Les résultats de l'exécution doivent ressembler à ce qui suit:
Waiting for execution [7ae1ccf1-29b7-4c2c-99ec-7a12ae289391] to complete...done. argument: '{"countries":["Argentina","Bhutan","Cyprus","Denmark","Ethiopia"]}' createTime: '2024-02-09T16:25:16.742349156Z' duration: 12.075968673s endTime: '2024-02-09T16:25:28.818317829Z' name: projects/1051295516635/locations/us-central1/workflows/gemini-pro-country-histories/executions/7ae1ccf1-29b7-4c2c-99ec-7a12ae289391 result: "{\"Argentina\":\"The history of Argentina can be traced back to the arrival\ [...] n* 2015: Argentina elects Mauricio Macri as president.\",\"Bhutan\":\"The history\ [...] \ natural beauty, ancient monasteries, and friendly people.\",\"Cyprus\":\"The history\ [...] ,\"Denmark\":\"The history of Denmark can be traced back to the Stone Age, with\ [...] \ a high standard of living.\",\"Ethiopia\":\"The history of Ethiopia is long and\ [...] startTime: '2024-02-09T16:25:16.742349156Z' state: SUCCEEDED
Déployer un workflow qui génère des historiques des pays (PaLM 2 pour le texte)
Vous ne souhaitez peut-être pas utiliser Gemini Pro comme modèle. L'exemple suivant utilise un workflow semblable au précédent. Toutefois, il utilise une méthode de connecteur (predict
) pour envoyer une requête à un PaLM 2 pour le point de terminaison d'un éditeur de texte. La méthode effectue une prédiction en ligne.
Pour en savoir plus sur les paramètres du corps de la requête HTTP utilisés lors de l'envoi d'une requête au LLM, ainsi que sur les éléments du corps de la réponse, consultez la documentation de référence de PaLM 2 sur l'API Text.
Console
Dans la console Google Cloud, accédez à la page Workflows.
Cliquez sur
Créer.Saisissez un nom pour le nouveau workflow:
text-bison-country-histories
.Dans la liste Région, sélectionnez us-central1 (Iowa).
Dans le champ Compte de service, sélectionnez le compte de service que vous avez créé précédemment.
Cliquez sur Suivant.
Dans l'éditeur de workflow, saisissez la définition suivante pour votre workflow:
Notez que selon le modèle utilisé, vous devrez peut-être supprimer tous les espaces blancs inutiles de la réponse.
Cliquez sur Déployer.
gcloud
Créez un fichier de code source pour votre workflow:
touch text-bison-country-histories.yaml
Dans un éditeur de texte, copiez le workflow suivant dans votre fichier de code source:
Notez que selon le modèle utilisé, vous devrez peut-être supprimer tous les espaces blancs inutiles de la réponse.
Déployez le workflow en saisissant la commande suivante :
gcloud workflows deploy text-bison-country-histories \ --source=text-bison-country-histories.yaml \ --location=us-central1 \ --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com
Déployer un workflow qui résume un document volumineux (Gemini Pro)
Déployez un workflow qui divise un document volumineux en plusieurs parties, en envoyant des requêtes http.post
à un point de terminaison d'éditeur Gemini Pro parallel afin que le modèle puisse résumer chaque partie simultanément. Le workflow combine enfin tous les résumés partiels en un seul.
Pour en savoir plus sur les paramètres du corps de la requête HTTP utilisés lors de l'envoi d'une requête au LLM, ainsi que sur les éléments du corps de la réponse, consultez la documentation de référence de l'API Gemini.
La définition du workflow suppose que vous avez créé un bucket Cloud Storage dans lequel vous pouvez importer un fichier texte. Pour en savoir plus sur le connecteur de workflows (googleapis.storage.v1.objects.get
) utilisé pour récupérer des objets du bucket Cloud Storage, consultez la documentation de référence sur les connecteurs.
Après avoir déployé le workflow, vous pouvez l'exécuter en créant un déclencheur Eventarc approprié, puis en important un fichier dans le bucket. Pour en savoir plus, consultez la section Router les événements Cloud Storage vers Workflows.
Notez que des API supplémentaires doivent être activées et que d'autres rôles doivent être accordés. Par exemple, vous devez accorder à votre compte de service le rôle Utilisateur des objets Storage (roles/storage.objectUser
) compatible avec l'utilisation d'objets Cloud Storage. Pour en savoir plus, consultez la section Préparer la création d'un déclencheur.
Console
Dans la console Google Cloud, accédez à la page Workflows.
Cliquez sur
Créer.Saisissez un nom pour le nouveau workflow:
gemini-pro-summaries
.Dans la liste Région, sélectionnez us-central1 (Iowa).
Dans le champ Compte de service, sélectionnez le compte de service que vous avez créé précédemment.
Cliquez sur Suivant.
Dans l'éditeur de workflow, saisissez la définition suivante pour votre workflow:
Cliquez sur Déployer.
gcloud
Créez un fichier de code source pour votre workflow:
touch gemini-pro-summaries.yaml
Dans un éditeur de texte, copiez le workflow suivant dans votre fichier de code source:
Déployez le workflow en saisissant la commande suivante :
gcloud workflows deploy gemini-pro-summaries \ --source=gemini-pro-summaries.yaml \ --location=us-central1 \ --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com
Effectuer un nettoyage
Pour éviter que les ressources utilisées lors de ce tutoriel soient facturées sur votre compte Google Cloud, supprimez le projet contenant les ressources, ou conservez le projet et supprimez les ressources individuelles.
Supprimer le projet
Console
- Dans la console Google Cloud, accédez à la page Gérer les ressources.
- Dans la liste des projets, sélectionnez le projet que vous souhaitez supprimer, puis cliquez sur Supprimer.
- Dans la boîte de dialogue, saisissez l'ID du projet, puis cliquez sur Arrêter pour supprimer le projet.
gcloud
Supprimez un projet Google Cloud :
gcloud projects delete PROJECT_ID
Supprimer des ressources individuelles
Supprimez les workflows que vous avez créés dans ce tutoriel.
Étapes suivantes
- En savoir plus sur les connecteurs Workflows
- En savoir plus sur la méthode
generateContent
de Vertex AI - En savoir plus sur la méthode
predict
de Vertex AI