カテゴリ一 AWS ブログ開発 AI クラウド

2024-05-07 #AWS #TypeScript #Amazon Bedrock

こんにちは！エンジニアの岩間です。

最近、今話題のAmazon Bedrock APIを実行してTypeScriptのテストコードを出力してみる機会があったので、今回は実行手順とそのサンプルコードをご紹介していきたいと思います。

1 Amazon Bedrock とは
2 Bedrock APIを実行するまでの手順
3 まとめ

Amazon Bedrock とは

Amazon Bedrock は、主要な AI スタートアップや Amazon が提供する高パフォーマンスな基盤モデル (FM) を、統合 API を通じて利用できるようにするフルマネージド型サービスです。さまざまな基盤モデルから選択して、ユースケースに最適なモデルを見つけることができます。

簡単にいうと、AWSが提供する生成AIのサービスのことです。

公式ドキュメント

Bedrock APIを実行するまでの手順

ここからはAmazon Bedrock APIを実行するまでの流れをご紹介します。

モデルアクセスの設定

まずはコンソールでモデルアクセスの設定を行っていきます。

Amazon Bedrock ファンデーションモデルへのアクセスはデフォルトでは許可されていません。基盤モデルにアクセスするには、十分な権限を持つ IAM ユーザーがコンソールからそのモデルへのアクセスをリクエストする必要があります。モデルへのアクセス権が付与されると、そのモデルはそのアカウントのすべてのユーザーが利用できるようになります。

1. AWSコンソールからBedrockのページに移動し、左のサイドメニューから「モデルアクセス」をクリックします。（東京リージョン）

2. 次に「モデルアクセスを管理」ボタンをクリックします。

3. 今回はClaudeを使うので、ユースケースの詳細を送信します。※Anthropic モデルにアクセスするには、ユースケースの詳細を送信する必要があります。

4. 下記の画像のようなポップアップが表示されるので、会社名等の情報を送信します。

5. ユースケースの詳細を送信後、Claudeが選択可能な状態となるので選択し、「変更を保存」ボタンをクリックします。

6. しばらく待つと以下の画像のように「アクセスが付与されました」のステータスになります。これでClaudeモデルへのアクセスが可能となりました！

コーディング

次にコードを書いていきます。

今回はローカルのTypeScriptのコードからAmazon Bedrock APIを実行していきたいと思います。

ローカルで以下のコマンドを実行します。

// ディレクトリ作成
mkdir bedrock-practice && cd bedrock-practice
// 初期化
npm init
// 各種インストール
npm install --save typescript aws-sdk @types/node @aws-sdk/client-bedrock-runtime @aws-sdk/credential-providers ts-node fs
// ファイル作成＆編集
vi index.ts

// ディレクトリ作成

mkdir bedrock-practice && cd bedrock-practice

// 初期化

npm init

// 各種インストール

npm install --save typescript aws-sdk @types/node @aws-sdk/client-bedrock-runtime @aws-sdk/credential-providers ts-node fs

// ファイル作成＆編集

vi index.ts

index.tsを以下のように編集します。

Bedrockに渡すプロンプトでは、サンプルのプログラムをもとにテストコードの作成をお願いしています。

const { BedrockRuntimeClient, InvokeModelCommand } = require("@aws-sdk/client-bedrock-runtime");
const { fromSSO } = require("@aws-sdk/credential-providers");
const fs = require('fs');

// Bedrock apiを呼び出すための関数
async function callBedrockAPI() {

  // Client情報を定義
  const bedrockClient = new BedrockRuntimeClient({
    credentialDefaultProvider: fromSSO({
      profile: "sandbox-xxxx", // プロファイル名を指定
    }),
    region: "ap-northeast-1", // リージョンを指定
  });

  // Bedrockに渡すプロンプトを指定
  const prompt = `Human: あなたはTypeScriptプログラムの設計、実装、試験のスペシャリストです。
  <inputText></inputText>タグ内のプログラムはTypeScriptプログラムです。
  このTypeScriptプログラムを読んで、テストコードを作成してください。
  <inputText>
  ${await readFile('./test.ts')}
  </inputText>`;

  // APIのリクエストボディの設定　ドキュメント：https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/model-parameters-anthropic-claude-messages.html#model-parameters-anthropic-claude-messages-request-response
  const requestBody = {
    anthropic_version: "bedrock-2023-05-31", // 値は bedrock-2023-05-31 にする必要があります
    max_tokens: 4096, // 停止する前に生成するトークンの最大数。AnthropicClaudeモデルによって、このパラメーターの最大値は異なります　最大値一覧：https://docs.anthropic.com/claude/docs/models-overview#model-comparison
    messages: [{ role: "user", content: [{ type: "text", text: prompt }] }], // 入力メッセージ
  };

  // APIのリクエストパラメータを設定
  const params = new InvokeModelCommand({
    body: JSON.stringify(requestBody),
    contentType: "application/json",
    accept: "application/json",
    modelId: "anthropic.claude-v2:1", // BedrockのモデルIDを指定　モデルID一覧：https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html#model-ids-arns
  });

  try {
    // API実行
    const result = await bedrockClient.send(params);
    const decodedResponseBody = new TextDecoder().decode(result.body);
    const responseBody = JSON.parse(decodedResponseBody);
    return responseBody;
  } catch (error) {
    console.error("Error calling Bedrock API:", error);
    throw error;
  }
}

// ファイルを読み込むための関数
async function readFile(filePath: string) {
  return new Promise((resolve, reject) => {
    fs.readFile(filePath, 'utf8', (err: any , data: any) => {
      if (err) {
        reject(err);
      } else {
        resolve(data);
      }
   });
  });
}

// 非同期関数の呼び出し
callBedrockAPI()
  .then(response => {
    console.log("Response from Bedrock API:", response);
  })
  .catch(error => {
    console.error("Error:", error);
  });

const { BedrockRuntimeClient, InvokeModelCommand } = require("@aws-sdk/client-bedrock-runtime");

const { fromSSO } = require("@aws-sdk/credential-providers");

const fs = require('fs');

// Bedrock apiを呼び出すための関数

async function callBedrockAPI() {

// Client情報を定義

const bedrockClient = new BedrockRuntimeClient({

credentialDefaultProvider: fromSSO({

profile: "sandbox-xxxx", // プロファイル名を指定

}),

region: "ap-northeast-1", // リージョンを指定

});

// Bedrockに渡すプロンプトを指定

const prompt = `Human: あなたはTypeScriptプログラムの設計、実装、試験のスペシャリストです。

<inputText></inputText>タグ内のプログラムはTypeScriptプログラムです。

このTypeScriptプログラムを読んで、テストコードを作成してください。

${await readFile('./test.ts')}

</inputText>`;

// APIのリクエストボディの設定　ドキュメント：https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/model-parameters-anthropic-claude-messages.html#model-parameters-anthropic-claude-messages-request-response

const requestBody = {

anthropic_version: "bedrock-2023-05-31", // 値は bedrock-2023-05-31 にする必要があります

max_tokens: 4096, // 停止する前に生成するトークンの最大数。AnthropicClaudeモデルによって、このパラメーターの最大値は異なります　最大値一覧：https://docs.anthropic.com/claude/docs/models-overview#model-comparison

messages: [{ role: "user", content: [{ type: "text", text: prompt }] }], // 入力メッセージ

};

// APIのリクエストパラメータを設定

const params = new InvokeModelCommand({

body: JSON.stringify(requestBody),

contentType: "application/json",

accept: "application/json",

modelId: "anthropic.claude-v2:1", // BedrockのモデルIDを指定　モデルID一覧：https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html#model-ids-arns

});

try {

// API実行

const result = await bedrockClient.send(params);

const decodedResponseBody = new TextDecoder().decode(result.body);

const responseBody = JSON.parse(decodedResponseBody);

return responseBody;

} catch (error) {

console.error("Error calling Bedrock API:", error);

throw error;

}

// ファイルを読み込むための関数

async function readFile(filePath: string) {

return new Promise((resolve, reject) => {

fs.readFile(filePath, 'utf8', (err: any , data: any) => {

if (err) {

reject(err);

} else {

resolve(data);

}

});

}

// 非同期関数の呼び出し

callBedrockAPI()

.then(response => {

console.log("Response from Bedrock API:", response);

})

.catch(error => {

console.error("Error:", error);

});

クレデンシャルの取得についてですが、社内では、複数のAWS SSO（IAM Identity Center）をAWS CLIに関連付けてAWSにセキュアにログインする運用をしています。

そのためclient情報を定義している箇所（10行目）は、AWS SDK v3 credential providerのfromSSOを利用して使用するプロファイル名を指定しています。

また、同ディレクトリにはBedrockに渡すtest.tsを配置しています。（21行目）

test.tsの内容はWEBからファイルをDLするプログラムとなっています。※ここでは省略

「このプログラム、モデルの学習に使用されるのかな？」とふと思ってドキュメントを読んだところ以下の記述がありました。

Data protection in Amazon Bedrock

Amazon Bedrock doesn’t use your prompts and continuations to train any AWS models or distribute them to third parties.

Amazon Bedrockではプロンプトの情報をAWSのモデルの学習には利用せず、（モデルを提供する）サードパーティに配布しないということがわかりました。

Bedrock API実行

上記手順を実行後、index.tsをローカルで実行してみます。

npx ts-node index.ts

1	npx ts-node index.ts

結果はこんな感じでした。テストコード作成のポイントとテストコードがちゃんと返ってきています！

まとめ

今回はBedrockにテストコードを書いてもらいましたが、生成AIを利用して開発を効率化できたりするのはとても良いですね。

テクノロジーは日々進化しており、生成AIがソフトウェアテストの大部分を担う日も近づいています。
IDCの予測によれば、2028年までに生成AIベースのツールがソフトウェアテストの70%をカバーするとされており、これにより手動テストの必要性が減り、テストのカバレッジが向上し、ソフトウェアの品質とユーザビリティが向上すると期待されている、とのことで今後も目を離せません。

また、開発効率化という観点で言えば、個人的に以下の記事もとても気になっていたりします。

Amazon Bedrock でプログラム概要資料を生成しよう！！

生成AIを活用しつつ、より良いソフトウェアを開発を目指していきたいです。

ここまでお読みいただきありがとうございました。

この記事を書いた人
最近の記事

iwama

システム開発事業部所属/エンジニア/2023 Japan AWS Jr. Champions。 PHP/Laravel/FreePBX/AWSなどいろいろやってます。React勉強中。

iwama (全て見る)

【採用情報】一緒に働く仲間を募集しています

2024-05-07 #AWS #TypeScript #Amazon Bedrock

Amazon Bedrock APIでTypeScriptのテストコードを出力してみた

Amazon Bedrock とは

Bedrock APIを実行するまでの手順

モデルアクセスの設定

コーディング

Bedrock API実行

まとめ

【採用情報】一緒に働く仲間を募集しています

エンジニア募集

Asterisk13CLI_チートシート

CentOS7_チートシート

カテゴリー

月別で見る

投稿者から見る

サイト内検索

Amazon Bedrock APIでTypeScriptのテストコードを出力してみた

Amazon Bedrock とは

Bedrock APIを実行するまでの手順

モデルアクセスの設定

コーディング

Bedrock API実行

まとめ

【採用情報】一緒に働く仲間を募集しています

関連投稿

CodeCommitからGithubへのソース移行

Amazon Bedrockでコード生成したスタンプラリーアプリをAWS Summit Japanで展示するまで

FreePBXで留守電メッセージをメール通知するまでの設定手順

Amazon ConnectでNGワードをリアルタイムに検知してSlackに通知する

2024年のイベントを振り返ってみた

AWS Amplify AI KitでAIチャットアプリを爆速で作ってみる

エンジニア募集

Asterisk13CLI_チートシート

CentOS7_チートシート

カテゴリー

月別で見る

投稿者から見る

サイト内検索