ジェネレーティブAIを使用したゲーム

Robloxは、クリエーションとゲーム内の創造性を高めるためのさまざまなAI駆動のツールとサービスを提供しています。Robloxが提供するモデルやサードパーティのソリューションを使用してゲームにジェネレーティブAIを組み込む際は、これらの統合が安全であり、Robloxのコミュニティ基準に従い、ユーザーに対して透明性を提供することを確認する必要があります。

このページでは、RobloxゲームにおけるジェネレーティブAIの使用に関するガイドライン、ルール、およびベストプラクティスを概説します。

モデレーション

安全な環境を維持するために、ジェネレーティブAIによって作成されたコンテンツを含むすべてのコンテンツは、Robloxのコミュニティ基準に従う必要があります。

GenerationServiceやTextGeneratorなどのRoblox APIを使用する場合: すべてのコンテンツの入力と出力は、モデレーションを通過し、テキストフィルタリング、画像レビュー、アセットレビューが行われます。違反と見なされるコンテンツはユーザーに提供されません。

• 違反のない入力に対して生成された違反出力に対して、ユーザーに対して罰則は科されません。

サードパーティのツールを使用する場合: AI生成であっても、ユーザーに提供されるコンテンツに対して責任を負います。ゲームがRobloxの安全基準に準拠していることを確認するために、以下を確実に行う必要があります。

• 出力がRobloxのコミュニティ基準に従っていること。
• 入力と出力がRobloxが定めた安全対策を回避しないこと。たとえば、テキストの入力と出力はTextChatServiceを通過する必要があります。

コンテンツの成熟度評価

ゲームがプレイヤーに対して、テキストチャット、ボイスチャット、画像、3D生成、アバターの動きなど、モデルからの応答を引き起こす方法でジェネレーティブAIモデルと対話することを許可する場合、コンテンツ評価アンケート内でそれを開示する必要があります。

ゲームにAIコンポーネントを含めるだけではゲームのコンテンツ評価に影響を与えませんが、AIとの拡張された対話を持つゲームは、適切なオーディエンスにのみ利用可能であるように、適切な制限付きコンテンツ成熟度評価を含める必要があります。

限定的な対話

制限付きコンテンツ成熟度評価がないゲームの場合、モデルの出力はゲームの基礎となるコンテンツ成熟度分類に従う必要があります。

GenerationServiceやTextGeneratorなどのRoblox提供のAIツールを使用する場合:

• すべてのゲームに対して、当社のモデルはすべての年齢向けのコンテンツ評価に合わせて出力を調整し、ホラー要素などの記述子が必要な出力を避けるよう指示しています。
• 軽度の暴力やそれ以上のコンテンツ記述子を持つゲームでは、モデルはそれ以外は準拠する武器を生成できます。

サードパーティのツールを使用する場合:

• 出力がゲームのコンテンツ成熟度評価に一致することを確認する必要があります。

拡張された対話

拡張された対話を持つゲームは、チャットボットのようなジェネレーティブAI機能と継続的に対話することを目的としている、または使用できるゲームです。ゲームが拡張されたAI対話を持つと見なされるのは、以下のいずれかの基準を満たす場合です。

• ゲームの主なテーマや目的が、プレイヤーが制限なしにジェネレーティブAIボットまたはキャラクターと継続的に対話することです。

  • たとえば、「あなたのAI友達」というタイトルのゲームは、ユーザーがAI駆動のノンプレイヤーキャラクター（NPC）と継続的に会話することを目的としています。

• AIコンポーネントがクロスセッションメモリを含み、ゲームがユーザーの以前のAIとの対話のコンテキストを保存し、次回のセッションでそれを読み込むことができます。

  • たとえば、ゲームプレイに主に焦点を当てたゲームがあり、ユーザーが数分間のみ対話できるAI駆動のNPCが1体います。しかし、ゲームを再読み込みしてNPCと再度対話する際、モデルはユーザーとの以前の会話を参照できます。

ゲームに拡張された対話が含まれている場合、コンテンツ評価アンケートの拡張AIに関する質問に「はい」と答える必要があります。これらのゲームは若年ユーザーには適していない可能性があるため、18歳未満のユーザーがアクセスできないように制限付きコンテンツ成熟度評価が必要です。

開示

ゲームにジェネレーティブAIコンポーネントを含める際は、ユーザーに対して目に見える開示を行う必要があります。これには以下が含まれます。

• すべての対話の開始時およびセッション中に、ユーザーは自分の会話がAIとのものであることを示す通知を目にする必要があります。たとえば：

  "これはAI駆動の会話であり、人間ではありません。間違いを犯すことがあります。"

• ユーザーが医療や専門的なアドバイスを求める場合、権威あるリソースに誘導する必要があります。特に、ユーザーが自傷行為の考えやメンタルヘルス危機の兆候を示した場合、AIモデルはサポートを求めるよう促す必要があります。たとえば：

  "あなたやあなたの愛する人が困難な状況にある場合、必要な支援を提供できる資格のあるメンタルヘルス専門家やサポートサービスに連絡してください。情報やリソース、危機ホットラインへのリンクはRobloxのコミュニティ基準に記載されています。"