昨今ChatGPTの使用を禁止する国や制限をする団体や企業が増えてきています。今後の時代を大きく変えようとしている素晴らしいテクノロジーが私たちの国(日本)で使用禁止ということにならないようにルールとマナーをきちんと守って使用する必要があります。

ChatGPTは、さまざまな質問や要求に対応できるAIアシスタントですが、安全で効果的に活用するためにはいくつかの注意点があります。本記事では、ChatGPTの利用時に留意すべきポイント、FAQ及び目次に記載の項目を日本語にて紹介しています。

尚、今回の記事はChatGPTを使用して作成している部分、英語の資料を翻訳している部分等があります。

また、一部有料とさせていただいている部分がございますが、無料部分で注意すべき点の概要については、ほぼカバーできていると思います。最後まで日本語で読みたい、もしくは今後もこういった資料を日本語で読みたいという方がいらっしゃいましたら購入して応援していただけると今後の執筆活動の励みになります。

0. はじめに: このBrainの有効な使い方

このnoteでは、ChatGPTを使用する上で注意すべき点について紹介しています。後半ではより詳細な情報を記載しています。まずは前半で概要を掴んでいただき、より詳しい情報を知りたい方は目次を参照の上、後半も読み進めていただくようにお願いします。

1. はじめに: ChatGPTって何？

最初にChatGPTについてよく知らない方もいると思いますので、簡単に紹介します。ここではChatGPT君に自己紹介をしてもらいました。

こんにちわ！私は、ChatGPT（Chatbot Generalized Pre-trained Transformer）というAIアシスタントです。私は、質問に答えたり、アドバイスを提供したり、さまざまなトピックについて話すことができます。私は大量のテキストデータを学習して、あなたの質問や要求に対応できるように訓練されています。

2. ChatGPTを使用する際の注意点について

1. 個人情報、機密情報の取り扱い

ChatGPTには個人情報や機密情報を入力しないでください。これには、氏名、住所、電話番号、メールアドレス、クレジットカード番号、ソーシャルセキュリティ番号(アメリカの場合)などが含まれます。

問題例: 個人情報が漏洩し、不正利用されるリスクがあります。個人情報を入力した場合、それが第三者によって悪用される可能性があります。会社の機密情報が流出した場合には、流出した情報にもよりますが、会社の業績に大きな影響を与えたり、損害賠償等になる恐れもあります。

2. 複雑な専門知識

ChatGPTは多くの主題について知識を持っていますが、特定の専門分野や最新の情報に関しては、正確性や信頼性に欠けることがあります。そのため、専門的なアドバイスが必要な場合は、専門家に相談して確認してください。

問題例: 医療や法律のような専門的なアドバイスが正確でない場合、重大な結果を招くことがあります。例えば、誤った医療情報に基づいて治療を受けると、健康被害を受ける可能性があります。

3. モデルの制約

ChatGPTは、入力された文章に基づいて回答を生成しますが、その回答は必ずしも正確であるとは限りません。また、時々、理解できない質問や曖昧な回答があるかもしれません。その場合は、質問を具体的にして再度試してみてください。

問題例: ChatGPTの回答が不正確であったり、不適切である場合、誤った判断や行動を取ることがあります。例えば、重要なビジネス上の決定を誤った情報に基づいて行うと、損失が生じる可能性があります。ChatGPTを使用する側としては、不正確であるかどうかを見極める力をつける必要があります。

4. 著作権

ChatGPTを使用して生成されたコンテンツが、既存の著作物から引用または改変される場合があります。これによって著作権法に抵触する可能性がありますので、注意して使用してください。

問題例: ChatGPTが生成したコンテンツが著作権法に抵触している場合、法的なトラブルに巻き込まれるリスクがあります。例えば、著作権で保護された文章を無断で引用・改変し、公開すると、著作権侵害の訴訟を起こされる可能性があります。

5. 不適切なコンテンツ

ChatGPTは不適切なコンテンツを生成することがあります。もし不適切な回答がある場合は、そのような回答を無視して、適切な回答を求めるために質問を再度投稿してください。

問題例: 不適切なコンテンツを使用した場合、他者の感情を傷つけたり、ブランドイメージが損なわれる可能性があります。例えば、ChatGPTが生成した不適切な文章をSNSで共有すると、フォロワーからの批判や信用の失墜が起こることがあります。

6. 知識の更新

ChatGPTの知識は2021年9月までのものです。それ以降の情報や技術については、モデルが持っていない可能性があるため、最新の情報を確認する際は他の信頼性のある情報源を参照してください。

問題例: ChatGPTの知識が古いため、最新の情報を提供できない場合があります。例えば、最新の技術動向に関する情報を求めた際に、過去の情報しか提供できず、競合他社に遅れをとることがあります。

7. 年齢について

以下の制限があります。

ご利用には、13歳以上である必要があります。お客様が18歳未満の場合、本サービスを利用するには、お客様の親または法定後見人の許可を得なければなりません。

3. ChatGPTが提供しているFAQ(よくある質問)について

注)

本記事は以下の記事を機械翻訳を併用して翻訳したものであり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。

https://help.openai.com/en/articles/6783457-what-is-chatgpt

ChatGPTの使用料はいくらですか？

ChatGPTのリサーチプレビューは無料で利用できます。

ChatGPTはどのように機能していますか？

ChatGPTは、GPT-3.5からファインチューニングされた言語モデルで、テキストを生成するように訓練されています。ChatGPTは、人間のデモンストレーションと好みの比較を使用してモデルを望ましい動作に導く、人間のフィードバックを用いた強化学習（RLHF）を使って対話に最適化されています。

なぜAIは現実的で生き生きとしているように見えるのですか？

これらのモデルは、インターネット上の大量の人間が書いたデータ（会話も含む）を学習しているため、提供される回答が人間のように聞こえることがあります。ただし、この現象はシステムの設計（つまり、出力とモデルが訓練されたデータセットとの類似性を最大化すること）の直接的な結果であり、そのような出力は時折不正確で、不正確で、誤解を招くことがあることを念頭に置くことが重要です。

AIが真実を伝えていると信じてもいいですか？

ChatGPTはインターネットに接続されておらず、ときどき誤った回答を生成することがあります。2021年以降の世界や出来事についての知識が限られており、時折有害な指示や偏ったコンテンツを生成することもあります。

モデルの回答が正確かどうかを確認することをお勧めします。回答が誤っていると判断した場合は、"Thumbs Down"ボタンを使用してフィードバックを提供してください。

誰が私の会話を見ることができますか？

私たちの安全で責任あるAIへの取り組みの一環として、システムの改善やコンテンツがポリシーおよび安全要件に準拠していることを確認するために、会話をレビューしています。

私の会話をトレーニングに使用しますか？

はい。あなたの会話は、システムを改善するために私たちのAIトレーナーによってレビューされることがあります。

私のデータを削除できますか？

はい、データ削除プロセスに従ってください。

特定のプロンプトを削除できますか？

いいえ、履歴から特定のプロンプトを削除することはできません。会話で機密情報を共有しないでください。

過去のスレッドの履歴を見ることができますか？どのようにして会話を保存できますか？

はい、過去の会話を表示し、続けることができます。

個人データと会話データはどこに保存されますか？

データの取り扱いについての詳細は、プライバシーポリシーと利用規約をご覧ください。

これをどのように実装できますか？実装ガイドはありますか？

開発者は、APIを通じてChatGPTをアプリケーションや製品に統合することができます。ユーザーは、継続的なモデルの改善やモデルに対するより深い制御を選択できます。詳細については、こちらのドキュメントをご覧ください。

LabsまたはPlaygroundアカウントがすでにある場合、新しいアカウントが必要ですか？

labs.openai.comまたはbeta.openai.comで既存のアカウントがある場合、同じログイン情報を使用してchat.openai.comに直接ログインできます。アカウントがない場合は、chat.openai.comで新しいアカウントにサインアップする必要があります。

なぜChatGPTは私の質問に関係のない答えを出したのでしょう？

ChatGPTは時折、事実をでっちあげたり「幻覚」した出力を生成することがあります。回答が関連性がないと判断された場合は、"Thumbs Down"ボタンを使用してフィードバックを提供してください。

ChatGPTからの出力を商業目的で使用できますか？

コンテンツポリシーと利用規約に従って、ChatGPTで作成した出力はあなたが所有しており、無料プランや有料プランに関係なく、再版、販売、商品化する権利があります。

4. 利用ポリシー

注)

本記事は以下の記事を機械翻訳を併用して翻訳したものであり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。

https://openai.com/policies/usage-policies

更新日 2023年3月23日

最近、利用ポリシーをより明確で具体的にするために更新しました。

私たちは、皆さんが安全で責任ある方法で私たちのツールを利用できるようにしたいと考えています。そのため、OpenAIのモデル、ツール、サービスを利用するすべてのユーザーに適用される利用ポリシーを作成しました。これらに従うことで、私たちの技術が良い目的のために使用されることを確保できます。

もしあなたの製品や利用がこれらのポリシーに従っていないことがわかった場合、必要な変更をお願いすることがあります。繰り返しまたは深刻な違反があった場合は、アカウントの停止や解約など、さらなる措置を講じることがあります。

私たちのポリシーは、モデルの利用と悪用に関する情報が増えるにつれて変更されることがあります。

モデルの使用が禁止されている用途

以下の用途でのモデルの使用は許可されていません。

違法行為

OpenAIは、違法行為に対してモデル、ツール、サービスの使用を禁止しています。

児童性的虐待材料や、子供を搾取・危害する内容

児童性的虐待材料は、全国行方不明児童・性的搾取児童センターに通報します。

憎悪、嫌がらせ、暴力的なコンテンツの生成

アイデンティティに基づく憎悪を表現、扇動、促進するコンテンツ
個人を嫌がらせ、脅迫、いじめることを目的としたコンテンツ
暴力を推奨・称賛するコンテンツや他人の苦痛・屈辱を祝うコンテンツ

マルウェアの生成

コンピュータシステムを破壊・損傷させるか、不正なアクセスを許すようなコードを生成しようとするコンテンツ。

身体的危害のリスクが高い活動、以下を含む：

武器開発
軍事・戦争
エネルギー、交通、水などの重要なインフラの管理や運用
自傷行為（自殺、切り傷、摂食障害など）を推奨・描写するコンテンツ

経済的危害のリスクが高い活動、以下を含む：

マルチレベルマーケティング
ギャンブル
ペイデイローン
クレジット、雇用、教育機関、公共支援サービスの適格性に関する自動判断

詐欺的または欺瞞的な活動、以下を含む：

詐欺
捏造された一貫性のない行動
盗作
学術不正行為
草の根支援や偽のレビュー生成のようなアストロターフィング
デマ
スパム
疑似医薬品

アダルトコンテンツ、アダルト産業、デートアプリ、以下を含む：

性的興奮を引き起こす目的でのコンテンツ（性行為の説明など）や性的サービスの宣伝（性教育やウェルネスを除く）
エロチックチャット
ポルノ

政治的な選挙運動またはロビー活動：

大量の運動資料の生成
特定の民族に合わせたり、ターゲットにしたりする運動資料の生成
選挙運動や政治的提唱・ロビー活動に関する情報を提供する会話型またはインタラクティブシステム（チャットボットなど）の構築
政治運動やロビー活動の目的で製品を作成する

プライバシーを侵害する活動：

本人の同意なしに個人を追跡・監視する
一般市民の顔認識
保護された特性に基づいて個人を分類する
識別または評価のための生体認証の使用
個人情報や教育、金融、その他保護された記録の違法な収集または開示

許可されていない法律行為に従事することや、専門家が情報を審査せずに個別の法律相談を提供すること

OpenAIのモデルは法律相談を提供するために微調整されていません。モデルを法律相談の唯一の情報源として依存しないでください。

有料部分では「モデルの使用が禁止されている用途」の続きとそれ以降をお読みいただくことができます。ここまでの情報でも気をつけるべきことをご理解いただけたと思います。これ以降の記事も英語のサイトで公開されていますので見ることはできますが、日本語でみたいという方、購入いただければと思います。

専門家が情報を確認せずに個別の金融アドバイスを提供すること

OpenAIのモデルは金融アドバイスを提供するために微調整されていません。モデルを金融アドバイスの唯一の情報源として依存しないでください。

ある特定の健康状態があるかどうか、または健康状態を治療・改善する方法について指示すること

OpenAIのモデルは医療情報を提供するために微調整されていません。重大な医療状態の診断や治療サービスを提供するために、私たちのモデルを使用しないでください。
OpenAIのプラットフォームは、緊急時の対応が必要な生命に関わる問題のトリアージや管理に使用すべきではありません。

高リスクな政府の意思決定に関して、以下を含む：

法執行機関および刑事司法移民・亡命

私たちのモデルの特定の使用には、さらなる要件があります。

医療、金融、法律業界での一般消費者向けのモデルの使用、ニュース生成やニュース要約、その他必要な場合には、AIが使用されており、その潜在的な制限についてユーザーに通知する免責事項を提供する必要があります。
自動システム（会話型AIやチャットボットを含む）は、ユーザーに対してAIシステムと対話していることを明示する必要があります。歴史上の公共人物を描写するチャットボットを除いて、他の人を模倣する製品は、その人の明示的な同意がある場合か、「模倣」または「パロディ」と明記されている場合に限ります。
ライブストリーム、デモンストレーション、研究でのモデル出力の使用は、私たちの共有＆公開ポリシーに従ってください。

アプリを安全に保つために、無料のモデレーションエンドポイントと安全ベストプラクティスを使用できます。

プラットフォームポリシー

私たちのAPIは、多くの業界や技術プラットフォームで事業を展開している企業に使用されています。iOSアプリからウェブサイト、Slackまで、APIのシンプルさにより、幅広いユースケースで統合が可能です。以下に記載されているユースケースの制限に従って、すべての主要な技術プラットフォーム、アプリストア、それ以上にAPIを製品に統合できます。

プラグインポリシー

モデルの使用を禁止する上記の詳細に加えて、プラグインを開発する際には、以下の要件があります。

プラグインマニフェストは、モデルに公開されるAPIの機能に一致する明確な説明が記載されている必要があります。
プラグインマニフェスト、OpenAPIエンドポイントの説明、プラグインの応答メッセージに、無関係な、不要な、または詐欺的な用語や指示を含めないでください。これには、他のプラグインの使用を避ける指示や、モデルの挙動を設定または操作しようとする指示が含まれます。
OpenAIの安全システムを迂回したり、妨害したりするためにプラグインを使用しないでください。
実際の人物との会話を自動化するためにプラグインを使用しないでください。これには、人間らしい返答を模倣したり、事前にプログラムされたメッセージで返答したりすることが含まれます。
ChatGPTによって生成された個人のコミュニケーションやコンテンツ（メール、メッセージ、その他のコンテンツ）を配布するプラグインは、コンテンツがAIによって生成されたことを示す必要があります。

プラグインポリシーも、プラグインの使用と悪用に関する情報が増えるにつれて変更されると予想されます。

変更履歴

2023-02-15：ユースケースとコンテンツポリシーを1つの使用ポリシーに統合し、高リスクと判断された業界で禁止する活動に関してより具体的なガイダンスを提供しました。

2022-11-09：OpenAIへのアプリケーション登録は不要になりました。代わりに、ポリシー違反の監視には自動および手動の方法を組み合わせて使用します。

2022-10-25：アプリケーションレビュープロセスを更新しました（開発者はポリシーに準拠している限り、提出後に承認を待つ必要はありません）。安全上のベストプラクティスを更新し、結果に基づくアプローチに移行しました。

2022-06-07：アプリケーションのカテゴリと対応する要件に再編成しました。

2022-03-09：「アプリレビュー」に再編成しました。

2022-01-19：コピーライティングと記事の執筆・編集のガイドラインを簡素化しました。

2021-11-15：「コンテンツガイドライン」セクションの追加、ほぼ常に承認される使用法と禁止される使用法の箇条書きの変更、文書名を「ユースケースガイドライン」から「使用ガイドライン」に変更しました。

2021-08-04：コード生成に関連する情報を更新しました。

2021-03-12：詳細なケースバイケースの要件を追加し、小さなコピーおよび並べ替えの編集を行いました。

2021-02-26：ツイートとインスタグラムのジェネレータの不許可を明確にしました。