昔ながらの Web 検索の代わりに ChatGPT または同様の AI ツールを使用していますか?クエリをチャットボットに渡したくなりますが、その際には慎重になるべき理由がいくつかあります。
ChatGPT が伝えていることは信頼できますか?
ChatGPT はこれまで以上にアクセスしやすくなりました。無料の OpenAI アカウントを作成し、ブラウザーで GPT-3.5 モデルを無料で使用できるだけでなく、現在ではこのサービスと統合されるモバイル アプリやその他のサービスが無数にあります。 ショートカットを使用して、iPhone または Apple Watch の Siri 経由で ChatGPT にアクセスすること もできます。
ChatGPT だけが街のゲームではありません。 Microsoft の Bing AI は、より高度な GPT-4 モデル (ChatGPT Plus でも使用) を使用しており、 Google Bard がついに軌道に乗り始めています 。 AI チャットボットに議論の要約、事実の確認、問題の解決を依頼するのは簡単です。非常に簡単なので、昔ながらの Web 検索を実行するよりも好まれるかもしれません。
しかし、チャットボットは必ずしも真実の砦であるとは限りません。これらにはそれぞれの役割があり、現在インターネット上で遊べるものの中で最も興味深いものの 1 つであることは間違いありません。しかし、彼らはまだ私たちの暗黙の信頼を獲得していません。私たちがこれを知っているのは、インターネット自体が信頼できないからです。
これらのモデルをトレーニングするために、インターネットまたはその広大な範囲が書籍やその他の情報源と並行して使用されました。 「ガベージイン、ガベージアウト」というフレーズが問題をうまく要約しています。大規模な言語モデルをトレーニングするために悪い情報を使用すると、その悪い情報を使用して間違った判断を下すことになります。
ChatGPT が何かおかしな間違いを犯しているという証拠はたくさんあります。それほど面白くないのは 、チャットボットが的外れな場合にどれほど自信があるように見えるか です。この種のツールは電卓ではないため (単語予測マシンに似ています)、 ChatGPT と Bing AI はどちらも過去に恥ずかしい数学的間違いを犯しました 。
OpenAI Web サイト上の ChatGPT の無料版を強化するモデルである ChatGPT-3.5 の場合、情報が古い可能性があります。 2023 年 11 月に ChatGPT にトレーニング データの締め切り日について問い合わせたところ、知識は 2022 年 1 月時点のものであるとのことでした。
チャットボットは GPT-4 の存在 (ページの上部に切り替えボタンがあります)、Nintendo Switch の大ヒット作『ゼルダの伝説 涙の王国』 をプレイする価値があるかどうか、あるいは誰が勝ったかなどを認識していませんでした。スーパーボウルやFIFA女子ワールドカップなど、今年のスポーツのトロフィー。
場合によっては、 提供された入力が十分ではない ために、チャットボットが間違いを犯すことがあります。おそらく、プロンプトが短すぎたり、具体性が足りなかったり、事前にやり取りを行ってモデルに十分な情報を「準備」していなかった可能性があります。
情報源の重要性
健全な意思決定をしようとする場合、質の高い情報を入手することが重要です。 ChatGPT-3.5 は、より会話的な形式を支持して、主張のソースを示すプロセスを回避します。これは、検索エンジンとやり取りするというよりも、人と会話しているように感じられます。
自分が読んでいる内容を信頼したい場合は、情報源を認識することが不可欠です。たとえば、あなたが今読んでいる記事は How-To Geek からのものです。このような Web サイトに記事が掲載されるまでに、長いプロセスがかかることについて、ある程度の想像はできるかもしれません。おそらく、ライターや編集者は専門知識と時間に対して報酬をもらっていること、そして最終目標は信頼できるコンテンツを制作し、その分野の権威として目立つことであることを理解しているでしょう。
この記事のアイデアを思いついたのは、ユーザーが減量に関する簡単な質問をした Reddit スレッドを見た後です。ユーザーは ChatGPT に質問をしましたが、よくわからない答えが返されました。出典のない情報は間違っており、ソーシャルメディアでよく広まる一般的だが誤った信念に陥っていました。トピックの機密性を考慮して、ここではこのスレッドにリンクしないことにしました。
これは、悪いデータと健康に関するアドバイスの危険な交差点です。この人は、間違ったデータに基づいて自分の健康に関する意思決定を行っていました。 ChatGPTは、それが信頼できるかどうかを個人に示唆する可能性のある情報源には言及しなかった。
ある時点で、インターネットで読むものすべてを盲目的に信じないように促されたことがあるでしょう。 「誰でもページを編集できる」ので、Wikipedia を信用するなと言われたかもしれません (Wikipedia には出典が明示されていますが)。 Google 先生に最悪のニュースを教えてほしくない場合は、健康に関する苦情を決して Google で調べないでください。
ChatGPT および同様のツールは、この信頼できない情報の例に基づいてトレーニングされる可能性があることに注意してください。誰もがインターネット上に何でも公開できるという事実は本質的に悪いことではありませんが、留意する必要があります。情報源を曖昧にするチャットボットにより、これを追跡することが非常に困難になります。
上の例では、ChatGPT に世界最大の鳥の名前を尋ねました。応答は間違っていませんが、ソースを要求されるとチャットボットでは不十分です。ダチョウが世界最大の鳥であることは周知の事実ですが、他の話題についてはどうなのでしょうか?どのようにして結論に至ったのかを単に伝えられないチャットボットを、暗黙のうちに信頼できますか?
一部の AI ツールがその主張を引用
Bing AI は、ユーザーが質問するたびに、その主張の多くをインライン リンクで情報源にすることに重点を置いています。これに加えて、OpenAI の Web サイトにある GPT-3.5 の無料バージョンよりも高度で、より新しい情報を使用する GPT-4 モデルが使用されます。
また、Bing 検索エンジンにも直接組み込まれているため、標準的な Web 検索を実行してソースを簡単にすばやく確認できます。 Google Bard も別のチャットボットで、リンクを使用してソースを表示すると主張していますが、テストではどの質問もソースを明らかにしませんでした。
有料の ChatGPT Plus サブスクリプションを使用している場合は、GPT-4 にアクセスでき、同様に、情報のソースと表示にライブ インターネット接続を利用できます。
情報源が引用されている場合でも、決定を下すためにそのようなツールを使用する場合は、情報源を調査する必要があります。検索エンジンに質問したときに、Google 検索の上部に表示されるスニペットについても同じことが言えます。
AI チャットボットを使用する場合は注意が必要です
ChatGPT のような AI チャットボットはエキサイティングなツールなので、何が可能になるかを試してみることをお勧めします。これらは、プロジェクトのアイデアを思いついたり、プロンプトを作成したり、 外国語を話す練習をしたり 、 履歴書や正式な手紙の草案を作成したり 、 カスタム指示を使用して独自のパーソナル AI アシスタントを作成したりする のに役立ちます。
しかし、その性質上、そして私たちが作り上げたインターネットの性質上、健全なレベルの懐疑の対象となるべきです。これは、彼らが主張にどのような情報源を使用しているのかすら教えてくれない場合に特に当てはまります。
医学的な質問、学校のプロジェクトの事実確認、人生の方向性に影響を与える可能性のある意思決定など、本当に重要なことについては、もっと時間をかけて、検索エンジンや書籍などから得た Web サイトを使用して信頼できる意見を探してください。権威ある情報源。
代わりに 、ChatGPT に今夜の夕食の内容を管理させてみては いかがでしょうか?
