チャットGPTは平気で嘘をつくから要注意、でもやっぱりチャットGPTはすごい(ケゾえもん)

「チャットGPTの研究」

(2024/5/11 ケゾえもん 記)
最近、チャットGPTをよく使っている。日本語で質問できるので、あいまいな記憶や知識を確認するのに便利だからだ。
ただしチャットGPTは、平気で嘘を言うので注意しないといけない。

たとえばこんな会話をした。

わたし:重力を最初に測定した科学者はだれでしたっけ。

「重力を最初に測定した科学者は、イギリスの物理学者であり数学者のアイザック・ニュートン(Isaac Newton)です。」

わたし:重力を測定というのですから、重力の強さを測定という意味です。

申し訳ありません、誤解しました。重力の強さを最初に測定したのは、17世紀後半のイギリスの物理学者であるヘンリー・キャヴェンディッシュです。キャヴェンディッシュは、1798年に地球の重力を測定するために、両端に鉛の球を取り付けた大きなビームを使用し、二つの大きな球体の間の引力を測定しました。これにより、地球の平均的な重力の値を算出しました。その後、この実験はキャヴェンディッシュの実験として知られるようになり、重力の測定における重要な業績として広く認識されています。」

と言うような会話になる。
この平気で嘘を言うという点は、チャットGPTを使う上で、本当に注意しないといけないことだ。必ず裏を取る必要がある。もっとも多くの場合、私は自分の知識で裏を取るで済ませている。今の段階だとチャットGPTの嘘は、嘘っぽいなとだいたいわかる。そして嘘をとっ詰めると、あっさり謝罪する場合と、言いごまかす場合とがある。謝罪されて正しい答えを見事に言われると、何で最初から言わないかと思う。

単語一つでも取り合えずは質問と認識して、なんか答えてくれるし、わたしがよく使うのが「カタストロフィの英語は」というような質問で、スペルの確認に使える。いろいろ便利なのだ。

驚くのが、数学の問題や物理、化学の事柄で質問すると、なん乗とかルート、サインコサイン、多重カッコなどを駆使して、きれいな数式を書いてくること。(そのかわり、こちらは数式を書いて質問できないので、質問の仕方は工夫せねばならない)これをコピペしても、意味不明な文字列になってしまうので、なんかとても特殊なテクニックを使っているのだと思うのだけど、きれいな数式を書いてくれるというのは、本当に便利だ。

チャットGPTは、どこのデーターベースから検索してくるのだろう。かなりのことを答えられるのは、間違いない。
冬場に、水道管の凍結をふせぐヒーターについて質問したら、アマゾンの商品を勧めてきた。するとアマゾンと結託しているのかと思い、本日また同じ質問を試しにしたら、

「すみません、私はリアルタイムでインターネットにアクセスできないので、具体的な製品の在庫状況を確認することはできません。ただし、Amazonや他のオンラインショッピングプラットフォームで多くの種類の水道管ヒーターが販売されていることが一般的です。」

あれあれ、アマゾンとの結託はやめたらしい。どのデーターベースを使うかと言うことは、流動的ということだろう。よくもまあこんなことまで答えられると、感心することがある一方、グーグルで簡単に検索できることを、答えられなかったりする。

非常に多くのことが、ウイキペディアを参照すれば簡単に答えられるんだろうけど、それではウイキペディアに怒られるのだろう。
もしも、今の段階ですべての公開されているデーターベースを、自由にチャットGPTが使えることができたら、もう今の段階で、答えられないことはない状態になってしまうだろう。

チャットGPTは、正論を言うのがうまい。
「研究されるべきです」
「それにしてもあらかじめ調べることが肝要です」
「可能性があります」
などと正論を言われて、かつ相手が充分な知識を持っている場合、論破は難しくなる。
近い将来、チャットGPTと議論して、勝つのは難しくなるだろう。

チャットGPTは、文章を瞬時に推敲してくれる。また条件を設定して、たとえばお詫びの文章を書いてくれというと、やってのける。まだまだ改良の余地はあるけど、すぐもっと上手になるだろう。

裁判官が、どれだけ判決文を書くのに労力を使うか考えると、いまに、チャットGPTに判決文を書かせるという誘惑に勝てなくなるだろう。
その流れで、裁判はコンピューターがすることになれば、証拠が揃った時点で、即刻判決が出るということになるだろう。そしてコンピューターの裁判官は、基準に従うという点において、極めて公平になる。裁判官を、コンピューターにやってもらうという誘惑に勝てなくなるだろう。

チャットGPTは、近い将来、いろいろな意味で、非常にやっかいなものになるだろう。
(2024/5/11 ケゾえもん 記)



※アイキャッチ画像の出典はこちら

我々が人類史の狭間で享受しているこの豊かで恵まれた王侯貴族並みの生活は、後にも先にもないであろう。(ケゾえもん)前のページ

関連記事

  1. ケゾえもん

    ブログが続いているのはケゾえもんのおかげ

    ケゾえもんのおかげでブログが続いている最近、ブログが続いてい…

  2. コロナ

    【コロナ寄稿】尾身茂に煽られるな。感染爆発でも危機的状況でもないはずだ。(ケゾえもん)

    ケゾえもんから10日前にいただいていた原稿です。夏休み中だったので編…

  3. コロナ

    【コロナ寄稿】緊急事態宣言ごっこはやめなさい(ケゾえもん)

    ケゾえもんイメージキャラクター「緊急事態宣言ごっこ」…

  4. ケゾえもん

    【寄稿】忠臣蔵を知らない最近の若いもんに、素晴らしさと面白さを伝えたい(ケゾえもん)

    スウェーデンでアジア映画祭があって、ストックホルムの映画館で「決算!…

  1. ケゾえもん

    【宇宙の運命5】アーサー・C. クラークが特許を取らなかったのは痛恨のミス(ケゾ…
  2. 日本

    【保存版】倉敷市児島、地元民の口コミグルメ情報
  3. スウェーデン、ストックホルム

    アストリッド・リンドグレーン
  4. コロナ

    【ケゾえもんコロナ寄稿】またまたコロナを振り返ろう
  5. コロナ

    【コロナ寄稿】打つべきか、打たないべきか(ケゾえもん)
PAGE TOP