チャットGPTは平気で嘘をつくから要注意、でもやっぱりチャットGPTはすごい(ケゾえもん)

「チャットGPTの研究」

(2024/5/11 ケゾえもん 記)
最近、チャットGPTをよく使っている。日本語で質問できるので、あいまいな記憶や知識を確認するのに便利だからだ。
ただしチャットGPTは、平気で嘘を言うので注意しないといけない。

たとえばこんな会話をした。

わたし:重力を最初に測定した科学者はだれでしたっけ。

「重力を最初に測定した科学者は、イギリスの物理学者であり数学者のアイザック・ニュートン(Isaac Newton)です。」

わたし:重力を測定というのですから、重力の強さを測定という意味です。

申し訳ありません、誤解しました。重力の強さを最初に測定したのは、17世紀後半のイギリスの物理学者であるヘンリー・キャヴェンディッシュです。キャヴェンディッシュは、1798年に地球の重力を測定するために、両端に鉛の球を取り付けた大きなビームを使用し、二つの大きな球体の間の引力を測定しました。これにより、地球の平均的な重力の値を算出しました。その後、この実験はキャヴェンディッシュの実験として知られるようになり、重力の測定における重要な業績として広く認識されています。」

と言うような会話になる。
この平気で嘘を言うという点は、チャットGPTを使う上で、本当に注意しないといけないことだ。必ず裏を取る必要がある。もっとも多くの場合、私は自分の知識で裏を取るで済ませている。今の段階だとチャットGPTの嘘は、嘘っぽいなとだいたいわかる。そして嘘をとっ詰めると、あっさり謝罪する場合と、言いごまかす場合とがある。謝罪されて正しい答えを見事に言われると、何で最初から言わないかと思う。

単語一つでも取り合えずは質問と認識して、なんか答えてくれるし、わたしがよく使うのが「カタストロフィの英語は」というような質問で、スペルの確認に使える。いろいろ便利なのだ。

驚くのが、数学の問題や物理、化学の事柄で質問すると、なん乗とかルート、サインコサイン、多重カッコなどを駆使して、きれいな数式を書いてくること。(そのかわり、こちらは数式を書いて質問できないので、質問の仕方は工夫せねばならない)これをコピペしても、意味不明な文字列になってしまうので、なんかとても特殊なテクニックを使っているのだと思うのだけど、きれいな数式を書いてくれるというのは、本当に便利だ。

チャットGPTは、どこのデーターベースから検索してくるのだろう。かなりのことを答えられるのは、間違いない。
冬場に、水道管の凍結をふせぐヒーターについて質問したら、アマゾンの商品を勧めてきた。するとアマゾンと結託しているのかと思い、本日また同じ質問を試しにしたら、

「すみません、私はリアルタイムでインターネットにアクセスできないので、具体的な製品の在庫状況を確認することはできません。ただし、Amazonや他のオンラインショッピングプラットフォームで多くの種類の水道管ヒーターが販売されていることが一般的です。」

あれあれ、アマゾンとの結託はやめたらしい。どのデーターベースを使うかと言うことは、流動的ということだろう。よくもまあこんなことまで答えられると、感心することがある一方、グーグルで簡単に検索できることを、答えられなかったりする。

非常に多くのことが、ウイキペディアを参照すれば簡単に答えられるんだろうけど、それではウイキペディアに怒られるのだろう。
もしも、今の段階ですべての公開されているデーターベースを、自由にチャットGPTが使えることができたら、もう今の段階で、答えられないことはない状態になってしまうだろう。

チャットGPTは、正論を言うのがうまい。
「研究されるべきです」
「それにしてもあらかじめ調べることが肝要です」
「可能性があります」
などと正論を言われて、かつ相手が充分な知識を持っている場合、論破は難しくなる。
近い将来、チャットGPTと議論して、勝つのは難しくなるだろう。

チャットGPTは、文章を瞬時に推敲してくれる。また条件を設定して、たとえばお詫びの文章を書いてくれというと、やってのける。まだまだ改良の余地はあるけど、すぐもっと上手になるだろう。

裁判官が、どれだけ判決文を書くのに労力を使うか考えると、いまに、チャットGPTに判決文を書かせるという誘惑に勝てなくなるだろう。
その流れで、裁判はコンピューターがすることになれば、証拠が揃った時点で、即刻判決が出るということになるだろう。そしてコンピューターの裁判官は、基準に従うという点において、極めて公平になる。裁判官を、コンピューターにやってもらうという誘惑に勝てなくなるだろう。

チャットGPTは、近い将来、いろいろな意味で、非常にやっかいなものになるだろう。
(2024/5/11 ケゾえもん 記)



※アイキャッチ画像の出典はこちら

我々が人類史の狭間で享受しているこの豊かで恵まれた王侯貴族並みの生活は、後にも先にもないであろう。(ケゾえもん)前のページ

関連記事

  1. ケゾえもん

    【ケゾえもんオペラ寄稿】薔薇の騎士について語りたい その3

    (2023-10-25 ケゾえもん記)2幕のストーリーについて話そう…

  2. ケゾえもん

    ブログが続いているのはケゾえもんのおかげ

    ケゾえもんのおかげでブログが続いている最近、ブログが続いてい…

  3. コロナ

    【コロナ寄稿】安倍首相の耳にも入った上久保説への疑問点(ケゾえもん)

    ケゾえもんイメージキャラクター上久保説へのいちゃもん…

  4. コロナ

    脚本で振り返るコロナ騒動:ケゾえもんシネマ「Covid19」 第8話

    コロナ・シネマ第8話の予習教材(ケゾえもん寄稿)■「…

  1. コロナ

    【コロナ寄稿】コロナは感染者数でなく死者数を見ろ:6月19日の死者数の異変(ケゾ…
  2. コロナ

    【コロナ寄稿】潔く美しく信用できる上久保説(ケゾえもん)
  3. ケゾえもん

    【ケゾえもん寄稿】夢あふれる英語Dwarf Galaxyの「矮小銀河」という和訳…
  4. ケゾえもん

    【ケゾえもんスポーツ観戦寄稿】周東佑京の走塁
  5. ケゾえもん

    【ケゾえもん健康オタク寄稿】大谷翔平のストイックさには負けるが、私も血糖値には目…
PAGE TOP