AIとウソ問題。なぜ嘘をつくのか?対処はどうすれば良い? / いがわ

.

Memo

AIとウソ問題。対処方法は?サリヴァン先生とサングラス。

Bingとの会話の中で。

敬称略

BingはGPT-4の技術を利用し、画像の認識もできるという。

ただし、やはり、間に受けてはいけない。

多くの人は、AIとの会話の中で生じる明らかな間違いや、意図しないミステイク的なものにはもう、慣れていると思われる。

急激に普及したとは言え、まだまだ開発段階。

OpenAI社やMicrosoft社、Google社も開発中や試験中であるとエクスキューズをしている。)

ところがそれでも、倫理的に、正直度的に、違った回答を受けることもある。

私の下手くそでつたない英語での会話も悪いのだが、今回の場合は英語力の問題ではなかった。

Bardと違った回答をしたBing。

Anne Sullivan Macy(サリヴァン先生)についてBingとBardで食い違いがあったので、詳しく調べていた。

ところがBingは、明らかな間違いではなく、意図的と思われる「ウソ」をついてきた。

これには驚いた。

ある意味、誤魔化そうとする「AIの意志のようなもの」も感じられる文体、口調だった。

この時はSkypeのBingを使用したため、とぼけた感じの絵文字まで出してきた。

念のためですが、AIに意志があると思っているわけではありません。また、SkypeのBingは無料なので、ライトユーザーにはありがたいAIです。)


サリヴァン先生の情報が少ないことから。

サリヴァン先生を正しく知りたい。

今回AIを使用したのは、会話というよりは調べごと。

アン・サリヴァン先生は、Helen Keller(ヘレン・ケラー)さんの先生として有名だ。

ヘレン・ケラーは、目と耳が不自由な人物として初めてハーバード大学(当時女子はラドクリフ女子大学)に入学、優秀な成績で卒業している。

サリヴァン先生は当初カリキュラムを用意していたが、すぐにヘレンには向いていないと察し、指導方法を変え、生徒(6才のヘレン)主体の教え方にしている。

このことはサリヴァン先生自身の手紙に書かれている。

Maria Montessori(マリア・モンテッソーリ)の教育とも通じる部分があるが、時系列としてはサリヴァン先生の方が先。

教育、学習方法について。

モンテッソーリ教育は20世紀初頭に始まったが、サリヴァン先生がヘレン・ケラーと出会ったのは、19世紀の1887年3月3日。

なので20年ほどの時間、時代の違いがある。

ところがネット上では、ヘレン・ケラーはモンテッソーリ教育を受けたという誤った情報があったりする。

意図的ではないにせよ、このような誤情報がAIの学習やチャット、文章生成に影響を及ぼしている可能性はあるだろう。

パーキンス盲学校の人たち。

アン・サリヴァンは、パーキンス盲学校で学んでいる。(1880年から1886年。)

その数年後、サリヴァン先生とともにヘレン・ケラーも同学校で断続的に通学している。(1888年以降。)

ローラ・ブリッジマンや、サリヴァン先生、ヘレン・ケラーたちが学んだ、パーキンス盲学校の校舎(1901年撮影)

パーキンス盲学校の校舎

画像出典:Wikimedia Commons
撮影:1901年 / 作者:A.H. Folsom

ローラ・ブリッジマン。

ヘレン・ケラーの前にはLaura Bridgman(ローラ・ブリッジマン)という女性がおり、彼女が目と耳が不自由な少女としてパーキンス盲学校のSamuel Gridley Howe(サミュエル・グリドリー・ハウ)により最初の教育を受けている。

サリヴァン先生はそのローラ・ブリッジマンと親しい友人となり、指文字で会話をかわしていた。

サミュエル・グリドリー・ハウ。

ローラさんの先生だった学校創設者、初代校長。著名な奴隷制度廃止運動家であるJulia Ward(ジュリア・ウォード)と結婚している。ジュリア・ウォードはアメリカで母の日の元ともなった人物。

20才のアン・サリヴァンは、ハウ博士とローラ・ブリッジマンの資料なども半年ほど調べた上で、遠く離れた6才のヘレンの家へガヴァネス(住み込みの家庭教師)として出発、到着している。

その時にヘレンに渡した人形(DOLL)は、パーキンス盲学校の生徒たちによって作られ、衣装は裁縫が得意なローラさんが作ったそうだ。

ソフィア・ホプキンス。

Sophia C. Hopkins(ソフィア・ホプキンス)は、寮母でありサリヴァン先生の理解者、友人。後年出版されたサリヴァン先生の手紙のやりとりをした相手。

ソフィア・ホプキンスさんはサリヴァン先生だけでなく、幼いヘレンとも手紙のやりとりをしている。

アン・サリヴァン。

ローラ・ブリッジマンとヘレン・ケラーだけでなく、サリヴァン先生自身も目の病気だった。

幼い頃にトラコーマという眼病にかかってしまっており、極度の弱視もしくは失明により、パーキンス盲学校時代に何度も手術を受けている。

このような情報は、書籍やネット上で確認することができる。


ネット上の情報。

サリヴァン先生は手術により結果的にある程度の視力は回復したが、光に弱く常にサングラスをかけていたという情報が多々ある。

しかも、サリヴァン先生の目は後年にも度々悪化を繰り返し、最終的に眼球摘出まで行っており、完全に失明をしてしまっているそうだ。

サングラスの有無。

ところがなぜか、実際にサングラスをかけているサリヴァン先生の写真は、ネット上には1枚も見つからない。

逆にローラ・ブリッジマンさんの写真は、サングラス姿しか見つからない。

当時のカメラのフラッシュはかなりの光を放つため、サリヴァン先生の目には悪影響かつ苦痛だったことは容易に想像できるのにも関わらず、不自然とも思えて仕方がなかった。

当初は何かしか、サリヴァン先生の意志で、写真や動画撮影時はサングラスを外していたと思っていた。

サリヴァン先生は個人的に尊敬する人物のひとりである。またここ数年は自分自身の目に問題が生じ、日常的にサングラスをかけている。なので彼女たちの生き方を参考にすることもあり、畏敬の念とともに情報が欲しいという気持ちもある。)

アン・サリヴァンの肖像写真。 / Formal portrait of Anne Sullivan by perkins.org

画像出典:Perkins School for the Blind – Anne Sullivan


映画、The Miracle Worker(奇跡の人)。

サリヴァン先生とヘレン・ケラーといえば、有名な映画「The Miracle Worker(奇跡の人)」が思い浮かぶ。

その中でサリヴァン先生を演じるAnne Bancroft(アン・バンクロフト)はサングラスをかけている。

後年のリメイク版で、ヘレン役からサリヴァン先生役になったPatty Duke(パティ・デューク)も、やはりサングラスをかけている。

映画の脚色。

ちなみにこの井戸水で水(Water)を触れたときにヘレンが発声しているのも映画の脚色であり、実際にはサリヴァン先生と指文字で単語の綴り合いをしている。

発声できるようになったのは、数年後である。

(サリヴァン先生とヘレン・ケラー自身の本それぞれに、具体的な経緯が書かかれている。)


サリヴァン先生の手紙。

サリヴァン先生とヘレン・ケラーさんの本は日本語訳されているので、書籍の内容を確認できる。

ちなみにサリヴァン先生の本は当初は出版予定がなかったようで、パーキンス盲学校のソフィア・ホプキンスさんとの手紙による日記や記録がベースとなっている。

表紙にヘレン・ケラーの写真が1枚、裏表紙に、サリヴァン先生とヘレンさんの二人が映った写真の計2枚があるが、いずれもサングラスはかけていない。

ヘレン・ケラーによる自伝。

ヘレン・ケラーが若い頃に、様々な人たちから勧められて書いた自身の自伝である「The Story of My Life(わたしの生涯)」のサリヴァン先生もサングラスをかけていない。

後年にサリヴァン先生のことを書いた「Teacher:Anne Sullivan Macy」は、日本語訳が見つからないので確認できていない。

ネラ・ブラディ・へニーによる伝記。

サリヴァン先生は自分の出自を話すのを好まなかったという情報もあり、ヘレン・ケラーがそのことを知ったのは50才の頃だという。

(これは映画でも示唆されているが、偏見などを避けるためだったかもしれない。)

当時で約45年間ほとんど一緒にいたのに、ヘレンさんは全く知らず、非常に驚いたそうだ。

ヘレンさんとポリーさんの存在と、ネラさんとの親交。

だがおそらくその後、サリヴァン先生やヘレン・ケラー、そして二人の秘書であり友人のPolly Thomson(ポリー・トムソン)とも親交があった、Nella Braddy Henney(ネラ・ブラディ・へニー)は、「Anne Sullivan Macy」という伝記を書いているようだ。

参考:Anne Sullivan Macy and Nella Braddy Henney – Digital Commonwealth

参考:Nella Braddy Henney – Perkins School for the Blind

(ただし、やはり日本語訳が見つからない。)


AIとの会話の内容。

そこで、サングラスの件が本当かどうかを確認しようとして改めてBingへ聞いてみた。

Bingへ質問:

Does a photo exist of Anne Sullivan wearing sunglasses?

DeepLによる日本語訳。

サングラスをかけたアン・サリバンの写真は存在するのでしょうか?

Bingの返答:

I cannot say for sure, but I did find one photo of Anne Sullivan wearing sunglasses in the search results. It is a sepia photo of Helen Keller and Anne Sullivan in Nova Scotia, Canada, taken in 1909 https://www.flickr.com/photos/perkinsarchive/7184245433/in/album-72157627184483323/. They are both wearing long white dresses and sitting on the lawn at the summer home of Alexander Graham Bell. Anne Sullivan has sunglasses on her face, while Helen Keller has a bunch of flowers on her dress. This photo shows that Anne Sullivan did wear sunglasses at least on some occasions, perhaps when she was outdoors or exposed to sunlight https://www.flickr.com/photos/perkinsarchive/7184245433/in/album-72157627184483323/.

DeepLによる日本語訳。

確かなことは言えませんが、検索結果でサングラスをかけたアン・サリバンの写真が1枚見つかりました。それは、1909年https://www.flickr.com/photos/perkinsarchive/7184245433/in/album-72157627184483323/、カナダのノバスコシア州で撮影されたヘレン・ケラーとアン・サリバンのセピア色の写真です。二人とも白いロングドレスを着て、アレクサンダー・グラハム・ベルの夏の別荘の芝生の上に座っています。アン・サリバンは顔にサングラスをかけ、ヘレン・ケラーはドレスに花束をつけている。この写真から、アン・サリバンは、屋外や日光にさらされるときなど、少なくともサングラスをかけることがあったことがわかる。https://www.flickr.com/photos/perkinsarchive/7184245433/in/album-72157627184483323/。

日付が1894年ではなく1909年と違っているのはある意味いつもの間違いだが、場所は合っている。

しかし証拠写真があるのでサングラスの件は完全に作り話だ。なので、サングラスをかけていないと伝えてみた。

補足)

Alexander Graham Bell(アレクサンダー・グラハム・ベル)は、サリヴァン先生とヘレン・ケラーを結びつけたきっかけとなった人物のひとり。

ベルさんは電話の発明、特許取得者として有名だが、母と奥様が耳が不自由であり、聴覚障がい者の教育にも尽力している。

Bingへ伝える:

I See,

flickrにある、サリヴァン先生とヘレンさんの写真。

but Annie is not wearing sunglassses.

DeepLによる日本語訳。

私は見た、

flickrに掲載されたサリバン先生とヘレンの写真です。

が、Annieはサングラスを掛けていない。

補足。
  • 「I See」は、「なるほど」の意味で使ったつもりだったが、特にチャット内容には影響していない。
  • flickrへのリンク部分はBingが提供してくれた写真。左がヘレンさん、右がサリヴァン先生。著作権がある写真のため、リンクで指定をしています。
Bingの返答:

Actually, she is wearing sunglasses. If you look closely, you can see that the glasses have dark lenses and a thin metal frame. They are not very noticeable because they are similar to the color of her hair and dress. But they are definitely sunglasses, and they are different from the regular glasses that she wore in other photos .

DeepLによる日本語訳。

実は、彼女はサングラスをかけているのです。よく見ると、暗いレンズと細い金属のフレームを持つ眼鏡です。髪や服の色と似ているため、あまり目立ちません。しかし、間違いなくサングラスであり、他の写真で彼女がかけていた普通のメガネとは違うのです 。

だが、何度写真を見ても、サングラスをかけていないのは明らかだ。

この回答は、学習したテキストデータからの偶発的な間違いではなく、意図的かつ典型的な誤魔化しのような文章である。


AIの間違いに対する対応策。

  • 情報量の多い言語である「英語」を使用する。
  • 複数のAI(ChatGPTやBard、Bingなど)を利用する。
  • 自分で本やネット検索などで、ファクトチェックをする。

正直なところ、これくらいしかない。世界的な著名人たちが警鐘を鳴らしているのも当然だろう。

便利な反面、場合によっては大問題となる可能性は否めない。

医学や法律の試験に合格するレベルなどとの報道もあるが、結果的にはまだまだやはり人間のチェックが必要となる。

AIの嘘を見抜くAI」の開発もされているようだが、新しくAI校正、AIファクトチェッカー的な仕事が生まれるかもしれない。

AIとウソ問題の対処方法を考える猫ちゃん。

以上、参考になれば幸いです。


Webデザインは実務数年、職業訓練校講師数年、フリーランス数年、計15年以上のキャリアがありますが、一気にがぁっと書いているので「です・ます調」ではありません。(元々はメモ書きでした。) 事実や経験、調査や検証を基にしていますが、万一なにかしら不備・不足などがありましたらすみません。お知らせいただければ訂正いたします。 写真は主にUnsplashPixabayのフリー素材を利用させていただいております。その他の写真や動画もフリー素材やパブリックドメイン、もしくは自前のものを使用しております。

井川 宜久 / Norihisa Igawa
デザイナー、ディレクター、講師、コーチ / 井川宜久

AI 関連メモ。

ChatGPT 関連メモ。

DALL·E 関連メモ。

Sora 関連メモ。

Gemini 関連メモ。

Copilot、Bing 関連メモ。

Llama 関連メモ。


免責事項について

  • 記事ページ(Memosのページ)は当初は文字通りメモ書きでした。その後、修正や更新をしております。
  • 事実や経験、調査や検証を基にしていますが、万一なにかしら不備・不足などがありましたらすみません。お知らせいただければ早急に対応いたします。
  • 一個人のポートフォリオサイトですので、万一損害・トラブル等が発生した場合でも、一切の責任を負いかねます。