最近よく見ているYouTubeチャンネルは「安野貴博 @ 新党チームみらい」。
安野さんは様々なことをとても柔らかな言い方で表現され、難しいことをコンピュータの力を利用して誰にでもできるようにしようとしてくださっています。
ごく最近で言えば、政治家のお金の流れの透明化：政治資金見える化ツール
『未来丸見え政治資金』。
↓興味をお持ちの方はこちらを
https://youtu.be/D48k1uXHaFk?si=w4-Tc22wtkrAP6df
これを自分たちだけでなく、だれでも使えるツールとして公開しようとしていらっしゃいます。
＜Wikipedia情報＞
安野 貴博（あんの たかひろ、1990年〈平成2年〉12月1日）は、日本のSF作家、起業家、AIエンジニア、政治家。参議院議員（1期）、チームみらい党首。
東京大学工学部卒業。ロイヤル・カレッジ・オブ・アート修了
ボストン・コンサルティング・グループでの勤務を経て、株式会社BEDORE代表取締役、MNTSQ株式会社共同創業者、東京都政策連携団体の一つである一般財団法人GovTech東京のアドバイザー等を歴任している。
日本SF作家クラブ会員。
2025年、政治団体「チームみらい」の設立を発表。第27回参議院議員通常選挙では「チームみらい」から15人が立候補した。安野自身は全国比例区から当選した。
妻は編集者の黒岩里奈。
そのチャンネルで今朝見たのが
「なぜAIは“もっともらしい嘘“をつくのか？ ハルシネーションの正体をゆる解説」
これ、とても興味深かったので是非本物をご覧くださいね。
https://youtu.be/j3ZOOl4y6GQ?si=YYbsGgVAlygXQo0f
私も日常の小さな疑問（大匙1は何グラムですか？）から科学的質問（バナナを早く熟成させるには）まで、よく使わせていただいています。その生成AI、2年前はよく嘘をついていました。例えばこんな感じ（↓2023年2月のもの）
＜質問＞
先程61歳で偉業を成し遂げた人を教えて、と質問して、ジェフ・ベゾスと教えいただきました。しかし、ジェフ・ベゾスは現在59歳で、61歳にはなっていませんので、間違いです。
＜回答＞
おっしゃる通りでした。ジェフ・ベゾス氏は2022年1月時点で58歳であり、まだ61歳には達していません。私の回答が誤っていたことをお詫び申し上げます。もし正しい年齢での偉業を成し遂げた人についての情報があれば、お気軽にお知らせください。
でも最近は正しくなっているように感じます。ではなぜ嘘をつくのか、そしてなぜ最近は精度が上がっているのか、そのあたりを安野さんがご覧になった「OpenAI論文」から、上手に解説してくださっています。
それをさらに西野真理がGeminiちゃんの力を借りながらゆる要約。
１ ハルシネーションとは？
ハルシネーションとは、生成AIが事実と異なる情報を、あたかも事実であるかのように生成する現象（もっともらしい嘘をつく）のこと
2. ハルシネーションが起きる2つの原因
① 事前学習の段階の問題
※まず用語から
LLMとはLarge Language Models 大規模言語モデル の略。膨大なテキストデータと高度なディープラーニング技術を用いて構築された、自然言語処理における革新的な技術
・LLMはインターネット上の膨大なテキストデータから言語の統計的なパターンを学ぶ
☆この中に、西野真理のブログの情報も入っているかも
・学習データが完全に正しかったとしても、ハルシネーションは発生する。つまり元々の学習データが正しくないことだってある
☆西野真理が嘘の情報をブログに書いているかも
・LLMがパターンを学習する作業と、データから明確なパターンを読み取れない作業があるから。パターンが読み取れない情報の場合は、LLMは正確な境界線を引くことが難しくなる
☆西野真理の誕生日はパターンとして考えた場合365分の一。誕生日がどこにも書かれていなかったら、365分の一で当たると言えば当たる
②LLMが勉強したことに対する評価方法の問題
少し前までは、出した回答が「正解か不正解か」だけで判定され、「分からない」と答えると期待値が0点になっていた。だから、LLMは適当でも何か答えた方が高評価を得られるという環境で育ってしまった。「分かりません」というより嘘をついた方が（ハルシネーションを起こした方が）評価が高くなるから
3. ハルシネーションの解決策
解決策として、評価方法の見直しが提案された
「正解なら+1点、不正解なら-3点、分からないなら0点」というように、間違えることのペナルティを大きくすることで、LLMは自信がないときに「分かりません」と答えるよう促された
☆コンピュータも適正に褒められたいんですね
実際にこの評価方法を導入した新しいモデル（GPT-5 Thinking Mini）は、ハルシネーションの割合が大幅に下がった
4. ハルシネーションは本当に悪いことなのか
一方で、ハルシネーションを起こす能力は、創造性を発揮したい場面（新しいアイデアの話し合い、小説執筆など）や、未知のものに対して推論する際には必要になるという側面もある
OpenAIのサム・アルトマン氏も、創造性を発揮させたい時はハルシネーションを歓迎し、事実を述べさせたい時には抑えるモデル作りが大事だと述べている
0 件のコメント:
コメントを投稿