第28回 Hallucination：生成AIとの付き合い方

英語版2023年の流行語大賞

Word of the Year（今年の言葉）というと日本では「新語・流行語大賞」が特に注目されがちですが、英語版は国境をまたぐだけに群雄割拠で、さまざまな発表元がそれぞれ関心を集めます。

選定方法も多様で、たとえば英語学習者に人気のCambridge Dictionaryは、検索された数をもとに選んでいます。2022年はhomer（ホームラン）。5文字の英単語を推測するゲームWordleで、野球文化のない国の人々が「ホーマーってなに？」と同辞書に殺到し、検索数が急上昇した結果です。

このように流行語とは言い難い言葉も選んだりするケンブリッジ辞典ですが、2023年はhallucinateという、時代を映す言葉がWord of the Yearに輝きました。

同辞書の語義によると、hallucinateとはto see, hear, feel, or smell something does not exist, usually because of a health condition or because you have taken a drug（健康状態やドラッグの影響で実在しないものを知覚すること）、つまり幻覚を起こすことです。

幻覚作用のあるものが流行すると使用例が増え、1900年前後は紙巻たばこ、1950～70年代はドラッグが広まるとともに、hallucinationの活字がメディアで頻出するようになりました。

今回は生成AIの進化に伴ってhallucinationという言葉が再流行した形ですが、生成AIにドラッグのような幻覚作用があるわけではありません。むしろ、「生成AI自体が幻覚を起こしている」と捉えられているようです。

Cambridge Dictionaryによるhallucinateの新しい語義には、こう書かれています。
When an artificial intelligence hallucinates, it produces false information.
（AIが偽情報を生み出すこと）

まるで幻覚を起こしているかのように、事実でないことを事実として平然と語ること、それがhallucinateというわけです。

たしかに、以前ご紹介したようにChatGPTを翻訳自体ではなく翻訳を手助けするツールとして使っていると、文法的な誤りや説明の矛盾に気づくことがよくあります。

私はそういうほころびを突いて、AIに「ごめんなさい、自分が間違っていました」と誤りを認めてもらうまで“論破”して喜んでいましたが、それもまた疑わしいようです。というのも、たとえばChatGPTは人間にとって脅威とみなされないように、事実を曲げてでもユーザーに迎合することが多いそうで（諸説あり）。嘘を言い切るところといい、大量データ学習の過程で人間のヘンな部分も学んでいるのでしょうか。

生成AIとの接し方

いずれにせよ、何食わぬ顔で偽情報を吐き出すわけですから、生成AIを翻訳に活用する上で極めて重要なのは、鵜呑みにしないこと、take it with a grain of salt（話半分に聞く）の姿勢です。

その姿勢を持った上で、裏を取る作業はもちろん、真偽や良し悪しを自ら判断する能力が必須になります。たとえば、ChatGPTを翻訳で使おうとしても、生成された翻訳が果たして優れたものなのか、劣ったものなのかを自分で判断できないなら、使いようがないはずです。

「最近の生成AIはすごい」とどれだけ多くの人が言おうと、真の翻訳力を身に着け、翻訳の優劣を判断できるようにならない限り、それを活用することはできませんし、そもそもAIが本当に「すごい」のかどうかも分かりません。

では、真の翻訳力とは？このコラムの初回から申し上げてきたとおり、それは語句を置き換えるだけでなく、原文の著者のイメージ（主張や観念、情景など）を訳文の読者に正しくスムーズに伝える力です。

翻訳講座でも、まずこの基本を説明してきましたが、最近、新しい要素を加えてみました。それはハート、つまり心や気持ちです。「イメージとハートを伝える」、それが真の翻訳だと、新たに説明しています。

このハートこそが、最終的に機械・AI翻訳との差別化ポイントになるかもしれません。AIの学習データが増えるにつれ、正確性は上がっていくでしょう。いずれは人間の脳に近づいて、自ら思考できるようになり、イメージを伝えることができるようになる可能性もなくはありません。

しかし、ハートはどうでしょう？たとえば行間に込められた「商品を売りたい」、「ここで笑わせたい」、「お涙をちょうだいしたい」といった著者の気持ちは、国を問わず、同じ人間として生きてきたからこそ感じられ、伝えられるのではないでしょうか。逆に、「日本人にはここの行間の感情を読めても、アメリカ人には読めないから英語では表に出して書く」といった文化差を埋める役割も、AIにはこなせないはずです。

Hallucinateという言葉をAIの文脈で使うことに違和感を持つネイティブも多いようです。それは、AIに幻覚を起こすこと、つまり幻を覚える（感じる）ことはできないから。感じること、感性が、これからの翻訳者には求められるのではないでしょうか。

参考：The Cambridge Dictionary Word of the Year 2023