ハルシネーションhallucinationとは

ハルシネーションhallucinationとは

ハルシネーションとは、人工知能（AI）が事実に基づかない情報を生成する現象のことです。まるでAIが幻覚（＝ハルシネーション）を見ているかのように、もっともらしい嘘（事実とは異なる内容）を出力するため、このように呼ばれています。
インターネットの情報を含めて、自分で判断するのが大切です。

「ハルシネイト／hallucinate」という言葉は、「目に見えないもの」を感じることという意味を語源に持ちます。

hallucinate
幻覚を起こす

hallucination
〔一時的な〕幻覚（症状）、〔幻覚による〕幻影

In simple terms, “hallucination” in AI language systems means the computer making up things that aren’t true or aren’t in the information it was given. For example, if you ask a computer to summarize a story, it might add extra details that weren’t actually in the story. Or it might say something that sounds right but isn’t really true. It’s like the computer is imagining things that didn’t really happen or weren’t really said.
(簡単に言えば、AI言語システムにおける「幻覚」とは、コンピュータが、与えられた情報の中にない、あるいは真実ではないことをでっち上げることを意味する。例えば、ある物語を要約するようコンピュータに頼んだ場合、実際にはその物語になかった詳細を追加するかもしれない。あるいは、正しく聞こえるが実際には真実ではないことを言うかもしれない。コンピュータが、実際には起こっていないことや、実際には言われていないことを想像しているようなものだ。)