AIを使っていると、AIにも誤りがあることは多々ある…と、気付けるうちが花だと思っている。
AIの発した情報に誤りがあるかは得てきた知識が物を言う。
例えば現代のカルチャーに触れてこなかった学者が現代のカルチャーに触れた際、それが最近の流行か5年ほど前の流行かを即座に見抜くのは難しい。この時再考するか鵜呑みにするかはまた別の判断基準となるが、パッと「これは古い流行だ」とはなかなか言えないものだ。
再考して誤りに気づけばまだ良し、気づかない場合誤った知識を真の知識として捉えてしまう。これはなにもAIから得た情報に限らない。人づてで聞いた話や、本で読んだことを誤って記憶してしまったり、そういう思い違いを人はしがちだ。人は完璧ではないし、完璧と思い込むことは、完璧ではないとわかったときに息苦しくなっていく。
それでも私は「対話型AIから得た間違った知識を人に伝え、誤りが伝播すること」が怖いと感じる。
なぜか、ChatGPTを始めとした対話型AIはリミット制限を無視すれば、24時間手軽に応対することができるからだ。
気軽に聞き、答えてくれるもので一昔前に流行った概念がある。「ググる（Google検索）」だ。
わからなかったらインターネットで調べて答えを見出す行為で、24時間いつだって、検索エンジンにアクセスできれば調べることができてしまう便利なものだ。
しかし、インターネットもまた集合知なので、誤りはある。あるいは過激だったり、極端な思想も当然出てくる。 そういったものを「インターネットで調べた！ 故に正しい！」と引き合いに出す人は周囲に結構いた。大抵は不安のあまり陰謀論に振り回されていた人達だった。
今、検索という概念がChatGPTなどの対話型AIにとって変わろうとしているのを感じる。手軽さや、検索することの煩雑さ（そして情報が正しいか精査する労力）を考えると、自分でも「できるだけChatGPTを使って調べよう」という気持ちになる。
だが、出力した情報に誤りがあるとイラッとすることも多々ある。GPT-5であっても起こってしまうが、これが誤りだと感じなければ……？ 人はきっと「この情報は正しいんだ！」と思ってしまうだろう。 そして、得た情報を人に伝え、その情報は伝播していく。誤りだと気づけばそこで止まるが、気づかなければ人の知識に成り代わって広まっていく。これが一番怖い。
ここまで読んでみて「なにもAIに限った話じゃない」と読めた人は正しい。このような事例は昔から起こり得たことだ。 ただ、今は対話型AIに頼れば答えを出してくれる時代。その新たな時代における誤った情報を止めるのは、持ち合わせた知識――もそうだが「この情報は本当にそうなのか？」と思う感性だと考える。
（今回のタイトルは「AIタイトルアシスト」を使いました）
