Hamahon Comm.　ー　後楽園の北隣り

(承前)　２・
１)の虚偽回答はユーザーではなく、システムのアーキテクチュアに問題があると思える。
ネット上に専門家が書く解説はどれもこれをHallucination(幻覚)とし、それを軽減するやり方を紹介するが、それで済ませてよい問題ではない。
この半年の間に東京を始め複数の自治体(岡山も)が生成系AIの行政導入の検討を発表したが、前進できるか否かはこの”幻覚”問題をどうクリアするかに懸かっていると睨んでいる。
｢ChatGPTやBARDに全面的に頼るのめはなく、参考意見を求める態度が望ましい｣というのがネットに現れる専門家意見の公約数だが、それは行政の軽減化ではなく、煩雑化になってしまう。
虚偽事象の説明として”Hallucination”という不可避的ニュアンスを与えていることも問題であると思う。
これはプログラミング上で避けうる事象ではないのか？

カテゴリー:未分類