灯台下暗し、というやつか？気がつけば、うちの庭のキンモクセイも咲いていた。そりゃ香りもするわけだ。
双子２号君の高校は今日と明日が文化祭。野球部でお笑い合唱の披露とかもあって楽しみにしているが、ここ数日、喉などの調子がおかしい。歌のがなり過ぎなら良いのだけど、何となく違いそうな？そういえば、これまで子どもたちの高校の文化祭というのは、一度も見に行ったことがない。妻はどうだろう？うちの子たちは、あまり文化祭を高校では活躍の場にしてこなかったからかな？
子どもたちを送り出して、私は8時半に予約の皮膚科へ。8月に診察を受けた口の近くにできた「イボ？」の切除手術。子どもの頃から皮膚関係はトラブルがなく、病院のお世話になることもなかったのだけど、年を取ると遺伝子情報にバグが増えてくるのか？今回のデキモノがいつ出来たのか、はっきりしない。日々のこと、結構細かく、この日記と、それとは別の自分の生活記録に付けているのだけど、顔にデキモノができました、までは記録してない。たぶん半年くらい前か？吹出物なら数週間もすれば無くなるものだけど、これはしばらくして、放っておいて消えるものではなさそう、と気付いた。しかし、シェーバーで髭を剃るときに邪魔になる以外は、痛みもあるわけでもなく、なかなか皮膚科の受診が億劫で先延ばしになっていた。まあ、顔にできているので若干見苦しい、といえばそうなんだけど、おっさんの顔なんて、あまり人も気にしてないだろうし。とは言え、やっと重い腰を上げて8月に皮膚科に行ったら、手術は9月下旬と言われて「そんな先かよ！」と身勝手ながら思っていた。もっと早く病院に行けばよかった話なんだけど。
皮膚科に行って、手術前の説明を受けて、診療台に寝て、顔に麻酔を打たれて、それが効いてから切除と縫合。手術自体は10分もかからなかったかな。もちろん麻酔が効いているので痛みもゼロ。帰りに薬局で痛み止めなどを処方してもらう。病院へ行くことがないのでお薬手帳を持っていないのだけど、スマホアプリを勧められたのでそれをインストール。QRコード読めば、アプリに記録されるわけですね。9時半には家に帰って今日は在宅勤務。
昨日作ったエージェントの活用、応用方を色々思いつき、そのためには、こんなことができたら効率が上がる、と気付く。以前だと、そういうアプリがあったら良いなー、で止まるのだけど、「それなら作ってみようか？」となるのが現在の状況。で、これが日常業務の片手間であっという間に出来た。ほんと、恐ろしい世の中だ。
一方で、昨日作ったエージェントの制御には結構苦労している。参考にすべきナレッジを与えて、それを厳密に参照して回答するように指示文を作ってあるのだけど、テストすると、しばしばナレッジに依拠しない回答をしてくる。その回答を別のAIに読ませて、その挙動を抑制するように指示文を書き直すのだけど、なかなか穴が潰しきれない。これがLLMというものなのかもしれない。あくまで「推論マシン」なので、厳格性をどこまで要求して答えさせることができるのか？という問題なのかも。ここ最近、AIの危険性をめぐる論議が世論を賑わせているけど、当然だろうと思う。これだけ便利なのだから、危険は大きいに決まっている。昔から便利な道具は、危険でもある、というのは普遍的原理なのだ。よく切れる刃物は便利だけど当然悪用すれば危険だし、スピードの速い車は快適で便利だけど、交通事故のリスクを必然的に内包している。AIだって同じことだ。
ただ意外と言うことを聞かせるのが難しい、というのとハルシネーションは、気を付けて付き合わないといけないと思っている。
私が今月書いた日記の中で示したGeminiの回答も、実はハルシネーションだった。すみません。
仕事とか論文書く、というなら、必ずどこかで裏を取るのだけど、自由研究について記録した日記のついでに引用したので、そこまでやってなかった。でもそこまでかなり膨大なやりとりをして、結構良い感じに議論と考察を深めて、考え方としては大筋そうなのでは？と思っていた最後に実際に古文書にそういう記録はある？と聞いてGeminiが出したのがアレだった。まるで手練のペテン師みたいでもある。こういう事例を見ると、子どもに触らせるのは危険だな、と正直思う。ちなみにもっとも簡単なハルシネーション対策は、AIが具体的な事例とか引用を出してきたとき、それを丸ごと別のAIに投げて、Geminiがこんなこと言ってるけど、これって本当にある？と調べさせることだ。有る、無しを聞かれた場合、答えは明白なので、AIの回答は明確だ。たぶん、イエスorノーではない質問に推論して回答する際に、ハルシネーションが生成されてしまうのだろう。そう考えると、ユーザーに回答を返す前に、一度AIが自分で自分の答えを再検証して、ハルシネーションがあれば修正するロジックに設計してくれれば良いのだけど。でもたぶんそれをするとデータセンターの電力使用量が2倍以上になる気がする。でもミュトスとかフェイブルは、回答を出す前に自分でテストを回すようなので、そういうロジックになっているのかも。仕事で使うclaude opusも思考が長くて、途中でその過程が文字に出てくるが、自分で推論して、ここまで確認、これで漏れはないか？別の方法を推測・・・みたいなことをしている。
何はともあれ、新しく便利で危険な道具なので、全力で向き合う必要はあると思っている。なかなか大変だけど。
あ、それともう一つ。文化祭1日目から帰宅の双子２号君、喉の具合がさらに悪くしんどいとベッドで寝て夜38度の発熱。明日の２日目は休みに。長男が持ち込んだ風邪に唯一感染しなかったのだけど。まあ高校ではインフルとか色々流行っているので仕方ない。高校生になってもまだ子どもの発熱、というイベントの発生は終わらない。
