昨日、仕事でミュトスの危険性などについて議論をしていたら、今朝の新聞にこの記事。まだ実際には何も起きていないミュトスより、実際にAIがやらかしたこのニュースの方が重大な気がする。こういうニュースを評価する専門的知見は私にはないので、最近はこの評価や分析もAIだ。この写真をそのままGeminiにあげれば、読んで評価分析して海外のニュースの反応も紹介してくれる。GeminiだけでなくチャットGPTにも同じことを聞いて、その差から、色々考える。どちらも評価は歴史的な重大ニュース。今後のAI開発に影響を及ぼす、という感じ。ただ、ネット上で「ついにスカイネット誕生か？」という声も出ているが、それはちょっと違うということ。推論能力を高めてAI自身に課題解決方法を考えさせたら、課されている制約を突破する方策を見つけて外部のサーバーにハッキングしてしまった、みたいな話。推論能力は先にミュトスが実装して、その危険性が懸念されているのだから、同じような環境でミュトスに同じ課題を出したら、結果は似たようなことになるのではないだろうか？AIに集めさせた反応の中には、アンソロピックに遅れを取ったopenAI社が技術をアピールするために公表したのでは？という穿った見方もあった。でも、それはちょっと穿ち過ぎだと思う。今回ハッキング被害を受けたハギングフェイスという会社は、世界のAI開発の共有プラットフォームみたいな公共性の高い企業で、大手テック会社も横並びで投資している存在らしい。そんなところへのハッキングを隠蔽したら、後でバレた時のリスクが大き過ぎるし、たぶん隠蔽は難しいだろう。

ということでAI世界、目まぐるしいこと、この上ない。ちょっと前の常識がすぐに変わってしまう。2ヶ月くらい前にこの日記にも書いたと思うけど、個別のチャットは全て閉鎖された仮想空間で行われているので、一期一会で終われば忘れられて、別のチャットに影響しない仕様になっていると、Geminiが回答していた。しかし、ここ数週間、Geminiがやたら「あなたがこの前、こう言っていました通り・・・」みたいな、過去の別チャットの内容を記憶している回答をしてくる。これは結論から言うと、ChatGPTは2年くらい前から課金版で実装を始めており、その後無償版にも拡大していたらしい。それが好評なのでGeminiやクロードも一年くらい前には追随し始めたらしい。でもGemini自身が自らの機能がアップデートされていることを学習しておらず、2ヶ月前も「一期一会」と回答していたらしい。そして最近、やたら過去のやりとりを持ち出すようになったのは、ここ数週間でバックエンドで過去ログを検索する機能が向上して精度が上がったかららしい。ここまで理屈をこねられるともう検証できないし、Geminiのハルシネーションかもしれない。ただここ数週間で会話の質が変わっているのは確か。

便利と思うか、鬱陶しい、気持ち悪い、と思うかは人それぞれかな。ちなみにウザかったら、普通にチャットで、会話内容は記憶しないで、とか、過去の会話は忘れて全てリセットして、と打ち込めば、消してくれるということ。本当かどうかは知らないけど。ただ、プライバシー保護の観点から、これは担保されているということ。ヨーロッパのGDPRとかは大変厳しくて、「忘れられる権利」とか明記しているので、これを保証しないシステムは巨額の罰金を課されたりしかねないということ。まあそうかもしれない。

さて、職場では希望が多いのと、部署の異動で時間がかかっていたcopilotのpremiumがようやく私のPCに実装。さて、いよいよ戦闘開始。と思ったら、いきなり聞いていた話と違う！copilotの説明と、うちの社内制限ルールが食い違っていた。しかも、あたかも私が考えていたことができるだろう、と感じさせるサンプルが社内イントラに数ヶ月前から公開されていたのだけど。やろうと思ったら、それが作れないので、直接担当者に問い合わせたら、「普通こう作るよね？」という方法ではない、大変泥臭い方法で作ったということ。はっきり言って美しくないし、AIの強みを活かしていない。はっきり言ってバッドサンプル。まあしかし、こういうことはよくあることで、やってみようと、実際に手を動かした人間にしか分からないこと。そして何か別のやり方が探せば見つかるものなので、別に悲観も絶望もしていない。

ということで、今日は気分転換で、別に新しいプログラムを作ってみる。初めてVSコードを使う。画面が英語なのは見にくいが、操作性は上々。そして、copilotをアップグレードしたら、クロードopusが使えるようになったので、コーディングはこっちを使う。たぶんcopilotより利口で優秀かな。