保護中: 高齢IT技術者が思う生成AIのこと

この物語は、筆者（IT技術者歴40数年）とAIの対談という形式を取っています。自分とAIの位置関係を探るために企画しました。 インタビューアはAI、インタビュイーは筆者となります。 本テーマについて様々な局面を生成AIと討議し、そのエッセンスを読者が読みやすいように対談形式でまとめたものであり、討議では筆者が日本語文法も含め雑な質問をしていたものを、AIが読みやすい文体に修正したものです。
生成AIには多くの利点がある一方、実務で使うには無視できないリスクも存在します。特に深刻なのは、AIが突然それまでの文脈を忘れる、回答の途中でハングする、指示していた文体・記述ルールがいつの間にか消えるといった挙動です。本コラムの作成中に何度もこれに見舞われ、スクリーンをコピーしてローカルのwordに貼っていなければすべて消失していました。これは ChatGPT、Gemini、Grok など複数のサービスで共通して起きるため、特定のAI固有の問題ではなく、現在の生成AI技術そのものが抱える構造的な不安定さと考えるべきでしょう。モデルが内部で扱う情報量の大きさ、会話の長さによる負荷、推論プロセスのブラックボックス特性などが、こうした“揺らぎ”を生むのでしょう。無料版か有料版かに関わらず、完全な安定性はまだ期待できません。したがって、重要な判断や精密な作業を丸ごと任せることは現状では危険であり、AIを信用しすぎず、常に人間側がチェックする姿勢が不可欠です。
このAIとの対話のスタイルや内容が、読者の方々が生成AIを利用する際に参考になれば幸いです。