品質保証におけるAI：信頼、説明責任、イノベーションの再定義

著者

トーマス・シュタイアー（Thomas Steirer）はナガロの最高技術責任者（CTO）。主に価値ある情報を提供するためのスケーラブルで持続可能なソリューションの開発に注力。

人工知能（AI）は、品質、信頼性、説明責任に対する従来のアプローチに挑戦するペースで加速している。AIは現在、金融システムから重要なインフラまで、あらゆるものに影響を与える複雑でダイナミックな環境で稼働している。AIがますます自律的になり、あらかじめ定義されたタスクから離れるにつれて、より透明性の高い ガバナンス、測定可能なパフォーマンス基準、より厳格な倫理的枠組みが必要とされている。

「もしあなたがウィーン地域に住んでいて、公共交通機関、オンラインバンキング、航空旅行を利用しているならば、少なくともほとんどの時間は、私が円滑に動作するように支援したシステムに接したことがあるでしょう。この経験は、私がソフトウェアの品質についてどのように考えるか、そしてシステムが「良い」ことが真に意味するものは何かを形成してきた。それは、私が "破壊的創造性 "と呼ぶユニークな視点を提供してくれる。新しい製品やプログラムを見たとき、私の直感はただ賞賛することではない。私はまず、「クールだ...」と思う。どうやって壊そうか？" と考える。

今日の課題は、AIの能力を向上させるだけでなく、その判断が測定可能で、説明可能で、期待に沿うものであることを保証することである。

未来をデバッグする：品質保証におけるAI

従来の品質保証（QA）は、ISO 25010などの規格で定義されているように、システムの機能性、信頼性、パフォーマンス、その他多くの品質基準について厳格にテストされるという、正確さによって長い間定義されてきた。QAの手法は「破壊的創造性」に基づいており、銀行、輸送、産業オートメーションなどのビジネスクリティカルな分野で、脆弱性を発見し、シームレスな実行を保証するために、ソフトウェアはストレス下でテストされる。

しかし、AIはこのアプローチを根本的に破壊した。ジェネレーティブAIは、固定的で決定論的な結果を超えて、文脈に即した適応的な意思決定へと移行する。生成的AIモデルの能力が高まるにつれ、精度や正確さといった従来の評価指標ではもはや十分ではなくなっている。推論、汎化、文脈理解といった能力を評価することに、ますます注目が集まっている。

例えば、フランス革命がパン製造業に与えた影響について尋ねられたとき、「単一の正解」は存在せず、むしろ歴史的解釈、文化的洞察、推測的文脈、優れたバゲットを作る技術などが混在している。この質問に答える際にAIが生成する答えの中には、役に立つものもあれば、誤解を招くものもある。そして、あらかじめ「正解」を知っていなければ、区別することは不可能かもしれない。

何を「正解」とするか、「役に立つ」とするか、あるいは「受け入れられる」とするかは、すべて私たちの期待次第である。明らかに、私たちの期待を定義し、言語化し、確認することは、厄介なプロセスである。高度に訓練された人間同士のコミュニケーションであっても、伝統的なソフトウェア・システムの文脈であっても。AIと対話する素人にとっては、まさに不可能なことなのだ。

このシフトは、単なる正しさを超えたソフトウェア品質の再定義を要求している。AI主導のシステムが意思決定を鈍らせるのではなく、むしろ向上させるような、適応性、創造的な解釈、文脈に即した正確さなどが、優れた品質として求められるようになったのだ。

AIは厳密な科学ではない。

AIのパフォーマンスの性質は、ユニークな課題を提示している。答えがアルゴリズムや数値ではなく、確率的で会話的である場合、その品質をどのように測定すればよいのだろうか？伝統的なソフトウェアは明確な成功・失敗の尺度を守っているが、AIは変動性のスペクトラムの中で動いている。

自律走行車を例にとってみよう。事故が起きないことを期待するのは非現実的であることは明らかだ。より現実的な問題は、自律走行車を何に対して評価すべきかということだ。ベンチマークは平均的なドライバーなのか、クラシックカー愛好家なのか、それとも安全運転インストラクターなのか？人工知能における成功の定義とは、完璧主義から現実主義への転換を意味する。つまり、理論的な理想に頼ったり、逆に基準を持たないのではなく、合理的で現実的な基準を設定することである。

このような明確なベンチマークの欠如は、自動運転車や様々な分野におけるAI主導の意思決定にも及んでいる。スタンフォード大学の人間中心人工知能（HAI）研究所による「2024年AI指数報告書」は、責任あるAIの報告における標準化の著しい欠如を強調し、組織が明確なガバナンスの枠組みを確立する上で直面する課題を浮き彫りにしている。これは極めて重要な問題を提起している：AI主導のチャットボットがリクエストを誤って解釈した場合、あるいは自動運転車がエラーを起こした場合、開発者、導入企業、あるいはAIシステム自体の誰が責任を負うのだろうか？

説明責任とAIガバナンスの明確な枠組みがなければ、AIへの信頼は脆弱なままとなり、最終的にAIの普及を遅らせ、その可能性を制限することになる。

破壊的創造性：信頼できるAIの構築

AIの変革を管理するには、多くの破壊的な創造性、つまり、積極的に仮定に挑戦し、確立されたモデルをテストにかけ、AIの進化する複雑性に適応する考え方が必要である。これは漸進的な改善ではなく、AI主導のシステムにおける品質、信頼性、説明責任を定義する方法を根本的に変えることである。

AIを完璧な存在と見なすのではなく、組織はAIを進化するツールとして捉える必要がある。AIは失敗することもあるが、学習し改善することもできる。しかし、厳格な質問、テスト、倫理的な設計によってのみ、意思決定において信頼できるパートナーとなることができるのだ。

信頼の未来へ向かうAI

AIが産業界に浸透するにつれ、ビジネスリーダー、規制当局、開発者は、厳格な倫理ガイドラインと透明性のあるAIガバナンスを構築する責任がある。AIの未来は、AIが何を達成できるかということだけでなく、説明責任、公正さ、人間中心の設計の枠組みの中でAIが確実に運用されるようにすることでもある。

世界経済研究所の2024年の調査によると、AIは2030年までに世界経済に15.7兆ドル貢献すると推定されている。しかし、70％以上の経営幹部が、AIの導入に伴う信頼や倫理的リスクを懸念している。品質保証は長い間、純粋に技術的なプロセスを超えて進化してきた。それは信頼、誠実さ、倫理的な革新を優先する哲学となった。AIにおいては、このことがこれまで以上に重要になってきている。AIは効率を最適化し、テクノロジーを不確実なものではなく進歩をもたらすものとする価値観を支持する必要がある。

そのためには、私たちの期待を明確にし、それが満たされていることを検証する、より多くの頭脳が必要となる。

AI駆動システムの未来は私たちの手の中にある。ハンドルを握り、AIが単なる自動化のツールではなく、有意義な変化、責任あるイノベーション、揺るぎない信頼のための力となるようにするのは、私たち次第なのだ。

品質保証におけるAIの進化する役割について興味がありますか？

トーマス・シュタイアーのTEDxトークをご覧ください。彼は、AIがソフトウェアテストをどのように変容させるのか、AIが生成した結果を検証することの複雑さ、自律的な世界における期待値の設定の難しさについて語ります。AI主導の意思決定における信頼のジレンマから、機械学習が日常生活に与える影響まで、彼の洞察は、答えが必ずしも白黒はっきりしない今、ソフトウェア品質の定義を再考するよう私たちに迫ります。この示唆に富む講演をお見逃しなく！