01
AIプロダクト
知能を後付けせず、アーキテクチャに組み込んだ製品。
課題
多くのAI機能は後から追加されるため、演算、レイテンシ、データについてすでに下された判断にモデルが縛られます。結果として、製品に貼り付けたデモのように感じられます。
アプローチ
最初のアーキテクチャレビューからモデルを中心に製品を設計します。何をどこで動かすのか、1回のやり取りにいくらかかるのか、どう失敗するのか、考えている間ユーザーには何が見えるのか。
実証済みのシナリオ
会話するハードウェア
音声を主インターフェースとする製品。ウェイクワードと音声処理はローカルに残し、認識と推論はストリーミングして最初のチャンクで再生を始めます。初回音声までのレイテンシを製品指標として管理します。
オペレータ支援
モデルが提案し、人が確定する運用者向けの製品。技術的に難しいのはモデルそのものではなく、確からしさの提示とフォールバックの経路です。
自律的な意思決定
人のレビューなしにモデルが行動する閉ループ製品。出荷の前に、確定的なガードレール、境界の定まった行動空間、完全な監査ログが必要です。
技術領域
- AIプロダクトアーキテクチャ
- モデルの選定と評価
- レイテンシとコストのバジェット設計
- 確率的な挙動を前提としたインタラクション設計
技術