「助けて！AIが勝手に900ドルのトースターを買ってしまった」。SASは、こうしたトラブルが現実になる可能性があるとして、AIエージェントが自律的に買い物を行う「エージェンティックコマース」の発達に伴うリスクを予測している。顧客が意図しない購入による異議申し立てが急増し、銀行が“後始末”を担う場面が増えると見ている。
金融業界におけるAI活用の予測では、2026年は「エージェンティックAI」が本格稼働する年になるとしている。顧客からの依頼を処理したり、業務フローを調整したり、ガバナンスの効いた説明可能な意思決定を大規模に実行したりするAIエージェントが導入され、銀行の業務設計や、AIの価値を測る方法が根本的に変わる可能性があるとしている。
一方で、AIエージェントの活用が広がるほど、新たなリスクも増えると指摘している。SASは、利用者の代わりに動く自律型のAIエージェントが、本人の意図と異なる購入を行い、銀行への異議申し立てが急増する可能性があるとしている。
本人が「買った覚えがない」と訴えるケースが、不正利用だけでなくAIによる代行の結果として起きることも想定されるとして、取引の経緯を確認し、対応にあたる銀行側の負担が増えると見ている。いわゆる「ロボショッピング」によるトラブルの後始末が、コールセンターを含め銀行の新たな責務になるとしている。
また、犯罪者が正規のAIエージェントを乗っ取ったり、模倣したりすることで新たな不正リスクが生じるとして、不正対策チームが対応を迫られる可能性も示した。エージェンティックコマースが拡大する中で、銀行は個人だけでなく、代理として行動するAIエージェントそのものを認証する必要があるとし、金融犯罪対策がさらに複雑になるとしている。
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています
