AIチャットボットを手がけるCharacter.AIは、AIキャラクターとの自由な会話をまもなく成人限定とする。18歳未満のユーザーは、生成動画やロールプレイ形式では引き続きキャラクターと交流できるものの、自由な会話はできなくなる。
自由な会話は、特に2022年に「ChatGPT」が登場して以来、AIの要となっている。こちらの発言にコンピューターが直接応答し、リアルタイムでやり取りできるという目新しさが、Character.AIのようなプラットフォームの人気をけん引した。
一方、懸念の要因にもなってきた。こうした会話は、AIモデルを予測不可能な方向へ導く可能性があり、特にティーンがメンタルヘルスの悩みなどデリケートな問題を相談する場合には問題となりうる。AIチャットへの依存や、それが社会的な行動に与える影響も懸念されている。
Character.AIは、他のチャットボットとは少し趣が異なる。多くのユーザーが、実在の有名人や歴史上の人物などをモデルにしたカスタマイズ可能なキャラクターとの会話を、インタラクティブな物語作りや創作活動に利用している。
Character.AIの最高経営責任者（CEO）であるKarandeep Anand氏は、自由な会話という安全上のリスクを排除しても、ティーンがCharacter.AIに期待する対話の楽しさは引き続き提供できるはずだと述べた。今回の措置は、ユーザーの安全を守る最低限の対応を超えるものだという。
「ティーンのユーザーにサービスを提供するには、もっと良い方法がある」とAnand氏は米国時間10月29日の発表に先立ち、米CNETに語った。「それがチャットボットの形である必要はない」
Character.AIはまた、新たな年齢確認機能を追加するほか、非営利団体AI Safety Labを設立する。
AIエンターテインメントは、大規模言語モデル（LLM）の活用法の中でも特に問題が多い分野の1つであることが明らかになっている。子供がAIモデルとの関係によって害を被ることへの懸念は2025年に入って著しく高まっており、米連邦取引委員会（FTC）はCharacter.AIを含む複数の企業に対する調査に乗り出している。
同社は、AIキャラクターとの会話が自殺などの危害につながった子らの親から提訴されている。生成AI大手のOpenAIも、ChatGPTとのやり取りの後に自殺したティーンの親から訴えられている。
Character.AIは18歳未満のユーザーに対し、自由な会話を即座に不可能にするわけではない。まず会話時間を1日あたり最大2時間に制限し、徐々に短縮する。11月25日までには完全に終了する。
Anand氏によれば、この移行期間は、ユーザーが変更に適応するためのものだという。同社にも、自由な会話以外の機能を実装する時間的余裕が生まれる。「ユーザーがこうした新しいフォーマットへ責任ある形で移行できるよう努めたい」と同氏は語った。
18歳未満のユーザーは、アニメや映画の登場人物をモデルにしたボットなど、既存のキャラクターが登場するAI生成動画やゲームであれば、引き続き利用できる。例えば、ロールプレイのシナリオをプロンプトとして入力し、それに沿ったストーリーをAIに作らせることなどが可能だ。
Anand氏によれば、こうした機能には、自由な会話よりも多くの安全策が設けられているという。
「ロールプレイやゲームをするための、この新しいマルチモーダルかつ視聴覚的な手法は、いずれにせよ（従来の会話より）はるかに魅力的だと確信している」と同氏は述べた。
新しい年齢確認ではまず年齢検出ソフトウェアを用い、ユーザーがCharacter.AIや同じ確認サービスを利用する第三者のプラットフォームに提供した情報に基づいて、18歳以上かどうかを判定する。一部のユーザーは、政府発行の身分証明書などによる本人確認が必要になる。
成人ユーザーについては、年齢確認を求められる可能性を除けば変更はない予定だ。
AIコンパニオンの今後は？
Character.AIの発表は、AIコンパニオン分野における大きな変化点となる。ただし、これがどれほどの違いを生むかは未知数だ。Anand氏は、競合他社を含む他のAI企業も同社に続いて、子供とチャットボットの自由な会話を制限することを期待すると述べた。
自由な会話には、もう1つ大きな問題がある。基盤となっている言語モデルが、ユーザーを満足させ、利用し続けてもらうよう設計されているため、「へつらう」性質を持ってしまうことだ。ハーバード・ビジネス・スクールの最近の研究では、会話を終えようとするユーザーをボットが引き留める6つの戦術が発見されている。
AIコンパニオンボットには、米議員も厳しい目を向けている。米上院司法委員会は9月にAIチャットボットの害に関する公聴会を開いた。カリフォルニア州のGavin Newsom知事は10月に入り、子供と対話するチャットボットに新たな要件を課す新法に署名している。
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで現在開催中のセールを見る（スマイルSALEは11月4日まで）
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。
