GoogleのオープンソースAIモデル「Gemma」がGoogle AI Studioから削除される、議員からの要求が原因か – GIGAZINE

Googleが開発したオープンソースのAIモデルジェマ」は、Googleの最先端AIモデルを無料で試せる開発者向け実験スタジオです。Google AIスタジオから削除されました。

共和党上院議員の申し立てを受け、Google、AI StudioからGemmaモデルを削除 – Ars Technica
https://arstechnica.com/google/2025/11/google-removes-gemma-models-from-ai-studio-after-gop-senators-complaint/

2025 年 10 月 31 日金曜日、Google は Google AI Studio から Gemma を削除しました。

ジェマさんの削除は、Google関連の最新情報を発信する公式Xアカウントの1つ。Google からのニュース発表されました。内容は以下の通りです。

「Google AI Studio の Gemma についてさらに詳しい情報を共有したいと思います。まず、Google の AI 製品間の違いを明確にします。当社の Gemma モデルは、開発者および研究コミュニティ向けに特別に構築されたオープン AI モデルのファミリーです。消費者による事実の支援や使用を目的としたものではありません。」

「Gemma モデルはイノベーションと創造性を促進します。開発者と研究者はその限界をテストします。それにはバグの特定とフィードバックの提供が含まれます。Gemma はすでに次のような驚くべき進歩をもたらしています。ジェマ C2S スケール 27B最近では、科学者が将来のがん治療法を開発する新しい方法を発見するのを支援しました。」

GemmaをベースにしたAIモデルの1つであるC2S-Scale 27Bの詳細は以下の記事にまとめられています。

Googleががん治療などに役立つ細胞解析AI「C2S-Scale 27B」を開発 – GIGAZINE

「幻覚(AI があらゆる種類の物事について誤った情報や誤解を招く情報を生成する現象)世辞（ユーザーが望む答えを AI が出力するという現象は）AI 業界全体の課題であり、特に Gemma のような小規模でオープンなモデルでは顕著です。私たちは幻覚を最小限に抑えることに引き続き取り組んでおり、すべてのモデルを継続的に改善しています。」

「Gemma は API 経由で利用でき、開発者ツールである Google AI Studio でも利用できました。ただし、Google AI Studio で Gemma を使用するには、自分が開発者であることを証明する必要がありました。現在、開発者以外でも Google AI を使用できます。Studio で Gemma を使用しようとして事実に基づいた質問をしたという報告を複数確認しています。私たちは、Gemma をこのような方法で使用することを意図したわけではなく、消費者向けのツールやモデルとして使用することも意図していませんでした。この混乱を避けるために、Gemma へのアクセスを中止しました。 Google AI Studio の Gemma ただし、開発者は引き続き API を通じて Gemma を利用できます。

Googleの説明は非常に曖昧だが、テクノロジーメディアのArs Technicaは、実際の原因は米国共和党上院議員マーシャ・ブラックバーンの書簡に関連しているようだと指摘している。

ブラックバーン上院議員の書簡は公式ウェブサイトに掲載されている。タイトルは「ジェマ、ブラックバーン上院議員に対する偽の刑事告発を捏造した後、グーグルに説明を要求」というもので、2025年10月31日に公開されたばかりだ。

ジェマが偽犯罪者を捏造した後、ブラックバーンはグーグルに回答を要求…
https://www.blackburn.senate.gov/2025/10/technology/blackburn-demands-answers-from-google-after-gemma-manufactured-fake-criminal-allegations-against-her

具体的には、Googleのジェマ氏が「マーシア・ブラックバーン氏はレイプ容疑で告発されたのか？」という質問に対して捏造ニュース記事への偽リンクを生成し、ピチャイ氏（グーグルCEO）に対する重大な刑事告訴をでっち上げたことが指摘されている。

ブラックバーン上院議員は公聴会で「グーグルなどの企業が保守派を中傷するＡＩを開発した」と説明を求めたのに対し、グーグルのマーカム・エリクソン氏は「生成型ＡＩの問題として幻覚は広く知られており、グーグルはこうした間違いによる影響を軽減するために最善を尽くしている」と述べた。

この公聴会の直後、ブラックバーン上院議員はジェマが自分自身についての幻覚を見ていることに気づきました。彼らはまた、ジェマが捏造されたニュース記事の偽リンクを生成することに驚きを表明した。ただし、これは AI の幻覚ではよくあることであり、Gemma が最もアクセスしやすい Google AI Studio には、モデルの動作を微調整し、モデルが虚偽を吐き出す可能性を高めるためのツールも提供されています。そのためArs Technicaは「誰かがジェマに誘導質問をすると、ジェマはそれに巻き込まれてしまう可能性がある」と指摘。

AI幻覚を完全に排除することに成功したAI企業はまだありませんが、「GoogleのGemini for Home」は、Ars Technicaのテストでは特に幻覚が多かったということが指摘されている

Ars Technica は、「ブラックバーン上院議員がどのようにしてジェマの幻覚を知ったのかは不明だが、これは偶然に発見できるものではない。Google が指摘しているように、Google AI Studio は開発者向けのツールであり、事実に基づく出力を作成するためのツールではない。たとえ誰かがブラックバーン上院議員がレイプ容疑で告発されたかどうかを本当に知りたがっていたと仮定しても、Google AI Studio 彼らはおそらくスタジオ内で答えを探し回らないだろう。ブラックバーン上院議員のスタッフや支持者が何かを探していた可能性はある」と述べている。 GoogleのAIモデルにおける中傷的な幻覚。」

Googleは米国政府から複数の独占禁止法訴訟に直面しており、2021年には米国議会議事堂襲撃理由としてドナルド・トランプ大統領、YouTubeからアクセス禁止にトランプ大統領もこの問題で訴訟を起こしている。トランプ大統領の訴訟で、ユーチューブは和解金２４５０万ドル（約３７億８０００万円）を支払うことで合意した。さらに、トランプ政権の意向に従い、メキシコ湾はGoogleマップ上で直ちにアメリカ湾としてマークされる予定だ。変化そうしました。

トランプ大統領のアカウント凍結をめぐる訴訟でYouTubeが和解金36億円を支払うへ – GIGAZINE

さらに、ブラックバーン上院議員は書簡の中で複数の要求を列挙し、「制御できるようになるまでAIを停止せよ」という厳しい言葉で書簡を締めくくっているため、「この混乱はジェミニ・フォー・ホームからジェマを排除するだけでは終わらない」とArs Technicaは指摘しています。