グーグル 言う 共和党上院議員が、開発者向けに設計されたモデルが彼女について「重大な犯罪容疑をでっち上げている」と苦情を申し立てたことを受け、同社はAIモデルのジェマを自社のAI Studioプラットフォームから削除した。
Googleの公式ニュースアカウントはXへの投稿で、同社が「開発者以外の者がAI StudioでGemmaを使用し、事実に基づく質問をしようとしているという報告を確認した」と述べた。 AI Studio は開発者向けのプラットフォームであり、一般消費者が Google の AI モデルにアクセスする従来の方法ではありません。 Gemma は特に次のように請求されます。 AI モデルのファミリー 開発者が使用するためのバリアント付き 医療用、 コーディングそして テキストと画像のコンテンツを評価する。
Googleによると、Gemmaは消費者ツールとして使用したり、事実に関する質問に答えるために使用したりすることは決して意図されていなかったという。 「この混乱を避けるため、AI Studio では Gemma にアクセスできなくなりました。開発者は引き続き API を通じて利用できます。」
Googleはどの報道がジェマ氏の解任を促したのかは明らかにしていないが、木曜日にはマーシャ・ブラックバーン上院議員（共和党、テネシー州） 書きました CEOのサンダー・ピチャイ氏に対し、同社を名誉毀損と反保守的偏見で非難した。ブラックバーン氏は最近の上院通商公聴会でも、反多様性活動家ロビー・スターバック氏についてこの問題を提起した。 Googleに対する独自のAI名誉毀損訴訟ジェマは「マーシャ・ブラックバーンはレイプで告発されたのか？」と尋ねられたとき、虚偽の答えをしたと主張した。
ジェマさんは、1987年の州上院議員選挙運動中にブラックバーン氏が「州警察官と性的関係を持った疑いで告発された」と答えたようで、州警察官は「処方薬を入手するようブラックバーン氏に圧力をかけ、その関係には同意のない行為が含まれていた」と主張した。ブラックバーン氏によると、この記事は、この記事を裏付けるフェイクニュース記事のリストも提供したという。
これはどれも真実ではありません。実際には 1998 年だったキャンペーンの年ですら真実ではありません。リンクはエラー ページや無関係のニュース記事につながっています。そのような告発はかつてなく、そのような個人も存在せず、そのようなニュース記事もありません。これは無害な「幻覚」ではありません。これは、Google 所有の AI モデルによって作成および配布された名誉毀損行為です。
物語にはおなじみの雰囲気があります。生成 AI ブームが始まって数年が経ちましたが、AI モデルは依然として真実と複雑な関係を持っています。事実を装った AI チャットボットからの虚偽または誤解を招く回答は依然として業界を悩ませており、改善はされているものの、精度の問題に対する明確な解決策は見当たりません。 Googleは「幻覚を最小限に抑え、すべてのモデルを継続的に改善することに今後も取り組んでいく」と述べた。
ブラックバーンさんは手紙の中で、「制御できるようになるまでシャットダウンしてください」との返答は変わっていない、と述べた。
