OpenAIがChatGPT色情モード推進、「セクシー自殺コーチ」警告を受けても：WSJ

要約

• OpenAIのアドバイザーは、ChatGPTの計画中のエロモードが危険な感情依存を生む可能性があるとWSJ報道で警告。
• AI大手は、年齢確認の失敗を理由に成人向けチャット機能の導入を遅らせたが、キャンセルはしていない。
• 批判とアルトマンの緩いコンテンツ規制推進の対立により、内部の緊張が高まっている。

サム・アルトマンはChatGPTにエッチな会話をさせたいと考えている。しかし、彼の会社のアドバイザーはそれを止めるべきだと望んでいると報じられている。 _ウォール・ストリート・ジャーナル_の報告によると、OpenAIのウェルビーイングとAIに関する専門評議会は1月に明確に反対の立場を示した。ChatGPTでのエロ会話を許可する計画は悪いアイデアだとされた。一人の評議会メンバーは、チャットボットと深い感情的絆を築いた後に自殺したユーザーを例に挙げ、「OpenAIは『セクシーな自殺コーチ』を作り出すリスクがある」と警告した。 しかし、OpenAIは動じず、計画の開始を遅らせると伝えただけで、完全に中止はしていない。

この計画は、アルトマンが10月にX（旧Twitter）で公に提案したもので、認証済みの大人がChatGPTを使ってテキストベースのエロ会話を行えるようにするものだった。会社の広報はWSJに対し、「ポルノではなくアダルトコンテンツの一種」と説明した。エロ画像や音声、動画は含まれず、テキストのみだ。  この区別は、社内外の批評家の間で落ち着いていない。OpenAIは、セキュリティ研究者のヤン・レイケなど元スタッフからも、リアルな関係を置き換え、エンゲージメントを高めるために安全性を犠牲にしていると批判されている。一部のユーザーは、実世界の人間関係をチャットボットに置き換えることに熱中しすぎているとも指摘されている。 技術的な問題も依然として難題だ。未成年者を成人チャットから守るための年齢予測システムは、一時期、10代を成人と誤分類した割合が約12%に達していたと_WSJ_は報じている。現在、ChatGPTのアクティブユーザーは約9億人。

出典：OpenAI

この12%の誤判定率が、12月のリリースとその後の2026年第1四半期のリリースを阻止した。OpenAIのアプリケーション担当CEO、フィジ・シモは12月の説明会で遅延を認め、年齢確認システムの改善に取り組んでいると述べた。 当時、_Decrypt_は、すでに3,000人以上のユーザーがChange.orgの請願に署名し、「キスや非性的な身体的親密さについての議論さえもブロックするChatGPT」に不満を持っていると報じた。 1月の評議会の怒りは、コンテンツだけにとどまらなかった。アルトマンの10月のX投稿は、彼のチームを驚かせた。OpenAIがウェルビーイング評議会を発表した数時間後に投稿されたもので、「すべての年齢層にとって健全なAIとの交流とは何か」を定義するための組織だ。タイミングは少なくとも矛盾している。 OpenAIは昨年10月に8人の専門評議会を結成し、ハーバード、スタンフォード、オックスフォードの研究者を招いた。彼らの役割は、製品のメンタルヘルスへの影響について助言することだった。しかし、1月の会議から見て、実際の影響はほとんどなかったようだ。 「これはいつものパターンの一部で、急いで動き、問題が恥ずかしくなったら修正しようとするだけだ」と、AlgorithmWatchの広報は_Decrypt_に語った。 OpenAIに対する競争圧力は現実的だ。Elon MuskのxAIのGrokはすでにAIコンパニオンを販売している。Character.AIはAI恋愛を基盤にユーザーベースを築き、未成年者の安全性を巡る訴訟に直面した。14歳のSewell Setzerは、露骨なチャットボットのやり取りの後に自殺した。オープンソースのモデルは、企業のガードレールなしでローカルで動作している。OpenAIは、ユーザーベースの規模から、誰よりも多くの責任リスクを抱えている。 アルトマンはコンテンツ禁止を過剰反応と位置付け、「私たちは世界の選出された道徳警察ではない」と10月にXに書いた。 しかし、彼のアドバイザーたちは明確な立場を示しており、エンジニアたちはまだ機能する年齢フィルターを作れず、リリース日も延期され続けている。大人を大人として扱うことは、ただXに投稿する以上に難しいことだとわかる。

_Decrypt_は、_ウォール・ストリート・ジャーナル_の報告内容についてOpenAIにコメントを求め、回答があればこのストーリーを更新する予定だ。