OpenAIは火曜日、ChatGPTチャットボットのボイスおよび感情読み取り機能の発売を延期することを発表しました。これは、安全性試験にさらに時間が必要であるためです。
同社は先月のデモでこれらのツールを初めて公開し、ChatGPTユーザーの興奮を引き起こしましたが、俳優スカーレット・ヨハンソンから、彼女の声をコピーしたとして訴訟の脅威も受けました。
OpenAIは当初、6月末に一部の有料購読者に新機能を提供する予定でしたが、その初期リリースを1ヶ月延期することをXでの声明で発表しました。これらの機能は秋にすべての有料ユーザーに提供される予定ですが、「具体的なタイムラインは、安全性と信頼性の高い基準を満たすことに依存する」と付け加えました。
OpenAIは昨年末、ChatGPTがいくつかの合成音声、または「ペルソナ」で話す能力を初めて追加しました。5月のデモでは、新しいAIシステムGPT-4oを使用し、チャットボットが表現豊かなトーンで話し、相手の声のトーンや表情に応じて反応し、より複雑な会話を行う様子が示されました。OpenAIが「スカイ」と呼ぶその音声の1つは、2013年の映画『her/世界でひとつの彼女』でヨハンソンが演じたAIボットの声に似ています。
OpenAIのCEOであるサム・アルトマンは、同社がヨハンソンの声でボットを訓練したことを否定しています。ワシントン・ポスト紙は先月、内部記録やキャスティングディレクター、俳優のエージェントへのインタビューに基づいて、同社が別の俳優を雇ってトレーニング用の音声を提供させたと報じました。
世界最大のテクノロジー企業やOpenAIのような新興企業が生成AIの競争に取り組む中、いくつかのプロジェクトは予期せぬ障害に直面しています。先月、Googleは検索結果の上部にAI生成の回答を表示する頻度を減らしました。これは、ピザに接着剤をつけるよう人々に指示するなど、奇妙なエラーを犯したためです。今年2月には、女性の教皇などの画像を生成することを批判されたAI画像ジェネレーターを撤回しました。昨年、Microsoftは自社のAIチャットボットが奇妙で攻撃的な回答を提供することがあるとして変更を加えました。
OpenAIは火曜日、新しいボイス版チャットボットが一部のコンテンツを認識しブロックする能力を向上させるために追加の時間が必要であると述べましたが、具体的な内容は明らかにしませんでした。多くのAIツールは、虚偽の情報を生成したり、人種差別的または性差別的な内容を発したり、バイアスを示したりすることで批判を受けています。感情を解釈し模倣しようとするチャットボットを設計することは、インタラクションの複雑さを増し、新たな問題の発生を招く可能性があります。
「ChatGPTの高度なボイスモードは、感情や非言語的なキューを理解し、それに応じて反応することができ、AIとのリアルタイムで自然な会話に近づけます」とOpenAIは声明で述べました。「私たちの使命は、これらの新しい体験を慎重に皆様に提供することです。」